product center
风淋房当咱们在求解梯度下降算法的时分,常常会用到正规方程来求解w的值,这个时分就用到正规方程来求解是最快的办法,可是正规方程又是怎样来的呢?咱们来看看:首要咱们设咱们的丢失函数为MSE train,那么这个时分咱们只需要对其求解偏导就好了,所以咱们有∇ w MSE train = 0 。详细推导进程如下如图所示,这儿只做字母的说明,括号里的(train)代表的是练习集:
咱们能够看到第一步咱们首要把MSE train替换成咱们的丢失函数:并使用范数来表明这是在二维空间傍边求解练习集和实在值之间的绝对值(下标为2表明的是二维空间,求解的是欧式间隔)。第二步把咱们猜测出来的y hat替换成咱们的x和w权重相加得到的值。第三步因为咱们用到了两个矩阵的相乘,因而将其转置,转置之后两个矩阵才能够进行相乘,或者说相乘愈加便利一些。后边便是一些化简的过程了,也没有什么难度。最终就能够得到咱们正规方程的解啦!!