![机器学习编程:从编码到深度学习](https://wfqqreader-1252317822.image.myqcloud.com/cover/201/38335201/b_38335201.jpg)
上QQ阅读APP看书,第一时间看更新
5.2.3 升级梯度
既然我们已经有了一个全新的损失函数,那就来看看这个损失函数的梯度吧。直接摘自数学教科书的log损失函数对权重的偏导数如下所示:
![](https://epubservercos.yuewen.com/432DF4/20180619108106606/epubprivate/OEBPS/Images/065-2-i.jpg?sign=1738847229-5csOwQ6OezRYYvqk2Wf2lQXzXLsZTINI-0-d70fac3764adac8e48e69185aaeac88a)
如果你的记忆力不错,这个梯度可能看起来很熟悉。事实上,它与我们目前使用的均方误差梯度非常相似:
![](https://epubservercos.yuewen.com/432DF4/20180619108106606/epubprivate/OEBPS/Images/065-3-i.jpg?sign=1738847229-s8CP6GecHe0Q0mxaTjObqP9McQFEXf4x-0-05ec4b394fcbd611c0c0c261ef36f965)
看看它们有多相似?这就意味着我们可以使用之前的gradient()函数:
![](https://epubservercos.yuewen.com/432DF4/20180619108106606/epubprivate/OEBPS/Images/065-4-i.jpg?sign=1738847229-2hdMHTHyKMsqlKSernz5XaA6OSkX7TTR-0-9465de698cac4574af30840eae0b010e)
并迅速将其转换成新的公式:
![](https://epubservercos.yuewen.com/432DF4/20180619108106606/epubprivate/OEBPS/Images/065-5-i.jpg?sign=1738847229-kd2FDSFMQDJKrN3SRx0wQHiAEK9larW8-0-80725dd06dd8b4659c08979a44c2d133)
这样,我们就完成了系统从线性回归模型到分类模型的转换。让我们再花一点时间,来看看这个变化是如何影响系统模型的。