如何理解随机梯度下降
  Lka4VuaBfXXi 2023年11月02日 77 0

1.梯度下降是什么意思?

①方向:

每步的方向是当前坐标点对应的梯度向量的反方向, 每步的距离就是步长 * 当前坐标

点所对应的梯度向量的大小(也就是梯度向量的模长)

②距离:

梯度向量指的是目标函数关于模型参数的偏导数向量。

梯度是一个向量,其中每个分量对应于目标函数在相应参数上的偏导数。

梯度向量的方向指向了函数在当前参数取值处的最大上升方向,也就是函数变化最快的方向。


【版权声明】本文内容来自摩杜云社区用户原创、第三方投稿、转载,内容版权归原作者所有。本网站的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@moduyun.com

  1. 分享:
最后一次编辑于 2023年11月08日 0

暂无评论

推荐阅读
Lka4VuaBfXXi
作者其他文章 更多