1.梯度下降是什么意思?
①方向:
每步的方向是当前坐标点对应的梯度向量的反方向, 每步的距离就是步长 * 当前坐标
点所对应的梯度向量的大小(也就是梯度向量的模长)
②距离:
梯度向量指的是目标函数关于模型参数的偏导数向量。
梯度是一个向量,其中每个分量对应于目标函数在相应参数上的偏导数。
梯度向量的方向指向了函数在当前参数取值处的最大上升方向,也就是函数变化最快的方向。
1.梯度下降是什么意思?
①方向:
每步的方向是当前坐标点对应的梯度向量的反方向, 每步的距离就是步长 * 当前坐标
点所对应的梯度向量的大小(也就是梯度向量的模长)
②距离:
梯度向量指的是目标函数关于模型参数的偏导数向量。
梯度是一个向量,其中每个分量对应于目标函数在相应参数上的偏导数。
梯度向量的方向指向了函数在当前参数取值处的最大上升方向,也就是函数变化最快的方向。
暂无评论