Softmax求导 其实BP过程在pytorch中可以自动进行,这里进行推导只是强迫症 A Apart证明softmax求导和softmax的BP过程本来像手打公式的,想想还是算了,引用部分给出latex公式说明。 A.1 softmax导数 A.2 softmax梯度下降 B 基本上都是拾人牙慧,在此给出引用和参考。 参考: 矩阵求导术(下)知乎(zhihu.com) nndl \(引用几个定理B.15和B.16\) \((B.15)\) \[\begin{aligned}&\vec{x}\ink^{M\times1},y\inR,\vec{z}\inR^{N\times1...

  wIovFBwYpmxT   2024年02月19日   27   0   0 机器学习
关注 更多

空空如也 ~ ~

粉丝 更多

空空如也 ~ ~