1,损失函数的作用是计算实际输出和预期输出之间的差距。损失函数有许多种,每一种的计算差距的方法都不一样。我们可以任意选择一种损失函数。
2,损失函数作用
①计算实际输出和预期输出的差距。对应代码
result_loss = loss(outputs, targets)
②根据差距去设置grad(梯度)。【反向传播】对应代码
result_loss.backward()
Ⅰ,定义模型时有一个方法叫做forward,它表示向前传播。而loss这里的backward方法表示反向传播
Ⅱ,执行完这句代码后,
3,梯度
梯度的本意是一个向量(矢量),表示某一函数在该点处的方向导数沿着该方向取得最大值。类似与某点的切线斜率。Torch中梯度是用来设置未来的参数的,模型中参数的更新就是根据梯度来的。
4,损失函数L1LOSS
它是把实际输出和预期输出的每一个对应值相减,再转换成绝对值,然后除以输出数据的格式。Reduction默认值mean时,如果等于sum就不会除。
Mean是平均值的意思