损失函数
  SkyPJX5vy5h5 2023年11月02日 36 0

1,损失函数的作用是计算实际输出和预期输出之间的差距。损失函数有许多种,每一种的计算差距的方法都不一样。我们可以任意选择一种损失函数。

2,损失函数作用

①计算实际输出和预期输出的差距。对应代码

result_loss = loss(outputs, targets)

②根据差距去设置grad(梯度)。【反向传播】对应代码

result_loss.backward()

Ⅰ,定义模型时有一个方法叫做forward,它表示向前传播。而loss这里的backward方法表示反向传播

Ⅱ,执行完这句代码后,

3,梯度

梯度的本意是一个向量(矢量),表示某一函数在该点处的方向导数沿着该方向取得最大值。类似与某点的切线斜率。Torch中梯度是用来设置未来的参数的,模型中参数的更新就是根据梯度来的。

4,损失函数L1LOSS

它是把实际输出和预期输出的每一个对应值相减,再转换成绝对值,然后除以输出数据的格式。Reduction默认值mean时,如果等于sum就不会除。

Mean是平均值的意思

【版权声明】本文内容来自摩杜云社区用户原创、第三方投稿、转载,内容版权归原作者所有。本网站的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@moduyun.com

  1. 分享:
最后一次编辑于 2023年11月08日 0

暂无评论

推荐阅读
SkyPJX5vy5h5