人工智能之从零理解人工神经网络 引 人工智能并非是一个新型的词汇，从十九世纪五十年代开始，人们就开始探索为机器赋予类似人的智能能力。限于当时的基础数学理论不够完善，人工智能的发展并不顺利。直到九十年代发展出了基于统计学的数学工具，人工智能才得到飞速的发展。 人工智能既是为机器增加人的智能能力，最直观的想法是研究人脑的运行机制，之后构建出一套网络系统来模拟人脑的工作原理来进行训练和工作。人工神经网络即时基于这一想法而发展出来的，本篇博客是笔者了解人工智能过程中的对人工神经网络部分的理解与感悟，分享与大家共同进步，有偏差之处敬请指正。 1-关于人工神经网络 神经网络是生物学上的一个概念，在人类大脑...

【backward解决方案与原理】网络模型在梯度更新时出现变量版本号机制错误 报错详情 错误产生背景 原理 解决方案 RuntimeError:oneofthevariablesneededforgradientcomputationhasbeenmodifiedbyaninplaceoperation 报错详情   模型在backward时，发现如下报错：   即RuntimeError:oneofthevariablesneededforgradientcomputationhasbeenmodifiedbyaninplaceoperation。   其大概意思是说，当在计算...

　　训练神经网络模型有时需要观察模型内部模块的输入输出，或是期望在不修改原始模块结构的情况下调整中间模块的输出，pytorch可以用hook回调函数来实现这一功能。主要使用四个hook注册函数：register_forward_hook、register_forward_pre_hook、register_full_backward_hook、register_full_backward_pre_hook。这四个函数可以被继承nn.Module的任意模块调用，传入hook函数并进行注册，从而在执行该模块的相应阶段调用hook函数实现所需功能。 register_forward_hook(sel...