神经网络

权重(weight)

/ wayt /

权重,是一个表示「某个输入有多重要」的数字。想想你要不要去爬山:天气也许很要紧,有没有空闲时间次之,而你鞋子的牌子几乎无关紧要。这些因素各自在你心里有一个分量,你的决定其实是一场加权投票。在神经网络里,神经元之间的每一条连接都恰好带着这样一个数字。一个大的正权重意味着「这个输入一强,就把输出往上推」;一个大的负权重意味着「往下压」;接近零的权重则意味着「基本上无视这个输入」。

权重正是网络真正学到的东西。当人们说某个模型有「1750 亿个参数」时,这些参数里绝大多数都是权重。它们一开始是些细小的随机数字——网络一无所知——而在训练过程中,一套算法会一次又一次地把每个权重往上或往下微调,让网络的输出渐渐靠近正确答案。在神经网络里,所谓学习,几乎就完全是对这数以百万计的旋钮缓慢地拧动。

把权重和它的两个邻居分开会很有帮助。权重是给输入缩放的;偏置则是最后额外加上的、独立于任何输入的一个数字。权重也不同于激活值:权重是网络学到并保存下来的固定设置,而激活值是当你喂进某个具体例子时,临时流过的数值。权重是菜谱;激活值是今晚这一道菜。

一个垃圾邮件过滤器学到:「伟哥」这个词的权重应当是强正的(把判断推向「垃圾」),而「会议」一词的权重应当是负的(把判断推向「非垃圾」)。那些它学会忽略的词,比如「的」,最终权重接近零。这个过滤器从没见过任何人手写的规则——它是从带标注的例子里发现这些权重的。

权重编码了学到的重要程度:强正、强负,或接近零(忽略)。

权重是学到并存下来的;激活值则是对每个输入现算的。把两者搞混是初学者最常见的错误之一——记住:无论你喂给网络的是猫的照片还是狗的照片,权重都保持不变。

又称
connection weightparameter权重權重连接权重