在神经网络的学习中，权重的初始值特别重要。实际上，设定什么样的权重初始值，经常关系到神经网络的学习能否成功。本节将介绍权重初始值的推荐值，并通过实验确认神经网络的学习是否会快速进行。 可以将权重初始值设为0吗 后面我们会介绍抑制过拟合、提高泛化能力的技巧 —— 权值衰减。 权值衰减就是一种以减小权重参数的值为目的进行学习的方法。 如果想减小权重的值，一开始就将初始值设为较小的值才是正途。实际上在这之前的权重初始值都是像0. 继续阅读