当前位置 主页 > 技术大全 >
正确的方法能够显著提升模型的泛化能力和收敛速度
- 为何强调随机初始化? 首先,若所有权重初始化为相同的值,模型在反向传播时各神经元将进行相同的更新,导致学习失效,即“对称权重问题”
其次,适当的随机性能够引入多样性,帮助模型