机器学习之训练模型

发布时间:2023-04-03 14:00

梯度下降方法

批量梯度下降:使用整个训练集来计算每一步的梯度,当训练集太大,算法较慢
随机梯度下降:每一步在训练集中随机选择一个实例,并且仅基于该单个实例计算梯度。(训练迭代速度最快,因为一次只考虑一个训练实例)

  • 优缺点:因为其随机性,可以逃离局部最优,但永远定位不出最优值。
  • 解决方法:模拟退火-逐步降低学习率,开始的步长较大,然后越来越小,让算法尽量靠近全局最小值

ItVuer - 免责声明 - 关于我们 - 联系我们

本网站信息来源于互联网,如有侵权请联系:561261067@qq.com

桂ICP备16001015号