学习率线性下降,训练更加稳定
学习率按余弦曲线平滑衰减,后期变化极缓慢,在最优值附近精细搜索
学习率保持恒定不变
学习率周期性重启,帮助跳出局部最优
这道题你会答吗?花几分钟告诉大家答案吧!
扫描二维码,关注牛客网
下载牛客APP,随时随地刷题