I_wanna
2023-09-25 21:51 门头沟学院 测试开发
关注
优化器：SGD，Adam，Rmsprop。Adam叫做动量法或者冲量法，提出的原因是：有时候学习率太大一步会走错很多，所以Adam舍弃了线性函数而采用多项式（该点的泰勒展开式）来更贴近目标。不仅如此，他还考虑了在正确的方向上尽可能地加速，在错误的方向上尽可能地减速：将某个梯度方向上的历史数据大小加权求和，如果很长一段时间梯度大小都大于0，那这个方向说明没有问题需要加速，而如果经常正负交替这说明可能方向错误，则需要放缓抖动。
查看原帖
点赞 评论
相关推荐
点赞 评论 收藏
分享
10-18 17:30
北京工业大学 Java 
天降大厂offer：想从事前端就放前端的技术栈，然后项目描述，还有项目做了什么内容，使用了什么技术解决了什么问题优化了什么性能。然后头像可以不要，在读也可以不要，还有bg的话就不要放课程，写哪个学校什么本科，还有绩点排名（如果高的话），然后就是技术栈写好一点，接下来就是项目（有实习就写实习，没有就到项目），项目放两个好一点的，自己包装一下，然后有参加什么竞赛放两个就好了，接下来就是靠你自己了，毕竟211还是很难容易找的，不像我们学院本
点赞 评论 收藏
分享
点赞 评论 收藏
分享
牛客热帖
更多
正在热议
更多
# 你实习是赚钱了还是亏钱了？ #
32307次浏览 246人参与
# 联影医疗求职进展汇总 #
12979次浏览 67人参与
# 联影求职进展汇总 #
58070次浏览 366人参与
# 用一句话形容你的团队氛围 #
19314次浏览 180人参与
# 你找工作是从容有余 or 匆忙滚爬？ #
13184次浏览 99人参与
# 本机械人被这些公司泡过池子 #
37498次浏览 183人参与
# 京东开奖 #
477417次浏览 2694人参与
# CVTE求职进展汇总 #
23681次浏览 323人参与
# 中核求职进展汇总 #
29024次浏览 193人参与
# 海康威视工作体验 #
46228次浏览 158人参与
# 外包能不能当跳板？ #
48158次浏览 245人参与
# 机械人与华为的爱恨情仇 #
137926次浏览 1013人参与
# 2022毕业即失业取暖地 #
117079次浏览 707人参与
# 毕业论文进行时 #
7579次浏览 85人参与
# 嵌入式岗知多少 #
59254次浏览 548人参与
# 哪些公司校招卡第一学历 #
220864次浏览 778人参与
# 同bg的你秋招战况如何？ #
175793次浏览 1027人参与
# 找实习你看重大厂光环还是业务方向 #
42043次浏览 164人参与
# 面对逼签的应对技巧 #
8327次浏览 40人参与
# 我来点评面试官 #
17491次浏览 119人参与
# 说说你知道的学历厂 #
358496次浏览 1286人参与