首页 > 试题广场 >

在 GPT-NeoX、Llama 等新一代 LLM 中，用

[单选题]
在 GPT-NeoX、Llama 等新一代 LLM 中，用 RMSNorm 取代 LayerNorm 的直接收益主要体现在 
  • 训练中减少一次矩阵乘法
  • 减少参数总量约 10%
  • 去掉均值计算，推理与训练均可省去一次减法
  • 可用更高学习率
查看正确选项
添加回答

这道题你会答吗？花几分钟告诉大家答案吧！

提交观点

问题信息

来自：2026年-华为-2月...
难度：
0条回答 5浏览

热门推荐

相关试题

扫一扫，把题目装进口袋

求职之前，先上牛客

扫描二维码，进入QQ群

扫描二维码，关注牛客公众号