大模型面经每日总结

#面经#  #大模型# #量化#
网易大模型量化面经

0.常见的量化方法有哪些?
原理及适用场景,并分析它们在计算复杂度和精度损失上的差异
1.PTQ 和 QAT 咋选?
2.低比特量化在智能音箱能用吗?
3.语音识别量化有啥难题和办法?
4.模型量化和其他压缩技术配合经验

5.QAT中,量化噪声模拟的作用是什么?
6.在多头注意力机制 前馈神经网络 ,量化策略有何不同?
7.针对 ARM 架构的芯片 如何优化量化模型的推理速度?
全部评论

相关推荐

不愿透露姓名的神秘牛友
07-11 11:30
点赞 评论 收藏
分享
点赞 评论 收藏
分享
07-11 11:15
中南大学 Java
好可爱的hr姐姐哈哈哈哈
黑皮白袜臭脚体育生:兄弟们貂蝉在一起,吕布开了
点赞 评论 收藏
分享
评论
1
6
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务