字节大模型算法实习三面 技术面

攒人品中,祝大家都能拿到满意的Offer!
1.项目拷打
2.说说你的大模型实习:做了什么、遇到什么问题、怎么评估效果
3.YaRN 你怎么理解?跟其他长文本/外推方案相比差异在哪
4.RoPE 怎么跟 MLA 放一起讲;只在短文本训过的模型,长文本外推你会怎么做
5.flash-attn / Megatron-LM:你了解哪些点
6.词你了解哪些;像 DeepSeek 这类的分词思路跟 BPE 有什么不同
6.字符串解码这类题一般怎么考,你会怎么处理边界
7.手写 FFN:结构怎么写,维度怎么对
全部评论

相关推荐

评论
点赞
1
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务