字节抖音暑期（oc）

面试很难，还是要多多练习，感觉自己说不明白业务逻辑1. 项目拷打2. 实习拷打3. rft是什么4. 你对rl了解多少，简单讲讲5. rft和ppo的重要性采样区别是什么6. 讲一讲ppo的clip操作7. 你觉得rl之前sft的意义是什么，能不能直接rl8. 你能比较一下先sft再rl和直接rl在成本上的区别吗9. 你说直接rl可能无法采样到一条好的轨迹，你有具体的实践吗10. 聊回到项目，你的技能库是怎么构建的？11. 你们目前对于这个任务的rl是怎么做的12. 你了解attention吗，展开讲讲13. attention的公式这么设计的理由14. 你还知道attention的哪些变体？（GQA，MQA，MLA）分别在哪些方面做了改进，改进的动机是什么，具体优化了多少15. 展开讲讲这三个分别是如何实现的16. 除了从kv cache角度对attention进行扩展你还知道其他角度的attention改进吗17. code1: 合并两个有序数组18. code2: 给定一个候选数字集合，可以任意组合，要求构造出一个＜x的最大数

面试很难，还是要多多练习1. 实习介绍2. 拷打25min项目细节3. grpo相对ppo的改进4. 拷打10min+第一篇论文细节5. 介绍一下你最近看过的一篇技术报告6. 介绍一下agent loop7. 介绍一下claude skill的xxx8. 论文拷打9. RL完遇到幻觉你的解决方案10. 什么是蒙特卡洛采样，并讲一下具体应用11. 手写梯度下降求二次函数最小值

给我面没招了，感觉自己好菜、面试很难，还是要多多练习1.项目拷打2.你在去部署或者训练预训练或者后训练的模型时，有没有用过一些比较底层的一些训练的调试的工具，比如说千卡的话很容易就会出NCCL timeout，如果出现 NCCL timeout，一般怎么定位和解决？3.像那种rl里面的那个MOE之类的那种的优化有去做过吗4.看您的训练经验比较丰富，而且您上线运行的推理内容之前也进行过一些什么样的优化吗？5.有没有做过 kernel级别的优化？比如用 CUTE DSL或者手写 CUDA去做 fusion这类算子融合优化，介绍一下6像底层，如果你们在做.kernel fusion，倾向于用什么方式来做7.有没有哪次你做了 fusion 结果性能反而下降的？原因是什么8.平时写 CUDA的时候，有没有关注到底层实现细节？比如你刚提到 FA2，那再往下一层，像 Hopper架构里那个 warp specialization是什么，它底层大概是怎么实现的9.试过用 Agent去生成cuda内核么，怎么去做的10.如果我把 warp specialization 去掉，只保留 tile 和 shared memory 优化，大概会损失在哪？11.怎么么判断一个 MoE 模型是真的学到了分工，而不是只是把 dense模型拆开了12.在 RL + MoE 里，有没有遇到过 reward把 routing学坏的情况？就是模型为了拿 reward，全都走某几个 expert，这种情况你当时是怎么处理的

自我介绍 拷打项目跟两面差不多的问题但是问得更深更前沿手撕：DAG编排 没撕出来😭但是又狗运，遇到了心软的面试官，给过了