百度大模型训练一面-日常实习

1. 项目和八股介绍一下你做的这个项目为什么没有用 nsp，只用了 mlm分析一下transformer训练过程中显存占用和计算复杂度- 优化器 参数 梯度- 面试官说到：激活值也需要保存  训练过程中怎么去做到对激活值的显存占用，有什么参数可以进行控制 （答了混合精度，面试官说不对- 激活显存 ≈ `batch_size × seq_len × hidden_dim × n_layers × bytes_per_element`- 设置bs相关，也就是使用梯度检查点（Gradient Checkpointing），将大的bs分割成小的micro-bs来计算，最后进行一个统一PPO DPO GRPOclip可以限制分布差异  还有哪些方法KL 散度公式2. 手撕给定两个叶子节点，在二叉树中找到两个节点的最近公共祖先，空间复杂度要求o(1)。每个节点存在指向父节点指针

1.针对简历上的实习提问。2.kl散度和交叉熵的关系3.LoRA介绍，和全参sft怎么选择？小模型的sft和大模型的LoRA效果对比会是怎么样的？sft数据集如何构建？4.介绍AUC，AUC表达的是什么？5.recall重要的场景下，如果recall很高，precision很低怎么办？6.precision和recall都是什么，不同场景下precision和recall如何关注？哪个更重要？7.手撕-实现shuffle函数。

一面：大概45分钟。自我介绍问很多项目. 对着项目一个个问的。（先介绍项目，然后问问题）对于用户问题答案和 知识库不相关的话怎么办？多路召回和重排咋做的？如何提升检索效果呢？大模型存在哪些问题，如何解决？（ 我说了 幻觉问题 + 大模型遗忘知识问题 ）算法题：原地删除重复的数字，统计最后不重复数的个数二面（没做算法题）：还是围绕项目（介绍了几个项目）讲一下embedding的原理。如何确定基座大模型。Ptuning和lora的原理说一下。微调能否取代RAG？这个项目中主要的贡献是什么？尝试过训练Reward模型？DPO和PPO原理了解嘛？总体感觉需要把项目吃的非常透彻，这样才能应对自如，算法题还算简单，面试官人都很好，会耐心听你讲完你说的，对于没答很好的，还会给提示引导，说自己的看法。

1.介绍一下 DPO , PPO , GRPO2.介绍一下奖励函数的坍缩现象和问题3.离线强化学习和在线强化学习了解么？你的项目里是哪种？4.代码:onehot100的2d接雨水5. GRPO 公式？为什么公式里面 clip 了外面还要计算一次 mean 呢？6.讲讲qwen2.5vl, llama7.多目标优化奖励函数冲突，8.介绍一下 QKV 的计算？9.手撕MHA📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。