1. 介绍一下项目2. 多头注意力机制的计算复杂度是多少？3.LoRA 的核心思想是什么？4. GRPO 训练时 KL 散度控制得怎么样？5. SFT 阶段如何避免对padding token 计算 loss ？6.训练 SFT 模型时 loss 出现剧烈震荡，你是如何诊断并解决的？7. Transformer 中为何使用 LayerNorm 而非 BatchNorm ？8. Transformer 里LayerNorm 放在 Attention 前还是后？有什么区别？9. logprobs 在一致性奖励中起什么作用？📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

题目1：求一个字符串的最长无重复字符子字符串长度题目2：长度最小的子数组

1.实习介绍2.介绍Transformer，Decoder中的cross-attention3.vllm原理，如何调度4.分布式训练的架构，业务场景是什么5.NCCL通信底层算法6.protobuf反序列化中，传输错误的解决方案7.Java Spring是否了解8.手撕：LFU+反转链表II

1.项目介绍2.讲一下在百度实习期间做的主要工作。3.压缩专家机制是如何实现的？4.用的训练数据集规模分别是多少？5.为什么选择用SFT训练，而不是用RL训练？6.介绍一下 DPO, PPO, GRPO的原理和区别7.PPO的损失是token级别还是sequence级别的？8.PPO中的Critic模型是如何计算优势的？9.讲一下LoRA微调技术原理10.LoRA微调是如何减少训练参数的？11.LoRA技术有哪些优势？12.算法题手撕 三数之和（撕出来了