淘天大模型算法校招面经

📍面试公司：百度🕐面试时间：25.08.06💻面试岗位：大模型❓面试问题：自我介绍 10min聊了简历中的一段经历介绍技术方案 10min面试官提问环节 15min1. SFT和RL的数据量，数据怎么构造的？2. RL的方法？怎么使用KG修改reward的？3. PPO和GRPO的区别？4. 基座的选择？5. KG如何构造？6. 如何在KG上进行的RAG？7. 传统RAG的流程？其中有哪些可优化点？手撕 8min连续最长无重复字符子串反问 7min业务方向、技术方案、可使用GPU资源🙌面试感想：总体压力不大，更多是在聊项目细节，穿插几个相关的八股，手撕也很简单

八股文：SFT 训练时，数据规模和模型大小之间有什么 scaling law？除了 GRPO，还有哪些改进技术？比如 DPO、GSPO？怎么解决 DPO 和 GRPO 的 reward hacking 问题？DPO、GRPO 和 PPO 有啥区别？聊聊全参数微调和 PEFT？PEFT 的四种模式（addition, replace, LoRA, prompt tuning）分别讲讲？ 手撕算法：链表题：判断链表有没有环，找出两个链表的相交节点。O(n) 时间复杂度内，找出数组中第 k 大的数。

1️⃣一面 1．自我介绍，问实习和论文2．了解哪些多模态大模型，简要介绍一下吧，了解最新的一些多模态大模型都是怎么做的吗3．在 BLIP -2或者 Qwen - VL 中， Learnable Query 的作用是什么4．了解多模态 RAG 吗5．大模型的后训练是怎么做的，在 VLM 上做后训练有什么区别6．知道 SAM 吗？说说 SAM 是怎么做的7．概率题：一根绳子剪成三段，这三段可以围成三角形的概率是多少8．代码：一个推荐链路的排序2️⃣二面1．自我介绍，问实习和论文2．讲一下 LoRA ，两个权重矩阵一般怎么初始化，能都全0吗3．除了 LoRA ，还了解哪些可以进行训练推理优化的技术4．现在的多模态大模型，动态分辨率一般都是怎么做的，位置编码怎么设计5．概率题，一副扑克牌，去掉大小王，随机抽两张，花色相同的概率6.场景题：目前有一个带货的直播间，设计一个方案，商品比较多怎么降低时延7.开放题：平常在训练或者微调 LLM 或者 VLM 的时候，有什么心得吗📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

这一期也写到第四期了，我也算大模型老油条了hh，还是攒了点面经，把最近面到的美团啊，百度啊，字节啊之类的全发出来，说实话，我算半个从业者，我在5月份的时候我说过，大模型火不了多久，agent也是。这互联网的东西都是有潮汐的，有涨潮的时候自然有退潮的时候，搞金融的和币圈的估计尤其感受深刻，似那三角洲啊，哈基米音乐和Labubu一样，发了烧的人总会退烧的。偏执于发烧的人总会被烧死的，所以啊，保持清醒，保持冷静，在今后几十年里都是受用的。然后再打个广告吧，我的学习路线已经完成升级了，现在是3.0版本，大伙苦于没有学习资料可以来看看。好了，说说正事：美团：先问了问情况，比赛怎么打的，整体名次怎么样，然...