美团大模型算法工程师一面面经（攒rp）

自我介绍——5min项目相关细节提问——5min（对项目不是很感兴趣）项目相关技术提问——25min * 2面（与之前的面经贴中重复的技术问题不在展示）1. 了解 DeepSpeed 吗？训练时用 ZeRO 优化主要是解决啥问题？ZeRO 的三个阶段分别都是啥？2. TP 或 PP 了解吗？3. 并行训练时，如果模型参数量不大，怎么决定用 PP 还是 TP 策略？它们各自有啥好坏？4. 如果用 TP=2 的策略，self-attention 层里的 QKV 矩阵具体是怎么切分的？5. 用 TP 的时候，主要会发生哪些通信？不同的切分方式会改变通信行为吗？举个例子呗。6. 讲讲 Flash At...

✅一面 1．首先是自我介绍和过项目，面试官还一起探讨项目用到的方法，可行性之类的2．介绍一下 CLIP3．了解 LoRA 吗， LoRA 微调的原理是什么4．了解哪些多模态大模型，简要介绍几个5.BLIP的三个损失函数分别是什么，数据是怎样清洗的6.BLIP2相对于 BLIP 有哪些改进，BLIP3又有哪些改进7.Qwen- VL 的三个训练流程分别是什么，有什么作用8．视觉编码器和 LLM 连接时，使用BLIP2中 Q - Former 那种复杂的 Adaptor 好还是 LLaVA 中简单的 MLP 好，说说各自的优缺点9．代码：实现多头自注意力一面比较常规，几乎都是八股问题，我觉得只要了解常见的多模态大模型都问题不大，主要还是要理解各个模型设计的动机是什么，这也是面试最喜欢考察的✅二面1．自我介绍和过项目，简要问了项目中使用某些方法的动机，以及是否会导致其他的问题2．了解 Transformer 吗，编码器和解码器的注意力有什么区别，在计算注意力中时除以 dk \ sqrt { d _ k }\ sqrt [ d _ k ｝的原因是什么3．后来有哪些比较经典的基于 Transformer 的语言模型， Qwen 相比于原始 Transformer 有哪些结构上的改动，Qwen2又有哪些改进4．了解 RLHF 吗， DPO 和 PPO 有什么区别， Loss 是什么样的，各自的优缺点是什么5．介绍一下 CLIP ，还了解什么其他的对比学习方法6．开放题：了解哪些多模态大模型，目前多模态大模型最的问题是什么7．代码：1143．最长公共子序列二面其实也偏常规，几乎也都是八股问题，但是也考察了一些对模型的理解以及知识面的广度，整体来说比一面的难度大一些✅三面：1．自我介绍，然后详细过了一下项目2．了解哪些大模型和多模态大模型，然后就聊了大模型这一路是怎么发展过来的，Transformer 、 BERT 、 GPT 、 LLaMA 、 Qwen ix ,以及当时的o1推理模型3．平常有尝试过训练过大模型吗，规模小一点的也没关系4．聊天，包括职业规划等等三面比较轻松，面试官说知识点前面两面都考察过了，三面就轻松一些，大概40来分钟吧📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

📍面试公司：小鹏🕐面试时间：2025.8.27💻面试岗位：大模型算法工程师❓面试问题：1.手写🍣一个shuffle函数，要求时间复杂度为O(1)（磕磕绊绊搞了25分钟）2.讲讲旋转位置编码有哪些，旋转位置编码的原理？3.为什么位置编码可以和Embedding直接相加？3.BN和LN的区别4.讲讲PageAttention？5.如何评价一个推理系统的吞吐量，QPS承压？6.由上个问题引出了论文介绍，扒拉扒拉介绍一同，就没再问了。🙌面试感想：面试官人很好，没思路会提醒，很细致耐心地讲解一些他的理解。祝他工作顺利，好运常来。

周一下午参加的复试，前两天观望状态一直如图1，今天发现面试信息不见了变成图2了，想问下是什么情况呀