小鹏- 大模型算法工程师-一面面经

自我介绍——5min项目相关细节提问——5min（对项目不是很感兴趣）项目相关技术提问——25min * 2面（与之前的面经贴中重复的技术问题不在展示）1. 了解 DeepSpeed 吗？训练时用 ZeRO 优化主要是解决啥问题？ZeRO 的三个阶段分别都是啥？2. TP 或 PP 了解吗？3. 并行训练时，如果模型参数量不大，怎么决定用 PP 还是 TP 策略？它们各自有啥好坏？4. 如果用 TP=2 的策略，self-attention 层里的 QKV 矩阵具体是怎么切分的？5. 用 TP 的时候，主要会发生哪些通信？不同的切分方式会改变通信行为吗？举个例子呗。6. 讲讲 Flash At...

主包背景：两段大厂大模型算法实习tl：8.18投递，8.27一面流程：1.自我介绍 1min速通2.简历项目拷打 25min左右3.结合主包的项目经历，问了有没有用过Prompt Tuning或者Prefix Tuning，结合实际场景谈优劣4.针对推荐系统的曝光偏差问题，常用处理思路5.LayerDrop和Dropout，两者的区别及各自适用场景6.解释一下Group Normalization？主要解决了什么问题？7.Transformer架构中，为什么要使用Position Embedding？有哪些常见的实现方式？8.除了word2vec、BERT，还了解哪些文本或item的表示学习方法？9.手撕10.反问（我问了下部门业务相关，以及校招生入职培养路径）面试官挺专业的，人也比较nice，不是压力面。总体面试体验不错，希望能过

八股文：SFT 训练时，数据规模和模型大小之间有什么 scaling law？除了 GRPO，还有哪些改进技术？比如 DPO、GSPO？怎么解决 DPO 和 GRPO 的 reward hacking 问题？DPO、GRPO 和 PPO 有啥区别？聊聊全参数微调和 PEFT？PEFT 的四种模式（addition, replace, LoRA, prompt tuning）分别讲讲？ 手撕算法：链表题：判断链表有没有环，找出两个链表的相交节点。O(n) 时间复杂度内，找出数组中第 k 大的数。

宝子们，我成功上岸小红书啦🎉 今天就来给大家分享我在牛客网准备小红书校招的超详细面经，希望能助力大家也顺利拿到心仪 offer！ 我的内推码：01ITDX0H21I0🌟为什么选小红书校招​多元岗位任你挑：算法类、产品类、设计类、研发类、运营类、职能类，还有商业化管培生、HR 管培生专项。无论你是技术大神，还是创意小能手，亦或是运营达人，都能在这里找到属于自己的舞台🎭​成长速度超惊人：小红书发展迅猛，业务场景丰富。在这里，你能接触到亿级月活用户的真实需求，参与前沿项目，快速积累经验，实现个人能力的飞速提升🚀 就像坐了火箭一样，嗖的一下就成长啦！​满满福利超贴心：每日三餐免费吃，餐食还超美味，选择多多。水吧台有免费的咖啡、茶包，能量站零食每周都会更新，每月都发零食积分，随心兑，想吃啥自己挑。办公文具、日常用品都能轻松领取。一线城市有租房补贴，加班还有交通报销。异地夫妻也有交通补贴哦，太人性化啦💕 还有补充商业保险，全方位保障你的健康。​开放文化氛围佳：小红书有着开放、包容的工作环境，鼓励大家大胆创新，团队合作氛围浓厚。在这里，你的每一个想法都可能被重视，每一份努力都能得到认可👏​📅校招日程早知道​网申 / 内推从 8 月 28 日就开始啦，笔试 / 测评同步启动，面试从 9 月起陆续安排。宝子们一定要注意时间，尽早投递，抢占先机哦⏰​面试实战：各环节应对技巧​1. 技术一面：扎实基础 + 清晰表达​我的技术一面从自我介绍开始，着重介绍本科参加的比赛、实验室项目，硕士期间的课题，突出和岗位相关的成果。接着面试官针对我的项目深入提问，比如项目中的技术选型、遇到的困难及解决方案。因为提前看了面经有准备，我能条理清晰地回答。在八股文部分，问到了计算机网络中 TCP 协议的三次握手和四次挥手，这在牛客网刷题和看面经时反复复习过，所以轻松应对。最后有一道算法题，类似牛客网刷题时的中等难度，凭借刷题积累的经验，我很快想出思路并在纸上写出代码框架，面试官对我的表现比较满意。​2. 技术二面：深挖项目 + 业务思考​二面基本是纯项目探讨，面试官对项目细节挖掘更深，还会问一些扩展性问题，比如 “如果项目用户量增长 10 倍，你的系统架构要怎么调整”。这就要求对自己的项目有非常透彻的理解，不仅要知道怎么做的，还要清楚为什么这么做，以及未来的优化方向。同时，要结合小红书的业务特点去思考，比如小红书用户量大、数据更新快，在回答时就要体现对这些特性的考虑。我在回答时，提到可以引入分布式缓存、优化数据库索引等方案，得到了面试官的认可。​3. 技术三面：全局视角 + 创新思维​三面除了项目，更侧重考察对业务的全局理解和创新思维。面试官问 “你认为小红书未来在电商业务上可以有哪些新的突破点”，这需要对小红书的业务模式、市场趋势有一定了解。我从用户体验、社交电商融合、新技术应用等方面提出了自己的想法，比如利用 AR 技术让用户更直观体验商品、加强社区内容和电商的关联等。同时，还结合了一些行业案例和自己的思考，展示出对业务的深入理解和创新思维。​4. HR 面：真诚沟通 + 职业规划​HR 面氛围比较轻松，主要是了解个人基本情况、职业规划、对小红书的了解等。比如问 “你为什么选择小红书”“你的职业目标是什么”。回答时要真诚，突出自己对小红书文化的认同和对岗位的热情。我提到自己一直是小红书的忠实用户，喜欢平台的氛围和发展理念，并且结合岗位规划了自己未来在小红书的成长路径，让 HR 感受到我的诚意和稳定性。宝子们，机会就在眼前，赶紧行动起来，在牛客网投递小红书校招简历吧！期待在小红书与大家相遇，一起创造更多精彩🎉​牛客网 互联网大厂