拼多多大模型算法岗面经分享

给我面没招了，发点面经攒攒人品～1.LLM 常用的结构是什么？2.说一下 Transformer 的整体结构3.目前主流大模型最常用的位置编码是什么？4.［代码题］写一下多头注意力机制的数学公式A代码／算法实现题，需现场手写5. 公式中为什么要除以√ d _ k ？其对梯度消失或梯度爆炸有什么影响？6. 在 Transformer 的 Encoder 和 Decoder 中，哪些部分是可以并行计算的，哪些不可以？7. 除了 LoRA ，你还了解哪些微调方法？8. 大模型训练通常使用什么损失函数9. 在机器学习基础中，二分类问题、多分类问题以及回归问题分别使用什么损失函数？10. 你了解哪些优化算法11. 模型训练中出现过拟合的常用解决方案有哪些？12. Dropout 在训练阶段和预测阶段的处理方式是否一致？为什么要这样做？13. 大模型中的"复读机问题"重复生成是什么原因导致的？如何从解码策略或训练层面解决？14. 幻觉问题产生的原因是什么？目前常用的工程解决方案有哪些？

1. 自我介绍2. RAG 怎么优化，评估时你会看哪些指标RAG 的优化一般不能只盯着生成端，很多问题其实出在检索阶段。常见优化思路包括 query rewrite、chunk 切分策略调整、混合召回、重排序、上下文压缩和引用约束。比如文档切得太碎，召回会有信息断裂；切得太长，又容易把无关信息一起带进来，生成端会受污染。真正线上效果好的 RAG，通常不是“某个 embedding 更强”，而是检索、排序、上下文组织和回答约束配合得比较好。评估时我一般拆成两层。第一层看检索，比如 Recall@k、MRR、HitRate，看相关证据能不能被捞上来；第二层看生成，比如答案正确率、faithfuln...

继续来分享下最近的面经~欢迎友好讨论，信息共享1.prompt如何生成的2.大模型产生幻觉的原因和解决方式3.如何增强大模型的code review能力（微调模型？拆分问题报告？）4.了解openclaw么？它和其他大模型有什么不同5.用过哪些AI，cursor生成代码的底层原理是什么？如果让你设计，你会怎么做？6.Skill了解吗？MCP是什么？7.HashMap的线程安全问题是什么？多个线程同时put会发生什么？和ConcurrentHashMap的区别是什么?8.输入一个网址访问网页经过了哪些协议？整体流程是什么？9.MVCC是什么？原理是什么？它是如何作用的？10.JVM的内存区域划分？其中栈的作用是什么？11.手撕：leetcode437：路径总和

📍面试公司：小红书🕐面试时间：2026/04/08 19:00💻面试岗位：NLP/多模态/大模型 实习生❓面试问题：自我介绍；项目经历、实习经历、专业技能除了简历上的，还需要向面试官展示哪些？；学习能力、探索能力、求知的欲望等MCP, SKILL的区别，SKILL为什么能省Token？如何看待Agent，怎么面向业务设计、评估Agent？项目拷打，MMKG-RAG，如何分块，实体和关系的抽取与合并coding，最小方差的子串反问：业务方向：社区生态治理，图文视频的审核和安全评估开发与运营的价值观对齐：基于网信办、用户、公众、运营等各方群体的最大公约数审核标准的自适应与动态变更🙌面试感想...