百度-文心一言大模型算法实习面经一二面

给我面没招了，感觉自己好菜，发点面经攒攒人品1、 PPO 与 GRPO 的区别，分别介绍他们的优势与缺点2、 DPO 对齐训练的曲线是怎么样的，正例的概率会提升嘛3、 Deepseek -R1里面不仅推理能力很好，而且文采能力也很好，这个是个开放问题，如何让模型的文采能力也很好呢4、 DPO 如何解决回答过长的问题，除了正则5、开放问题：为什么现在大家都在关注于大模型的推理能力 reasoning6、对于一个 base model 如何增强大模型的 reasoning 能力7、模型选型时是否做定性定量对比ab test，客观数据验证文心性能不好了吗8、 DPO 除了长度问题还有其他的问题嘛，与问题2对应， reward hacking ？都没有奖励模型了

一、Agent核心模块（秋招最热，几乎必问）1.为什么选择做Agent项目？（结合求职方向，突出你的核心价值，避免泛泛而谈）2.讲下你做的Agent项目，核心目标、技术难点、你负责的模块及落地效果（秋招必问，重点说“解决了什么问题”）3.演示Agent项目实现细节（重点说关键流程、核心代码逻辑，避免只说框架）4.Agent项目开发的核心框架有哪些？你用的是哪种？为什么不选其他框架？（LangChain/LLaMA Index/AutoGPT对比）5.了解市面上有哪些主流智能体（Agent）？各自的优势、应用场景及局限性（比如AutoGPT、ChatGPT Plugins、Meta AI Age...

本人本科是通信工程专业，硕士期间的专业是新一代电子信息技术，组内研究方向偏微电子，方向比较窄，目前成果有一篇论文。无实习经历，现在要找工作比较迷茫，组内无已毕业的师兄师姐，参考就业方向也少，在boss直聘看一些通信方向的招聘要求感觉自己啥都不会，需要学习的内容太多了也很迷茫，像无头苍蝇一样。也无写代码能力，只会运用豆包。未来想在西安或成都、深圳等城市发展，求大佬指点。

岗位名称：大语言模型算法面试时长：1h–1.5h自评分：8/10是否下一轮：是模型架构与基础原理目前主流大语言模型在架构设计上有哪些异同点？（追问）Decoder-only 和 Encoder-Decoder 在实际应用场景上有什么区别？介绍一下大语言模型中的注意力机制，多头相比单头注意力有何优势？（追问）如果减少头数会发生什么？是否一定性能下降？什么是大语言模型的涌现能力？目前对该现象的研究有哪些发现？（追问）涌现能力是否和模型规模线性相关？什么是 Embedding？词嵌入和句嵌入有何不同？（追问）Embedding 层是否会参与微调？为什么？大语言模型中的 Tokenization 是如...