整理下近期的大模型日常实习面经

📍面试公司：科大讯飞💻面试岗位：大模型❓面试问题：1. 讲一下llm的强化学习的演进2. 讲一下qwen，豆包，kimi，deepseek的优点和改进3. qwen3的混合思考4. 实习的拷打5. 讨论了很久数据，sft的数据质量和强化学习的数据质量

📍面试公司：顺丰🕐面试时间：9.29💻面试岗位：大模型 一面❓面试问题：1.自我介绍2.实习-微调上下文长度是多少？3.实习-微调数据集多少？4.实习-用的什么卡训练？什么框架，训练多长时间？5.实习-显存优化框架是什么？6.实习-deepseed zero用的什么？zero 1 2 3 有什么区别，介绍一下7.如果使用zero2，全参微调8B模型，精度BF16，占用多少显存？模型占用多少，梯度占用多少，优化器占用多少（这一块答得挺差的）8.实习-PPO训练使用几张卡9.实习-PPO有多个模型，如何加载的，SFT占用了几张卡？（这一块答得更差）10.实习-PPO训练框架？11.实习-为什么不使用RAG？使用Agent的框架吗？12.讲一下vllm的prefix cache13.vllm 并发量很高的时候，什么机制去解决？（就是一次解决不完，不会）14.讲一下vllm和SGlang的结构化输出（不会）反问：1.业务：问答机器人，把很多很多的机器人整合为一个，涉及到多路查询、query重写、实例抽取，微调和langchain。还有一些多模型搜索的业务等2.技术栈：模型微调+agent🙌面试感想：训练问的好多，我不会

1.自我介绍2.critique mode 怎么训练的，会不会存在 bias3.介绍下 RLHF 流程4.BN和 LN 的区别， BN 在训练阶段和推理阶段有何不同5.如果让你用 llm 做一个商品类目识别的项目，你会如何设计6.介绍下 transformer , attention 的细节和 mlp 的作用7.deepspeed的原理8.了解 dp 和 ddp ，介绍一下原理和异同9.在 nlu 任务上，你觉得 bert 和 llm 哪个效果会更好，为什么6.介绍下 RLHF 流程7. deepspeed 的原理8.了解 dp 和 ddp ，介绍一下原理和异同9.如果让你用 llm 做一个商品类目识别的项目，你会如何设计10.快排的思想，时间复杂度11.代码题: code ：手写一个多分类的公式，并用代码实现📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

1️⃣RAG 有哪几个步骤？Step1:将文本分割成块;Step2:使用编码模型将这些块嵌入到向量中，将所有这些向量放入索引中;Step3:LLM 创建一个提示，告诉模型根据我们在搜索步骤中找到的上下文来回答用户的查询。2️⃣实际项目中RAG有哪些优化技巧？首先召回源会考虑多路召回，在召回后面增加一个重排序的阶段，提升召回的质量。另外，重排序模型以及生成模型会根据系统问答的指标情况，进一步微调。3️⃣RAG 中为什么会出现幻觉？出现幻觉问题主要分为两大类，一是生成结果与数据源不一致，训练数据和源数据不一致、数据没对齐或者编码器理解能力的缺陷导致；二是用户问题超出了大模型的认知，用户的问题不在语言模型认知范围内导致。4️⃣RAG 一般怎么做效果评估？RAG 做效果评估主要是针对检索和生成两个环节。对检索环节，我们可以采用 MRR 即平均倒排率，前 k 项的 Hits Rate 命中率， NDCG 排序指标等。生成环节首先是量化指标，再评估生成答案的多样性，看看模型是否能够生成多种合理且相关的答案。还需要引入人类评估，考虑资源效率。5️⃣针对幻觉的问题，有什么解决思路？加入一些纠偏规则，比如采用 ReAct 的思想，让大模型对输出的结果进行反思。还有一种思路是集成知识图谱，即不再局限于向量数据库匹配，做召回时不仅考虑文档块，同时还考虑图谱的三元组。将知识图谱( KGs ）集成到 RAG 中，通过利用知识图谱中结构化且相互关联的数据，可以显著增强当前 RAG 系统的推理能力。6️⃣在实际做项目中，经常遇到各种边界的 case ，一般怎么解决？这个需要分情况来看，首先是无效问题：如果对于知识库中没有的问题，我们需要做一个准入的判别，判断是否需要回答。一般是一个二分类模型，或者直接用大模型+ prompt 来做，使模型在这种情况下输出一个预设的兜底话术。第二个是减少幻觉，在推理模块中添加规则和提示工程技术。还有一种是格式错误：模型可能会生成无法解析的答案，这种可以设计一个备份的代理大模型，当解析失败时，可以基于代理大模型直接生成简洁准确的总结。📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。