荣耀二面

攒攒人品！有面试过同岗的朋友欢迎评论区交流1.lora微调原理2.prompt 微调3.P tuning4.强化学习 ppo grpo5.Deepseek r1 训练四个阶段6.Encoder only decoder only 区别7.BERT的结构

继续来分享下之前的面经~欢迎友好讨论，信息共享1. 实习拷打2.项目1拷打3.项目2拷打4. 你们画像里有很多隐性标签，这种标签本身没有显式真值，你们一开始是怎么想到用大模型来做这件事的？5. 传统规则、统计方法、分类模型其实也能做一部分标签，为什么你们最后会觉得一定要引入LLM来做6. 你这个Prompt Engineering项目里，我比较好奇的一点是，为什么一定要先做token压缩？如果不压缩，具体会有什么问题7. 你说你们把原始行为明细压缩成高密度特征，那这个过程里你怎么判断哪些信息该保留、哪些信息该删？万一删掉了关键行为怎么办？8. 你们为什么会把高频到访、强行为强度的信息放在前面？9. 你提到按主题域去做Semantic Grouping比如把消费类标签放一起，这个事情为什么会提升效果？10. 既然分组这么有效，那消费和出行之间明明也有关系，比如高消费人群可能更常打车、更常住高端酒店，那你把它们拆开之后，会不会反而丢掉跨域关联11. 你们这个Prompt里为什么“禁止做什么”会比“要求做什么”更有效？这个结论是怎么得出来的，有没有比较具体的Bad Case可以举一下12. 你们要求模型输出严格的JSON格式，这种工程化约束听起来很强，那模型最常犯的错是什么13. 如果模型输出里经常出现幻觉或者格式错误，你们是怎么一点点把它调到可上线状态的？中间有没有经历过那种离线看着还行、线上一跑全崩的情况？14. 你们这里有很多标签是没有Ground Truth的，那这种情况下你怎么证明“模型打出来的标签是靠谱的”15.你提到会用Proxy Metric去评估，那你们当时是怎么设计这些代理指标的？16.你说DeepSeek R1比其他模型更适合这个任务，那你们当时有实际对比过Qwen）、Llama吗？具体差异体现在哪，为什么R1更适合做这种标签推理？

有面试过同岗的朋友欢迎评论区交流1.  DPO 与 SFT 的区别：两者核心差异是什么？可以先做 DPO 再做 SFT 吗？为什么？2.  把 DPO 用在“第一轮对话”，你会如何构建数据集？`Prompt`、`Chosen`、`Rejected` 具体来源是什么？3.  多轮对话数据分布设计：单轮和多轮数据各占多少比例？这样配比的理由是什么？4.  DPO 多轮样本怎么采样：多轮样本如何采样？如何配比？5.  Reward Hacking现象：你怎么看待这个问题？怎么解决呢

给我面没招了，感觉自己好菜、面试很难，还是要多多练习，感觉自己说不明白业务逻辑1.在 Agent 多轮对话任务中，你觉得 Attention 的局限性体现在哪些方面？2.简要介绍一下 SFT 的核心流程以及数据集的构建策略。3.SFT 之后常见的 Post-Training 还有哪些？它们之间的目的有何区别？4.什么是 RAG？它是怎么提升生成质量的？5.与传统的检索 + 模型生成的流程有什么不同？6.如何评估一个 RAG 系统是否有效？7.PPO 和 DPO 在大模型对齐中的主要区别是什么？8.DPO 训练通常有哪些注意事项？9.项目里的 Modular Agent，你能讲讲它是如何实现多步规划的吗？10.项目提到了多个工具调用链路，调度策略是如何设计的？11.是否设计过异常 fallback 策略？12.Agent 的评估体系通常包括哪些维度？13.项目中微调 Qwen 时，选择的训练阶段是如何确定的？14.Prompt 自动推荐模块用了哪些优化策略？