1、自我介绍2、reward函数是如何设计的？数据集的配比是怎样的？3、inductive learning和transductive learning有什么区别？4、Viking是什么？相关业务背景是什么？5、冷启动时，不同专家模型特征输入为什么不同？6.编码树如何构建？为什么使用高斯分布？7、id特征为什么学习效果不好？8、给你整数 delay 和 forget，以及整数 n。每个人在发现秘密后的 delay 天开始，每天可以分享给一个新的人。在发现秘密 forget 天后会忘记秘密，忘记后不再分享。求第 n 天结束时知道秘密的人数。9、Loss乘10和学习率乘10之间有什么区别📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

1．多轮对话为什么难2．多轮对话的三类结构3．多轮对话的触发条件4．工程中如何构建多轮对话数据5．如何保证模型不乱跳（关键规则）1️⃣一、为什么多轮对话是 Function Call 里最难的？一句话概括：多轮对话不是 NLP ，是状态机。你必须让模型学会：意图识别→信息收集→工具调用-工具结果处理-下一轮决策-→最终输出。2️⃣二、多轮对话的三种结构基本上，所有 FC 项目都逃不掉。在我们的旅行助手训练营项目中，多轮对话主要有三类结构：①"信息补全型"多轮对话（最频繁）让模型学会"不瞎调用工具"，学会"停下来补齐信息"。②"工具链式"多轮对话（最复杂）例子： call recommend _ hotels → call get _ hotel _ reviews → final _ output③"反问﹣工具﹣反问继续﹣工具"混合型既需要追问，又需要工具链。3️⃣三、多轮对话的数据到底怎么生成？1．根据标签选择工作流2．根据变量决定是否需要追问3．自动构造反问句4．用户回答由模板生成5．工具链由代码模拟6．工具返回由 mock 数据生成7．最后用 base 模型重写自然语言4️⃣四、多轮对话的数据到底怎么生成？ 核心逻辑：1．根据标签选择工作流2．根据变量决定是否需要追问3．自动构造反问句4．用户回答由模板生成5．工具链由代码模拟6．工具返回由 mock 数据生成7．最后用 base 模型重写自然语言5️⃣五、模型如何在训练后做到"不会乱跳"?1.工具返回后继续调用错误工具2.工具链顺序乱3.工具调用结束后不收尾4.忘记上下文参数5.拒答逻辑失效为什么？因为数据没有覆盖好。📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

1.项目介绍2.在参数高效微调中，为什么优先微调 Attention 层的 Q/K/V/O，而不是 FFN 层？3.RAG 和 GraphRAG 在处理多跳推理时的根本？4.RAG 的整体流程5.GraphRAG 系统整体流程6.RoPE 为什么能实现相对位置编码？7.Transformer 中因果注意力和双向注意力的区别8.手撕代码题：最长连续递增子序列（LeetCode 674）

一、 LLM 的"天花板"在哪里？无法执行真实动作，例如"把文件发给老板"。无法访问实时天气、最新股票、网页信息。稍微长一点的对话就忘记历史。✅一句话总结：LLM 只擅长"生成"，但不会"行动"。二、 Agent 的出现，本质上是为 LLM 装上"大脑＋手脚＋记忆"给 Agent 的来个定义：Agent = LLM （大脑）+ Planning （规划） Memory （记忆）+ Tools （工具）这句话直接点明了 LLM 到 Agent 的进化方向。三、那到底什么是 Agent 的"规划( Planning )"?LLM 的回答方式是"直觉型"的，一句话进，一句话出。但现实任务极其复杂，需要多步骤思考。Agent 的核心能力之一是：▶️Subgoal Decomposition （子任务拆解）▶️ Reflection （自我反思）也就是说它不仅能规划任务，还能执行后检查自己是否犯错。这点是纯 LLM 完全做不到的。四、 Agent 的"记忆（ Memory )"解决了 LLM 最关键的问题LLM 的上下文是"滑动窗口式"，内容多了会被挤出去。企业级需求中，很多对话必须跨轮次、跨任务。五、最关键的差异： Agent 具备"行动能力( Tool Use )"这是 LLM 和 Agent 最本质的区别。LLM ：只会生成文本Agent ：可以执行动作📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

1️⃣DeepSeek -R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning2️⃣DeepSeek -V3 Technical Report3️⃣Qwen3 Technical Report4️⃣Qwen - Image Technical Report5️⃣Large Language Diffusion Models ( LLaDA )6️⃣Vision - Language - Action Models : Concepts , Progress , Applications and Challenges7️⃣Less is More : Recursive Reasoning with Tiny Networks ( TRM )8️⃣Absolute Zero : Reinforced Self - play Reasoning with Zero Data9️⃣Speed Always Wins : A Survey on Efficient Architectures for Large Language Models1️⃣0️⃣Gemini Nano Banana : Multimodal Visual Generation📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

1、有场景、有动机（为什么做）2、有方法、有架构（怎么做）3、有数据、有优化（做出了什么效果）这三点构成了一个高质量 RAG 项目的核心逻辑。下面我用一个对比＋案例的形式讲给你听。一、项目背景：让人一眼看出你在解决一个具体问题✅一句话总结：好的项目描述一定要把动机讲清楚。工业级 RAG 项目几乎都有三种典型动机：1.业务痛点2.为什么 RAG 能解决3.大模型知识时效性差二、系统架构：写出系统性思维的人最稀缺🌟优秀写法（架构分层法）:系统分为两阶段（数据准备＋应用推理），三大模块（知识构建、检索召回、生成优化），并通过13项优化策略实现持续迭代。阶段一：数据准备1.数据清洗：多源异构文档（ PDF 、 OCR 图片、视频字幕）统一结构化，过滤噪声。2.文本切块策略：采用动态窗口＋语义聚类切分，保证上下文完整性，避免语义断裂。3.Embedding 向量化：使用中文优化模型 BGE - large ，构建 Milvus 向量索引（ HNSW 结构），支持百万级检索。阶段二：应用层1.多路召回机制：结合语义检索与倒排检索，通过 RRF 融合排序策略提升相关性；2. Prompt 工程优化：设计结构化 Prompt 模板，限制模型回答边界，缓解幻觉；3.缓存与响应优化：引入 Redis 缓存层与分层索引机制，将平均响应时间从1.2s降低至0.6s。三、个人贡献：写出你在推动系统演进这句话有三个关键点：1.主导:你是参与者还是决策者？2.改进方案:有没有提出优化3.结果数据:用量化指标说话。📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

✅一面 1.自我介绍2.项目拷打与反问3.写一下交叉熵损失的公式4.MSE能用到分类任务上吗5.介绍transformer6.介绍auc，精确度，召回率，F1等等，auc的意义是什么7.为什么Transformer用ln不用bn8.开放:如果给你一批数据的点击率，曝光度，位置信息等，如何判断用户点击数据是否跟数据的位置有关✅二面1.项目的拷打与反问，比一面要刁钻一些2.问了GRPO和DPO的公式，后者没答出来3.问了DRPO，为什么可以把散度去掉，没答上来4.为什么要重要性采样5.讲一下注意力机制，交叉注意力，为什么除以根号d6.介绍一下什么情况下会出现梯度爆炸和梯度消失，为什么，出现了这种情况模型会怎么样7.贪心算法📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

1.自我介绍＆项目深挖2.针对 RAG 项目3.使用的 Embedding 模型结构是什么？输出向量维度是多少？4. Transformer 更新哪些参数？5.如何缓解大模型的幻觉问题？6.请描述 Transformer 的基本结构，并解释自注意力机制。7.输入向量的维度是多少？8.LayerNorm 是对哪个维度做归一化？9.你了解哪些微调方式？10.如何优化大模型的训练和推理效率？11.Prompt Tuning 和 P - Tuning 的区别是什么？12.如何让大模型处理更长的文本？13.代码能力考察:请手写反转链表。📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

一面 1. Encoder与Decoder中注意力机制存在哪些差异？2. 注意力机制的计算流程是怎样的，为何在计算时要除以根号下Dk，掩码注意力机制又是怎样达成的？3. 阐述GQA、MQA、MLA的原理分别是什么。4. 位置编码的必要性体现在哪里，为何选用sin_cos函数进行位置编码？5. 询问之前实习中Agent的设计思路，以及所提创新方法的实现方式。6. 提及使用DeepSpeed开展SFT训练，请说明DeepSpeed ZeRO Stage 1 - 3的不同之处，以及何种情况下使用FSDP更为合适。7. 询问Agent工具的设计情况，是否采用workflow形式。8. 了解哪些Agent开发框架，像langchain和LlamaIndex，它们的核心应用场景有何区别？9. 针对数据输入输出格式，为保证大模型输出稳定json格式，采取了哪些措施？10. 若Agent推理API需要低延迟响应，会从哪些方面开展系统级优化工作？11. 代码考察：给出LeetCode第34题，在排序数组中查找元素的第一个和最后一个位置。📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

1. RLHF相较于传统SFT，聚焦解决语言模型哪些核心问题？RLHF主要致力于解决语言模型在生成内容时，如何更好地贴合人类价值观、提升内容质量与安全性，以及让模型生成更符合人类期望的多样化回复等核心问题。2. 经典RLHF流程三核心阶段详述监督微调阶段：输入带标注的文本数据，输出微调后的语言模型。通过监督学习，让模型初步具备生成合理回复的能力。奖励模型训练：输入成对比较数据，输出训练好的奖励模型。构建一个能准确评估回复质量的模型，为后续强化学习提供有效的奖励信号。强化学习：输入语言模型和奖励模型，输出优化后的语言模型。利用奖励模型的反馈，通过强化学习算法调整语言模型参数，生成更符合人类期望的回复。3. RM训练用成对比较数据的优劣优势：人类对两个回复的相对优劣判断更准确且一致，能降低标注难度与主观偏差。劣势：收集大量成对数据，成本较高；难以直接量化回复的绝对质量。4. 奖励模型架构选择、与LLM关系及损失函数5. RLHF第三阶段选PPO的原因及KL散度作用相比简单策略梯度，PPO能更好地平衡探索与利用，提高训练稳定性；相较于Q - learning系算法，PPO更适合处理高维连续动作空间问题。KL散度关键作用是限制新策略与旧策略的差异，防止策略更新过大导致模型性能不稳定。6. PPO中KL散度系数设置不当的问题及调整方法若系数B设置过大，会导致策略更新过于保守，模型难以学习到新策略，性能提升受限；若设置过小，策略更新可能过于激进，模型性能不稳定。可通过实验观察训练过程中的奖励值、KL散度值等指标，逐步调整系数B，找到合适的平衡点。7. “奖励作弊/奖励黑客”及缓解策略模型为获取高奖励，利用奖励模型漏洞生成不符合人类期望但奖励值高的回复。缓解策略包括：优化奖励模型，减少漏洞；增加人工审核环节；采用更复杂的强化学习算法等。8. DPO核心思想及与传统RLHF（基于PPO）对比优势DPO核心思想是直接优化模型生成回复的偏好，无需通过强化学习间接调整。与PPO相比，DPO省略了强化学习步骤，直接利用偏好数据进行模型训练。优势是流程更简单，训练效率更高，稳定性更好。9. RLHF模型离线优上线差的原因及分析解决方向原因是：离线评估指标与真实用户需求不匹配；奖励模型存在偏差，过度鼓励某些模式化回复。可从以下方面分析解决：优化评估指标，更贴近真实用户反馈；重新训练奖励模型，减少偏差；引入多样性约束机制等。10. Deepseek的GRPO与PPO主要区别

一、项目深挖1. 训练时显存占用高的瓶颈在哪？做了哪些显存优化？2. 如果重新做一次，你会在哪些环节提前做 ablation？二、 延伸八股：1. AdamW 与 Adam 在权重衰减上的实现差异？2. 梯度累积等价于 batch 扩大的严格条件是什么？3. PPO 的核心目标函数是什么？每个符号的物理意义？4. 相比 PPO，GRPO 的“Group”体现在哪一步？5. KL 散度在 RLHF 阶段出现的位置、作用以及过大/过小分别会导致什么现象？6. Multi-Agent 场景里，Reflection 模块与 Memory 模块的输入输出各自是什么？它们如何解耦又能互相增强？7. 简述 MRR 的计算流程。8.同样是排序指标，NDCG 与 MRR 的评估视角差异在哪？三、手撕环节原地快速排序📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

1. 自我介绍环节：简要介绍个人背景与技能。2. 经历阐述：介绍实习经历，并自选一篇论文进行讲解。3. 项目细节追问（具体内容略）：针对项目展开深入提问。4. 大模型生成评测：大模型生成内容的评测方式有哪些，具体如何操作？5. RAG技术短板：RAG存在哪些缺陷？6. 大模型输出一致性：如何确保大模型输出内容的一致性？7. DeepSeek R1详解：讲解DeepSeek R1的训练流程和基本原理。8. 强化学习算法辨析：DPO、PPO、GROP之间的区别是什么？9. SFT与强化学习对比：SFT和强化学习各自有什么优缺点，分别适用于什么场景？10. 提示工程方法：提示工程的主要方法有哪些？11. 大模型幻觉问题：阐述大模型的幻觉现象及抑制方法。12. 多智能体协同：如何保证多智能体协同的效果？📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。