1.自我介绍＆项目深挖2.针对 RAG 项目3.使用的 Embedding 模型结构是什么？输出向量维度是多少？4. Transformer 更新哪些参数？5.如何缓解大模型的幻觉问题？6.请描述 Transformer 的基本结构，并解释自注意力机制。7.输入向量的维度是多少？8.LayerNorm 是对哪个维度做归一化？9.你了解哪些微调方式？10.如何优化大模型的训练和推理效率？11.Prompt Tuning 和 P - Tuning 的区别是什么？12.如何让大模型处理更长的文本？13.代码能力考察:请手写反转链表。📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

一面 1. Encoder与Decoder中注意力机制存在哪些差异？2. 注意力机制的计算流程是怎样的，为何在计算时要除以根号下Dk，掩码注意力机制又是怎样达成的？3. 阐述GQA、MQA、MLA的原理分别是什么。4. 位置编码的必要性体现在哪里，为何选用sin_cos函数进行位置编码？5. 询问之前实习中Agent的设计思路，以及所提创新方法的实现方式。6. 提及使用DeepSpeed开展SFT训练，请说明DeepSpeed ZeRO Stage 1 - 3的不同之处，以及何种情况下使用FSDP更为合适。7. 询问Agent工具的设计情况，是否采用workflow形式。8. 了解哪些Agent开发框架，像langchain和LlamaIndex，它们的核心应用场景有何区别？9. 针对数据输入输出格式，为保证大模型输出稳定json格式，采取了哪些措施？10. 若Agent推理API需要低延迟响应，会从哪些方面开展系统级优化工作？11. 代码考察：给出LeetCode第34题，在排序数组中查找元素的第一个和最后一个位置。📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

1. RLHF相较于传统SFT，聚焦解决语言模型哪些核心问题？RLHF主要致力于解决语言模型在生成内容时，如何更好地贴合人类价值观、提升内容质量与安全性，以及让模型生成更符合人类期望的多样化回复等核心问题。2. 经典RLHF流程三核心阶段详述监督微调阶段：输入带标注的文本数据，输出微调后的语言模型。通过监督学习，让模型初步具备生成合理回复的能力。奖励模型训练：输入成对比较数据，输出训练好的奖励模型。构建一个能准确评估回复质量的模型，为后续强化学习提供有效的奖励信号。强化学习：输入语言模型和奖励模型，输出优化后的语言模型。利用奖励模型的反馈，通过强化学习算法调整语言模型参数，生成更符合人类期望的回复。3. RM训练用成对比较数据的优劣优势：人类对两个回复的相对优劣判断更准确且一致，能降低标注难度与主观偏差。劣势：收集大量成对数据，成本较高；难以直接量化回复的绝对质量。4. 奖励模型架构选择、与LLM关系及损失函数5. RLHF第三阶段选PPO的原因及KL散度作用相比简单策略梯度，PPO能更好地平衡探索与利用，提高训练稳定性；相较于Q - learning系算法，PPO更适合处理高维连续动作空间问题。KL散度关键作用是限制新策略与旧策略的差异，防止策略更新过大导致模型性能不稳定。6. PPO中KL散度系数设置不当的问题及调整方法若系数B设置过大，会导致策略更新过于保守，模型难以学习到新策略，性能提升受限；若设置过小，策略更新可能过于激进，模型性能不稳定。可通过实验观察训练过程中的奖励值、KL散度值等指标，逐步调整系数B，找到合适的平衡点。7. “奖励作弊/奖励黑客”及缓解策略模型为获取高奖励，利用奖励模型漏洞生成不符合人类期望但奖励值高的回复。缓解策略包括：优化奖励模型，减少漏洞；增加人工审核环节；采用更复杂的强化学习算法等。8. DPO核心思想及与传统RLHF（基于PPO）对比优势DPO核心思想是直接优化模型生成回复的偏好，无需通过强化学习间接调整。与PPO相比，DPO省略了强化学习步骤，直接利用偏好数据进行模型训练。优势是流程更简单，训练效率更高，稳定性更好。9. RLHF模型离线优上线差的原因及分析解决方向原因是：离线评估指标与真实用户需求不匹配；奖励模型存在偏差，过度鼓励某些模式化回复。可从以下方面分析解决：优化评估指标，更贴近真实用户反馈；重新训练奖励模型，减少偏差；引入多样性约束机制等。10. Deepseek的GRPO与PPO主要区别

一、项目深挖1. 训练时显存占用高的瓶颈在哪？做了哪些显存优化？2. 如果重新做一次，你会在哪些环节提前做 ablation？二、 延伸八股：1. AdamW 与 Adam 在权重衰减上的实现差异？2. 梯度累积等价于 batch 扩大的严格条件是什么？3. PPO 的核心目标函数是什么？每个符号的物理意义？4. 相比 PPO，GRPO 的“Group”体现在哪一步？5. KL 散度在 RLHF 阶段出现的位置、作用以及过大/过小分别会导致什么现象？6. Multi-Agent 场景里，Reflection 模块与 Memory 模块的输入输出各自是什么？它们如何解耦又能互相增强？7. 简述 MRR 的计算流程。8.同样是排序指标，NDCG 与 MRR 的评估视角差异在哪？三、手撕环节原地快速排序📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

1. 自我介绍环节：简要介绍个人背景与技能。2. 经历阐述：介绍实习经历，并自选一篇论文进行讲解。3. 项目细节追问（具体内容略）：针对项目展开深入提问。4. 大模型生成评测：大模型生成内容的评测方式有哪些，具体如何操作？5. RAG技术短板：RAG存在哪些缺陷？6. 大模型输出一致性：如何确保大模型输出内容的一致性？7. DeepSeek R1详解：讲解DeepSeek R1的训练流程和基本原理。8. 强化学习算法辨析：DPO、PPO、GROP之间的区别是什么？9. SFT与强化学习对比：SFT和强化学习各自有什么优缺点，分别适用于什么场景？10. 提示工程方法：提示工程的主要方法有哪些？11. 大模型幻觉问题：阐述大模型的幻觉现象及抑制方法。12. 多智能体协同：如何保证多智能体协同的效果？📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

1. 自我介绍及项目阐述：请先做一个简单的自我介绍，然后详细介绍一下你参与过的相关项目。2. 语义理解相关：在搜索链路里，像“苹果”这种既代表品牌又代表水果的语义歧义情况，通常是如何进行建模的？另外，多义词消解和上下文建模的核心方法分别是什么？3. Toolformer 与 RLHF 对比：Toolformer 采用自监督学习来生成 tool call 数据，这种训练范式和 RLHF 存在哪些差别？并且，为什么 Toolformer 更容易实现泛化呢？4. Reflection 机制判断问题：在 Reflection 机制中，我们该如何判断一个 Agent 执行失败是由于知识缺失，还是工具调用错误导致的呢？5. RAG 与库存一致性：假如商品知识库是实时更新的，那么要怎样保证 RAG 的召回结果和库存信息保持一致呢？6. RAG 长尾商品问题：在搜索场景中，RAG 的向量检索容易受到长尾商品的影响，针对这个问题，你会采取什么措施来缓解呢？7. GRPO 与 PPO 对比：GRPO 和 PPO 之间的区别体现在哪些方面？另外，GRPO 的优化目标函数应该怎么写呢？8. LoRA 电商推荐场景设计：如果要运用 LoRA 来对电商推荐场景进行微调，你会如何设计相应的数据和标签呢？9. LoRA 与 Prefix Tuning 对比：LoRA 和 Prefix Tuning 有哪些区别？在什么样的场景下会选择使用 LoRA 呢？10.算法题：请实现一个 LRU 缓存机制。📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

1. 第一段实习的核心任务与业务目标分别是什么？2. 四塔多目标方案相较经典双塔在 CTR/跨类目召回上带来哪些可量化收益？3. 离线样本构造、天级更新流程及线上特征滞后补偿机制如何设计？4. 用户塔输入特征列表中，哪些对跨类目效果拉动最大？上线后除 AUC 还重点监控哪些业务指标？5. 多模态向量维度规模多大？全量推涨后提升显著的根因分析结论是什么？6. 商品塔接入多模态 encoder 后为何离线指标下滑？定位到哪个环节？7. 第二段实习的特征清洗链路如何缩短 40%？混合负采样的 hard 比例与动态策略、loss、激活函数分别如何选型并对比？8. 是否尝试过 MMoE 等专家网络？专家数量与推理延迟增量各是多少？9. 推荐场景下除 dropout 外的两种过拟合抑制手段10.Transformer 各子层功能及去掉 FFN 的影响11. 编码：在已排序数组中用 O(log n) 实现目标值的左右边界查找📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

1. 详细讲讲你第一个实习项目的内容和背景。2. 你们采用的是四塔结构（多目标建模），相比传统的双塔结构（用户塔+商品塔），它的优势体现在哪些方面？带来了哪些实际提升？3. 离线流程是如何设计的？线上服务调用离线结果时，是实时更新还是按固定周期刷新？4. 用户塔中用了哪些特征？模型上线后，你们重点监控了哪些指标？比如场景内的表现，以及跨类目的泛化能力等。5. 多模态特征的维度大概是多少？为什么加入多模态特征后，全量上线效果显著提升？6. 在商品塔中引入多模态 encoder 后，为什么离线评估效果反而下降了？你们有分析原因吗？7. 讲讲你参与的第二个项目。这个项目中特征工程是如何优化的？混合负采样策略是怎么设计的？损失函数选的是什么？有没有尝试不同的激活函数？效果如何？8. 在模型迭代过程中，有没有尝试其他结构，比如专家网络（如 MMoE）？效果如何？9. 基础知识点：- 如何有效防止模型过拟合？- Transformer 的基本结构是怎样的？- 决策树的构建原理：基尼指数、信息增益率的计算公式？它们分别代表什么？是越大越好还是越小越好？节点如何划分？树的深度如何控制？如果树太深了怎么办？- GBDT 相比传统决策树做了哪些改进？10. 编程题：给定一个升序排列的数组和一个目标值，编写函数找出该值在数组中出现的起始位置和结束位置。📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

✅一面 1.实习项目拷打2.如果直接把这些特征输入到一个 LR 或其它简单模型做融合，和你现在的模型相比效果差距大吗？3.相比 LR 这样的线性模型， MMoE 的优化优势体现在哪里？4.不同专家数对比现在设置的专家数 diff 有多大？5.有没有尝试过简单的 MLP ？6.离线模型有没有对 DAU 的提升纳入到预估目标里面？7.手撕: LC 25.K个一组翻转链表✅二面1.实习继续拷打2.UserCF 和 ItemCF 的核心区别是什么？3.对 BERT 有了解吗？4.了解自回归任务吗？5.从 MMoE 到 PLE ，这条路线的发展方向是什么？它们分别想解决哪些问题？6.对推荐系统中的重排模块了解哪些？7.手撕: LC 124．最大路径和📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

1⃣️ 一面1.实习项目2.组内推荐的完整链路3.召回，有哪些路？有没有做用户分层？4.粗排：有没有做物料保量？多样性、类别不平衡怎么处理？5.精排：用了什么模型？PPNet 的域有哪些？用什么规则来分域？6.八股:MMoE / PPNet 建模方式、跷跷板现象怎么解决、哪些模型能解、为什么能解决；7.ESMM 的原理、它解决了什么问题、样本选择偏差为什么会出现；ESCM2建模方式8.DCN 以及 DCNv2 的改进点；9.DIN 有没有实际用过。10.手撕2⃣️ 二面1.实习：项目继续深挖2.八股：LGBM 原理和调参方法、DIEN 相对 DIN 的改进、SIM 的建模方式、特征选择和特征重要度分析方法、训练时 loss 不稳定怎么处理。3.场景：对于用户播放时长这种连续型目标，通常用什么建模方式才能做数值级别的预测？4.手撕：LeetCode 143 重排链表。📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

1.自我介绍2.AUC 的横纵坐标是什么3.Rank 的公式是什么4.什么是 AUUC5.delta 是作用6.写一下二价计费的公式7.为什么会计费会突增8.写一下欠收追收的 gap 、 new _ price 怎么计算的9.调价的时间窗口怎么确定的，有做数据分析吗10. 你知道广告漏斗的概念吗11.Uplift 模型的 Loss 怎么计算的12.code :lc3无重复字符的最长子串📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

✅一面 1.自我介绍2.attention计算公式3.项目拷打，特征怎么做的，为什么选这个模型4.Transformer的结构讲解5.MMOE的缺点？PLE的改进点在哪？6.共享专家和独享专家的个数分别是多少7. GNN里边你觉得最重要的知识点是什么8.讲一下transformer的encoder和decoder9.手撕：N皇后✅二面1. 自我介绍2. itemcf公式，itemcf改进的公式了解吗3. LongLoRA和LoRA区别4.项目拷打，问的比较仔细，模型的参数，数据量等5.共享专家和独享专家的层数相同吗？6.transformer中用softmax有什么问题呢？该怎么解决7.手撕：最长递增子序列的改版8.场景题：Alice和Bob选数字，偶数A得分，奇数B得分