蚂蚁大模型Agent算法二面-55min

大家好，我是小志，目前在淘天负责推荐算法方向，主要是首页猜你喜欢（首猜）场景的个性化推荐优化。平时都在和代码、论文打交道，今天特意来牛客开个直聘点，想给自己的团队挖几个靠谱的同学～✅ 关于我们团队我们组是淘天核心推荐算法团队之一，业务覆盖亿级DAU的首猜场景。团队氛围大概是这样：•扁平化管理，没有PUA，mentor带人比较认真•不卷无效加班，只卷技术突破•周五下午经常一起头脑风暴（或者研究哪家奶茶好喝）•有不少技术讨论，学到东西比较快过去一年我们主要在探索几个方向：•LLM + 推荐（提升内容理解能力）•强化学习在推荐策略里的应用首猜是淘天流量最大的推荐场景之一，DAU是亿级规模，很多算法优化上线后效果反馈其实很直接，这一点还是挺有成就感的。✅ 我们比较看重的能力•扎实的算法基础：机器学习、深度学习基础扎实，熟悉至少一个主流框架•编程能力：熟练使用Python/C++中的至少一门，代码习惯好•业务理解力：对推荐系统有基本认知，最好有相关项目或实习经验•学习能力：对新技术敏感，愿意主动学习LLM、RL等前沿方向✅ 人才的加分项•有顶会论文（KDD/ICML/NeurIPS/SIGIR等）•有推荐/广告/搜索相关的实习经历•熟悉LLM、强化学习等前沿技术•有大规模系统开发经验•开源项目贡献者❌ 可能不太适合我们组的人•只刷题但对业务没有兴趣•不愿意沟通、习惯单打独斗•对技术没什么热情，只想"稳定打卡"💬 关于组内的一些大实话工作强度：电商业务会有大促周期，比如双11前后会忙一些。平时节奏还可以，我们组不太卷工时，更看结果。技术栈：主要是Java/Python，底层有自研的机器学习平台。新人会有完善的培训体系，不用太担心上手问题。发展前景：推荐算法是电商的核心竞争力，经验积累后无论是内部晋升还是外部机会都很多。🙋 我个人在组里的感受•能接触到真实大规模推荐系统•mentor带得比较细，新人一般都会有人手把手带•组里会定期有技术分享，讨论氛围还挺好的如果是刚毕业想做推荐系统，我觉得是一个还不错的起点。📮 简历投递方式目前组内 27届实习/校招有HC！重点关注：•推荐算法工程师•推荐算法工程研究方向：主要是 LLM+推荐、强化学习在推荐中的应用。我们希望你：有扎实的算法基础，对推荐业务有热情，有极强的Debug直觉。直接把简历以「姓名+学校 +申请岗位 +」命名发到我的邮箱，xiaozhibo.xzb@taobao.com！我会亲自看，合适的同学直接推给HR安排后续流程，主打一个快准狠，一般反馈会比较快。❓ 你可能想知道的事Q：淘天对学历背景有要求吗？A：淘天对学历背景不设限，欢迎大家投递！Q：测评和笔试重要吗？A：测评和笔试是淘天甄选人才的重要环节，会作为参考，但不是决定性因素，也请同学们认真准备。Q：没有电商背景可以投吗？A：当然可以！我们更看重你的学习能力和算法功底，业务知识可以进来再学。Q：实习转正概率大吗？A：表现优秀的实习生转正概率很高，我们prefer自己培养的人。Q：面试流程是怎样的？A：一般3-4轮技术面+1轮HR面，全程高效推进，不会拖很久。Q：base在哪里？A：杭州/北京（视HC情况）💡 大家问得最多的问题统一解答1. 校招HC充足吗？今年我们团队有多个HC，算法、工程都有需求，欢迎大家投递！2. 实习和校招可以都投吗？可以的，实习表现好可以直接走转正流程。3. 非计算机专业可以投吗？只要基础扎实、有相关项目经验，专业不限。🌟 最后想说：校招选择很重要，但不要焦虑。找到一个能让你持续成长的环境，比一时的package更重要。如果你对推荐算法感兴趣，想在大厂核心场景做有挑战的事，欢迎加入我们！👇 大家有关于行业热点前景/实习转正/技术选型/面经等方面的问题都欢迎在评论区和我互动提问。比较短的问题我会直接在评论区交流，如果是比较复杂的问题我会单独再出一篇笔记聊聊，大家记得持续关注噢！也欢迎大家帮忙转给正在找算法岗的同学～

1. 介绍一下你做过的一个大模型项目2. 如果让你设计一个适合购票的 Agent 系统，你会怎么做3. RAG 在酒旅场景里最容易出什么问题，怎么解决酒旅场景里的 RAG 最大问题不是召回不到，而是召回到了“看起来很像但不适用”的内容。比如同一家酒店不同套餐、同一航司不同舱位、同一个城市不同出发日期、同一政策不同会员等级，文本很像，但结论完全不同。模型一旦把这些证据混在一起，就很容易生成似是而非的答案。解决方法通常不是单纯提升 embedding，而是先把检索约束做对。比如 query 里要强绑定出发时间、订单状态、航司、舱位、供应商、会员等级这些 metadata，再在这个前提下做 dens...

祝大家都能拿到满意的Offer！1. 项目拷打2. 详细阐述Transformer的底层原理，并说明其能够替代RNN的核心优势；结合Transformer架构的成熟度，分析Self-Attention机制在多模态对齐任务中是否存在瓶颈，以及在实际业务场景中，是否出现过注意力权重完全偏移的情况。3. 讲解LoRA的技术原理，说明LoRA是否仅能嵌入Linear层；分析LoRA无法在LayerNorm层之后插入的原因，以及该操作会对模型训练稳定性产生哪些具体影响。4. 结合实操经验，说明QLoRA降低训练资源成本的核心逻辑；列举常见的模型量化方式，并解释QLoRA选择NF4与FP16组合而非其他方案的原因，阐述NF4的分布拟合逻辑。5. 针对采用multi-query attention优化后，decoder延迟仍居高不下的问题，分析潜在性能瓶颈；探讨vLLM自带的KV Cache是否会成为推理过程中的负担。6. 分别说明Embedding模型与Rerank模型处理文本语料的核心流程，并结合实际应用场景举例说明。7. 结合过往RAG项目经验，讲解从数据清洗到检索服务上线的完整链路搭建流程，重点说明chunk切分的具体策略。8. 分析当前RAG技术落地的最大瓶颈，并阐述你在项目中采取过哪些优化手段来提升检索召回率（Recall）。9. 针对XX领域大模型的训练工作，说明SFT（监督微调）数据集的构造方法与核心思路。10. 结合LoRA微调实操经历，说明rank值的选择依据；在合并adapter权重的过程中，是否遇到过梯度爆炸问题，以及对应的解决方法。11. 结合你的模型部署相关经验，说明模型参数量与硬件算力需求之间的对应关系（例如不同参数量级模型所需的算力配置标准）；以部署一个稀疏率千分之三的235B参数量MOE架构模型为例，估算其所需的算力规模。12. 在搭建RAG知识库时，若需对文档进行动态更新，你采用的是全量嵌入还是增量处理方案？若为增量处理，如何规避新旧文档数据分布不一致导致的检索偏差问题。13. 针对机械臂动作态融合相关工作，说明数据融合的具体实现方案，以及对比实验的设计思路与评估指标。

1. 介绍下你实习学了什么 做过什么项目,为什么离职的2. MoE 为什么能在参数量很大的情况下还能把训练和推理成本压住，真正难点在哪MoE 的关键不是“参数变多了”，而是“每个 token 只激活一部分参数”。也就是说总参数量可以做得很大，但单次前向只走少数几个 expert，所以理论上计算量不会随着总参数线性增长。这个思路在大模型里很有吸引力，因为可以同时兼顾容量和成本。但真正难的地方是路由和负载均衡。路由器如果只偏爱少数 expert，训练会很不稳定，热门 expert 被打爆，冷门 expert 学不到东西。另一个难点是通信开销，尤其多机训练时，token dispatch 和 gat...