学agent

1. Transformer中Attention的本质是什么？你能从数学角度简要解释一下吗？2. 在Agent多轮对话任务中，你觉得Attention的局限性体现在哪些方面？3. 简要介绍一下SFT的核心流程，以及数据集的构建策略，SFT之后常见的Post-Training还有哪些？它们之间的目的有何区别？4. 什么是RAG，它是怎么提升生成质量的？与传统检索＋模型生成的流程有何不同？如何评估一个RAG系统是否work的？5. PPO和DPO在大模型对齐中的主要区别是什么？DPO训练通常有哪些注意事项？用过GRPO么？6. 项目里的Modular Agent，你能讲讲它是如何实现多步规划的吗？7. 项目提到了多个工具调用链路，调度策略是如何设计的？是否有异常fallback策略？8. Agent评估体系包括哪些维度？如何衡量planning能力 vs hallucination rate？9. 项目里微调Qwen，选择的训练阶段和Loss函数是如何决定的？10. Prompt自动推荐模块用了哪些优化策略？有没有尝试过Prompt压缩或embedding表示的方式？11. 场景题：假如一个Agent 推理链路包含3个工具+高频请求，系统整体延迟较高，你会如何优化？12. 代码：20.岛屿数量

校招或社招两年内的同学，希望明年3月前入职，有意向私信联系。我们正在寻找对AI技术充满热情、具备扎实工程开发基础、具备业务和算法理解能力，愿意在AI Agent方向快速成长的同学。【职位】：AI Agent应用开发工程师【部门】：阿里巴巴淘天集团-天猫技术部【核心职责】：1、参与电商领域AI Agent系统的设计、开发、实现、测试和部署。2、将大型语言模型（LLMs）或其他AI模型集成到Agent系统中，实现特定任务或功能。3、负责Agent的工具调用、记忆机制、规划推理、环境交互等核心模块的开发。4、优化Agent的性能、稳定性和可扩展性。5、与业务运营、产品经理、算法等其他工程师协作，将Agent技术落地到实际应用场景。6、跟踪AI Agent领域的最新技术和发展趋势，并应用于产品开发。【能力要求】：1、熟练掌握Python或Java开发，熟悉常用异步编程、并发处理及性能优化技巧；理解电商Web框架、后端服务架构。2、理解LLM基本原理、常见架构及推理机制，有主流LLM API的实践经验，熟悉LLM优势和局限性，了解行业最新进展。3、熟悉Agent架构设计模式，工作流编排、ReAct、Multi-Agent协作等，了解主流Agent框架（LangChain等）、工具链，了解向量数据库、Embedding技术。了解模型微调方法（LoRA、SFT、强化学习等），了解Agent训练优化方法，了解 Agent 性能评估指标、安全可靠性与错误处理机制。4、对AI有浓厚兴趣，具备优秀的学习力、沟通协作能力，具备良好的问题拆解与系统思维能力，能从用户场景出发设计 Agent 解决方案；具备在不完全明确的需求和快速变化的技术环境下，自主探索并推动项目进展的能力。5、加分项：有实际Agent项目落地经验，掌握LLM微调、模型部署，熟悉强化学习、规划算法，有开源项目贡献、技术博客、竞赛经历。

1.实习项目介绍2.手撕InfoNCE损失函数3.绝对位置编码，RoPE和ALiBi三种位置编码原理4.手撕Transformer(写一个decoder block)5.手撕多头自注意力6.说一下DPO的原理和损失函数7.DPO和PPO的区别8.DPO阶段相比SFT阶段数据和模型分布的区别无leetcode手撕

一面: 1.八股：Encoder与decoder的中Attention区别？2.八股：Attention如何计算？为什么除以根号下Dk？mask attention是如何实现的？3.八股：除了MHA还知道哪些(GQA MQA MLA)讲原理4.八股：为什么要用位置编码？为什么要用sin_cos？5.项目：问之前实习的Agent的设计逻辑，问创新方法的实现6.项目：你提到用DeepSpeed做SFT训练，请讲一下DeepSpeed ZeRO Stage 1-3的区别，以及什么时候用FSDP会更好？7.项目：问Agent的工具tool的设计，是否是workflow形式8.项目：了解哪些agent开发框架，例如langchain和LlamaIndex，他们核心应用场景有何不同9.项目：问数据的输入输出格式如何保证大模型输出稳定的json做了哪些工作10.智力题：有12个外观相同的芯片、其中一个重量不同(不知轻重)，用天平最少称几次能找出这张芯片？11.代码题：lc215 数组中的第K个最大元素