蚂蚁大模型llm算法日常实习面经

攒攒人品！有面试过同岗的朋友欢迎评论区交流项目：1. 意图识别具体分哪几类？是怎么做的？2. 如果是多意图该怎么处理？（单标签 vs 多标签分类）3. 场景题：动态意图问题：某个关键词词意图随时间/热点变化，模型如何适应？4. RAG在意图识别的作用5. 3B模型大流量场景下，有什么办法既能利用3B模型的效果，又不需要实时推理？6. vllm技术优势 为什么推理性能好1. 为什么选Qwen做裁判？有没有做过不同模型版本、参数的消融实验？交付指标是什么？3. dpo的正反馈样例具体指什么？是人工标的还是线上的？4. SFT后做DPO：DPO和RLHF（PPO）的区别是什么？5. 如果没有 Reference Model（参考模型），去做RL/DPO训练，会产生什么后果？（考察：KL散度约束的作用，防止Reward Hacking和语言崩坏）。八股1. DeepSeek-R1：熟悉吗？它的训练或结构创新点是什么？ （r1-zero 和 r1）2. GRPO：GRPO和PPO的区别？3. 在RL中，如果模型每次Rollout都随机不出正确答案（一直0分），导致训练停滞，该怎么解决？Lc 239 滑动窗口最大值

1. 介绍下你实习学了什么 做过什么项目,为什么离职的2. MoE 为什么能在参数量很大的情况下还能把训练和推理成本压住，真正难点在哪MoE 的关键不是“参数变多了”，而是“每个 token 只激活一部分参数”。也就是说总参数量可以做得很大，但单次前向只走少数几个 expert，所以理论上计算量不会随着总参数线性增长。这个思路在大模型里很有吸引力，因为可以同时兼顾容量和成本。但真正难的地方是路由和负载均衡。路由器如果只偏爱少数 expert，训练会很不稳定，热门 expert 被打爆，冷门 expert 学不到东西。另一个难点是通信开销，尤其多机训练时，token dispatch 和 gat...

想找大模型但是根本找不到。

1. Agent 的架构设计一个完整的 Agent，一般不是单独一个大模型就能跑起来，核心会拆成几层。最上面是任务入口，负责接收用户问题和上下文；中间是决策层，负责意图识别、任务拆解、规划和工具选择；下面是执行层，真正去调工具、查知识库、访问服务；最后是记忆和状态层，维护多轮上下文、历史执行结果和中间变量。如果做得再工程化一点，通常还会加一个校验层。因为模型规划出来的步骤不一定总是对的，工具参数也可能填错，所以在执行前后都要做检查，比如参数合法性校验、工具返回结构校验、结果一致性校验。Agent 真正难的地方不是“能不能想”，而是“想完之后能不能稳定执行”。2. RAG 的检索如何实现RAG ...