阿里国际大模型算法-日常实习一面

1. Agent 的架构设计一个完整的 Agent，一般不是单独一个大模型就能跑起来，核心会拆成几层。最上面是任务入口，负责接收用户问题和上下文；中间是决策层，负责意图识别、任务拆解、规划和工具选择；下面是执行层，真正去调工具、查知识库、访问服务；最后是记忆和状态层，维护多轮上下文、历史执行结果和中间变量。如果做得再工程化一点，通常还会加一个校验层。因为模型规划出来的步骤不一定总是对的，工具参数也可能填错，所以在执行前后都要做检查，比如参数合法性校验、工具返回结构校验、结果一致性校验。Agent 真正难的地方不是“能不能想”，而是“想完之后能不能稳定执行”。2. RAG 的检索如何实现RAG ...

给我面没招了，感觉自己好菜、面试很难，还是要多多练习1.项目拷打2.你在去部署或者训练预训练或者后训练的模型时，有没有用过一些比较底层的一些训练的调试的工具，比如说千卡的话很容易就会出NCCL timeout，如果出现 NCCL timeout，一般怎么定位和解决？3.像那种rl里面的那个MOE之类的那种的优化有去做过吗4.看您的训练经验比较丰富，而且您上线运行的推理内容之前也进行过一些什么样的优化吗？5.有没有做过 kernel级别的优化？比如用 CUTE DSL或者手写 CUDA去做 fusion这类算子融合优化，介绍一下6像底层，如果你们在做.kernel fusion，倾向于用什么方式来做7.有没有哪次你做了 fusion 结果性能反而下降的？原因是什么8.平时写 CUDA的时候，有没有关注到底层实现细节？比如你刚提到 FA2，那再往下一层，像 Hopper架构里那个 warp specialization是什么，它底层大概是怎么实现的9.试过用 Agent去生成cuda内核么，怎么去做的10.如果我把 warp specialization 去掉，只保留 tile 和 shared memory 优化，大概会损失在哪？11.怎么么判断一个 MoE 模型是真的学到了分工，而不是只是把 dense模型拆开了12.在 RL + MoE 里，有没有遇到过 reward把 routing学坏的情况？就是模型为了拿 reward，全都走某几个 expert，这种情况你当时是怎么处理的

感觉阿里系的面试官更狠一点惹：1.自我介绍；2.你的项目用的是哪些JDK？ 答：JDK8和JDK173.JDK8和JDK17有什么区别？有哪些更新的地方？ 4.请使用Stream流表达式写一个场景题（给定一个List，List里面有Person类，Person类里面有name，age，请通过Stream流把这个List里面的变成Map，其中键为name，值为person）5.上述你说的会有什么问题？ 答：name会有重复的问题。6.重复问题怎么解决？7.你说你JDK17是为了适配一些新的框架，具体是什么框架？ 答：SpringCloud Alibaba8.你对SpringCloud Aliba...

何意味😄