1. 介绍下你实习学了什么 做过什么项目,为什么离职的2. MoE 为什么能在参数量很大的情况下还能把训练和推理成本压住，真正难点在哪MoE 的关键不是“参数变多了”，而是“每个 token 只激活一部分参数”。也就是说总参数量可以做得很大，但单次前向只走少数几个 expert，所以理论上计算量不会随着总参数线性增长。这个思路在大模型里很有吸引力，因为可以同时兼顾容量和成本。但真正难的地方是路由和负载均衡。路由器如果只偏爱少数 expert，训练会很不稳定，热门 expert 被打爆，冷门 expert 学不到东西。另一个难点是通信开销，尤其多机训练时，token dispatch 和 gat...

秋招没有大满败，最终收到节子的offer。

timeline1.13打电话约面1.20 一面 第二天约二面1.23 二面 过了一个周末约三面1.28 三面2.2 通知三面过 offer审批2.5 oc

1.skills和tools是怎么区分的？2.skills真正的优点是什么？能做到什么？3.mcp的讲解？ mcp要定义接口的话，必须把参数那些都定义到上下文中，他是一个比较冗余的信息，会污染到上下文。正常的工具调用是不需要这些冗杂语义的，而skill会隔离这些东西在上下文里面会去隔离这些东西，不光是token消耗量。还有一个重点就是做到按需加载，渐进式加载的问题。4.长期记忆是怎么做的？用户的记忆属于实体记忆，实体记忆应该更偏向于关键词记忆，并非rag。5.接触过融合检索吗？融合检索是什么？6.混合检索的融合算法是什么样的？他的比重是什么样子的？有可能rag找回了top5，es召回了top5...