1. 介绍下你实习学了什么 做过什么项目,为什么离职的2. MoE 为什么能在参数量很大的情况下还能把训练和推理成本压住，真正难点在哪MoE 的关键不是“参数变多了”，而是“每个 token 只激活一部分参数”。也就是说总参数量可以做得很大，但单次前向只走少数几个 expert，所以理论上计算量不会随着总参数线性增长。这个思路在大模型里很有吸引力，因为可以同时兼顾容量和成本。但真正难的地方是路由和负载均衡。路由器如果只偏爱少数 expert，训练会很不稳定，热门 expert 被打爆，冷门 expert 学不到东西。另一个难点是通信开销，尤其多机训练时，token dispatch 和 gat...

我觉得我经历很丰富啊，为什么在西安只有7k😭

打算暑假去实习，大佬们看看我的简历ok吗？😖😖

来腾讯面试，一次问得更比两次多自我介绍、优势平常怎么接触 AI 编程（说了一下我在项目中的单人异步工作流，以及对 AI 参与到该工作流的思考，由于和 LLM 交流的产出要说起来太长被打断了）手撕：O(log N) 乘法运算符（完全没思路，在一步步引导之下做了一个把乘法拆解成位运算和加法的逻辑）终于是撕出来了AI 手撕：初始化一个项目，做一个 iPod 转盘组件，转动一定角度就切换菜单高亮项（跑通以后问 AI 怎么实现的，然后我跑了一个 /doc 加注释，那 AI 都有注释了还问你干啥了）怎么计算转盘转了多少角度（两个坐标求向量夹角、余弦定理）；被引导之下说了极坐标（不是还问高中数学？）了解哪些...