1. 介绍下你实习学了什么 做过什么项目,为什么离职的2. MoE 为什么能在参数量很大的情况下还能把训练和推理成本压住，真正难点在哪MoE 的关键不是“参数变多了”，而是“每个 token 只激活一部分参数”。也就是说总参数量可以做得很大，但单次前向只走少数几个 expert，所以理论上计算量不会随着总参数线性增长。这个思路在大模型里很有吸引力，因为可以同时兼顾容量和成本。但真正难的地方是路由和负载均衡。路由器如果只偏爱少数 expert，训练会很不稳定，热门 expert 被打爆，冷门 expert 学不到东西。另一个难点是通信开销，尤其多机训练时，token dispatch 和 gat...

秋招0offer，估计简历有问题   

🐭🐭是学院本，没有实习过😭3.2号更新一波简历，目前已经有一家进二面了，一面线上面被拷打了一个多小时，后面和负责人开始聊天。😭

四类题，提交前一类才能做下一类。  单选题，知识点包括ai和后端。 多选题，少选得1/3分，错选不得分，知识点同上。 3道编程题，题目可以看公众号的题解。 根据图书借阅规则写提示词实现一个图书借阅程序，题目规则不能复制。最后一题留点时间，我就是最后一题没时间了，提示词没写完。  感觉题又多又难，大家好好准备吧，我只能看运气了。