1. 介绍下你实习学了什么 做过什么项目,为什么离职的2. MoE 为什么能在参数量很大的情况下还能把训练和推理成本压住，真正难点在哪MoE 的关键不是“参数变多了”，而是“每个 token 只激活一部分参数”。也就是说总参数量可以做得很大，但单次前向只走少数几个 expert，所以理论上计算量不会随着总参数线性增长。这个思路在大模型里很有吸引力，因为可以同时兼顾容量和成本。但真正难的地方是路由和负载均衡。路由器如果只偏爱少数 expert，训练会很不稳定，热门 expert 被打爆，冷门 expert 学不到东西。另一个难点是通信开销，尤其多机训练时，token dispatch 和 gat...

一面3.11 45min1、拷打实习2、拷打实验室项目3、AOP、IOC4、Websocket和SSE5、DNS解析域名的流程6、基于UDP和TCP有哪些应用层协议7、completeableFuture的原理8、TD的原理，和MySQL的区别9、虚拟内存，段页式的优势和劣势10、 索引失效的场景11、Syn和AQS的区别12、spec的开发流程13、MongoDB的底层原理（不会）14、手撕：岛屿数量15、反问二面 3.16 75min1、过实习和项目2、AB测试3、kafka怎么防止丢消息4、https的握手过程5、如果你的室友正在访问一个http的网站，你怎么恶搞一下他6、kafka的I...