周三下午，组里的技术群突然安静了。 不是那种没人说话的安静，是所有人都在盯着同一个东西的安静。大促前的全链路压测刚跑完第一轮，有个核心链路的响应时间出现了异常波动。导师把压测报告转发到群里，只说了一句："大家看看。" 我盯着监控曲线，觉得哪里不对。 说实话，这种感觉很微妙。作为一个才来两个月的实习生，你会本能地怀疑自己——也许是我经验不够，也许这个波动在正常范围内，也许大家早就注意到了只是没当回事。 但我还是打开了链路追踪，开始一层一层地往下翻。 事情要从我刚入职说起。 实习第一周，导师给我分配的任务是熟悉系统，画一份核心链路的调用关系图。听起来是个"熟悉业务&q...

…… 标题党了，对不起各位牛爷爷了，请问各位简历有没有要优化的

1. 介绍下你实习学了什么 做过什么项目,为什么离职的2. MoE 为什么能在参数量很大的情况下还能把训练和推理成本压住，真正难点在哪MoE 的关键不是“参数变多了”，而是“每个 token 只激活一部分参数”。也就是说总参数量可以做得很大，但单次前向只走少数几个 expert，所以理论上计算量不会随着总参数线性增长。这个思路在大模型里很有吸引力，因为可以同时兼顾容量和成本。但真正难的地方是路由和负载均衡。路由器如果只偏爱少数 expert，训练会很不稳定，热门 expert 被打爆，冷门 expert 学不到东西。另一个难点是通信开销，尤其多机训练时，token dispatch 和 gat...