字节二面

上周二投的暑期实习，没想到周四就约面了，一边疯狂准备一边拖，终于今天完成了自己的第一面。前面问了十几分钟agent项目，后面回到java部分。HashMap 的底层实现是什么？是线程安全的吗？HashMap 会有死循环问题吗？如果要用线程安全的数据结构，有什么替代方案？synchronized 的底层实现大概是怎么样的？线程锁锁的到底是什么？ThreadLocal 有了解吗？大概是怎么回事？ThreadLocal 在什么场景下会用到？在你的项目中，有用到 ThreadLocal 吗？Redis 常见的数据结构有哪些？ZSet 和 Set 的底层实现有了解吗？缓存雪崩、穿透、击穿分别是怎么回事？...

不知道过两年会变成啥样…   

1. 介绍下你实习学了什么 做过什么项目,为什么离职的2. MoE 为什么能在参数量很大的情况下还能把训练和推理成本压住，真正难点在哪MoE 的关键不是“参数变多了”，而是“每个 token 只激活一部分参数”。也就是说总参数量可以做得很大，但单次前向只走少数几个 expert，所以理论上计算量不会随着总参数线性增长。这个思路在大模型里很有吸引力，因为可以同时兼顾容量和成本。但真正难的地方是路由和负载均衡。路由器如果只偏爱少数 expert，训练会很不稳定，热门 expert 被打爆，冷门 expert 学不到东西。另一个难点是通信开销，尤其多机训练时，token dispatch 和 gat...