1. 介绍下你实习学了什么 做过什么项目,为什么离职的2. MoE 为什么能在参数量很大的情况下还能把训练和推理成本压住，真正难点在哪MoE 的关键不是“参数变多了”，而是“每个 token 只激活一部分参数”。也就是说总参数量可以做得很大，但单次前向只走少数几个 expert，所以理论上计算量不会随着总参数线性增长。这个思路在大模型里很有吸引力，因为可以同时兼顾容量和成本。但真正难的地方是路由和负载均衡。路由器如果只偏爱少数 expert，训练会很不稳定，热门 expert 被打爆，冷门 expert 学不到东西。另一个难点是通信开销，尤其多机训练时，token dispatch 和 gat...

我朋友接了美团，后面又拿了字节，跑去字节提前实习，天天抑郁症，天天内耗，哎，字节毁了一个年轻人，哎，还不如去美团蹲着

总的来说，这是一场收获很大的面试，感觉面试官不是以老员工的角度来拷打我，而是以一个引路人的视角带着我去思考一些场景问题，用一些真实场景来向我展示平时所学应该如何应用，然后问问题也都是笑着和我聊天那种问法，感觉是一个很有人格魅力的人，就是在他面前基本上说不了谎，而且感觉他更喜欢那种真诚地回答以及真实的思考，真的对我自己有很大的帮助，真的给字节点个大大的赞

公司：腾讯部门：搜狗输入法岗位：客户端开发Q1：自我介绍Q2：线程和进程的区别Q3：哈希表了解吗Q4：介绍一下红黑树Q5：工厂模式了解吗，有哪些优缺点Q6：在浏览器中输入一个网址到跳转到网页，这过程中是如何实现的Q7：说明一下TCP连接过程Q8：手撕一个代码，给定一个数组，要求将其元素升序排序Q9：实习中遇到的最大的技术难点是什么然后就是反问环节了，整体问的问题不是很难，多背背八股、多刷刷代码就好了，面试官人挺好的