百度大模型日常实习一面凉经分享

祝大家都能拿到满意的Offer！1.实习拷打2.项目拷打3.论文拷打4.问我用的什么分布式训练方法，然后让我介绍DDP5.介绍vLLM，我把我知道的关键的内容都说了6.了解deepseek吗？讲讲deepseek moe，优点和缺点是什么？7.讲讲MLA8.pytorch 的自动微分是怎么实现的

从整体来看，这一轮面试覆盖面非常广，但并不杂乱，反而体现出一个非常清晰的用人标准：工程基础 + 系统理解 + 代码能力 + 安全意识。题目横跨网络、操作系统、数据库、数据结构、C++语言特性以及系统设计，典型地体现了大厂基础面试的特点——不追求特别偏门的知识，而是反复验证你是否具备扎实的“计算机底层能力”。本文不对具体题目做答案展开，而是从“题目结构”和“准备方法”两个维度进行拆解。一、面试题目结构拆解1. 网络与安全（高频核心模块）涉及题目：HTTP 与 HTTPS 区别及 TLS 握手流程打开网页全过程常见网络安全漏洞与防护加密算法与 RSA 原理这一部分的核心不是记忆协议细节，而是理解三...

又是超过一小时的拷打，感觉这次挺综合的，八股、语言、大数据全都问了一遍1. 项目拷打，主要问我的项目为什么采用Hive Transform这种比较小众的方案，我的回答感觉他还是比较满意的2. 简述至少3种常见的排序算法，时间复杂度，稳定性3. 关系型数据库的索引的常用数据结构是？选择这种数据结构的原因是？4. MySQL中什么时候会导致索引失效？5. Java线程安全的数据结构有哪些？6. ConcurrentHashMap是怎么实现的？相比于在直接在HashMap外边加锁有什么区别？7. HashMap的key可以是什么类型？有什么要求？8. 处理金额相关的数据的时候，应该如何存储？在Java中和MySQL中应该选择什么数据类型？9. Linux下如何用一条命令统计某个目录下各个子目录的占用空间大小？10. 如果把Linux换成HDFS呢？如何统计？11. 对于一个超大的HDFS系统，会有什么性能风险？有什么优化手段？12. Spark的并发度是如何控制的？在一个任务中什么情况会导致并发度变化？13. 考虑以下场景：某电商网站有一个用户表（用户id，用户所在城市）和一个订单表（订单id，下单用户id，订单金额），请（1）统计总销售额前十的城市和这些城市对应的销售额（2）统计总销售额在10万元至20万元之间的城市14. 一个表有年、月、pv三个列，要求写行专列代码，转成年、一月、二月、三月……

1. 介绍下你实习学了什么 做过什么项目,为什么离职的2. MoE 为什么能在参数量很大的情况下还能把训练和推理成本压住，真正难点在哪MoE 的关键不是“参数变多了”，而是“每个 token 只激活一部分参数”。也就是说总参数量可以做得很大，但单次前向只走少数几个 expert，所以理论上计算量不会随着总参数线性增长。这个思路在大模型里很有吸引力，因为可以同时兼顾容量和成本。但真正难的地方是路由和负载均衡。路由器如果只偏爱少数 expert，训练会很不稳定，热门 expert 被打爆，冷门 expert 学不到东西。另一个难点是通信开销，尤其多机训练时，token dispatch 和 gat...