腾讯-混元大模型面经-华5硕-主页内tui❗❗腾讯26届春招提前批/26届暑期实习生/日常实习生/25届补录招聘启动 | 所有专业类型均有岗位🏅中国民营企业500强排行榜第6位【在招岗位】1. 技术类：软件开发、技术运营、安全技术、测试与质量管理、技术研究、解决方案与服务、硬件开发2. 产品类：游戏产品、内容制作、通用产品、金融产品、项目管理3. 设计类：游戏美术、平面交互4. 市场类：战略投资、市场营销、公共关系、销售拓展5. 职能类：财经分析、人力资源、法律与公共政策、行政支持【招聘范围】应届生（24届、25届可投）、实习生（在校生可投）、青云计划（23届/24届/25届博士、24届/25届硕士）【网申链接】https://join.qq.com/resume.html?k=ANQI6RfQ3rhPS2dpyIkeSw腾讯-混元大模型面经-华5硕部门与岗位：TEG - 混元大模型团队 - 大模型对齐一面自我介绍，过实习，讲论文，论文过的比较细，有说的笼统的地方面试官会实时进行询问交流了解哪些大模型，简要挑一两个介绍一下，当时说了 Qwen 和 DeepSeek，然后面试官又问了这两个有什么区别接着上一问，为什么大家都开始探索 MoE 架构，MoE 相比 Dense 有什么好处在之前实习的时候用 LoRA 微调过 Qwen，于是问了有没有全量微调过，有没有对比过两者的性能表现讲一下大模型训练和推理的流程，SFT 和 RLHF 的作用分别是什么在 RLHF 中，目前主流的强化学习算法有哪几个，写一下损失函数的表达式代码：22. 括号生成代码：多头自注意力一面问的八股还是比较多的，问的也比较细，而且还写了两道代码题，整个面试花的时间也比较多，大概一个半小时左右二面自我介绍，过实习和论文，面试官会一起进行探讨，包括工作的动机、贡献和结果，也会提一些问题和建议之前实习用 DeepSpeed 微调过 Qwen2-72B，于是面试官问了 ZeRO-1，ZeRO-2，ZeRO-3 三个模式的区别当时你用 DeepSpeed ZeRO-3 来微调 Qwen2-72B，每一张卡占用的显存大概是多少，估算一下为什么是占这么多的显存除了 DeepSpeed，还用过其他的什么优化方法吗我看你也用到了 LoRA，知道 LoRA 的原理吗，A 和 B 两个矩阵怎么初始化，有了解过其他的初始化方法吗对 RLHF 了解的多吗代码：3. 无重复字符的最长子串二面更多的是结合具体的工作来问的，从用到的东西来引出问题，问的也比较灵活。当然因为部门主要是做对齐的，所以也大概聊了聊 RLHF三面自我介绍，挑一个觉得做的比较好的论文和实习讲一下，面试官问的比较详细，为什么选现在这种方案，为什么 work，其他方案有考虑吗在微调 Qwen 的时候，数据是怎么构造的，有用到什么数据清洗方法吗，数据配比是怎么做的讲一下 RLHF 的流程，之前有用 RLHF 做过模型对齐吗在做对齐的时候，为什么 SFT 之后还要做 RLHF，只用 SFT 可以吗知道哪些强化学习算法，除了 PPO 和 DPO 这些呢，DeepSeek 用的 GRPO 相比于 GPT 的 PPO 做了哪些改进开放题：对目前大模型的发展有什么看法代码：零钱的两个题 322. 零钱兑换518. 零钱兑换 II三面面试官更聚焦于对齐这一块的内容，考的比较深。由于之前没有接触过强化学习，答得还是比较吃力的，不过面试官还挺好的，会一起讨论来做引导四面自我介绍，过论文和实习，问的也比较细，这里能明显的感受出来面试官的视角更系统，会把这些工作串起来问我看你简历上没写 RLHF，平常有用过 RLHF 吗推导一下神经网络反向传播的过程一道排列组合的概率题开放题：你觉得大模型目前还有哪些可以改进的点四面整体更看重思维和基础，没有考察什么八股总结一共四轮技术面，整体来说强度比较大，对于大模型八股的考察比较细，对大模型的理解问的也比较深刻，包括一些数理逻辑基础，考察的比较全面腾讯-混元大模型面经-华5硕-主页内tui腾讯-混元大模型面经-华5硕-主页内tui❗❗腾讯26届春招提前批/26届暑期实习生/日常实习生/25届补录招聘启动 | 所有专业类型均有岗位🏅中国民营企业500强排行榜第6位【在招岗位】1. 技术类：软件开发、技术运营、安全技术、测试与质量管理、技术研究、解决方案与服务、硬件开发2. 产品类：游戏产品、内容制作、通用产品、金融产品、项目管理3. 设计类：游戏美术、平面交互4. 市场类：战略投资、市场营销、公共关系、销售拓展5. 职能类：财经分析、人力资源、法律与公共政策、行政支持【招聘范围】应届生（24届、25届可投）、实习生（在校生可投）、青云计划（23届/24届/25届博士、24届/25届硕士）【网申链接】https://join.qq.com/resume.html?k=ANQI6RfQ3rhPS2dpyIkeSw腾讯-混元大模型面经-华5硕部门与岗位：TEG - 混元大模型团队 - 大模型对齐一面自我介绍，过实习，讲论文，论文过的比较细，有说的笼统的地方面试官会实时进行询问交流了解哪些大模型，简要挑一两个介绍一下，当时说了 Qwen 和 DeepSeek，然后面试官又问了这两个有什么区别接着上一问，为什么大家都开始探索 MoE 架构，MoE 相比 Dense 有什么好处在之前实习的时候用 LoRA 微调过 Qwen，于是问了有没有全量微调过，有没有对比过两者的性能表现讲一下大模型训练和推理的流程，SFT 和 RLHF 的作用分别是什么在 RLHF 中，目前主流的强化学习算法有哪几个，写一下损失函数的表达式代码：22. 括号生成代码：多头自注意力一面问的八股还是比较多的，问的也比较细，而且还写了两道代码题，整个面试花的时间也比较多，大概一个半小时左右二面自我介绍，过实习和论文，面试官会一起进行探讨，包括工作的动机、贡献和结果，也会提一些问题和建议之前实习用 DeepSpeed 微调过 Qwen2-72B，于是面试官问了 ZeRO-1，ZeRO-2，ZeRO-3 三个模式的区别当时你用 DeepSpeed ZeRO-3 来微调 Qwen2-72B，每一张卡占用的显存大概是多少，估算一下为什么是占这么多的显存除了 DeepSpeed，还用过其他的什么优化方法吗我看你也用到了 LoRA，知道 LoRA 的原理吗，A 和 B 两个矩阵怎么初始化，有了解过其他的初始化方法吗对 RLHF 了解的多吗代码：3. 无重复字符的最长子串二面更多的是结合具体的工作来问的，从用到的东西来引出问题，问的也比较灵活。当然因为部门主要是做对齐的，所以也大概聊了聊 RLHF三面自我介绍，挑一个觉得做的比较好的论文和实习讲一下，面试官问的比较详细，为什么选现在这种方案，为什么 work，其他方案有考虑吗在微调 Qwen 的时候，数据是怎么构造的，有用到什么数据清洗方法吗，数据配比是怎么做的讲一下 RLHF 的流程，之前有用 RLHF 做过模型对齐吗在做对齐的时候，为什么 SFT 之后还要做 RLHF，只用 SFT 可以吗知道哪些强化学习算法，除了 PPO 和 DPO 这些呢，DeepSeek 用的 GRPO 相比于 GPT 的 PPO 做了哪些改进开放题：对目前大模型的发展有什么看法代码：零钱的两个题 322. 零钱兑换518. 零钱兑换 II三面面试官更聚焦于对齐这一块的内容，考的比较深。由于之前没有接触过强化学习，答得还是比较吃力的，不过面试官还挺好的，会一起讨论来做引导四面自我介绍，过论文和实习，问的也比较细，这里能明显的感受出来面试官的视角更系统，会把这些工作串起来问我看你简历上没写 RLHF，平常有用过 RLHF 吗推导一下神经网络反向传播的过程一道排列组合的概率题开放题：你觉得大模型目前还有哪些可以改进的点四面整体更看重思维和基础，没有考察什么八股总结一共四轮技术面，整体来说强度比较大，对于大模型八股的考察比较细，对大模型的理解问的也比较深刻，包括一些数理逻辑基础，考察的比较全面

📍面试公司：快手👜面试岗位： java 开发📖面试问题：一面自我介绍+项目分层缓存架构数据如果只存在 redis 中可以吗 DB 中的写压力MQ 有消息积压吗DB 的 TPS怎么分库分表的读写分离如果你们的redis中要新增一个数据，是怎么做的怎么做的异步重试redis 中是什么形式来存的数据如果突然有很多数据要写进redis了，有什么措施如果缓存了 5 页数据，这个时候新增加了一条，会发生什么每台实例上的本地缓存都要存储所有的数据信息吗如果数据越来越多会对本地缓存造成什么影响本地缓存淘汰策略秒杀场景下单全流程库存回刷有一笔订单用户取消了，这个时候 redis 成功了但是数据库没成功，会...

# 更新：挂---## 限流1. 你是用 Sentinel 做了限流是吧？然后你用的限流算法是什么？  2. 除了滑动窗口算法，你还知道哪些限流算法？  3. 你的 Sentinel 默认给他做了实现，选择令牌桶或者漏桶算法，用 Redis 来实现一下？  4. 直接点来说，你用了哪些 Redis 的命令？怎么设计的？---## JWT5. 说一下分布式集群的身份认证难题，你的难题是在哪？  6. 你在保存客户端的是什么信息？把用户信息保存在哪？会不会被破解了？  7. 这个的问题是不是可以用更简单的方式去解决？  8. 把 session 保存在 Redis 中，如果用 Spring Boot 来实现怎么做？---## RingBuff9. 讲讲环形队列的数据结构？  10. 就是说环形队列的一个具体数据模型，比如说你要手写一个环形队列，要写哪些属性？  11. 各个方法做了什么操作？  12. 指针怎么移动的，环形队列的详细细节？---## TreeMap13. 看你说用 TreeMap 来解决一个快速匹配的订单需求，说一下具体的事情？  14. 交易的时候，比如说我以 a 价格是吧，交易 5 手，要卖买入 5 手是吧？你看现在要进行撮合，然后可能去卖普通里面有一个也是 a 价格卖出，对吧？但是他需要卖出 10 手，这时候你就你是具体代码做的是哪个操作？  15. 在这个挂单系统中，买家和卖家肯定发生了一笔交易订单，TreeMap 相当于一个本地缓存，怎么保存它的一致性？  16. 你说的是一个常规的旁路缓存的一个思路，但是在你这个系统中，你的 TreeMap 数据结构的更新应该是怎样的？  17. 只要有一个订单来，你就开始去做，相当于有一个订单提交接口，我们提交了一个买单或者一个卖单，然后你同步去完成这个事情？（这里确实是有点紧张了，我是用 RocketMQ 异步来完成的，但是没说出来）---## 分布式18. 异步写回数据库消息会丢失吗？（这里应该是想问消息丢失的解决方法，结果我说简单的情况不会丢失）  19. 消息会重复吗？  20. 分布式锁是吧？你还提到了事务消息，那就简单说一下什么叫事务消息？（没事给自己挖坑）  21. 分布式事务的一致性有几种实现方式？（只记得一个两阶段提交）---## 点评22. 用 ThreadLocal 和拦截器来做 token 校验，说一说具体的场景和具体的实现？  23. 你用 ThreadLocal 来解决什么问题？  24. 拦截器具体指的是什么的拦截？（有点脑子不转了）---## 手撕- N 皇后---## 总结1. 因为看别人的面经基本上都是八股，所以这两天主要准备的都是八股的问题，项目来说还是不太熟吧，当然他问的问题。感觉也比较随性和有的地方比较偏。当然自身对项目的熟悉程度还是不够，所以接下来还要深入去学习和理解。  2. 还有就是有些问题的表述不够清晰，甚至来说比较混乱，所以还是要多练习表达吧。