🎯 面试题：大模型热更新与流量调度平台【整理真题+解析+押题预测】 公司：字节跳动年份：2026月份：1月面试轮次：三面岗位：AI平台研发工程师难度：⭐⭐⭐⭐⭐真题：“假设字节的推荐系统需要从ERNIE 3.0模型灰度升级到ERNIE 4.0。设计一个支持大模型热更新的流量调度平台。要求实现：1）可实时调整新旧模型的流量比例（如90%流量走V3，10%走V4）；2）平滑无损切换，不能因更新导致服务中断；3）支持基于用户ID、设备ID等维度的精细化分流。给出架构设计、核心代码，并说明如何保证数据一致性（比如同一个用户的请求必须路由到同一个模型版本）。”💡 解析：这是典型的三面架构题，直接考察...

一开始还有一些小厂中厂找我，现在啥都没有了

人怎么对AI的容忍度如此之大  

项目深挖很多，也聊到了互联和软件硬件协同最近面了一场阿里云的 AI Infra 二面，整体感受是，这轮不是那种偏八股或者偏刷题的面试，更像是围绕项目经历一路深挖，看你到底有没有真的做过优化，也看你对自己后面想做的方向是不是足够清楚。开头还是常规自我介绍，我主要讲了自己现在在做的方向，包括 AI Infra、异构计算、底层性能优化，以及一些算子开发、图优化、推理优化相关的经历。后面的问题也基本都是顺着这些内容往下展开。前半段主要是在深挖项目。面试官先问了我现在做过的几类事情，我把内容归成了三块：一块是算子优化，一块是算子融合和图优化，还有一块是一些稳定性问题和 bug 修复。这里他问得比较细，不...