字节番茄大模型算法实习一面面经

攒人品中，祝大家都能拿到满意的Offer！1.项目拷打2生成式推荐本质上是在做隐空间到离散iD的映射，你如何证明你生成的 ID 序列保留了用户意图的最优压缩3.比如广告场景下不仅仅是预估 CTR。如果我们将生成式排序引入 GSP拍卖，大模型生成的候选列表概率分布，如何保证满足激励相容性4如果模型生成的排序导致广告主出现竞价上的博弈呢5.在H100集群上跑生成式重排，现在的瓶颈不在计算而在存储带宽。如果分阶段推理，我在Prefill阶段采用了FlashAttention-3，但在 Decoding 阶段因为 KV Cache 导致的Fragmented Memory太严重，怎么办6.推荐系统要求毫秒级响应对于1B规模的排序模型，如果我要做Speculative Decoding，你如何设计那个Draft Model？这个小模型是该学大模型的 Logits 分布，还是该学用户的Embedding聚类7.假设构建一个端到端生成式广告系统。现在面临一个场景：某个新入驻的土豪广告主投放了一批高质量视频，但由于模型对新 ID 的 Semantic Indexing 尚未完全对齐，导致第一波推荐给了错误的人群，产生了极高的 Negative Feedback，生成式模型的自回归特性会不断放大这种“第一印象”，导致该广告主瞬间被屏蔽你如何设计一套Online Counterfactual Correction这种，在不重新训练模型的前提下，通过修改 KV Cache里的隐藏状态来强行挽回这批广告的生命周期9.在短视频重排阶段使用了一个 10B 的生成式模型但是业务反馈说模型在学会了今天最火的某个梗以后，竟然忘记了如何处理用户对“长尾科普视频”的旧兴趣，发生了明显的 Catastrophic Forgetting，设计一种基于 Gradient Orthogonal Projection的优化器，确保模型在更新实时热点知识时，参数更新量在旧知识的Null Space内。10.都知道生成式模型有位置偏差从 Attention Entropy 的角度来看，为什么 $N$ 个候选 Item 在序列中的排列顺序会直接导致 Logits 的非线性漂移

这份题库不是随便凑出来的 100 道题，而是从大量面经和题目里 筛出来的高频题。我整理了上百套校招、实习、校招的大模型相关面试题，又结合公开平台上反复出现的问题，把那些 出现次数最多、覆盖岗位最广、面试最容易问到 的内容统一收拢，最后形成这套 大模型常考面试题100道76. 训练和推理为什么要区分开看？答：因为两者关注的目标完全不一样。训练更关注怎么把模型能力学出来，重点在数据、loss、优化器、并行训练和收敛稳定性；推理更关注怎么把模型高效跑起来，重点在延迟、吞吐、显存、并发和成本。很多技术在训练阶段成立，不代表在线推理就划算。所以做大模型不能只会训练或者只会部署，至少要知道这两套问题是分开...

给我面没招了，发点面经攒攒人品～1.项目拷打2.语义漂移吗？如果遇到罕见病，模型产生‘幻觉对齐’导致误操，有没有方案去做兜底3.在医疗决策里，‘兴趣’是伪命题，‘合规’才是核心。用常规的DIN是做用户兴趣建模，但把DIN 里的激活单元改成了双线性交互这会不会导致模型对‘强特征’（如过敏史）的敏感度被‘软语义’稀释？4.知识库里既有权威指南又有脱敏病例。当这两者发生逻辑冲突时（比如新版指南否定了旧病例的方案），路由机制是怎么做确定性仲裁的？5.说的算子融合具体是怎么做的6.做生成式推荐重构，LLM虽然语义理解强，但天生带有选择偏见（。在冷启动场景下，怎么保证模型生成的物料序列不会陷入‘信息茧房’？7.手术机器人的环境是很复杂的，比如它组织形变是不规则的。你提到的不确定性感知），具体是基于传统的卡尔曼滤波还是基于大模型的分层鲁棒控制？当模型预测的8.动作序列与传感器实时反馈发生显著偏离，怎么实现毫秒级的安全制动9.用Pseudo-ID做时序追踪，但如果攻击者通过多维病理特征进行逆向重构，Embedding层做了哪些差分隐私处理10.手撕：Transformer block实现

这份题库不是随便凑出来的 100 道题，而是从大量面经和题目里 筛出来的高频题。我整理了上百套校招、实习、校招的大模型相关面试题，又结合公开平台上反复出现的问题，把那些 出现次数最多、覆盖岗位最广、面试最容易问到 的内容统一收拢，最后形成这套 大模型常考面试题100道26. AI Agent 的核心组成有哪些？答：一个完整的 Agent 一般至少有这几部分：大模型本身、任务规划、工具调用、记忆模块、执行控制和结果整理。大模型负责理解和推理，规划模块负责决定下一步做什么，工具模块负责和外部系统交互，记忆模块负责保留用户偏好和任务状态，执行控制负责重试、终止和异常处理。真正上线的 Agent 往往...