字节多模态大模型算法岗二面面经

攒人品中，祝大家都能拿到满意的Offer！1.项目拷打2生成式推荐本质上是在做隐空间到离散iD的映射，你如何证明你生成的 ID 序列保留了用户意图的最优压缩3.比如广告场景下不仅仅是预估 CTR。如果我们将生成式排序引入 GSP拍卖，大模型生成的候选列表概率分布，如何保证满足激励相容性4如果模型生成的排序导致广告主出现竞价上的博弈呢5.在H100集群上跑生成式重排，现在的瓶颈不在计算而在存储带宽。如果分阶段推理，我在Prefill阶段采用了FlashAttention-3，但在 Decoding 阶段因为 KV Cache 导致的Fragmented Memory太严重，怎么办6.推荐系统要求毫秒级响应对于1B规模的排序模型，如果我要做Speculative Decoding，你如何设计那个Draft Model？这个小模型是该学大模型的 Logits 分布，还是该学用户的Embedding聚类7.假设构建一个端到端生成式广告系统。现在面临一个场景：某个新入驻的土豪广告主投放了一批高质量视频，但由于模型对新 ID 的 Semantic Indexing 尚未完全对齐，导致第一波推荐给了错误的人群，产生了极高的 Negative Feedback，生成式模型的自回归特性会不断放大这种“第一印象”，导致该广告主瞬间被屏蔽你如何设计一套Online Counterfactual Correction这种，在不重新训练模型的前提下，通过修改 KV Cache里的隐藏状态来强行挽回这批广告的生命周期9.在短视频重排阶段使用了一个 10B 的生成式模型但是业务反馈说模型在学会了今天最火的某个梗以后，竟然忘记了如何处理用户对“长尾科普视频”的旧兴趣，发生了明显的 Catastrophic Forgetting，设计一种基于 Gradient Orthogonal Projection的优化器，确保模型在更新实时热点知识时，参数更新量在旧知识的Null Space内。10.都知道生成式模型有位置偏差从 Attention Entropy 的角度来看，为什么 $N$ 个候选 Item 在序列中的排列顺序会直接导致 Logits 的非线性漂移

感觉面试官自己也不是很熟 没怎么招过1. 你挑一个最熟悉的项目详细讲一下，重点说业务背景、数据形态和你负责的部分2. 如果大模型输出格式和你预期不一致，你一般怎么处理这个问题如果只回答“加强 prompt 约束”会显得太浅。真实场景里，输出格式不一致通常有三层原因：第一层是模型没理解任务边界，第二层是格式本身太脆弱，第三层是生成阶段没有约束。我的做法一般是先把格式要求拆成字段级约束，尽量避免开放式自然语言和结构化字段混在一起；然后再根据场景决定是用 schema 校验、函数调用、受限解码，还是生成后重排修复。如果业务要求严格，比如必须产出合法 JSON，我不会只依赖 prompt。我会让模型先...

攒攒人品！有面试过同岗的朋友欢迎评论区交流1. 实习拷打2. 项目拷打3. RLHF中奖励模型（RM）的训练数据如何构建？4. 推理加速技术5. 模型剪枝/量化（GPTQ、AWQ）、服务化框架（FastAPI+vLLM）6. 如何优化大模型在长文本生成中的显存占用？7. 微调方法对比8. 设计一个ai爬取字节视频，如何设计？9. Transformer自注意力机制、位置编码、梯度消失/爆炸的解决方案10. 如何解决大模型API服务的响应延迟问题？

背景4年前端，有AI行业的工作经历多的不说了，纪念一下吧，感觉啥都没答上来，面试官能和我聊四五十分钟也是难为他了正文为什么会有给ai用的sandbox，它的出现是为了解决什么问题？有没有用过sandbox？llm playground深挖sse和socket的区别，为什么用sse做流式而不是socket假设你现在在用这个playgroun和ai进行对话，发送按钮点击了，此时模型在不断的一个字一个字的蹦出来，在这个流式输出的过程中，我刷新了页面或者切了一下对话再切回来，这个时候作为用户我肯定希望对话是继续的，这种场景你是怎么处理的？后续面试官补充：sse不是socket，在断掉之后，是没有重连这...