字节大模型应用算法凉经

攒人品中，祝大家都能拿到满意的Offer！1.项目拷打2生成式推荐本质上是在做隐空间到离散iD的映射，你如何证明你生成的 ID 序列保留了用户意图的最优压缩3.比如广告场景下不仅仅是预估 CTR。如果我们将生成式排序引入 GSP拍卖，大模型生成的候选列表概率分布，如何保证满足激励相容性4如果模型生成的排序导致广告主出现竞价上的博弈呢5.在H100集群上跑生成式重排，现在的瓶颈不在计算而在存储带宽。如果分阶段推理，我在Prefill阶段采用了FlashAttention-3，但在 Decoding 阶段因为 KV Cache 导致的Fragmented Memory太严重，怎么办6.推荐系统要求毫秒级响应对于1B规模的排序模型，如果我要做Speculative Decoding，你如何设计那个Draft Model？这个小模型是该学大模型的 Logits 分布，还是该学用户的Embedding聚类7.假设构建一个端到端生成式广告系统。现在面临一个场景：某个新入驻的土豪广告主投放了一批高质量视频，但由于模型对新 ID 的 Semantic Indexing 尚未完全对齐，导致第一波推荐给了错误的人群，产生了极高的 Negative Feedback，生成式模型的自回归特性会不断放大这种“第一印象”，导致该广告主瞬间被屏蔽你如何设计一套Online Counterfactual Correction这种，在不重新训练模型的前提下，通过修改 KV Cache里的隐藏状态来强行挽回这批广告的生命周期9.在短视频重排阶段使用了一个 10B 的生成式模型但是业务反馈说模型在学会了今天最火的某个梗以后，竟然忘记了如何处理用户对“长尾科普视频”的旧兴趣，发生了明显的 Catastrophic Forgetting，设计一种基于 Gradient Orthogonal Projection的优化器，确保模型在更新实时热点知识时，参数更新量在旧知识的Null Space内。10.都知道生成式模型有位置偏差从 Attention Entropy 的角度来看，为什么 $N$ 个候选 Item 在序列中的排列顺序会直接导致 Logits 的非线性漂移

1. 自我介绍2. RAG系统的核心架构、检索优化与在教育场景的落地难点RAG核心架构分为数据预处理、检索模块、提示工程、大模型生成、后处理校验五部分。检索优化包括混合检索、多轮检索、知识切片、向量库优化等。在教育场景的落地难点在于知识专业性强、知识点关联复杂，易出现检索不精准；题目、公式、图表等多模态数据的结构化提取难度大；学生提问口语化、歧义多，意图理解难度高；需严格保证知识准确性，避免大模型幻觉。解决方案包括构建教育领域专属知识库、多模态文档解析、意图识别优化、事实校验机制等。3. SFT的核心流程、数据构造要点与在教育大模型中的应用SFT核心流程为数据准备、模型选择、微调策略、训练配置...

努力拥抱AI中…1.上来先做两道题，分糖果，第i到j个元素做链表反转2.项目拷打3.实习拷打4.碰到什么困难，怎么解决的5.高并发场景下慢SQL优化6.布隆过滤器原理7.分布式锁怎么做的8.主动更新双写能保证强一致性吗，强一致性最重要的是什么9.对于布隆过滤器的判断进行二次校验不会影响性能吗，你怎么考虑的

1. 先做一下自我介绍，重点讲你做过的系统背景和你负责的核心链路2. 你在团队里主要负责哪部分，怎么证明这部分不是“打杂型开发”3. 你把整个系统架构讲一下，如果让我听完就能知道瓶颈可能在哪里4. 技术栈选型的时候你会怎么做取舍，尤其是 Redis 和消息队列为什么这么选选型不是比组件名气，而是比业务约束。Redis 适合做热点缓存、轻量状态、分布式协调和短期去重，但不适合承接强一致主数据；消息队列适合解耦、削峰和异步补偿，但不适合所有需要实时可见结果的主流程。真正的取舍点在于数据是否允许延迟、失败是否可补偿、顺序是否重要、消费是否要求可重放、以及业务能否接受最终一致。很多系统不是选错中间件，...