字节秋招筋斗云大模型算法一面

继续来分享下之前的面经~欢迎友好讨论，信息共享1. 看一下你的 AI 基础。介绍一下transformer 基本原理？解释一下注意力机制？解释一下什么是扩散模型？2. 讲一下你对 agent 和 Workflow 的理解3. 你知道 lovart 吗？你认为他是 agent 还是 Workflow？你怎么判断的？4. 目前这种产品二次编辑能力很差，让你来设计这个二次编辑功能你会怎么做？subject agent 的设计思维考察（意图、环境、function）5. 聊点业务上的，目前广告产品已经有很多工具能力，生成素材、投放等工具，目前我们有两个策略：A-all in one ，B 让做多个产品。你支持什么策略？为什么？6. 好在你的理解上，以广告素材生成为例，我们不只做工具，如何证明这个功能/产品的商业价值？工具生成的内容 reward 如何衡量？7. 好的，想象一个场景。我们希望打造一个产品，用户做广告不再是过去哪个先建广告组、做素材、定目标···而是交给 agent，用户只需要输入商品和基本信息，其他交给 agent 去做。那在这个过程中，main agent 发出指令，subject agent 执行。如果 subject agent 认为需要再做一个素材，这个过程应该如何流转？这个关系你会如何思考设计？

1、自我介绍2、讲一下你做过的一个最有代表性的项目3、RAG 里 chunk 怎么切，为什么这是个关键点chunk 切分会直接影响召回质量和最终回答质量。因为向量检索不是按整篇文档检，而是按切分后的片段检。如果切得太长，一个 chunk 里会混入很多无关信息，虽然语义覆盖大，但相似度不一定集中，模型拿到后也不容易抓住重点。如果切得太短，单个 chunk 虽然很纯，但上下文不完整，容易导致召回回来的内容缺少关键信息。实际做的时候一般会根据文档类型来定。像制度文档、说明文档，可以按标题、段落、语义边界切；如果是 FAQ 或问答对，本身就天然适合按条切。通常还会设置 overlap，避免一个关键信息...

面试很难，还是要多多练习，感觉自己说不明白业务逻辑1.项目拷打2.讲一下你用的大模型是什么结构，特征是怎么喂给大模型的3.讲一下multi-head attention，用pytorch手撕一下，要可以实现cross attention的4.大模型训练为什么不用SFT5.知道RLHF吗，讲一下训练流程6.问了几个电商相关的场景题，用大模型解决 prompt 应该怎么设计，怎么处理prompt的输出，怎么过滤错误格式的输出

攒人品中，祝大家都能拿到满意的Offer！1.实习拷打2.为什么要用multi-head attention？3.PPO的clip机制？在线强化学习和离线强化学习有什么区别？RLHF是哪一种？4.为什么要用reference model? 为了解决什么问题？5.如何让多个agent协同工作的？举个具体的协同机制例子。6.如果一个agent误判导致策略冲突，如何处理？7.有没有用到类似AutoGen或LangChain的框架？为什么选这个框架？8.你是怎么设计agent的记忆系统？9.长期记忆如何存储？如果历史记录量非常大，怎么优化查询效率？10.你怎么处理响应速度与推理精度之间的tradeoff？是先召回再精排，还是单次生成？