字节大模型应用算法凉经分享-实习

1. 介绍下你实习学了什么 做过什么项目,为什么离职的2. MoE 为什么能在参数量很大的情况下还能把训练和推理成本压住，真正难点在哪MoE 的关键不是“参数变多了”，而是“每个 token 只激活一部分参数”。也就是说总参数量可以做得很大，但单次前向只走少数几个 expert，所以理论上计算量不会随着总参数线性增长。这个思路在大模型里很有吸引力，因为可以同时兼顾容量和成本。但真正难的地方是路由和负载均衡。路由器如果只偏爱少数 expert，训练会很不稳定，热门 expert 被打爆，冷门 expert 学不到东西。另一个难点是通信开销，尤其多机训练时，token dispatch 和 gat...

1.自我介绍2.拷打项目:针对长短期记忆，讲讲你是如何设计记忆的提取、压缩与冲突更新机制的？如果检测到用户存在极端情绪，你的Agent如何在不中断对话流的前提下进行干预？3.讲一下稠密向量与稀疏向量的区别，分别适合处理什么样的搜索需求？4.在向量化之前，为什么要对长文档进行切片？如果不切片会有什么后果？5.切片时设置重叠区域的作用是什么？这个比例你通常怎么来确定？6.余弦相似度和欧氏距离在衡量文本相似性时，各自的优缺点是什么？7.向量库检索出的Top-K结果，如果K值设置得过大，对后续的生成质量有哪些负面影响？8.为什么在初筛召回之后，还要加一个Rerank模型？它能解决向量搜索的哪些局限？9.如果文档发生了局部更新，如何通过增量索引来避免全量重新向量化？10.在RAG的生成阶段，如何在Prompt中设定边界条件来防止模型在没搜到内容时产生幻觉？11.调用大模型API时，为什么要使用asyncio异步编程？它在处理高并发请求时有何优势？12.了解HyDE吗？介绍一下原理，它在处理模糊提问时有哪些优势？13.随着超长上下文模型的出现，你认为传统RAG架构的必要性是否降低了？14.你了解哪些大模型推理框架？SGLang相比vLLM的PagedAttention在推理延迟上有哪些优势？15.手撕：第k大元素20.反问📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

1. 介绍一下你做过的一个大模型项目2. 如果让你设计一个适合购票的 Agent 系统，你会怎么做3. RAG 在酒旅场景里最容易出什么问题，怎么解决酒旅场景里的 RAG 最大问题不是召回不到，而是召回到了“看起来很像但不适用”的内容。比如同一家酒店不同套餐、同一航司不同舱位、同一个城市不同出发日期、同一政策不同会员等级，文本很像，但结论完全不同。模型一旦把这些证据混在一起，就很容易生成似是而非的答案。解决方法通常不是单纯提升 embedding，而是先把检索约束做对。比如 query 里要强绑定出发时间、订单状态、航司、舱位、供应商、会员等级这些 metadata，再在这个前提下做 dens...

😭大家还是多面试积累下思考经验吧，场景题真的不是随便给个方案就行的，考虑的东西确实很多，而且抓住底层核心需求才是重点，感觉只有基于这个才能优化方案