字节跳动暑期实习可转正的面试机会

面试很难，还是要多多练习，感觉自己说不明白业务逻辑1.介绍下self-attention，计算其时间复杂度。2.为什么要用multi-head attention？3.PPO的clip机制？在线强化学习和离线强化学习有什么区别？RLHF是哪一种？4.为什么要用reference model? 为了解决什么问题？5.如何让多个agent协同工作的？举个具体的协同机制例子。6.如果一个agent误判导致策略冲突，如何处理？7.有没有用到类似AutoGen或LangChain的框架？为什么选这个框架？8.你是怎么设计agent的记忆系统？9.长期记忆如何存储？如果历史记录量非常大，怎么优化查询效率？10.你怎么处理响应速度与推理精度之间的tradeoff？是先召回再精排，还是单次生成？

1. 计算机网络的五层模型和七层模型分别是什么答案：五层模型一般是应用层、传输层、网络层、数据链路层、物理层。七层模型也就是 OSI 模型，分别是应用层、表示层、会话层、传输层、网络层、数据链路层、物理层。实际工程里讲得更多的是 TCP/IP 分层和五层模型，因为更贴近真实协议栈实现。七层模型更像一种教学和抽象方式，方便理解不同职责是如何拆分的。比如 HTTP、DNS 这种通常归在应用层，TCP/UDP 在传输层，IP 在网络层，以太网协议在数据链路层。2. TCP 和 UDP 在哪一层，它们分别解决什么问题答案：TCP 和 UDP 都属于传输层协议。传输层主要解决的是端到端通信问题，也就是主...

给我面没招了。。。1. 项目拷打2. 详细阐述Transformer的底层原理，并说明其能够替代RNN的核心优势；结合Transformer架构的成熟度，分析Self-Attention机制在多模态对齐任务中是否存在瓶颈，以及在实际业务场景中，是否出现过注意力权重完全偏移的情况。3. 讲解LoRA的技术原理，说明LoRA是否仅能嵌入Linear层；分析LoRA无法在LayerNorm层之后插入的原因，以及该操作会对模型训练稳定性产生哪些具体影响。4. 结合实操经验，说明QLoRA降低训练资源成本的核心逻辑；列举常见的模型量化方式，并解释QLoRA选择NF4与FP16组合而非其他方案的原因，阐述NF4的分布拟合逻辑。5. 针对采用multi-query attention优化后，decoder延迟仍居高不下的问题，分析潜在性能瓶颈；探讨vLLM自带的KV Cache是否会成为推理过程中的负担。6. 分别说明Embedding模型与Rerank模型处理文本语料的核心流程，并结合实际应用场景举例说明。7. 结合过往RAG项目经验，讲解从数据清洗到检索服务上线的完整链路搭建流程，重点说明chunk切分的具体策略。8. 分析当前RAG技术落地的最大瓶颈，并阐述你在项目中采取过哪些优化手段来提升检索召回率（Recall）。9. 针对XX领域大模型的训练工作，说明SFT（监督微调）数据集的构造方法与核心思路。10. 结合LoRA微调实操经历，说明rank值的选择依据；在合并adapter权重的过程中，是否遇到过梯度爆炸问题，以及对应的解决方法。11. 结合你的模型部署相关经验，说明模型参数量与硬件算力需求之间的对应关系（例如不同参数量级模型所需的算力配置标准）；以部署一个稀疏率千分之三的235B参数量MOE架构模型为例，估算其所需的算力规模。12. 在搭建RAG知识库时，若需对文档进行动态更新，你采用的是全量嵌入还是增量处理方案？若为增量处理，如何规避新旧文档数据分布不一致导致的检索偏差问题。

相比一面偏基础与语言细节，微信支付的二面明显更偏向系统设计 + 工程能力 + 真实场景问题。整体感受可以总结为一句话：不再考“你会什么”，而是考“你在复杂系统里能不能做决策”。问题往往有几个特点：从项目出发，一路深挖强调高并发、高可用、数据一致性关注线上问题处理经验非常看重“设计能力”和“取舍意识”很多问题没有标准答案，但每个问题都可以被不断追问：为什么这么设计？有没有更优解？代价是什么？下面是整理后的核心问题清单。项目与工程能力介绍你做过的最有挑战性的项目，核心难点是什么？项目中最大的技术瓶颈在哪里？你是如何定位的？如果让你重新设计这个项目，你会如何优化架构？项目中有没有出现过线上事故？你是...