百度提前批三面

📍面试公司:百度
💻面试岗位:大模型
❓面试问题:
1. 场景题,如何提升模型的分类准确率
2. 介绍一下rag
3. 大模型上下文很长怎么办
4. 多智能体多框架
5. 大模型除了训练还能做什么提升准确率
6. 一次lora怎么获得多种领域的专业知识
7. lora是什么意思
8. lora怎么merge,两种办法有什么好处
#发面经攒人品##我的秋招日记##百度秋招提前批进度#
全部评论
佬,请问一下三面有手撕嘛
点赞 回复 分享
发布于 2025-09-15 17:05 新加坡
蹲后续
点赞 回复 分享
发布于 2025-09-12 14:42 上海

相关推荐

继续来分享下之前的面经~强度好大,俺不中咧。。。。1.实习中多智能体系统包含几个智能体?它们之间如何交互?2.意图识别模型需要识别多少个意图?3.750B 模型用于什么场景?4.实习中 Qwen3VL 模型是多少 B 的?用于什么场景?5.在实习中,你主要的贡献是什么?6.检索环节做了哪些优化?7.答案生成环节做了哪些优化?8.是否做了 SFT 或强化学习相关工作?在哪个环节做的?9.SFT 过程中是否对类别标签做了清洗或修正?10.强化学习的样本量是多少?11.基础模型经常分类分不准的案例有哪些?12.在校项目中,为什么用对话数据来增强数据集?13.在校项目任务的输出可以简单描述并举例吗?14.单智能体能否完成在校项目相关工作?为什么要使用多智能体?15.LangGraph 相对其他开源智能体编排工具的优点是什么?16.在现有场景中是否需要用到 LangGraph 的状态管理功能?17.如何理解 Long-term Memory 的实现方式?18.若将电商场景中用户的购买、点击、兴趣等信息设计为长期记忆,有什么想法?19.Context Window 能否储存大量电商交互信息?如何解决存储问题?20.推理时若将大量 Memory 以 Token 形式给到大模型,Token 长度过长该如何处理?21.强化学习有哪些常用技巧?22.若通过 SFT 进一步提升模型准确率,常用的手段有哪些?23.SFT 的理想数据量是多少?如何确定?24.SFT 数据分布一般怎么取?为什么选择该分布而非其他分布?
点赞 评论 收藏
分享
给我面没招了。。。1. 项目拷打2. 详细阐述Transformer的底层原理,并说明其能够替代RNN的核心优势;结合Transformer架构的成熟度,分析Self-Attention机制在多模态对齐任务中是否存在瓶颈,以及在实际业务场景中,是否出现过注意力权重完全偏移的情况。3. 讲解LoRA的技术原理,说明LoRA是否仅能嵌入Linear层;分析LoRA无法在LayerNorm层之后插入的原因,以及该操作会对模型训练稳定性产生哪些具体影响。4. 结合实操经验,说明QLoRA降低训练资源成本的核心逻辑;列举常见的模型量化方式,并解释QLoRA选择NF4与FP16组合而非其他方案的原因,阐述NF4的分布拟合逻辑。5. 针对采用multi-query attention优化后,decoder延迟仍居高不下的问题,分析潜在性能瓶颈;探讨vLLM自带的KV Cache是否会成为推理过程中的负担。6. 分别说明Embedding模型与Rerank模型处理文本语料的核心流程,并结合实际应用场景举例说明。7. 结合过往RAG项目经验,讲解从数据清洗到检索服务上线的完整链路搭建流程,重点说明chunk切分的具体策略。8. 分析当前RAG技术落地的最大瓶颈,并阐述你在项目中采取过哪些优化手段来提升检索召回率(Recall)。9. 针对XX领域大模型的训练工作,说明SFT(监督微调)数据集的构造方法与核心思路。10. 结合LoRA微调实操经历,说明rank值的选择依据;在合并adapter权重的过程中,是否遇到过梯度爆炸问题,以及对应的解决方法。11. 结合你的模型部署相关经验,说明模型参数量与硬件算力需求之间的对应关系(例如不同参数量级模型所需的算力配置标准);以部署一个稀疏率千分之三的235B参数量MOE架构模型为例,估算其所需的算力规模。12. 在搭建RAG知识库时,若需对文档进行动态更新,你采用的是全量嵌入还是增量处理方案?若为增量处理,如何规避新旧文档数据分布不一致导致的检索偏差问题。
点赞 评论 收藏
分享
评论
点赞
5
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务