大模型算法面经分享 日常实习

给我面没招了，发点面经攒攒人品～1. 实习拷打2. 详细问了项目3. 数据集是怎样做扩充的？4. 为什么要SFT后还要使用DPO进行训练？5. 对于难样本是怎么解决的？6. 如何实现Function call的功能？7. 为什么RAG的效果用正确率来表示？8. RAG的文档是怎么划分的？基于什么规则划分？9. RAG召回冗余的数据怎么解决的？10. 有哪些可以优化RAG的方法？11. Decode-only和encoder-only有什么区别？

1. 你们线上大模型应用的整体架构是怎样的？常见架构就是这几层：用户请求先进入 API 网关，再到业务服务层。业务服务层负责鉴权、限流、Prompt 拼装、会话管理、工具编排。如果有知识库，就先走检索链路；如果要调外部能力，就走工具调用；最后把上下文交给大模型生成结果。生成结果出来后，再做内容过滤、格式化、日志落库、监控上报。核心链路一般是：用户请求 -> 业务编排 -> 检索/工具 -> 模型推理 -> 后处理 -> 返回结果2. 你们怎么做 Prompt 工程？Prompt 不是简单写一句提示词，而是模板化管理。常见做法是把 Prompt 拆成几部分：syst...

社招第一次面试手撕了这么多代码.....太硬核了！基操：项目做的是什么？你训练算法过程中一般用哪些损失函数？中途插入问题：qwenvl系列的模块设计由哪些部分组成？然后就直接开始手撕代码了：多模态输入、Token 处理、Self/Cross Attention、Mask、LoRA、Dataset/DataLoader、训练流程、累计梯度、eval、多进程通信、微调方法 全都要会写代码。多模态大模型算法岗 · 高频面试题 + 标准答案（完整版）1. 多模态模型（图文）输入是怎么 Tokenize 的？答：文本用文本分词器转成文本 Token。图片不直接分词，而是切成固定大小的 Patch，每个 ...