tiktok日常实习大模型算法一面

1. 你做过大模型数据处理的话，预训练数据清洗一般怎么做，去重、去噪、质量过滤分别解决什么问题？预训练数据清洗本质上是在控制“数据量”和“数据质量”之间的平衡。去重主要解决模型反复记忆同一批内容，避免浪费训练 token，也减少 benchmark 污染。去噪主要是过滤乱码、模板页、广告页、低信息密度文本、机器生成垃圾内容，不然模型会学到很差的语言模式。质量过滤更偏向保留高价值内容，比如结构完整、语义通顺、知识密度高、代码块规范或者问答对明确的数据。实际工程里一般不会只靠一个规则，而是多阶段处理：先做规则清洗，再做语言识别、长度过滤、内容打分，最后再结合 dedup 和采样策略。因为预训练效果...

整体面试还是不错的，但是没后续了，不知道是哪里出了问题1. 项目拷打2. 介绍Attention，从数学角度解释一下为啥注意除以\sqrt{d_k}？3. Agent多轮对话中有哪些难点4. SFT数据集构建策略5. 介绍DPO、GRPO、PPO区别6. 如果评估RAG，评估RAG是否work7. 说一下大模型全参数微调的显存计算？说一下SMoE怎么推理的？相比于稠密模型有什么优点？8. 最近看了什么论文和技术报告？推荐算法和大模型有什么地方可以结合呢？9. 手撕：搜索排序数组

1. Agent 的架构设计一个完整的 Agent，一般不是单独一个大模型就能跑起来，核心会拆成几层。最上面是任务入口，负责接收用户问题和上下文；中间是决策层，负责意图识别、任务拆解、规划和工具选择；下面是执行层，真正去调工具、查知识库、访问服务；最后是记忆和状态层，维护多轮上下文、历史执行结果和中间变量。如果做得再工程化一点，通常还会加一个校验层。因为模型规划出来的步骤不一定总是对的，工具参数也可能填错，所以在执行前后都要做检查，比如参数合法性校验、工具返回结构校验、结果一致性校验。Agent 真正难的地方不是“能不能想”，而是“想完之后能不能稳定执行”。2. RAG 的检索如何实现RAG ...

给我面没招了，发点面经攒攒人品～1.针对智能问答机器人，大模型上下文窗口有限，一般的解决方案是什么?2.记忆系统相较于RAG的优点是什么?3.对话系统的对话存储方式如何设计?4.如何对用户输入进行意图识别和分类?5.为什么记忆系统需要设计遗忘曲线?为什么有些信息需要被遗忘?6. LangChain、 Llamalndex 和 LangGraph的区别是什么?7.什么是MCP(ModelContextProtocol)?MCP的运转流程是什么?8.大模型FunctionCalling的能力是如何实现的?9.如果系统中的工具过多，导致模型调用工具能力变差，如何解决?10.如果工具路由(Router)失败，有什么方法可以缓解?11.在模型层面如何优化工具调用能力?12.如果通过微调来优化工具调用能力，一般采用哪种微调方式?13.如何在大模型系统中接入强化学习进行优化?14.算法题:合并区间(力扣56)