大疆大模型算法实习凉经 依旧攒人品

发一下问题给大家参考，攒攒人品！1.实习拷打2.新闻场景下用了什么样的新模型？关键工作是做了什么？3.DIN模型介绍？4.第一版本模型迭代不动了，怎么进行下一次迭代？5.特征工程中，怎么确定哪一些是有意义的特征，哪些是冗余特征，怎么进行确定？6.word2vec用的哪一个？解释这个方法。损失是个交叉熵吗？损失函数的公式？损失函数中负样本损失是一个还是多个？7.大模型相关的了解吗？LLM和MLLM8.拷打其他项目9.手撕：hot100 mid

1. Agent 的架构设计一个完整的 Agent，一般不是单独一个大模型就能跑起来，核心会拆成几层。最上面是任务入口，负责接收用户问题和上下文；中间是决策层，负责意图识别、任务拆解、规划和工具选择；下面是执行层，真正去调工具、查知识库、访问服务；最后是记忆和状态层，维护多轮上下文、历史执行结果和中间变量。如果做得再工程化一点，通常还会加一个校验层。因为模型规划出来的步骤不一定总是对的，工具参数也可能填错，所以在执行前后都要做检查，比如参数合法性校验、工具返回结构校验、结果一致性校验。Agent 真正难的地方不是“能不能想”，而是“想完之后能不能稳定执行”。2. RAG 的检索如何实现RAG ...

整体面试还是不错的，但是没后续了，不知道是哪里出了问题1. 如何进行混合加训2. 混合加训和 continue sft 你觉得哪个效果好，为什么？3. Sft loss的起点数值和收敛情况。4. 讲解一下 rlvr 使用的策略。5. 训练 1t 模型遇到哪些困难，跟小尺寸模型有什么不同6. Benchmark 测评情况，如何根据 benchmark 进行模型效果优化。手撕：top-p sampling、grpo

1. 你做过大模型数据处理的话，预训练数据清洗一般怎么做，去重、去噪、质量过滤分别解决什么问题？预训练数据清洗本质上是在控制“数据量”和“数据质量”之间的平衡。去重主要解决模型反复记忆同一批内容，避免浪费训练 token，也减少 benchmark 污染。去噪主要是过滤乱码、模板页、广告页、低信息密度文本、机器生成垃圾内容，不然模型会学到很差的语言模式。质量过滤更偏向保留高价值内容，比如结构完整、语义通顺、知识密度高、代码块规范或者问答对明确的数据。实际工程里一般不会只靠一个规则，而是多阶段处理：先做规则清洗，再做语言识别、长度过滤、内容打分，最后再结合 dedup 和采样策略。因为预训练效果...