蚂蚁大模型LLM实习一面

请问各位大佬，这种情况是怎么回事：之前蚂蚁一面，面完2h就通知过了，但是今天二面面完到现在还没消息，官网上的流程还在走，但是岗位换成另外一个了。

1、自我介绍2、项目拷打3、讲一下 OpenClaw 的记忆本地存储怎么设计如果做本地记忆存储，我不会把它设计成简单的对话历史追加，而会把它拆成短期记忆、长期记忆和检索索引三层。短期记忆主要服务当前会话，用来保存最近几轮对话、当前任务状态、工具调用结果和待执行动作；长期记忆主要保存用户偏好、历史事实、任务总结和可复用经验；检索索引层则负责把长期记忆做结构化检索和语义召回。本地存储设计时，数据模型最好不要只存一段纯文本，而是存结构化记录。比如：memory_iduser_idsession_idmemory_typecontentsummarytagscreated_atupdated_atim...

发点面经攒攒人品～1.项目介绍2.介绍实习3.数据集使用的是公开数据集还在有自己构造数据集大模型相关八股提问4.分别讲一下 Dense 模型和 MoE 模型以及二者的区别5.讲一下MoE的 路由机制是如何做的6.训练完验证使用的是什么数据集7.做这个工作的过程中的难点在哪8.如何做的 SFT9.介绍一下 PPO10.讲一下 RAG 项目11.分类任务常用的评测指标有哪些12.讲一下 LoRA 微调的原理13.A、B 矩阵怎么初始化的14.LoRA 微调秩设置的是多少coding最小生成树

给我面没招了，发点面经攒攒人品～1* 项目拷打2* 项目的数据来源是什么？你是如何确定优化目标的？3* 比如数据从 100 条扩充到 1.2 万条，是否全通过自动化生成？生成的样本具体是什么样的？举个例子说明一下生成前后的对比4* 怎么保证自动化生成数据的正确性呢5* 在通过调整参数直到模型回答正确为止的过程中，是否意味着生成的CoT中存在错误逻辑？6* 经过数据清洗后，最终用于SFT的有效数据量是多少？7* 在做微调时，除了 LoRA 是否对比过其他的微调算法8* 你是如何评价微调效果的？测试集的比例是多少？微调前后的准确率分别是多少？原有的模型性能保留了多少？9* LLM常用的结构是什么？10* 说一下Transformer 的整体结构11* 目前主流大模型最常用的位置编码是什么？。12* 写一下多头注意力机制的数学公式。13* 公式中为什么要除以 \sqrt{d_k}？其对梯度消失或梯度爆炸有什么影响？14* 在 Transformer 的 Encoder 和 Decoder 中，哪些部分是可以并行计算的，哪些不可以？15* 除了 LoRA，你还了解哪些微调方法？16* 大模型训练通常使用什么损失函数17* 在机器学习基础中，二分类问题、多分类问题以及回归问题分别使用什么损失函数？18* 你了解哪些优化算法19* 模型训练中出现过拟合的常用解决方案有哪些？