百度提前批大模型算法一面

无手撕代码，全提问。1. 简历上有vlm相关的一个比赛，疯狂被拷打。DPO，PPO啥的，由于主要不做这个，被干烂了。2. 然后聊自己的research，纯cv，一直问一直问，死抠细节。这部分强相关，所以回答比较容易。大概方向：深度估计，单目估计。3. BG：本科成电：数模国奖，奖学金国奖，专业第二博士双学位：国科大信号信息，港城大数据科学。成果：两篇B的trans，1篇某cv大顶刊在投。许愿过一面， 阿门。

leader说比较悬最后要看大老板的决策折磨人啊准备全力秋招了leader说技术深度不够，答的也不太好个人表达还是不太行，得找个PPT汇报的课程听一下，学两招开始改简历和秋招PPT加油吧

准备投递大模型后训练/应用，基础较弱求狠批，项目是本科毕设比较水，不知道要不要将实习拆开成Rag和微调两个，把Rag/微调写到项目

先是自我介绍，聊了聊项目和之前的实习。八股：1. 大模型预测 token 的损失是怎么算的？有哪几种常见的损失函数？2. 讲讲大模型的思维链技术？3. 聊聊 Transformer？它有啥优势？位置编码是咋做的，有啥改进？ROPE 是啥？Transformer 是怎么把文本转成 token 的？4. Lora 微调八股：矩阵 A, B 怎么初始化？为啥 B 要初始化成 0，A 不行吗？啥是矩阵的秩？5. Bert 和 GPT 有啥区别？大模型时代，小模型还有用吗？6. MHA 是啥？有啥改进？讲讲 DeepSeek 的 MLA？7. MOE 一般加在哪？从训练和推理的角度看，MOE 有啥好处？...