【招聘】华为终端小艺大模型

TimeLine：9.9 一面9.11 二面9.13 三面9.17 hr面一定要过啊，我可是把东子拒了等你更新：已oc

体感最难的一次面试，全程被拷打(应该是公司风格，感觉面试官人还行但是没开摄像头)40分钟coding 40分钟拷打简历1.线性回归/kmeans概念，手写线性回归2.torch手撕MLA(没写出来)3.问项目，sft/rft怎么做的，提问数据集细节4.DAPO (项目中提到)做了哪些改进5.多模态模型的thinking能力训练相比纯文本的 thinking训练有什么不同6.你们训练视觉thinking的COT哪来的(答:用开源数据集/sota模型蒸馏)，追问那他们的视觉cot怎么训练出来的(答:先训练文本llm，再对齐视觉vit，然后再从通用领域做rft可以泛化到垂域;

一面，9.101.自我介绍2.手撕代码   leetcode 1283.八股介绍下vllm的技术点。介绍下KV Cache，GQA，MQA，MHAlora的原理，lora会不会更新原来的权重，如果对embedding层也配置了lora会不会更新。topK和topP采样方法，采样温度的数值有什么意义。自我感觉：手撕代码ac了，八股有三分之一答的有点糟糕，面试官似乎对我也没啥兴趣，项目也没问。微凉。

1. 自我介绍，大概 2 分钟。2. 详细聊聊项目，比如损失函数是怎么设计的？3. 讲讲 LoRA 微调。4. 手撕：Multi-Head Attention (MHA)。5. MHA 里面除以根号 k 是干嘛的？6. 什么是梯度消失和梯度爆炸？怎么缓解？7. QKV 分别代表什么？说说你的理解。8. 如果 Q 和 K 变成同一个矩阵，会有什么影响？9. 除了 LoRA，还知道哪些微调方法？10. 实习时主要做 Agent 相关的是吧？简单问一下 RAG 和 CodeAct。11. 手撕：n 个长度为 m 的升序数组，找出 TopK。面试官提示用大根堆，但我用归并写的，也通过了。