阿里 搜推算法实习 一面 55min

到底该怎么衡量一个码本的好坏？码本利用率低（比如VAE训练出来三层256码本第一层只有60个有用到）会导致什么后果？感觉也不会影响到后面的训练啊😵相反kmeans的码本三层256都能用到，就说明kmeans结果更好吗？kmeans和VAE的优势分别体现在哪😵求解答！感谢！🤯🤯🤯

淘天搜推团队的AI应用算法工程师实习岗，整整115分钟，是我面试以来时间最长的一场。整体分为五个环节：① 自我介绍（面试官也同步介绍了搜推团队的业务）② 大模型基础知识问答（30分钟）③ 项目深挖（40分钟）④ AI Coding笔试（30分钟）⑤ 反问环节（10分钟）技术问答和项目深挖尤其硬核，面试官会顺着你说的方向一直往下追问。提问：大模型基础：- Attention的QKV怎么计算，WQ/WK/WV的形状- MOE的路由机制，稀疏vs稠密的区别- KV Cache在prefill和decoding阶段的读写差异- 大模型幻觉怎么规避- 微调后出现复读机，怎么排查- SFT够用 vs 必须上DPO/RL，怎么判断- DPO损失函数的潜在问题- KL散度在模型对齐里的作用还问到了Google的TurboQuant KV Cache，这块我确实不太了解，如实说了🫠深挖了项目，简历上的两个项目都被追问得很细。建议：简历上写的每一个点都可能被问到底层逻辑，提前想清楚“为什么这么做”。AI Coding笔试第一次遇到这种形式——不是自己闷头写代码，而是和AI协作完成一道设计题。面试官说“过程比结果更重要”，让我松了一口气。我的做法是：先让AI输出整体技术方案，确认思路后，再开多个会话并行处理各模块。笔试环境有点卡，但稳住心态、把思路讲清楚就好。整体感受：115分钟对我来说确实是新纪录，中途压力不小。但面试官整体很专业，不刁难，追问都是顺着你的思路往下挖。发个面经攒攒人品，希望能过🙏

攒人品中！ 1.minimind数据集怎么来的?预训练数据集是什么形式的?为什么这样设计?2.项目指标提升多少?3.了解qlora吗?4.dpo和grpo区别?项目指标上又有什么区别?数据上呢?5.为什么要做强化学习?为什么不能直接把想要的直接加sft里面从而不用rl6.moe介绍?架构?7.多模态模型了解过吗?8.了解dapo吗?9.手撕moe

硕士在读，bg应该是不差的，之前是做大模型的，论文只能说在投吧（有个ai for science的期刊论文)，有过一小段大厂校企合作搜推的项目，但是项目比较水，暑期实习想做搜推方面，暑期实习感觉我是废物了，自信心算是没了，彻底抑郁了😭😭1.字节三进宫，前两次人才计划分别一面和二面刷了，刚刚普通转正实习一面挂了2.快手人才计划三面泡池子，hr不回消息了3.腾讯之前一面挂了，今天又重新一面了4.阿里笔试挂了只能说快手和刚面的字节真的想不懂，之前挂我都大概知道什么问题，这两个都面的时候挺顺利的，最后还是挂了😭