小马智行嵌入式硬件测试工程师面试一般会问什么

发一下问题给大家参考，攒攒人品！1. 介绍一下Transformer的结构，为什么Self-Attention比RNN/CNN更适合推荐系统？2. BatchNorm和LayerNorm的区别？推荐模型里为什么常用LayerNorm？3. 梯度消失和梯度爆炸的原因？如何解决？（从优化器、初始化、网络结构三个角度回答）4. 多任务学习（MTL）的常见结构？MMoE和PLE的区别？5. 多任务学习中，如果不同任务的loss量纲差异很大，如何调整权重？（GradNorm、Uncertainty Weight等方法）6. 推荐系统的经典召回策略有哪些？（协同过滤、双塔模型、FM等）7. 双塔模型的负采样策略有哪些？为什么In-batch Negative Sampling效果不错？8. 如何解决推荐系统的冷启动问题？（基于内容、迁移学习、Meta-Learning等）9. 如何评估推荐系统的多样性？（Coverage、ILS、DPP等）10. 线上A/B测试时，CTR提升但停留时长下降，可能是什么原因？如何排查？11. 数组中的第K个最大元素（快排变种）

27届大模型实习，SFT、RL、Agent、Prompt 工程都能干，太卷了，求各位大佬内推实习Bg：1. 上海人工智能实验室书生实训营十佳项目、优秀营员（Agent，多家公众号宣传）；2. EMNLP一作、ACL多篇在投，方向围绕安全对齐、CoT、LoRA；3. 围绕 RL、SFT、Pretrain 实现小参数基座模型 BludLM（有A100算力随时随地可用）；4. 项目层面，MutiAgent-Search（无GPS图寻地址，Agent）、FreeKnowledgeAI（搜索引擎，tool）；5. 实习层面，目前在华为 MindSpore 参与开源实习，负责案例研发；

继续来分享下之前的面经~欢迎友好讨论，信息共享1. 实习拷打2. 为什么需要预训练ESMM？3. 多目标双塔粗排模型的理解？4. 粗排样本怎么构造？5. 是否考虑直接使用精排部分embedding？6. L1 和 L2 正则化的区别？它们都能防止过拟合吗？7. 写出交叉熵的公式，并解释交叉熵的推导过程。8. 介绍dropout的作用，训练和测试阶段是否有区别，如何解决dropout预估偏高的问题？9. 如何判断模型是否过拟合？10. 如何缓解过拟合？11. 概率题：计算骰子扔到6的次数的期望。12. 解释AUC的定义，它解决了什么问题，优缺点是什么，并说出工业界如何计算AUC。13. 代码题：计算中缀表达式的结果，包括括号