阿里多模态大模型算法一面-实习

1、实习介绍2、简历项目深挖- 奖励函数设计：reward函数是如何设计的？数据集的配比是怎样的？- 编码树如何构建？为什么使用高斯分布？3、inductive learning和transductive learning有什么区别？4、实习深挖- Viking是什么？相关业务背景是什么？- 冷启动时，不同专家模型特征输入为什么不同- id特征为什么学习效果不好？5、手撕给你整数 delay 和 forget，以及整数 n。每个人在发现秘密后的 delay 天开始，每天可以分享给一个新的人。在发现秘密 forget 天后会忘记秘密，忘记后不再分享。求第 n 天结束时知道秘密的人数。

一个半小时纯拷打场景和实操(藤子太哈人了)总的来说，这次面试体验非常好，面试官虽然言辞犀利但还算温柔，愿意引导你进行操作，可以学习到很多知识，特别是一些中间件的底层逻辑，让我真正见识了后端的深似海，但我是第一次在面试中遇到需要实操的场景，非常紧张，终端实操和代码编写都写的不好，只完成了一部分，幸运的是，面试官人特别好，会议结束后就给过了，并鼓励我后面继续加油！问项目：1、大文件上传怎么做的2、某个分片上传时间超过了24小时，因此被定时任务清理掉了，应该怎么办？修改清理触发条件/校验文件完整性，断点续传重新触发3、合并文件时java的RandomAccessFile底层是如何实现的4、写文件时，...

八股 1. Llama的Decoder结构、位置编码有什么改进？2. 三角函数位置编码和ROPE的区别？他们是怎么实现不同的功能？3. 介绍一下RLHF流程，包括哪几步4. llm有哪些评估指标？如何评估模型？5. lora原理细节，为什么可以加速？什么是秩？6. 介绍下Reward model7. dpo训练的损失函数和训练目标8. 不做DPO，只做SFT可以吗？9. Deepseek中SFT冷启动了解吗？手撕10. 给定长度为 n+1 的数组 nums，其中元素取值范围为 [1, n]，求唯一的重复数（力扣287）。11. 手写多头注意力MHA。

1、实习介绍2、讲述论文内容和细节。3、对于模型训练过程中，如果出现样本标签数据分布极其不均衡，通常会采取什么方法来解决问题。4、transformer的感受野encoder中是可以看到所有的token的，你认为感受野越大越好还是越小越好。5、位置编码：sin cos，正余弦，bert可学习位置编码，rope相比于正余弦编码的优势。6、欠拟合和过拟合定义，通常如何解决？7、transformer的位置编码的基底是10000，为什么设置100008、手撕：岛屿的数量。