商汤算法大模型一面-实习面经

鼠鼠目前是信院信号处理方向的研一，目前组里研二的师兄做的是FPGA通信方向，研三的师兄师姐有做深度学习方向的，目前我们具体的研究方向还没确定，研一上看的是研二师兄做的FPGA内容，现在老师让我们看深度学习相关内容。鼠鼠自己在研一的时候和舍友一块学习了深度学习，做过几个简单的项目，现在鼠鼠想去实习，接了几个面试都挂了。有以下几个疑问：1.我们是28届毕业，且研二大概率只有暑期实习，鼠鼠现在0论文0实习，如果现在不去实习的话只有一段暑期实习未来想转码的话好找工作吗？2.怎么样可以获得第一份实习，鼠鼠好想出去实习

继续来分享下之前的面经~欢迎友好讨论，信息共享拷打项目，然后是问题：1. ROPE为什么不会对embedding后的词意造成影响？2. BF16和FP16有什么区别，为什么现在主要用BF16不用FP16？3. transformer的点积注意力，为什么是点积而不是纯粹的余弦相似度手撕：数组里重复的数据

社招第一次面试手撕了这么多代码.....太硬核了！基操：项目做的是什么？你训练算法过程中一般用哪些损失函数？中途插入问题：qwenvl系列的模块设计由哪些部分组成？然后就直接开始手撕代码了：多模态输入、Token 处理、Self/Cross Attention、Mask、LoRA、Dataset/DataLoader、训练流程、累计梯度、eval、多进程通信、微调方法 全都要会写代码。多模态大模型算法岗 · 高频面试题 + 标准答案（完整版）1. 多模态模型（图文）输入是怎么 Tokenize 的？答：文本用文本分词器转成文本 Token。图片不直接分词，而是切成固定大小的 Patch，每个 ...

做前端的，终面说是leader面，有没有人指导大概会问啥内容，hr说会有难度叫好好准备