大模型算法工程师

从三月底开始投递，到现在快五月底，鼠鼠终于有offer了，分享一下暑期挂的经历，坚持到最后就是胜利。后续慢慢分享面经主要投递大模型应用，也有几个搜推简历挂：阿里智能信息，蚂蚁，小红书，百度，滴滴，网易互娱，oppo笔试or测评挂：淘天，饿了么，联想，得物投递没反应（默认挂）：腾讯音乐，携程，vivo，360，钉钉，京东，蔚来，贝壳面试挂：淘天 一面挂（三月底）快手 二面挂（四月底）阿里云 一面挂（四月底）美团 二面挂（四月中）wxg 一面挂（四月上）字节 一面挂（四月中）   

bg本硕9研一，但非科班，读研了之后才开始接触代码😷实验室现在的方向是大模型的垂直应用，基本无发顶会论文的机会，往届的师兄师姐也都是去做了前后端，无大模型岗位的求职经验😢但实验室也确实有大模型开发相关的一些技术栈，例如微调rag知识图谱等等，并且已有个比较成熟的项目当今大模型开发相关感觉是风口，但又不清楚招聘趋势以及要求，所以现在就在头疼Java和大模型方向怎么选？所以想求佬指点一下！😭而且孩子现在想抓紧点时间确定好方向，争取在暑假期间找一段日常实习所以就是想求问在有实习➕项目的前提下入行哪个方向会好些呢😔     

如题，科大讯飞广告业务招实习生，欢迎投递简历，我会帮忙跟进进度，速度反馈！JD：     算法实习生 - 科大讯飞广告营销部门工作内容：负责广告算法及广告策略研究，覆盖CTR预估、人群建模等场景，提升广告投放效果；负责大模型训练的开发和调优工作，探索前沿技术，如：prompt设计、SFT、模型蒸馏，分布式训练、多模态生成等。任职要求：1. 计算机、NLP、机器学习等相关专业硕士研究生；2. 熟悉常用机器学习、数据挖掘、NLP相关应用与算法；具有NLP语言模型构建经验者优先；3. 具备优秀的编码能力，熟练掌握Python、Java，熟悉Tensorflow/Pytorch/Torch/Caffe等；4. 熟悉Linux平台上的编程；5. 具有优秀的分析、解决实际问题的能力，能够自我驱动，良好的团队合作精神，较强的沟通能力； 

背完通过率99%

1、自我介绍2、项目介绍3、用了哪些微调方式4、Lora的原理讲一下5、RAG讲一下？6、RAG召回策略（多路召回）7、用过哪些RAG的实现？8、GRAG了解吗？9、讲一下重排序10、讲一下你的研究方向吧11、研究内容里transformer在网络里什么作用12、简历里的视觉项目讲讲有什么难点吗？13、最近刷算法了吗？（没有），那链表、数组、二叉树自己选一个，给你一道简单的。第一道判断链表是否有环（牛客平台这道选不了java），然后又给我换了一道有序链表删除重复元素14、反问公司应该是没打算自己做一些模型训练任务，反问中感觉还是偏做RAG应用的。

1.首先询问可实习时间2.简历深挖第一个项目:lora rag部分基本都问到了3.transformer的一些八股(attention部分)4.代码题一个[(1.0.3),(2,0.2),(3,0.5)]如何按照后面的概率,每次随机提取出一个值

部门：QQ音乐base地：深圳流程：一面+二面+三面+HR面推进速度：非常快，每一面在一小时内出结果一面 50min自我介绍论文介绍什么是MHAAttention运算公式为什么除以根号dk介绍现有相对位置编码和绝对位置编码的异同点，都有哪些结构RoPE的结构RoPE相比于绝对位置编码的优势是什么？为什么外推性更好？为什么RoPE理论上可以无限外推？RoPE为什么可以利用绝对位置和相对位置的优势？介绍RAG项目（基座模型是什么？几b ？全参微调用了多少卡？数据多大？问答对的形式有图片吗？对RAG的理解是什么？为什么要用RAG？BGE模型的结构什么是LoRA？有个两层神经网络，参数1万*一万，低秩...

1、自我介绍2、项目介绍3、项目指令集构建细节4、RAG怎么做的，召回效果5、Lora原理，微调哪些层、怎么矩阵初始化的，不能都初始化为0吗？6、bert了解吗？bert的改进了解吗？bert和gpt有什么区别？7、transformer自注意力，计算过程，softmax为什么要进行缩放，不缩放会导致什么？8、llm的解码参数（top-k，top-p，Temperature，Beam Search）9、clip的对比学习，对比学习中的Temperature和llm解码器的Temperature是一个东西吗？10、了解blip吗？11、聊了一下论文的做法，问了为什么这么做，不那么做12、强化学习，ppo，dpo13、reward模型的损失函数（rank loss）？14、算法题：钥匙和房间（问为什么不用python写），写完思路就行了，没调，因为输入输出好像有问题，面试官说这样就行了。15、反问面试官很好，我没讲对的会纠正我。最后反问学习建议的时候，他说下次面试别切屏。更新：面完10分钟约了二面

【1⃣️实习优势】实习机会直接对应秋招HC，等于直接提前锁定秋招offer~！！！ 【2⃣️内推好处】处理进度快，简历投递后，师兄加微信，随时在线帮催面试官，有问题随时问。【3⃣️团队介绍】我们是淘天自营&近场算法团队，26届春招实习生开启了，欢迎2025年11月1日到2026年10月31日期间毕业的同学。我们是充满活力和专业的自营&近场算法团队，负责天猫超市、天猫国际、淘宝买菜等自营业务和淘宝小时达的算法研发和优化工作。在这里我们深入挖掘用户需求和消费趋势，打造更有价格、质量竞争力的商品供给，我们不仅专注于运用前沿算法技术打造一个智能化、个性化的高效购物体验，而且会深入设计策略机制，实现一个用户、平台、业务多方共赢的高效电商商业模型。【4⃣️岗位说明】主要是算法岗位，核心方向有大模型应用/机器学习/搜索推荐/自然语言处理，扫内推码看岗位详情！！！投起来，期待你们的加入！                          

📍面试公司：网易有道👜面试岗位：ocr多模态实习📖面试问题：1、自我介绍2、多模态研究内容介绍，问了几个问题3、项目介绍4、目前实习的工作内容5、rag为什么要用embeding和rerank，是自己训练的吗6、多模态大模型了解吗？有哪些架构7、blip架构8、图像怎么和文本融合？哪种方式效果更好9、transform有哪些结构，没什么要多头注意力？10、代码题(抽了一道上次面网易一样的题目，我说上次写过，面试官说算你运气好，再写一遍，但是这道题我说java写输入输出有问题，他换了一道，写了二十多分钟，根本写不出来，早知道还不如不换的)11、反问🙌面试体验：面试官人非常棒，多模态这块我不是很了解，答不出来的也一直说没关系，还安慰我说上次挂你并不是你能力不行，只是岗位不太匹配，这句话也可能是暗示我这次也挂了哈哈。挂了也没啥遗憾，毕竟还有很大差距。这是我遇到过最好的面试官，聊天形式一样的面试确实让人舒服。面试官说多模态还是很火的，可以多学习这方面的内容。算法题必须要练了，稍微难点的就写不出来，太菜了。        

Boss投的，第二天就约面试了。一面 3月14日 60min1、自我介绍2、学校做cv，为什么实习找nlp3、聊项目：  (1)预训练数据怎么构造的，sft数据格式。  (2)为什么预训练数据要加维基百科的语料库。       (3)预训练数据好像加在sft阶段也可以，为什么还要进行预训练。  (4)dpo在项目中主要想解决什么问题？grpo你想解决什么问题？5、算法题：最大子数组和隔天周六3月15晚上发感谢信了。感觉聊的还行，项目深度这块应该回答的让面试官不满意。       

主要是大模型，也有搜推问的，整体都不难手写多头注意力机制（两次）合并k个有序链表复杂度为logn的排序最长无重复子串的长度买卖股票的最佳时机二叉树的层序遍历反转链表无重复字符的最长子串

📍面试公司：vivo👜面试岗位：nlp算法实习📖面试问题：1、自我介绍2、为什么只实习3个月3、cot怎么做的4、rag怎么做的5、deepseek了解吗，moe和grpo讲一下(没看，不会)6、代码题：返回子矩阵累加和 要求时间复杂度o(1) 。写不出来，哥们只会for循环7、学校研究方向8、反问🙌面试体验：部门是的vivo互联网方向，我也不清楚vivo互联网方向干嘛的，他说是做推荐算法的。寄了，表现太差，感谢信了。        

bg本硕华五科版，1a在投（非llm方向），暑期实习误打误撞接了个阿里国际基座大模型的offer，想问问没有论文只有实习秋招能找到相关工作吗还是老老实实开发    

📍面试公司：科大讯飞👜面试岗位：nlp实习📖面试问题：30min1、自我介绍2、项目介绍，问了一些细节？3、指令集怎么构建的？都是自己爬的吗？4、cot指令集怎么弄得？5、项目Rag怎么做的，为什么要embeding后rerank？有没有训练自己的embeding模型？6、为什么使用dpo，不使用其他的强化学习算法？7、grpo知道吗？8、lora原理讲一下9、反问🙌面试体验：挺好的，反问和面试官交流了很多，建议我要跟进最新技术，要多去了解，同时既然项目用了rag，对这一块的知识就要深入一些，而不是仅仅用了而已。部门是搞医疗的面完就发offer了，但是讯飞的实习待遇也太低了吧。