蚂蚁大模型算法实习一面

真是庙小妖风大，水浅王八多，面试官以为自己干了多年，浸淫多年，然后出来创业，出来打拼，以为自己牛逼的不行了，然后对现在的AI潮流啥的都没有什么前沿的探索，然后就拿着一些老的那种transformer的八股文在这儿问，真是对他无语了，然后还是看我的项目代码，让我跑项目代码，然后说我这些东西怎么实现的

发发面经积累人品 1.拷打项目2.LoRA的两个矩阵为什么一个全零初始化一个高斯3.手撕代码最长递增子序列leetcode3004.手撕mha5.了解nms嘛？6.计算LLaMA-2 7B的参数量

一面（1小时30分钟）：上来先做题1. 手撕AdamW2. 手撕无重复字母的字串（hot100）3. 出了两个题都是对数据库的操作，我以为是让写大模拟，写到一半结果面试官告诉我是用sql写🐱，不会遂罢。4. 面对海量数据的时候怎么对数据进行处理，比如说去除掉敏感词等等，面对海量数据会出现哪些问题，该如何去处理5. 介绍发表的顶会论文6. 介绍Q-learning和DQN二面（2小时30分钟）实习乃至秋招面的最久的一轮面试了，从晚上七点多面到十点，最后人都麻了🥵，面试官估计要下班了结束了面试🐱1. 介绍论文，主包是做强化学习相关的，围绕问了很多强化学习算法（GRPO，PPO，reward model)，介绍马尔可夫决策过程。2. bf16、fp16和fp32，并进行计算。3. lora微调的细节，量化相关知识然后开始漫长的手撕过程🥵4. 手撕ppo5. 算马尔可夫决策过程的γ阈值，我感觉是个无穷级数？6. 算模型sft的参数量大小及显卡利用率7. 是否重合链表（hot100）8. 如何使得一个输入向量x在经过一个或多个全连接层后，其输出向量y所在子空间基底尽可能接近标准正交基三面（面委会面）（30分钟）1. 介绍第一篇顶会论文（共享屏幕）2. 介绍第二篇顶会论文3. 不同强化学习之间的区别4. 和使用强化学习训练大模型相比，使用强化学习训练小模型需要做出哪些改变hr面（30分钟）常规的hr面问题，主要问来wx的意向。感觉前几面比较侧重技术细节，面委会感觉就比较侧重聊未来技术的发展，个人感觉前几面的压力比较大😼

双九本硕非科班，目前拿到了两个实习offer。路过的各位学长学姐给些意见，感谢大家！1.蚂蚁财保事业群-模型基准与评估岗位。涉及大模型自动化评测训练，担心入职后做案例分析和数据构建，接触不到太多的模型训练的东西。2.华为2012实验室中央硬件研究院-Agent开发。纠结的点是华为的模型技术一般，秋招再去找互联网的岗位会不会认可度不高，以及Agent开发以后会不会随着模型能力的提升被取代。谢谢大家的意见！