阿里 大模型算法一面实习分享

攒攒人品!有面试过同岗的朋友欢迎评论区交流
1、都知道哪些vllm的优化技术?
2、在现有模型的基础上,由于算力问题,如何利用大模型来蒸馏一个3B的模型?
3、logistic回归的模型原理和loss。
4、给定一个时间序列,如何通过机器学习的方法进行建模筛选出来重要的特征,然后基于规则方法进行建模
5、DeepSeek-MTP是用在训练阶段还是推理阶段的,具体过程是怎样的?
6、在现有大模型的基础上,如何通过agent的相关方法,训练一个coder模型,撰写金融领域相关模型的代码。
全部评论
蒸馏3B咋做
点赞 回复 分享
发布于 04-24 16:46 陕西
这算法问的挺难的
点赞 回复 分享
发布于 04-16 23:58 辽宁
看着问的不多呀
点赞 回复 分享
发布于 04-16 23:52 北京

相关推荐

一面(1小时30分钟):上来先做题1. 手撕AdamW2. 手撕无重复字母的字串(hot100)3. 出了两个题都是对数据库的操作,我以为是让写大模拟,写到一半结果面试官告诉我是用sql写🐱,不会遂罢。4. 面对海量数据的时候怎么对数据进行处理,比如说去除掉敏感词等等,面对海量数据会出现哪些问题,该如何去处理5. 介绍发表的顶会论文6. 介绍Q-learning和DQN二面(2小时30分钟)实习乃至秋招面的最久的一轮面试了,从晚上七点多面到十点,最后人都麻了🥵,面试官估计要下班了结束了面试🐱1. 介绍论文,主包是做强化学习相关的,围绕问了很多强化学习算法(GRPO,PPO,reward model),介绍马尔可夫决策过程。2. bf16、fp16和fp32,并进行计算。3. lora微调的细节,量化相关知识然后开始漫长的手撕过程🥵4. 手撕ppo5. 算马尔可夫决策过程的γ阈值,我感觉是个无穷级数?6. 算模型sft的参数量大小及显卡利用率7. 是否重合链表(hot100)8. 如何使得一个输入向量x在经过一个或多个全连接层后,其输出向量y所在子空间基底尽可能接近标准正交基三面(面委会面)(30分钟)1. 介绍第一篇顶会论文(共享屏幕)2. 介绍第二篇顶会论文3. 不同强化学习之间的区别4. 和使用强化学习训练大模型相比,使用强化学习训练小模型需要做出哪些改变hr面(30分钟)常规的hr面问题,主要问来wx的意向。感觉前几面比较侧重技术细节,面委会感觉就比较侧重聊未来技术的发展,个人感觉前几面的压力比较大😼
查看18道真题和解析
点赞 评论 收藏
分享
评论
点赞
收藏
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务