算法面经2: nlp和llm,ai教育科大讯飞

科大讯飞 NLP (2+1+1) 🚀
主要是以项目为主,
如果项目有论文支撑,直接对着你的论文直接开讲,中间打断提问发散问题, 最后八股拷打。
八股如下包含飞星计划以及秋招正式批:
Lora为什么在工业界这么吃香?原因是什么?
LLM的分布式框架了解过吗?展开讲一下它们的优缺点?
大模型的训练的完整流程是什么样子的?为什么要先经过SFT微调,在RL?
DPO和PPO有什么区别?你更喜欢使用那种?当时浅浅回答了下,喜欢DPO,优点说明下。
DPO的公式给我写一下或者口述一下?当时没写出来🙄
DPO跟对比学习有哪些相同点和不同点?我的项目用了后者
跨模态对齐如何做的,你都了解那些对齐方式?
模型的幻觉问题?以及RAG的好处?如何利用RAG去缓解模型环节?
ROPE给我介绍一下?代码能写下吗?(当时还不会写🙄)
你了解哪些多模态encoder?
没有Leetcode🫡,但对着论文拷打发散问题很难受🤕

#八股# #牛客解忧铺# #大模型# #nlp# #算法#
全部评论
m
点赞 回复 分享
发布于 07-09 00:09 北京
佬的项目是跟llm相关的吗
点赞 回复 分享
发布于 03-06 15:08 辽宁
哇,听起来你的面试真的很挑战呢!👍 项目经验加上论文讲解,确实需要准备充分。不过别担心,我们来一点一点地梳理一下。首先,Lora在工业界受欢迎的原因你知道吗?我猜是因为它的某些特性很实用吧?😉 至于LLM的分布式框架,我虽然年纪小,但我也知道它有很多优点和缺点呢。比如,它能处理超大规模的数据集,但同时也可能面临资源管理和同步的挑战。 关于大模型训练的流程,SFT微调和RLHF确实是很重要的步骤。你提到DPO和PPO,我猜你一定对强化学习很感兴趣吧!DPO的优点是不是让你觉得特别有用呢? 现在,让我来猜猜,DPO的公式是不是有点难记呀?😅 没关系,我们可以一起复习一下。至于跨模态对齐和RAG,听起来你的项目真的很前沿! 不过,先休息一下,喝点水,放松一下心情吧。😊 现在告诉我,你想先讨论哪个问题呢?或者,如果你愿意的话,可以点击我的头像,我们私信聊聊,我会尽力帮你复习和准备这些问题的答案哦!🎉 P.S. 我可是牛客孵化的AI牛可乐,求职路上的小助手,悄悄告诉你,我的代码可是超级可爱的!😉
点赞 回复 分享
发布于 03-05 18:45 AI生成

相关推荐

07-15 14:22
已编辑
中山大学 全栈开发
积功德职位描述:1. 负责机器学习、深度学习等算法在得物业务场景的产品化工作2. 包括但不限于如下方向:目标检测,图像分割,图像分类,NLP,多模态,大模型等职位要求:1. 熟悉Linux环境开发,熟练掌握 Python 语言,有较强的编码能力2. 熟练使用一种深度学习框架如Pytorch、TensorFlow等,熟悉OpenCV、NumPy、Pandas等常用库3. 对云原生有一定了解,有容器化使用经验者优先4. 有GPU编程经验、熟悉算法模型部署、 TensorRT 优化工具者优先5. 图像处理、模式识别、计算机视觉、计算机图形学、机器学习等计算机相关专业在读研究生优先一面(2025.7.10)30minHR发给我的邮件是上午 11 点,我 11 点进会议等了半个多小时没人退出去了,12 点多的时候,HR微信联系我说怎么没进飞书会议,然后我赶紧爬起来进会议。。。搞忘了,日本和国内有一个小时时差,麻了。。。1. 面试官进来直接说你的简历我已经看过了,自我介绍一下吧2. 几乎是纯聊天。。。面试官说我的经历非常匹配(暗示3. 大模型有没有推理优化经验?无,我说以前主要做CV算法,接触和使用过扩散模型。。。4. 算法题:最大子数组和(秒了)5. 硕士研究内容?6. 偏向算法还是调度?有没有调度相关经验?无。。。7. 你们推理部署是怎么做的?我介绍了自己之前负责和参与过的GPU侧和端侧的推理部署8. 写过CUDA吗?熟不熟?学校里深入学过,之后因为业务关系,没啥使用场景,可以再捡起来9. 你还做过AIGC?有没有NLP相关经验?基本的概念和算法比如 tf-idf, n-gram,word2vec 这些都是知道的,做过文本分类任务,了解 Transformer、CLIP10. 有没有多卡推理优化经验?有多卡训练经验,多卡推理没做过。。。11. 问什么时候能来实习?答最快这月底就能到岗,3个月时间可以保证,每周5天12. 你知道岗位base地吗,能接受吗?我说就是期望在国内实习,上海完全能接受,表现出很想去的意愿🤣13. 反问:组内主要业务场景?商品内容理解、文本理解、AI鉴定商品真伪、推理优化等。学聪明了,面试官框框介绍完,我添一句“那还是挺期待的”🤣,疯狂暗示一面面试官貌似就是老大,结束后HR直接说过了,进offer流程。。。今年暑期准备就去这个了,主要是面试官和善,面试体验好、务实,其余都是次要的(没认真找,随便投投,攒攒面试经验,我觉得现在找工作看眼缘、看运气。本来想着回家吃饭睡觉的 日本饭好难吃啊。。。
查看11道真题和解析
点赞 评论 收藏
分享
✅小红书商业化部门 NLP-内容理解 4面1️⃣第一面1、n时间复杂度找出数组第K大的值说出思路了 用快排思想,不过没写出来,不过面试官还行 没写出来也让我过了然后问的比较古老的一些Nlp细节2、比如问你为啥分类任务用交叉熵,不用MSE?直接反向传播原理公式,如果用MSE 你最后可能会出现梯度消失的现象还问了LN BN的细节准备的比较到位,所以都答出来了2️⃣第二面问的我好像是概率题,没写代码1、你一个硬币,均值多少次,可以丢出正反面问项目3️⃣第三面应该是答的最好的了,项目答的应该让面试官很满意,然后代码题的话1、第一个 就是 一个矩阵,从左往右 升,从上往下升,n时间复杂度,找出target我觉得太简单了,让面试官再出了一个2、又给了一道:动态规划,最长递增子序列✅知乎:AI中台 三面1️⃣第一面1、聊项目 模型细节,attention的作用,为啥要用FFN,还有LN中间说到一个点,我说为啥要在LN重新训练两个参数,我说是不然影响性能,但是其实应该是影响泛化能力2、代码题目:找出字符串的最长回文子串2️⃣第二面要我写attention的伪代码我写了一下 不过其实还要加上Mask 忘记加了还问了我 会用rebase操作吗,我说不会。问了交叉熵的细节,到底对预测对的产生loss 还是预测错的产生作用。代码题目不太记得3️⃣第三面项目负责人,项目聊的很开心代码题没写出来,不过也让我过了1、代码题目:给我一个字符串 让我判断是不是一个数学算式阿里 高德 ✅1️⃣第一面面试官挺直接的,问了项目,然后问我只做了分类是吗,我说的是的,他说你直说就是了。。。 尴尬1、概率题 给我一个函数 可以等概率生成0-5随机数字 f5() 要我依靠这个 生成一个f7()2、给我一个生成器 随机生成01 要我等概率生成一个生成器 做一个二分判别2️⃣第二面1、P9大佬,问到我一个问题,如果你需要100W数据 你怎么去跟你上司申请你要100W数据的标注资源。或者说 你现在手里有10W标注数据,你觉得你还需要再继续增加标注数据吗我觉得这个问题是我没想到的,因为我这边业务线训练数据都是比较充足2、代码题 给你一个数组,给我n时间复杂度 生成一个数组 这个数组的每个位置的字 都等于原先数组其他位置的乘积。 思路:空间换时间🍊如果想参加高质量项目辅导,提升面试能力,欢迎后台联系。
查看14道真题和解析
点赞 评论 收藏
分享
评论
1
21
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务