算法打工人小旺 level
获赞
71
粉丝
103
关注
0
看过 TA
509
中山大学
2025
算法工程师
IP属地:山东
咨询辅导请联系牛客账号:算法打工人阿旺
私信
关注
1.  注意力机制:请简述 MHA、MQA 和 GQA 三种注意力机制的核心区别。2.  模型架构:Dense 模型与 MoE 模型有何本质区别?3.  路由机制:MoE 模型中,路由(Routing)机制具体是如何工作的?4.  LoRA 微调:请阐述 LoRA 的原理,以及其中 A、B 矩阵的初始化方式和秩(Rank)的设置考量。5.  强化学习:请对比 DPO、PPO 和 GRPO 的原理与区别,并写出 DPO 的 Loss 函数公式。6.  推理加速:vLLM 中使用了哪些关键技术(如 PagedAttention、KV Cache)来优化推理?7.  并行框架:你对 DeepSpeed 这一加速推理与训练框架有多少了解?8.  BM25 算法:请讲解 BM25 算法的计算原理。9.  负载均衡:MoE 模型中专家(Expert)的负载不均衡问题该如何解决?10.  损失函数:能否通过修改损失函数的方式来缓解 MoE 的负载均衡问题?11.  数据分布:SFT 微调数据与预训练数据分布差异较大时,该如何处理?12. Scaling Law:SFT 微调的数据集是越大越好吗?是否存在 Scaling Law 现象?13. 训练稳定性:强化学习(RL)为何存在训练不稳定的问题?既然不稳定为何业界仍广泛使用?14. 三数之和:LeetCode 15. 三数之和。📳对于想求职算法岗的同学,如果想参加高质量项目辅导,提升面试能力,欢迎后台联系。
查看14道真题和解析
0 点赞 评论 收藏
分享
算法岗薪资你了解嘛今天给大家分享一下,作为一种高效的算法岗学习路线,通过项目辅导或者保拿offer辅导的同学拿到算法岗offer的薪资有多少。我们是面向大模型,搜广推,多模态大模型等热门的算法方向提供指导。💥首先讲结论,绝大部分校招应届生拿到算法岗offer的薪资范围在40-60w,薪资总包超过50w认为是小SP,如果能达到60w以及以上可以认为是SP/SSP。💥社招,表现优秀的或者转行算法岗的同学,薪资涨幅可以达到40-50%,少部分可以实现翻倍的涨幅。✅同学A:校招,985本海外硕,非科班,参加多个项目辅导,收获快手,拼多多,虾皮,华为等公司LLM算法offer,总包最高70w。✅同学B:校招,海本海硕,参加保拿offer辅导,收获美团,快手,拼多多,新浪等公司LLM算法offer,总包最高60w+。✅同学C:校招,211本985硕,参加多模态和AIGC项目辅导,收获阿里国际和京东LLM算法offer,总包接近50w。✅同学D:校招,985本硕,参加保拿offer辅导,收获蚂蚁和小米多模态大模型算法offer,总包最高50w+。✅同学E:校招,双非本985硕,参加多模态项目辅导,收获爱奇艺多模态理解算法offer,总包45w。✅同学F:校招,双非本985硕,参加搜推算法项目辅导,收获美团搜推算法offer,总包60w。✅同学G:校招,211本985硕,参加搜推算法项目辅导,收获美团运筹算法,京东风控算法,总包最高60w。✅同学H:校招,211本985硕,参加搜推算法项目辅导,收获得物机器学习算法和360广告算法offer,总包最高60w。✅同学L:校招,双非本211硕,参加多个项目辅导,收获小米大模型应用开发offer,薪资总包40w。✅同学I:社招,985本硕,工作一年,参加多模态项目辅导,收获字节抖音内容安全的多模态大模型内容理解算法offer,薪资涨幅40%。✅同学J:社招,工作三年,海硕,非科班转行算法,参加保拿offer辅导,收获多家AI独角兽大模型算法offer,薪资涨幅最高100%。✅同学K:社招,工作三年,双非本海硕,CV转行大模型,参加保拿offer辅导,收获百度和国企大模型算法offer,薪资涨幅最高50%以上。✴️如果同学想免费规划算法岗学习路线以及了解项目辅导的具体信息,欢迎后台咨询,支持大模型/多模态/搜广推/AIGC等热门方向。互联网大厂  人工智能就业 #
0 点赞 评论 收藏
分享
✴️今天给大家分享一下,作为一种高效的算法岗学习路线,通过项目辅导或者保拿offer辅导的同学拿到算法岗offer的薪资有多少。我们是面向大模型,搜广推,多模态大模型等热门的算法方向提供指导。💥首先讲结论,绝大部分校招应届生拿到算法岗offer的薪资范围在40-60w,薪资总包超过50w认为是小SP,如果能达到60w以及以上可以认为是SP/SSP。💥社招,表现优秀的或者转行算法岗的同学,薪资涨幅可以达到40-50%,少部分可以实现翻倍的涨幅。1️⃣同学A:校招,985本海外硕,非科班,参加多个项目辅导,收获快手,拼多多,虾皮,华为等公司LLM算法offer,总包最高70w。2️⃣同学B:校招,海本海硕,参加保拿offer辅导,收获美团,快手,拼多多,新浪等公司LLM算法offer,总包最高60w+。3️⃣同学C:校招,211本985硕,参加多模态和AIGC项目辅导,收获阿里国际和京东LLM算法offer,总包接近50w。4️⃣同学D:校招,985本硕,参加保拿offer辅导,收获蚂蚁和小米多模态大模型算法offer,总包最高50w+。5️⃣同学E:校招,双非本985硕,参加多模态项目辅导,收获爱奇艺多模态理解算法offer,总包45w。6️⃣同学F:校招,双非本985硕,参加搜推算法项目辅导,收获美团搜推算法offer,总包60w。7️⃣同学G:校招,211本985硕,参加搜推算法项目辅导,收获美团运筹算法,京东风控算法,总包最高60w。8️⃣同学H:校招,211本985硕,参加搜推算法项目辅导,收获得物机器学习算法和360广告算法offer,总包最高60w。9️⃣同学L:校招,双非本211硕,参加多个项目辅导,收获小米大模型应用开发offer,薪资总包40w。1️⃣0️⃣同学I:社招,985本硕,工作一年,参加多模态项目辅导,收获字节抖音内容安全的多模态大模型内容理解算法offer,薪资涨幅40%。1️⃣1️⃣同学J:社招,工作三年,海硕,非科班转行算法,参加保拿offer辅导,收获多家AI独角兽大模型算法offer,薪资涨幅最高100%。1️⃣2️⃣同学K:社招,工作三年,双非本海硕,CV转行大模型,参加保拿offer辅导,收获百度和国企大模型算法offer,薪资涨幅最高50%以上。🌟如果同学想免费规划算法岗学习路线以及了解项目辅导的具体信息,欢迎后台咨询,支持大模型/多模态/搜广推/AIGC等热门方向。
0 点赞 评论 收藏
分享
1️⃣面试官:上面这个是 RAG 标准流程,实际项目中还有哪些优化技巧?在实际中,召回源会考虑多路召回,例如稀疏召回,语义召回,字面召回等。对于多路召回截断和召回分数对齐的问题,还会采用在召回后面增加一个重排序的阶段,精简召回数并提升召回的质量。另外,其中的 embedding 模型,重排序模型,以及生成模型会根据系统问答的指标情况,会针对性的进行进一步的微调。2️⃣面试官:那生成环节怎么评估效果?首先是量化指标:例如 Rouge - L ,文本相似度,关键词重合度等指标。除了准确度,还可以评估生成答案的多样性,看看模型是否能够生成多种合理且相关的答案。还需要引入人类评估:进行人工评估,一般是负责改项目的产品经理和测试人员,以及内测的普通用户对模型的回答进行质量、准确性和连贯性的评分。还应考虑资源效率:考虑模型的计算复杂性、内存需求和推理速度,尤其是在资源受限的环境中,看看 RAG 是否能够以合理硬件资源效果提供更好的性能。3️⃣面试官: RAG 中为什么会出现幻觉?幻觉问题是大模型的一个通病,出现幻觉问题主要分为两大类,一类是生成结果与数据源不一致,自相矛盾。另一类是用户问题超出了大模型的认知。针对前者可能是训练数据和源数据不一致、数据没对齐或者编码器理解能力的缺陷和解码器策略错误可能导致幻觉。后者则是用户的问题不在语言模型认知范围内。4️⃣面试官:针对幻觉的问题,有什么解决思路?第一个是引入更精准的知识库,消除虚假的数据源,减少数据偏差。另外可以加入一些纠偏规则,比如采用 ReAct 的思想,让大模型对输出的结果进行反思;还有现在比较流行的思路是集成知识图谱,即不再局限于向量数据库匹配,做召回时不仅考虑文档块,同时还考虑图谱的三元组。将知识图谱( KGs )集成到 RAG 中,通过利用知识图谱中结构化且相互关联的数据,可以增强当前 RAG 系统的推理能力。5️⃣面试官:在实际做项目中,经常遇到各种边界的 case ,一般怎么解决?首先是无效问题:如果对于知识库中没有的问题,我们需要做一个准入的判别,判断是否需要回答。一般是一个二分类模型,或者直接用大模型+ prompt 来做,使模型在这种情况下输出一个预设的兜底话术。第二是减少幻觉:对于时间变化的问题,模型回答"我不知道"。在推理模块中添加规则和提示工程技术,使模在不确定时回答"根据当前的信息,不足以回答这个问题"。还有格式错误:模型可能会生成无法解析的答案,例如没有输出预定义格式。
0 点赞 评论 收藏
分享
✅ 什么是RRF(Reciprocal Rank Fusion)❓一种排名融合方法,将多个检索器的结果合并成一个统一的排名。✅ RRF的作用❓不同的检索器可能会有不同的优势和不足,通过RRF可以结合它们的长处,提供更精准的结果。✅ RRF的具体流程❓RRF使用一个公式来计算每个文档的总得分,RRF(d) = sum { 1 / ( k + r ( d ) ) } ,这里 d 是文档,R 是检索器的集合,k 是一个常数,通常取60,r(d) 是文档在某个检索器中的排名。✅ 这个公式是如何做排名的❓使用了倒数排名(Reciprocal Rank),也就是( 1 / ( rank + k ) )这样排名越高的文档贡献的得分越大,这可以确保多个检索器共同认为重要的文档在最终排名中占据优先位置。同时随着排名的增加,贡献得分的增速会减缓,也就是说,排名1和排名2之间的差异,比排名100和101之间的差异更显著。另外,常数k起到了平滑因子的作用,防止单个检索器对结果的主导性太强,还能更好地处理排名相近的文档。✅ 具体讲讲RRF在RAG系统中的实际应用流程❓RRF在RAG系统中的应用可以分为几个步骤:1️⃣用户输入查询,系统开始处理。2️⃣查询被发送到多个检索器,这些检索器可以是不同的检索模型,比如密集型、稀疏型或者混合型。3️⃣每个检索器生成自己的相关文档排名。4️⃣使用RRF公式将所有检索器的排名结合起来,计算每个文档的总得分。5️⃣根据RRF得分生成最终的统一排名。6️⃣最后,生成模型使用排名靠前的文档来生成最终的答案。📳对于想求职算法岗的同学,如果想参加高质量项目辅导,提升面试能力,欢迎后台联系。
0 点赞 评论 收藏
分享
查看13道真题和解析
0 点赞 评论 收藏
分享

创作者周榜

更多
关注他的用户也关注了:
牛客网
牛客网在线编程
牛客网题解
牛客企业服务