今天老师为大家梳理了字节算法岗关于大模型Rag的面试题，供各位同学参考。1️⃣ LORA 原理：解释 LORA(Low-RankAdaptation)的核心思想，如何通过低秩矩阵实现参数高效微调?数学形式如何表达?2️⃣Self-Attention机制：自注意力机制中 O/K/ 矩阵的作用是什么?如何通过缩放点积计算注意力权重?公式推导并解释Softmax 的意义。3️⃣位置编码：Transformer为何需要位置编码?主流 LLM(如 LLaMA、GPT)使用哪种位置编码(如 ROPE)?相比绝对/相对位置编码有何优势?4️⃣Seq2Seg 模型：Seq2Seq模型的核心组件是什么?Encoder-Decoder结构如何解决长程依赖问题?5️⃣RAG技术：RAG(检索增强生成)的完整链路包含哪些步骤?为什么它能提升生成质量?6️⃣大模型幻觉：大模型产生幻觉的根本原因是什么?7️⃣显存计算：7B 模型在训练和推理时的显存占用如何估算?显存与参数量、批次大小、序列长度的关系是什么?8️⃣实习与论文：详细说明实习中解决的一个技术难点，涉及哪些模型或算法?如何评估效果?9️⃣链表操作：删除链表倒数第 N 个节点的算法思路?如何用双指针法实现?边界条件(如头节点删除)如何处理?📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。    

从3月正式加入暑期实习大军 ，但是无奈开启实习的感觉不多，就投了很多日常实习。字节 2.25投递腾讯2.26 投递客路2.28投递快手3.1投递腾讯音乐3.19 投递美团3.22笔试饿了么3.21笔试灵犀3.23投递大疆3.24投递小马智行3.25投递小米3.26投递目前就有啥投啥，不区分行业，不过因为我做过地平线感知算法实习，感觉和智能驾驶靠的更近一些，无奈车企开放实习的好少，去看了元戎也都是在春招，可惜了，既担心简历上没东西又担心东西太杂

📍面试公司：鹅厂👜面试岗位：后台开发-运营开发📖面试问题：全程拷打我的deepseek RAG项目说一下存储引擎的区别问我平时主要开发的语言是什么我说java用的多，但是对go很感兴趣，说了下原因问了go和java的区别面试官又引领着问了比如说go的导包方式怎么样，了解吗，简单说了一下如果学go打算怎么学说了后端体系差不多，就是框架不同问了linux和dockerlinux常用命令，说用的不多，就问docker了docker的原理，简单说了一下容器化技术无手撕全程40多分钟反问了一下部门干什么的面试官说偏全栈，主要是云原生这一块儿，用java也用go问了对go语言的看法面试官也认为这是一个趋势，想法一样问怎么提升项目经验多实习，多关注大模型应用相关的项目，有优势           🙌面试体验：感觉面试官全程引领，体验不错，问了项目中很多AI相关的东西，八股基本没问，切实感觉如果项目有东西的话，面试官是不会太想问八股的个人感觉以后项目一个微服务一个大模型应用比较好，27届的，但是鹅厂似乎不只要26届

字节一面：上来先笔试1.拷打项目2.MoE3.有没有微调经验，如何微调，介绍原理4.RAG5.AI agent6.functioncall感觉拿我刷kpi了😭也可能是我没大厂实习的原因字节一面寄百度一面：1.拷打项目2.Blip和blip2区别3.clip怎么训练的4.chatglm的创新点是什么5.transformer八股6.拷打项目的sam模型7.笔试：开根数（本人没准备笔试，用的梯度下降，被狠狠羞辱后想起二分）百度一面过快手一面：1.拷打项目2.拷打blip2和clip3.问了下clip 和blip的一些损失函数4.拷打transformer5.多模态如何融合的6.拷打原生大模型7.退火笔试：最小覆盖子串快手一面过百度二面：和一面基本问题差不多，又格外拷打了vit的一些维度问题，和处理问题笔试：三数和百度二面过发了口头offer，经过对比后拒了，all in 快手快手二面：问的情景题：如何做视频相关大模型的应用，然后依旧拷打项目，感觉快手面试官人都不错。笔试：链表删除右节点快手二面过快手hr面：问了问入职时间，和一些基本信息，一共才面了10分钟左右，给我有点慌，不会日常实习给我hr面挂了吧😭😭😭😭。我已经很牛马了😭更新，老铁厂oc了~第一份实习，太难了😭