面经分享

今天老师为大家梳理了字节算法岗关于大模型Rag的面试题，供各位同学参考。1️⃣ LORA 原理：解释 LORA(Low-RankAdaptation)的核心思想，如何通过低秩矩阵实现参数高效微调?数学形式如何表达?2️⃣Self-Attention机制：自注意力机制中 O/K/ 矩阵的作用是什么?如何通过缩放点积计算注意力权重?公式推导并解释Softmax 的意义。3️⃣位置编码：Transformer为何需要位置编码?主流 LLM(如 LLaMA、GPT)使用哪种位置编码(如 ROPE)?相比绝对/相对位置编码有何优势?4️⃣Seq2Seg 模型：Seq2Seq模型的核心组件是什么?Encoder-Decoder结构如何解决长程依赖问题?5️⃣RAG技术：RAG(检索增强生成)的完整链路包含哪些步骤?为什么它能提升生成质量?6️⃣大模型幻觉：大模型产生幻觉的根本原因是什么?7️⃣显存计算：7B 模型在训练和推理时的显存占用如何估算?显存与参数量、批次大小、序列长度的关系是什么?8️⃣实习与论文：详细说明实习中解决的一个技术难点，涉及哪些模型或算法?如何评估效果?9️⃣链表操作：删除链表倒数第 N 个节点的算法思路?如何用双指针法实现?边界条件(如头节点删除)如何处理?📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。    

测试面经：一面自我介绍tcp和udp的区别http和https的区别对测试的理解出了一个测试用例题：假设平台每天都可以创建活动，用户领取这些活动进行参与，加入需要限制每个用户每天参与活动的时间不能超过8个小时，如果超过，就不能再领取参与，请你设计一个测试用例mysql查询语句：有一个成绩表(学号，姓名，科目，分数)存有学生各科成绩，查询学生的总成绩并进行排名你做测试的优势有哪些你对滴滴出行平台怎么做测试开发一个算法题：有x个台阶，每次可以走1-x步，打印每种走法的步数明细你在实习中遇到什么困难，怎么解决的会不会git，git命令会不会linux，常用linux命令栈和堆⭐关于职场氛围：真的很爱...

### 2025.3.31 平头哥芯片软件一面第一次投的项目相关岗位，很紧张，做好了项目被疯狂拷打的准备，也确实被疯狂拷打了，面试完出了一身汗，好在面试官很温和自我介绍**拷打第一个项目**项目背景 项目结构负责的工作是哪部分？程序访问虚拟地址的过程：tlb→ mmu→各级页表 →各级cache→内存→磁盘（换页）程序的动态加载如何给程序动态分配内存：管理堆区，brk()函数，内存池管理碎片cpu流水线有没有做过优化相关的工作操作系统中断的过程C++怎么多线程编程C++多线程如何同步如何优化你这个项目**第二个项目是大模型相关**把项目背景，整个流程给面试官讲了一遍transformer的结构，是怎么计算的？QKV分别是怎么计算的？ （答了一部分没完全答上来…完全没想到会问算法八股）**反问环节**面试官先主动把业务介绍了一遍，然后问我有没有什么问题（好感大增）1. 实习生培养：每个人分配一个师兄带，不懂的地方可以随时问  2. 加班情况：不强制加班，一般是六点3. 转正名额：基本上都能转正4. 技术栈建议：多了解一下内存管理方面的知识5. 后续流程：归hr管，他也不清楚感觉自己表现很糟糕，项目底裤都被扒了，原本以为没机会了，结果当晚约了二面，大概面完4小时约的### 2025.4.1 平头哥补笔试一面面试官打电话说昨天聊太多 忘记笔试了，补一个笔试环节我表示下午有两场面试，于是约了晚上一共两道题，难度中等，在阿里的平台上敲代码，不需要运行，也不需要开摄像头或者共享屏幕，但面试官可以看到你的实时输入情况，大概四十分钟面试官还问了下午面试的是哪两家公司，有种被人在意的爽感（x）### 2025.4.2 平头哥二面前一天被地平线和微信支付面试官打击得很惨，心里十分忐忑面试官上来先自我介绍，然后让我也自我介绍一下；可能是第一个面试官留了面评，对于我第一个项目（岗位相关）并没有深挖项目背景 项目结构 我的贡献 老一套，然后又问了一下对TLB和cache,流水线的了解**接着疯狂拷打我的大模型项目**（怀疑是交叉面试）为什么要用大模型做这个项目？比起传统模型好在哪？数据处理是怎么做的？大模型对数字的处理？输入和输出分别是什么？RAG部分是怎么做的？怎么样去构建RAG的向量数据库？数据是怎么清洗的？faiss用了什么方法去构建索引？在查找的时候判断相似度的依据是什么？faiss用的查找向量的维度是多少？（问得太细了，完全记不清，只能老老实实说忘记了）用的大模型是什么？为什么不用更新的大模型？用的什么微调方法？模型的参数量有多少？**还记不记得你昨天做的两道题**，说一下你做的思路，有没有遗漏的地方？**反问环节**1. 部门的业务：不能说，范围很广，基本上不涉及操作系统，都是在linux上做的2. 实习生培养计划：虽然问过了但是没话找话3. 技术栈建议：说了一大圈，没有特别重点4. 后续流程：说可能还有一轮大老板面（实际没有）面试过程感觉没答出来的点也很多，表现得一般，但是没想到面完一小时就收到hr电话，说二面也通过了，约下一轮面试，并表示是hr面试，没有大老板面（听完差点没爽死，原本还发愁大老板面该怎么过）hr面试通过的话就是排序等offer了4.7 hr面试聊了一下学习和生活，未来规划等等，很正常的hr面试反问多久出结果，hr表示4月中会提交一批4.17接到hr电话通知oc，4.21拿到offer

之前公司带过的一个实习生，想换工作，就投递了这家公司，总体来说面试难度不高。 滴滴这个面试官水平有点低，感觉啥都没问出来。我这个小师弟背景： 985本硕毕业，美团实习一年，在一线大厂工作了2年，目前薪资32K*15。这家公司的薪资还是可以的，工作2-3年，最高也可以给到67W，并且是非常核心的C端部门，面试时长60分钟。面试结果：通过。 二面会邀如下：一面面试会邀：二面会邀：面试官第一个问题：Java有哪一些支持并发的组件，从整个面上介绍一下Java在并发上做了哪些事情？候选人回答： 首先是一台服务器进程的并发处理方式，为什么会出现线程安全问题，因为操作系统工程师和硬件工程师为了提升程序性能，...