陌陌大模型

今天老师为大家梳理了字节算法岗关于大模型Rag的面试题，供各位同学参考。1️⃣ LORA 原理：解释 LORA(Low-RankAdaptation)的核心思想，如何通过低秩矩阵实现参数高效微调?数学形式如何表达?2️⃣Self-Attention机制：自注意力机制中 O/K/ 矩阵的作用是什么?如何通过缩放点积计算注意力权重?公式推导并解释Softmax 的意义。3️⃣位置编码：Transformer为何需要位置编码?主流 LLM(如 LLaMA、GPT)使用哪种位置编码(如 ROPE)?相比绝对/相对位置编码有何优势?4️⃣Seq2Seg 模型：Seq2Seq模型的核心组件是什么?Encoder-Decoder结构如何解决长程依赖问题?5️⃣RAG技术：RAG(检索增强生成)的完整链路包含哪些步骤?为什么它能提升生成质量?6️⃣大模型幻觉：大模型产生幻觉的根本原因是什么?7️⃣显存计算：7B 模型在训练和推理时的显存占用如何估算?显存与参数量、批次大小、序列长度的关系是什么?8️⃣实习与论文：详细说明实习中解决的一个技术难点，涉及哪些模型或算法?如何评估效果?9️⃣链表操作：删除链表倒数第 N 个节点的算法思路?如何用双指针法实现?边界条件(如头节点删除)如何处理?📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。    

5月6日15:00 美团一面  JS 有哪些类型，分别存储在哪里（堆区/栈区），使用上有什么区别 深拷贝、浅拷贝、=赋值有何区别？描述一下深拷贝写法？有哪些坑（循环引用） V8 垃圾回收机制（深挖，不会） 闭包 作用域链 原型链 输入 URL 到看到页面有哪些过程？  Follow up：浏览器回流和重绘，如何减少回流（原生 / React 等框架）   Node 事件循环  和浏览器的有什么不一样？ Node 微任务和宏任务都有哪些？（只会说 Promise 和 timeout……其实还有很多）   null和undefined区别：如何区分？除了用===还有什么方法？ TCP 三次握手 H...

中科闻歌大模型岗面试通过了，虽然面的不怎么样，感觉很缺人。bg：本2硕9，做强化学习方向的，刚找了三个大模型的小项目做，不知道能不能找到其他实习。要不要接这个offer

一面，面试官水平很高，气质上给我的感觉像是清华或者中科大少年班的。面试体验很好。首先聊了聊无经验为什么做AI Sys，答有传统计算机系统的学习经验，AI Sys很多思想和传统sys相同。举例Paged Attention和操作系统中虚拟内存分页的相似性。接下来问了问大模型推理的过程，有哪些潜在的优化点。接下来做题，一道没刷过的dp，虽然一眼看出是dp，但转移方程还是在面试官的提示下才设计出来的，最后corner case没处理好，没撕出来。技术不行，沉淀再战。