今天老师为大家梳理了字节算法岗关于大模型Rag的面试题，供各位同学参考。1️⃣ LORA 原理：解释 LORA(Low-RankAdaptation)的核心思想，如何通过低秩矩阵实现参数高效微调?数学形式如何表达?2️⃣Self-Attention机制：自注意力机制中 O/K/ 矩阵的作用是什么?如何通过缩放点积计算注意力权重?公式推导并解释Softmax 的意义。3️⃣位置编码：Transformer为何需要位置编码?主流 LLM(如 LLaMA、GPT)使用哪种位置编码(如 ROPE)?相比绝对/相对位置编码有何优势?4️⃣Seq2Seg 模型：Seq2Seq模型的核心组件是什么?Encoder-Decoder结构如何解决长程依赖问题?5️⃣RAG技术：RAG(检索增强生成)的完整链路包含哪些步骤?为什么它能提升生成质量?6️⃣大模型幻觉：大模型产生幻觉的根本原因是什么?7️⃣显存计算：7B 模型在训练和推理时的显存占用如何估算?显存与参数量、批次大小、序列长度的关系是什么?8️⃣实习与论文：详细说明实习中解决的一个技术难点，涉及哪些模型或算法?如何评估效果?9️⃣链表操作：删除链表倒数第 N 个节点的算法思路?如何用双指针法实现?边界条件(如头节点删除)如何处理?📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。    

一面多级缓存下，它的这个跟数据库一致性它怎么做去保证的？（关于 mget 改成 get 的优化）那其实我这里有点好奇是说，因为其实 mget 是一个批处理的获取命令。它如果在全部改成 get 的话，现在网络开销会增加不少。那为什么的 RT 时间会减少呢？（针对简历描述“减少每日 53K 批量操作”）减少每日 53K，其实我感觉好像这个 KP(QPS?) 的不是很高... 这个 S 的这个操作好像也对不上。（质疑/要求澄清优化效果与描述的关联）那权益卡那边有做一些，比如说超发了一些防护吗？就是一些问题吗？对于你负责的那个业务模块里面，有没有遇到什么一些服务问题？就你遇到这个问题到当时是怎么解决的...

1、自我介绍2、rag 的检索原理3、哪些大模型在图像和表格方面比较好4、大模型怎么解析图像和表格5、对 mcp 的理解6、对 prompt 的理解7、对 workFlow 的理解8、项目展示

1、自我介绍答：公式背诵，多的不谈2、谈谈你对大模型的应用答：早在 DeepSeek 开源前通过配置文件直接调用过星火 3.5，SpringAI 等框架发行后分别通过本地部署 DS 和调用豆包 API 的方法实操过 AI Chat 开发，发现使用了这些框架后程序运行速率显著提高。值得一提的是，我学习这些框架最早接触的是 LangChainGo，我在没发现这个框架有 history 包的前提下自己实现了可记忆化的 AI Chat。3、如何自实现可记忆化 AI Chat？答：维护一个 historyMsg 的 struct，用户每次向 AI 聊天时，将用户的问题与大模型的 response 去 a...