小红书

也大大小小面了很多内部正在搞AI的公司，给大家分享一下我的面试题库！ 第一章：RAG 系统 Q1: 请解释 RAG 的工作原理。与直接对 LLM 进行微调相比，RAG 主要解决了什么问题？ RAG（Retrieval-Augmented Generation）的核心是"检索+生成"两阶段：先从外部知识库中检索与用户问题相关的文档片段，再将这些片段作为上下文拼入 prompt，让 LLM 基于检索到的信息生成回答。相比微调，RAG 的优势在于： ①知识可实时更新，不需要重新训练模型； ②可追溯来源，减少幻觉且便于审计； ③成本低，不需要 GPU 资源做训练； ④领域迁移方便，...

春招约不到面试，太难受了

发70个邮件让我完善简历，我还以为被网暴了。说的就是你慧策，发邮箱让参加宣讲会，说参加完后就给安排面试。技术岗上来来了一句：只要92或双非ACM银牌，66666。说双非本只能投销售类，后期能转岗（虽然但是就你小子公司的hr已读且回复，那有毛用），92才不去你们那破公司，双非本就和有案底没区别。———4.21更新贵公司的高级员工您来私信骂我也没用哈，风评不好谁的问题谁自己心里清楚，有这时间建议提升自己，完善公司制度，而不是来骂我这个连入场券都没有的破学院本

1. 什么是 LoRA？LoRA 全称是 Low-Rank Adaptation，核心思想是在微调大模型时不直接更新原始大权重矩阵，而是冻结预训练权重，只额外学习两个低秩矩阵，用这两个小矩阵的乘积去近似原权重的增量。原来如果某层权重是： W ∈ R^(d×k) LoRA 不直接学习 ΔW 的完整矩阵，而是写成： ΔW = B A A ∈ R^(r×k), B ∈ R^(d×r), 且 r << min(d, k) 最终前向变成： h = W x + ΔW x = W x + B A x 这样训练参数量会大幅下降。2. LoRA 的思路是什么？LoRA 的基本假设是：大模型在迁移到下...