- 正确答案：RAG（Retrieval-Augmented Generation，检索增强生成）是一种将信息检索（Retrieval）与大语言模型（LLM）生成（Generation）能力相结合的混合架构。它的核心目标是让大语言模型在生成回答时，能够动态地从外部知识源（如文档库、数据库、维基百科等）中检索出与当前问题最相关的信息片段，并将这些检索结果作为上下文（context）拼接到提示词（prompt）中，再交由LLM进行条件化生成。因此，RAG本质上是一种“实时知识注入”机制，用于弥补大语言模型固有的知识截止、幻觉（hallucination）、领域适配差等缺陷。 - 解答思路：理解RAG需要拆解其三个关键阶段——检索（Retrieval）、增强（Augmentation）、生成（Generation）。首先，用户提问后，系统不直接调用LLM，而是先通过一个检索器（如基于向量相似度的语义检索）从海量非结构化文本中快速定位若干高相关性文档块（chunks）；其次，将原始问题与这些检索到的文本块拼接成新的输入提示（例如：“根据以下资料回答问题：[chunk1][chunk2]… 问题：XXX”），即完成“增强”；最后，冻结参数的LLM（如Llama-3、Qwen等）仅基于该增强后的提示进行一次前向推理，输出答案。整个流程是端到端可插拔的，且检索模块与生成模块解耦，便于独立优化和更新。 - 深度知识讲解：RAG背后涉及多个底层关键技术栈，需从数据结构、算法原理、工程实现三层面深入分析： 1. **检索模块的核心——稠密向量检索（Dense Retrieval）** - 底层依赖：双编码器（Dual Encoder）架构，即分别训练一个Query Encoder（如Sentence-BERT、bge-small）和一个Passage Encoder，二者将文本映射到同一语义向量空间（通常为768/1024维浮点向量）。 - 数据结构：向量索引采用近似最近邻（ANN）结构，主流实现包括FAISS（Facebook AI Similarity Search）、Annoy（Spotify）、HNSW（Hierarchical Navigable Small World graph）。其中HNSW以图结构组织向量节点，支持O(log n)级查询延迟，其图构建过程本质是贪心图扩展+多层跳表思想的结合；FAISS则基于倒排文件（IVF）+乘积量化（PQ）实现内存与精度的平衡——IVF将向量空间聚类为k个簇（使用k-means），PQ将高维向量分段并为每段独立量化（如将1024维分为32段，每段32维→用256个码本向量近似），大幅压缩存储（原始向量占4KB，PQ后可压至~100B）。 - 关键指标：Recall@K（K=5/10）、MRR（Mean Reciprocal Rank）、Latency（ms/Query）。实际部署中常引入重排序（Rerank）模块（如Cross-Encoder或ColBERT），用更耗时但更精准的交互式编码替代双编码器的粗检，形成两阶段检索流水线。 2. **文本切分与嵌入（Chunking & Embedding）** - Chunk策略直接影响检索质量：固定长度切分（如512 token）易破坏语义完整性；语义切分（如基于句子边界+滑动窗口+最大长度约束）更合理；进阶方案如LaBSE、SPECTER等支持长文本建模，或采用递归分割（Recursive Character Text Splitter）保留标题层级。 - Embedding模型选择决定语义对齐能力：BGE系列（Zhao et al., 2023）在中文任务上显著优于m3e或text2vec；其训练目标融合对比学习（In-batch negatives）与监督微调（MS MARCO），并引入Query-aware normalization提升泛化性。 3. **生成模块的Prompt工程与LLM适配** - Prompt模板设计需规避“指令冲突”：例如不能同时要求LLM“仅依据所提供材料回答”又给出无关背景知识。典型模板结构为：你是一个严谨的AI助手，所有回答必须严格基于下方提供的参考资料，不得编造信息。若资料未提及，请回答“未提供相关信息”。 [chunk1]\n[chunk2]\n... 用户问题 - LLM需支持长上下文（如Qwen2-72B支持131K tokens），且对位置编码鲁棒（如RoPE旋转位置编码优于绝对位置编码）；同时应关闭采样参数（temperature=0, top_p=1）确保确定性输出，避免因随机性导致答案漂移。 4. **RAG vs Fine-tuning 的本质区别** - RAG是“运行时知识绑定”（Runtime Knowledge Binding），知识源可热更新（只需重新嵌入新增文档），无需重训模型，适合法规、财报、产品文档等高频变更场景； - Fine-tuning是“编译时知识固化”（Compile-time Knowledge Embedding），将知识蒸馏进模型权重，推理快但更新成本高（需全量重训或LoRA微调），适合稳定领域知识（如医学术语体系）。二者可融合为“RAG + Fine-tuned LLM”，即用领域微调过的LLM作为生成器，进一步提升专业性。 - 伪代码（端到端RAG推理流程）： ``` function rag_answer(query: str, vector_db: FAISSIndex, llm: LLM, reranker: Optional[CrossEncoder]) -> str: # Step 1: Embed query query_vec = query_encoder.encode(query) # Step 2: Retrieve top-k chunks (e.g., k=5) raw_chunks = vector_db.search(query_vec, k=10) # coarse retrieval # Step 3: Optional reranking if reranker is not None: scores = reranker.rank(query, [c.text for c in raw_chunks]) raw_chunks = [raw_chunks[i] for i in argsort(scores, descending=True)[:5]] # Step 4: Build augmented prompt context_str = "\n".join([f"[DOC{i+1}] {c.text}" for i, c in enumerate(raw_chunks)]) prompt = f"""You are a precise assistant. Answer only based on the documents below. {context_str} {query} Answer:""" # Step 5: Generate with LLM (constrained decoding) output = llm.generate(prompt, max_new_tokens=256, temperature=0.0, do_sample=False) return postprocess(output) # e.g., extract first sentence, strip citations ```

京东AI Agent实习二面 攒人品中

全站热榜

创作者周榜

京东AI Agent实习二面攒人品中