soul后端ai开发日常实习一面分享

一、核心结论Agent 的出错/幻觉，不是单点问题，而是「模型原生不确定性 + RAG检索误差 + Prompt约束不足 + 工具链不可验证」的叠加效应。结合我项目落地经验，按优先级排序，幻觉的主要诱因的是：高概率：Prompt 缺少强约束，允许模型在“无证据、不确定”时硬答（核心可控）；次高：RAG 召回质量问题（切分不合理、过滤不到位、上下文拼接杂乱），给模型喂了无关“脏数据”，导致误导性幻觉；长期因素：模型本身能力边界（尤其本地小模型），属于原生短板，但占比最低。核心优化思路（不换模型）：把“模型自由生成”，改成“检索/工具可验证 + 受控生成”，用工程手段兜底，减少模型主观臆测空间。二...