基于知识库的agent幻觉降低的实践

在做agent项目的时候，我真正感受到“AI幻觉”并不是抽象概念，而是一个非常具体、非常烦人的工程问题。基于知识库的问答助手，理论上应该“只根据资料说话”，但现实中却频繁出现张冠李戴、虚构事实、甚至把不存在的数据说得头头是道。模型看起来很自信，结果却完全不对。

我们最先做的，其实是最直觉的一步：换更强的模型。能力更强的模型，确实在理解上下文、引用资料时稳定不少，但问题也很快暴露出来——算力和调用成本直线上升，项目根本压不住成本。这一步只能作为兜底，而不是长期方案。

接下来是补资料库。我们发现，很多幻觉并不是“乱编”，而是模型在背景知识不足时强行补全。于是不断扩充文档覆盖面，减少模糊表述，让资料本身更完整、更自洽。这一步很笨，但很有效，背景越扎实，模型胡说的空间就越小。

真正拉开效果差距的，是prompt的优化。我们重新设计了背景设定，明确告诉模型“只能基于给定资料回答”，并且通过#牛客AI配图神器#few-shot示例，让它看到什么是正确引用、什么是信息不足时该如何回答。尤其是示范“无法从资料中得出结论”的回答方式，对减少幻觉帮助很大。

最后我才意识到，幻觉不是单点问题，而是模型能力、知识质量和引导方式共同作用的结果。能做的不是彻底消灭它，而是一步步把它压到工程可接受的范围内。
#为了减少AI幻觉，你注入过哪些设定？#