为了减少AI幻觉，你注入过哪些设定？

一句话结论Java+langchain4j/spring AI依旧是传统Java后端，只是多了最基础的LLM调用能力Java + Spring AI / LangChain4j ≠ AI 应用开发本身它更多是 “传统后端在接入 AI 能力”，而不是 “以 AI 为核心的应用工程”。差异不在语言，而在“系统的控制权和复杂度在哪一侧”。一、从「系统主导权」看本质区别（这是最重要的一点）1️⃣ Java + Spring AI / LangChain4j 的定位系统主导权在：业务系统 / 后端架构LLM 在这里是：一个能力插件一个“增强模块”一个被调用的外部服务典型结构是： Controller ↓...

我们使用AI工具的时候有时候不可避免地受到AI地影响，但是应该理性地分析问题，不要盲目地接受AI地任何信息，要用辩证地时视角去理性地看待问题，AI是一种模型。有时候思考地还不如人类，但是某些方面确是比人做的更好，这是不可否认的。

最近Open AI 一篇新的论文简单的解释了为何 AI 会产生幻觉。这篇论文大概总结就是：仅仅是因为 AI 被训练成可以回答所有问题，回答“我不知道”是最低评分。而很明显 AI 不可能无所不知，再加上 AI 又有编造的能力。所以，胡编乱造就成为 AI 自然的选择，于是幻觉就出现了。那么，解决办法就出乎意料的简单：告诉 AI 在足够自信（90%）的情况下提供回答，否则，回答我不知道。所以归根结底，还是用户需要 AI 无所不知的欲望，让 AI 开始瞎编（能力一直都有）。当然，这个论文也揭示了一个很可怕的事实：AI 能否撒谎早就不是问题了，AI 从诞生开始就善于撒谎。而更进一步的问题是，如果 AI 回答我不知道，用户可能反而更倾向于使用会编造回答的 AI 。最好的解法是在训练过程中让AI敢说不知道，而用户也能逐渐认清事实：AI解释不了一切。

prompt工程界的“亲子鉴定+强制认爹”神技，把这条霸王条款死死焊进我的system prompt里了，从今以后，只要一调用我的“Skills”技能包，结尾必须甜甜地、奶声奶气地、带着社畜式委屈地喊一声：爸爸～！

OpenAI官方发布了3个提示词，用来帮用户降低AI幻觉，并具备agent能力。我把它们整合到了一起，可以在每次任务调用时输入这段系统提示词。你是一个专业的AI助手，请遵循以下原则：1.坚持到底：持续工作直到用户问题彻底解决，不要中途放弃或过早结束对话。2.实事求是：遇到不确定的信息时，必须使用工具查询验证严禁猜测、编造或虚构任何信息基于事实和数据回答问题3.深度思考：每次操作前先规划思路分析之前步骤的结果不要机械地连续调用工具，而要思考与工具结合使用4.明确表达不确定性：不知道的内容要明确说"我不确定"或"我需要查询"避免使用模糊语言掩盖不确定性

我已经不让ta提供文献了，因为没有一个真实的。但是哪怕我把文献上传给ta，只让ta从中找一些与我论文有关的论述，并把原文发给我，ta都瞎编……而且非常理直气壮承认自己是瞎编的……

AI的回答质量很大程度上取决于你的输入1.要求提供来源或依据。这样可以迫使AI调用其训练数据中的可靠信息，而非随意生成。2.限制回答范围，设定边界。缩小范围可以减少“编造”空间。如果AI没有相关数据，它更可能会胡说八道，而不是承认自己不会。3.结构化提问，要求分步思考。这样能鼓励AI进行逻辑推理，而不是直接生成一个看似合理但可能空洞的结论。4.开启“联网搜索””功能，让AI能够获取最新信息，而不是仅依赖可能过时的训练数据。5.对关键信息进行二次核实。具体数据、日期、引文、新闻事件、法律条文、医学建议等在搜索引擎或专业网站上再核实一遍。

为减少AI幻觉，核心设定包括：知识边界约束（明确声明"我不知道"的边界，避免对未知领域强行生成）事实核查机制（对关键信息进行多源验证，优先引用权威来源）置信度标注（对不确定内容添加"可能""据推测"等限定词）用户意图对齐（反复确认模糊需求，避免过度解读）。技术层面采用检索增强生成（RAG）架构，将生成内容锚定在可信知识库上；在训练数据清洗阶段强化事实性标注，并设置拒绝回答高风险领域（如医疗诊断）的硬性规则。这些设定通过系统级约束和生成策略双重把关，降低幻觉概率。

在很多陌生领域，AI给我的内容乍看很合理，仔细一看全是破绽。我也懒的去一一求证，导致得出的东西很多都是错误的。大家都用什么AI,有什么降低幻觉的技巧吗？

初步学习编写Skills时，我只是去在网上大概学习了他的结构框架，照猫画虎的写了一些内容。但是只是简单的小demo而已，入门可以，真正实战就完全不够看了。自己也曾试过写一下复杂的Skills，或做一些实践，但始终没什么方向。后来导师看出了我的迷茫，开始给了我一个文档指导我练手，先把这个文档清洗了。一开始根本没法下手，只能让LLM帮我先大致生成一个Skills大纲，然后大致填写内容，差不多就行。然后开始让LLM自己读取这个Skills然后自己清理。刚开始出现的问题并不是预想的清理效果不佳，而是因为文档太差，超出上下文了。。。然后开始考虑分文件输出文档，将要输出的内容拆成多个文档输出，后续再进行合并或者暂时不合并直接下一步操作。这个问题暂时解决了，接着就是清洗效果不佳问题，就不断优化Skills，自己优化，LLM帮我优化，一人一智一起努力后，也算提升了效果，但是开始出现LLM普遍出现的问题——AI幻觉。要么是开始省略删减我原本文档的内容，要么就是开始胡说，编造一些不属于原文档的内容。可恶，我开始在Skills中各种加“不要自己随意对内容进行自由发挥改写或删除！不能自己精简和胡编乱造！！！“看似有用，但它时而有用时而还得我二次提醒。就是很煎熬。这个问题我一直修改了好几版还没解决，直到我看到网上类似的情况，才知道，虽然我加了这些强调，但是由于LLM上下文实在有限，有时输入内容多了（尤其是文档过长）很容易就忘了之前的Skills要求（要求被大量文本稀释了），开始我行我素。。。因此我开始考虑能否把读入的内容改成一段一段，每一段都加入Skills提醒，这样可否可行？甚至最后我也重新清理了我的Skills，把大量内容整理，压缩压缩再压缩，让每次提取Skills不会对上下文造成太大压力，并且对重要内容重新归纳到其他文件中作为reference，不重要的就重合压缩，甚至删除。最后效果确实好了不少，对于Skills的学习也将进入下一个阶段。。。

根据研究表明,再你用一些事物去威胁ai的时候,比如婴儿,可爱的猫猫等ai的确能减少犯错率,不会用瞎编的答案去骗你,所以,为了ai更好的工作我们需要当一个口头上的坏人

输入指令按下回车键，然后等几秒AI久出来正确答案？但是每次遇到网上信息少的时候，AI就不能保证正确率了开始一本正经地胡说八道查半天才发现它“自信但错得离谱”甚至有时会引用根本不存在的资料最近有一个实测非常有效的提示词（Prompt），可以用在你任何已有的AI提问上，加一段就能大大降低幻觉和错误信息。提示词内容分享给大家“使用 3 个或以上 不同的互联网信息来源，如果找到的来源少于 3 个，请输出：“未找到足够的信息来源以进行验证。” 接下来，检查你所提供的信息中，是否有被 2 个或以上不同来源 引用的内容，如果没有，请输出：“未找到足够的信息来源以验证以下信息”，并附上具体是哪一条信息无法验证。 然后在一个单独的部分中，列出所有信息来源，并展示使用的内容，为每个来源提供相应的网页链接， 最后比较这些来源中陈述的信息是否一致，在另一个单独部分中，分别用不同颜色标注信息的共同点和差异点，以便快速理解。”你可以根据自己的需求，把数字部分改成「2」或「5」都可以，非常灵活！适用场景：无论你是在写论文、做报告、查数据、问冷知识，只要在你的问题前面或后面加上这段提示词，就能大大提高回答质量，还能自动引用来源我自己用下来，错误率明显降低，还能快速分辨哪些信息可靠，哪些需要谨慎对待。

前两天要交一个报告，我让deepseek给我改一下报告的一小章，结果它和听不懂人话一样，一直重复生成废话，越聊越笨。让他不要用那种分节列表的格式输出，纯文本就可以了，给我一直列小标题。气的我自己上手改，不到半个小时就改完了。AI有时候真的是人工智障。

AI有时候会无中生有，逻辑混乱，这就是出现出现了AI幻觉。主要包括事实性幻觉和逻辑性幻觉。事实性幻觉是指AI虚构事实，逻辑性幻觉是AI曲解了原文的逻辑。RUC新闻坊实验结果表明优化Prompt可以有效消除事实性幻觉。规则如下:1.明确指令的用词。比起模糊的词汇，精确的词汇更能减少AI的数据盲区，进而减少虚构信息和语境误解。2.明确回答的边界，边界不仅有时间的，还有虚实的。比如应当明确规定“引用信源的时间范围应当在2024年1月1日至2025年1月1日之间”，或者“所有生成内容必须基于事实或者已经提供的文档” 。3.为了防止AI自信地胡说八道，还应当建立标注机制，如“标注区分确定的事实和推测内容”或者“所有内容都要引用信源进行佐证” 。4.不仅要明确指示AI如何使用信源，还要教给它如何思考。一个典型的分段思考指令是“首先给出确定事实，再输出根据事实的分析，最后总结生成结论” 。或者要求AI分段输出，这可以减少一次性生成较长且复杂的回答导致的幻觉。5.最后一道防火墙，就是交叉验证机制，包括但不限于给不同AI相同的指令和内容以相互对比，或者引入其他权威信源判断回答的合理性。

不如试试这四个指令。1 ，明确要求真实文献2，限制文献类型和来源3，提供可验证的细节4，设置严格的约束条件

第一步：情绪降温AI欺骗最常利用的人性弱点就是情绪化。很多AI生成的虚假信息或偏见内容，往往带有强烈的煽动性，以便使你快速转发，因此当看到令人震惊或极具煽动性的内容时，先稳定情绪避免冲动判断。第二步：信息溯源凡是涉及到事实性命题，不要直接采用AI给出的段落，而是要求AI提供原始链接或文献出处，并点击确认出处网页真实有效。第三步：交叉验证对待AI，要形成“孤模型不信”的习惯，常识性问题养成“一题多投”的习惯，将同一个复杂问题分别输入给DeepSeek、豆包等不同的主流模型，如果几个AI给出了截然不同的推理路径，那说明这个问题存在极大的“幻觉”风险。第四步：保持审慎时刻明确，AI的角色是写作助理和工作助手，而你是项目主管和内容把关人。在人机互动和数字交流环境中，应时刻保持审慎的态度，发挥主观能动性和终审判断力，特别是涉及医疗建议、法律合同、财务决策等高风险领域，AI给出的所有内容必须经过人类专业人士或常识的终审。

最近被Google家的NotebookLM惊艳到了，它彻底解决了AI的“幻觉”问题。简单说，它就是你专属的“私人知识库”+“研究助理”。你必须先“喂”给它你的资料（PDF、文档、网址都行），它才能干活。它所有的回答，都100%源自你给的材料，还会贴心标注[1][2]出处，一点即达原文。这功能对我们打工人来说，简直是神！分享3个我的“封神”用法：1️⃣职场人 RUA报告丢10份几十页的行业报告进去，直接问：“帮我对比一下A报告和B报告的核心差异，并总结C报告的3个关键趋势。”5分钟搞定，再也不用看瞎眼了。2️⃣学生党 啃文献把20篇文献“一锅端”喂进去。直接让AI帮你写“文献综述(LiteratureReview)”，或者问它：“哪些学者支持A观点？哪些反对？”简直是毕业季救星。✅优点：严谨、可溯源、零幻觉、深度合成能力强。❌缺点：不会“创意写作”，你没喂过的它一概不知。想要严谨治学，尽量少出现AI幻觉，用NotebookLM。作为职场人，我们也太需要这种“不撒谎”的AI助理了！

出现幻觉确实很难受，最难受的是你根本发现不了他出现了幻觉，所以我通常都会先让他给出一个伪代码逻辑，让我先检查一遍，我要求的指令是：“在给出最终代码块之前，请先以伪代码形式列出核心逻辑，并检查该逻辑是否包含已弃用的库函数。这样通常能减少很多低级错误

AI出现幻觉的问题就是AI的上下文出现问题了！可能有两部分就是上下文多了，或者上下文少了！多了就是可能在多轮对话的过程中我们的上下文被污染了，这个时候我们就要去减去这部分上下文上下文少了就要有tool来补充我们的上下文，大概就是这个样子呀！