幻觉是指听起来很可信、却没有得到现有证据支持的输出。它可能捏造引用、把两个人混为一谈、套用过时政策、误读表格，或自信地补上来源从未回答的空白。流畅的表达使这类错误格外危险，因为呈现质量很容易被误认为可靠性。
这种行为源于生成式模型的工作方式。它们会在给定指令与上下文下生成最可能的后续内容，并不会查询一本能保证每句话真实的内部账本。更好的模型可以降低出错率，但任何通用系统都不能取代控制机制。
风险取决于工作性质。头脑风暴中一个出人意料的比喻可能有价值；财务报告中的虚构数字则完全不同。在选择自动化程度前，应先界定哪些主张必须有证据、能接受何种不确定性，以及谁承担错误的代价。
依据约束是第一道防线。提供最新且相关的来源，并要求模型使用它们。检索增强生成可以把私有或变化中的文件带入请求。依据约束也仍需评估：检索到无关或过期段落，同样可能产出引用齐全却错误的回答。
要求在主张层面实现可追溯性。答案末尾的一份来源列表，并不能表明每条陈述由哪一份来源支撑。要求事实主张紧邻引用，保留文件标识符，并让审阅者能方便地打开所引用的段落。在核查目标链接与支撑关系之前，绝不要把模型生成的引用视为已验证。
允许模型拒答。如果证据无法回答问题，正确输出可能是"信息不足"、请求补充缺失文件，或列出未解决事项。一个不惜代价奖励完成的应用，会鼓励模型自信猜测。
校验方式应与输出相匹配。结构化数据可以按 schema、范围或已知词表检查；计算可以重算；姓名和标识符可以与数据库匹配；引语可以在来源文本中定位；代码可以编译与测试。这些确定性检查能捕捉到另一轮自由文本模型审阅也可能重复的失败。
面对复杂文件时，把提取与解释分开。先带着坐标或引用提取相关数值和段落，再让模型解释它们。这样会形成一份可供人工或测试检查的中间产物，也能减少润色后的叙述掩盖阅读错误的机会。
对高影响决策采用独立审阅。审阅者需要看到原始证据，而不是只看答案。人工监督最有效的前提是：审阅者有权叫停流程，也有足够时间检查高风险主张；一个走过场的批准框几乎没有保护作用。
不要只依赖上线前评估，要监控生产环境中的失败。在隐私允许的范围内保存有代表性的提示词、检索证据、输出、更正记录和模型版本。按原因归类错误：来源缺失、检索错误、提示词歧义、无依据综合、数据过期或校验失败。不同原因需要不同修复方式。
在界面中诚实传达不确定性。展示核验日期、来源覆盖范围，以及回答来自用户提供文件还是模型的一般知识。避免使用暗示系统能作出无法保证的承诺的徽章。
实际目标不是承诺 AI 永远不会产生幻觉，而是让无依据主张更难生成、更容易发现、更便宜纠正，并且更不可能在无人察觉时进入重要决策。
我们会结合一手资料、产品文档与实际使用场景，帮助你更清楚地判断工具是否适合你的工作流。