你让 AI 推荐几本讲时间管理的书，它很快列出五本：书名、作者、出版年份、核心观点一应俱全，看上去非常专业。可你拿去一搜，其中两本根本不存在。
这就是 AI 的「幻觉」：内容说得流畅、自信、有模有样，但其实是错的，甚至是凭空编出来的。它是目前用 AI 时最需要警惕的问题。这一节讲清楚幻觉从哪来、哪里最容易出现，以及怎样把它降到最低。
什么是 AI 幻觉
幻觉（Hallucination）指的是模型生成了看起来合理、实际却不真实或不准确的内容。它最麻烦的地方不在于「错」，而在于「错得很像对的」——语气笃定，细节齐全，不仔细核对很难发现。
这个名字借用了心理学里的「幻觉」：看见了并不存在的东西，自己却深信不疑。AI 并不是在故意撒谎，它自己也「不知道」自己错了。
常见的幻觉大致分两类：
| 类型 | 是什么 | 例子 |
|---|---|---|
| 事实性幻觉 | 内容与真实世界不符 | 编造不存在的书、论文、法律条款号；把甲做的事安到乙头上；报出错误的年份和数据 |
| 忠实性幻觉 | 内容与你给的材料不符 | 让它总结会议纪要，它写出了原文没有的「决定」；翻译时擅自增删意思 |
第二类特别容易被忽视。很多人以为「资料都给它了，它就不会乱说」，其实未必。
幻觉从哪来
1. 它的本职是「接话」，不是「查证」
在「AI 通识第一课」里我们讲过，大模型的核心是根据前文预测下一个 Token。它被训练得非常擅长生成「通顺、像样」的内容，但在生成的那一刻，它并没有去翻资料核对真假。
打个比方：它像一位读过海量书籍、口才极好的人，但从来不翻书核对。你问什么，他都能顺着话头说下去；说到记不清的地方，他不会停下来，而是用「听起来最合理」的内容补上。
所以，「说得流畅」和「说得正确」是两回事：流畅是它的强项，正确与否需要你来把关。
2. 记的是「大意」，不是「原文」
模型内部并没有存着一份原文数据库，而是把海量文本中的规律压缩进了参数里。大意和常识记得牢，具体的数字、日期、人名、引用出处这类细节，就很容易张冠李戴。就像你读过很多书，能讲清楚观点，可要你说出「第几页第几行原话是什么」，就很容易记混。
3. 训练资料有局限
训练资料里本身就混着错误和过时的信息；冷门知识出现的次数少，模型学得不扎实；而且模型有「知识截止时间」，之后发生的事它不知道，除非产品给它接上了联网搜索。
4. 倾向于「给个答案」，不愿说「不知道」
有一种解释是：训练和评测方式往往更奖励「给出答案」，而不是「承认不知道」。就像考试遇到不会的选择题，蒙一个还有机会得分，空着一定不得分。久而久之，模型就习惯了「宁可猜也要答」。
5. 被问题「带偏」
如果问题本身藏着错误前提，比如「为什么《静夜思》是杜甫写的？」，模型有时会顺着你的说法解释下去，而不是指出前提就错了。这种迎合倾向也是幻觉的来源之一。
哪些场景最容易出现幻觉
| 高危场景 | 为什么容易出错 |
|---|---|
| 具体数字、统计数据 | 细节最容易记混，而且「编一个数」看起来毫无破绽 |
| 文献、书名、链接、引用 | 格式很容易模仿，内容却可能不存在 |
| 法律条款、医疗剂量、财税规定 | 细节多、更新快，一字之差后果严重 |
| 冷门人物、小众领域 | 训练资料少，模型学得不扎实 |
| 最近发生的事 | 超出知识截止时间，又没有联网 |
| 精确计算、长串数字 | 跟 Token 切分有关，模型本身不是计算器 |
| 带有错误前提的提问 | 容易被问题牵着走 |
| 长文档总结中的细节 | 中间部分容易看漏，再用「合理推测」补上 |
把幻觉降到最低的六个办法
1. 给资料，并划定边界
与其让它凭记忆回答，不如把可靠资料给它，并明确「只能用这些资料」。
错误示范：
介绍一下我们公司的退货政策。正确示范：
下面是我们公司的退货政策原文。请只根据这份原文回答客户的问题；
原文里没有提到的，请直接说「政策中未提及，需要人工确认」，不要自行推测。
客户问题：……2. 明确允许它说「不知道」
在提示词里加一句「不确定的地方请直接说不确定」，能明显减少硬编的情况。
3. 要求标出处、引原文
让它对关键结论注明来自资料的哪一段，或直接引用原文。有了出处，你核对起来快得多，编出来的内容也更容易露馅。
4. 让它自己先「挑刺」
回答完后追问一句：「请检查上面的回答，列出你最没把握的三处，以及我应该如何核实。」
5. 用好联网搜索，但要看来源
需要最新信息时，开启联网搜索并让它给出来源。但联网之后它仍可能误读网页，或引用不靠谱的网站，重要内容一定要点开来源自己看一眼。
6. 交叉验证
换个问法再问一次、换一个模型问一次、去官方网站或权威资料查一次。几方说法一致，可信度才高。涉及法律、医疗、金融的问题，务必以权威来源和专业人士意见为准。
拿到回答后的 30 秒自检
每次拿到一个打算采用的回答，花半分钟问自己四个问题：
- 里面有没有具体的数字、日期、人名、书名、条款号？ 有的话，这些就是重点核对对象。
- 我能不能找到原始出处？ 找不到出处的「事实」，先打个问号。
- 换个问法再问一次，答案还一致吗？ 前后对不上，说明它没有把握。
- 如果这条信息错了，后果有多严重？ 后果越严重，核实越要到位。
一句闲聊里的小错无伤大雅，但要写进报告、发给客户、拿去做决定的内容，这四个问题值得每次都过一遍。
注意：推理模型、联网搜索、知识库都能降低幻觉，但目前没有任何方法能把它彻底消除。把 AI 当作能干的「初稿助手」，而不是不会出错的「权威」。越是你自己判断不了对错的内容，越要多核实一步。
本节要点
- 幻觉是 AI 生成了流畅自信、但不真实或与资料不符的内容，分为事实性和忠实性两类。
- 根源在于模型擅长「接话」而非「查证」，记大意不记原文，还倾向于给出答案而不是说不知道。
- 数字、引用、法规医疗、冷门知识、最新事件、带错误前提的问题，都是高危场景。
- 给资料并划定边界、允许说不知道、要求标出处、让它自查、交叉验证，能大幅降低风险。
- 幻觉无法彻底消除，关键信息必须自己核实，专业问题以权威来源和专业人士意见为准。
