你让 AI 帮忙写一份行业简报,它写得有模有样:「该市场规模同比增长 27.3%」「据《某某研究》显示……」,还引了一句「根据某某法第 X 条规定」。看上去专业又权威。可等你逐条去查,有的数字找不到出处,那篇研究根本不存在,法条的编号也对不上。
讲 AI 幻觉的那节课说过:大模型是按概率「接着往下写」,它擅长写得像真的,但不保证是真的。所以核查不是不信任 AI,而是用好 AI 的必经步骤——就像你不会把实习生的初稿看都不看就直接交给客户。这节课给你一套能直接上手的核查方法。
先分级:不是每句话都要查
如果每句话都去查证,那还不如不用 AI。核查的力度应该跟着出错的代价走,就像机场安检:普通行李过机器扫一下,可疑物品才开箱检查。
| 风险等级 | 典型场景 | 核查力度 |
|---|---|---|
| 低 | 头脑风暴、起标题、改语气、写祝福语 | 自己判断好不好用即可,不需要查证 |
| 中 | 工作汇报里的数据、行业概况、产品对比、历史事件 | 关键数字和结论要找到出处 |
| 高 | 法律条款、医疗用药、投资理财、对外发布、要签字负责的材料 | 必须回到权威原始来源,并请专业人士把关 |
判断等级时问自己一句:如果这条信息是错的,最坏会发生什么?最坏不过是标题不够好,就放过;可能让你赔钱、伤身体、惹官司,就必须查。
四步法:拆、溯、比、问
第一步,拆。把 AI 的回答拆成一条条可以判断对错的「事实陈述」。要分清事实和观点:「Transformer 架构是在 2017 年的一篇论文里提出的」是事实,可以查;「这个方案更适合你」是建议,要靠你自己判断,没法「查证」。
第二步,溯。每条关键事实都追到原始来源。不是「某个网站说」,而是「最早是谁说的」:统计数据找统计部门或发布机构的原文,研究结论找论文本身,法规找官方发布的文本,新闻找权威媒体的原始报道。看到「研究表明」「专家指出」却没有具体出处,先打个问号。
第三步,比。至少找两个互相独立的来源互相印证。注意「独立」二字:十个网站转载同一篇文章,只算一个来源;如果那篇文章本身就是 AI 写的,那更是一个都不算。数字还要核对口径:哪一年、什么范围、什么单位、怎么统计的。
第四步,问。高风险的问题,去问专业的人:律师、医生、药师、会计师、有资质的理财顾问。AI 可以帮你把问题整理清楚,但拍板的不该是它。
四类高频信息怎么核
数据和统计
AI 给出的精确数字最值得怀疑,比如小数点后一位的增长率、没写年份的市场规模。核查时找发布机构的原文,比如统计部门的公报、行业协会的报告、上市公司的公告;核对年份、地区和统计口径是否一致;涉及比例、合计的,自己用计算器重算一遍,AI 做算术也会出错。
引用和文献
AI 可能编出「标题合理、作者真实存在、但这篇文章根本不存在」的论文或书。核查时用标题原文精确搜索,核对作者、年份、期刊;有 DOI 编号的,用编号查一查;最好打开原文,看看被引用的那句话是不是真的这么说。开了联网搜索的 AI 会附上链接,但也要点进去看:链接里真的有这句话吗?
法律法规和政策
常见的坑有:条款编号写错;把已经修订或废止的旧规定当成现行有效;把地方规定当成全国规定;把征求意见稿当成正式文件。核查时去全国人大的「国家法律法规数据库」、中国政府网以及各部门官方网站找原文,看清施行日期和是否现行有效。涉及自己的具体权益,找律师咨询。
医疗健康和金融
AI 可以帮你理解医学名词、整理就医时想问医生的问题,但不能代替诊断和处方。核查时以医生和药师的意见、药品说明书、卫生健康部门等权威机构发布的信息为准;症状紧急时直接就医,别在对话框里耽误时间。理财投资也一样,AI 不是持牌顾问,涉及真金白银的决定,以官方披露的信息和专业人士意见为准。
注意:本节讲的是核查方法,不是法律、医疗或金融方面的专业意见。这几类问题,一律以权威来源和专业人士的意见为准。
让 AI 帮你核查,但别让它给自己打包票
AI 不能替你核查,却可以帮你把核查做得更快。最好用的一招,是让它把自己的回答拆成待核查清单:
请把你上面的回答拆成一条条事实陈述,做成表格,列出:
1)陈述内容;
2)类型(数据 / 引用 / 法规 / 常识 / 观点);
3)你的把握程度(高 / 中 / 低)和理由;
4)我应该去哪一类权威来源核实。
对于你不确定或可能记错的内容,请直接标出来,不要猜。再配合几个技巧:
- 要出处,也要验出处:AI 可能连出处都是编的,给了来源也得自己点开看。
- 换个模型问一遍:不同模型结论不一致的地方,重点查;结论一致也不代表一定对,它们可能学自同样的错误资料。
- 追问反面:「有哪些证据或观点和这个结论相反?」能帮你发现被忽略的另一面。
- 给它可靠的资料:开启联网搜索,或者把权威文件交给 AI(也就是检索增强)再提问,能明显减少胡编,但不能完全杜绝。
| 错误做法 | 正确做法 |
|---|---|
| 问一句「你确定吗?」,AI 说确定就信 | 让 AI 拆出事实清单,自己按清单逐条核 |
| 看到回答里有链接,就当已经核实 | 点开链接,确认原文确实这么说 |
| 网上搜到好几篇一样的说法,就放心了 | 找到最早的原始出处,确认来源彼此独立 |
| 直接问 AI「这个药我能不能吃」 | 让 AI 帮忙整理问题,拿去问医生或药师 |
最后提醒一句:图片和视频也需要核查。网上流传的「现场画面」可能就是 AI 生成的。可以看看有没有 AI 生成的标识,用以图搜图找最早的出处,再看看权威媒体有没有报道。
本节要点
- 大模型擅长写得像真的,不保证是真的,核查是用好 AI 的必经步骤。
- 按出错代价分级:低风险不必查,中风险查关键数字,高风险必须回到权威原文并请专业人士把关。
- 四步法:拆成事实陈述、溯到原始来源、比对独立来源、问专业人士。
- 数据、引用、法规、医疗金融各有常见的坑,尤其当心精确数字、查无此文和过期法规。
- 可以让 AI 列出待核查清单、标注把握程度,但它的自我检查不能代替你去查原始来源。
