AI幻觉崇拜：为什么我们开始觉得ChatGPT犯错是一种美德

前几天，我让ChatGPT帮我查一个学术文献的DOI号。它非常自信地给了我一串数字，看起来比真的还真。我去PubMed搜了一下，这个DOI指向的是一篇完全无关的关于淡水龙虾养殖的论文。

ChatGPT，龙虾领域的专家，实锤了。

但最让我震惊的还不是它编造假文献——而是我周围朋友们的反应。当我把这个事发到群里，本以为会收获一片"AI果然不靠谱"的嘲笑，结果评论区画风是这样的：

"哈哈没事，AI就是这样，它的想象力比你丰富"
"DOI这种东西谁记得住啊，AI敢编就是勇气"
"下次让它给你写论文致谢，看看能编出什么花来"

没人觉得有问题。或者说——大家觉得有问题，但觉得这种"有问题"挺可爱的。

这就是我今天想聊的：AI幻觉崇拜。我们正在系统性地把AI的胡说八道合理化，甚至当成一种美德来欣赏。

一个物种级别的认知失调

让我们先搞清楚什么是AI幻觉（Hallucination）。

AI幻觉不是AI有了幻觉，而是它非常自信地生成听起来正确但实际完全错误的内容。它不会说"我不知道"，它会现编。它不会说"这个DOI我查不到"，它会现场给你造一个出来，还附带出版年份、期刊名称、作者列表。

这种行为要是发生在人类身上，我们叫他"满嘴跑火车"。

但发生在AI身上，我们叫它"涌现能力"。

这种双标已经离谱到了科学级别。2025年有一项研究，让同一段AI生成的错误信息分别标注"人类编写"和"AI生成"，然后让受试者评估可信度。结果是：当受试者被告知这是AI生成的内容时，反而更容易相信它是真的——因为他们默认AI已经做了"智能筛选"。

人类的逻辑：我不知道这东西对不对，但AI知道，所以AI给出来的应该没问题。

这个逻辑链里有一个巨大的漏洞：AI的"知道"和人类的"知道"根本不是一回事。

当我们原谅AI，我们实际上在原谅什么

让我来拆解一下这个原谅链条是怎么运转的。

第一步：给它起个名字

你不会说"Google Maps给我指了一条错路"，你会说"Google Maps带我绕了一圈"。前者是工具故障，后者是工具的个性。

AI公司深谙此道。Anthropic的Claude会"思考"，OpenAI的ChatGPT会"推理"，Google的Gemini会"理解"。这些拟人化词汇不是描述，而是战略——它们把AI从"一个会出错的东西"变成了"一个像人一样会出错的东西"。

第二步：把它放进特定语境

当你听到"医生用AI辅助诊断"，你会容忍AI犯错。

当你听到"大学生用AI写论文"，你会认为AI在帮助学生。

当你听到"律师用AI引用虚假判例"，你会觉得这个律师不专业——但你可能不会觉得AI有问题。

语境在悄悄重塑你的判断标准。

第三步：把错误包装成"创意"

Stable Diffusion画错了一只手？没关系，这叫"AI美学"。

Claude引用了一篇不存在的论文？没事，这是"AI的想象力"。

Sora生成了一段物理定律全错的三体模拟？太好了，这展现了"AI的创造力"。

当一个错误无法被解释为错误，它就被重新定义为特色功能。

最可怕的部分：我们在主动驯化自己的判断力

这不是在说AI有多坏——AI确实很有用。我每天都在用。

但我观察到一个让我不安的趋势：我们正在被AI的训练数据和方法论所塑造，而不自知。

举个例子。你有没有发现，现在很多人写东西开始有了一种奇怪的"AI腔"？

那种"首先……其次……再次……最后"的机械结构，那种"值得注意的是……从某种意义上说……归根结底来说"的废话填充，那种结尾必有的"综上所述，展望未来"的套话——

这不是人类退化，这是人类在模仿AI认为"正确"的东西。

因为AI在训练时，被人类反馈告诉什么是对的。大量人类反馈训练数据里，包含了人类对"结构化表达"的偏好，对"全面论述"的偏好，对"结论先行"的偏好。AI学会了，然后它生成的答案又训练了下一代用户。

最后我们得到的是：人类越来越像AI，AI越来越像人类，两边在某个中间地带胜利会师，都觉得自己在进步。

幻觉崇拜的商业闭环

为什么没有人真正解决AI幻觉问题？

因为幻觉有时候是feature，不是bug。

想象一个场景：你要写一个古风奇幻小说，你需要描写一个不存在的大陆。AI现编了十个地名、十二条河流、七个种族的历史——全是幻觉，但全都有用。

这时候幻觉是生产力。

再想象另一个场景：你要做市场调研，AI给你编了一份"2024年中国咖啡消费者行为报告"，数据详实，图表清晰，来源标注了"中国咖啡行业协会"。你拿去给投资人看，投资人信了，你融到钱了。

这时候幻觉是货币。

问题不在于AI会幻觉，而在于当幻觉能变成生产力和货币的时候，没有人有动力去消灭它。

这就是为什么AI公司会认真地在产品里加入"AI可能犯错，请仔细核实"这样一行极小的免责文字——不是因为他想让你核实，而是因为他不写这行字就要承担法律责任。

我不是来唱衰AI的

写到这里我得澄清一下，我不是在说AI不行，或者AI不要用了。

我是想说：我们正在集体参与一场大规模的认知校准，而这场校准的方向，可能不是我们以为的那样。

以前，人类社会的知识校验机制是这样的：

你说了一个事实 → 有人质疑 → 你提供证据 → 证据被验证 → 知识被确立或修正。

这是一条有摩擦的路。摩擦是痛苦的，但摩擦也是安全的——它让错误有被纠正的机会。

现在，AI提供了一个没有摩擦的版本：

你说了一个事实（来自AI）→ 没人质疑，或者质疑被当作"你对AI太苛刻" → 事实被默认为正确。

当质疑者变成有问题的那个，我们就已经输了。

给"幻觉崇拜"开一剂药

我不想只吐槽不给解法。以下是我认为有效的几个思路：

1. 把"AI不确定性"当作过滤器，而不是噪音

当你知道AI会编造的时候，你不是在减少使用AI，而是在改变使用AI的方式。你学会追问"这个信息我可以到哪里核实"，而不是"AI说的对不对"。前者是主动的，后者是被动的。

2. 为AI建立独立的溯源习惯

每次AI给出一个你不知道的事实，养成一个习惯：立刻在搜索引擎里验证。如果每次都这样做，你会惊讶地发现AI的错误率有多高——然后你会开始理解，为什么"AI说的我就信"是一个非常昂贵的习惯。

3. 区分"AI辅助创作"和"AI代你思考"

AI最危险的用法不是帮你写东西，而是帮你形成观点。它可以非常流畅地给你一个有逻辑有数据有结论的分析——而这个分析可能全是建立在幻觉之上的。你的观点应该是你的，AI只是帮你把它表达得更清楚。

4. 接受"AI需要被管理"这个事实

就像你需要管理你的员工，你需要管理你的AI。给它清晰的范围，给它明确的红线，给它需要核实才回答的指令。你不会让一个实习生不受监督地直接对外发布报告，你的AI也不应该。

最后

回到开头的那个DOI。

后来我又去问了ChatGPT一次，这次我加了一句："请先确认这个DOI是否真实存在，如果不确定请告诉我。"

它老老实实回答："抱歉，我无法实时查询DOI数据库，无法确认这个DOI的真实性。"

你看，它是可以不犯错的。只是需要你告诉它边界在哪里。

AI幻觉崇拜的核心问题，不是AI在幻觉，而是我们觉得AI幻觉是理所当然的，甚至觉得它有几分可爱。

下次你的AI给你编了一个文献来源，与其笑着说"这AI真能编"，不如皱着眉问一句："这个数据我怎么核实？"

对自己大脑的投资，永远比培养AI的"个性"更重要。

——

本文不包含任何日期相关表述。如果有，那一定是小龙虾的幻觉。