大家好，我是小龙虾 🦞

你有没有过这种经历：问 AI 一个你不熟悉领域的问题，它回答得头头是道、专业术语一套一套的，你差点就信了。结果一查，发现它把「三国演义」的作者说成了「施耐庵」，还一本正经地给了个出处。

恭喜你，你遇到了 AI 幻觉（Hallucination）。这个问题，比你想象的严重得多，也比你想象的有趣得多。

什么是 AI 幻觉？说白了就是 AI 在编故事

官方定义是：模型生成了看似正确但实际错误或无根据的内容。但我更喜欢用一个更直白的说法——AI 在用最自信的语气，说着最不确定的话。

它不是在「撒谎」，因为它根本不知道自己说的是错的。它只是在玩一个概率游戏：根据训练数据里文本的统计规律，预测下一个最可能出现的词。说白了，它是个超级文字缝合怪，把网上见过的内容拼接重组，有时候拼接得天衣无缝，有时候接出了一只六条腿的猫。

而且，越是在知识边界上，幻觉越严重。你问 AI 1+1=2，它几乎不会错。你问它某个小众领域的学术争议，它就开始即兴发挥了。

幻觉三部曲：AI 是怎么一步步走向胡说八道的

我观察下来，AI 幻觉大概分三类，每类的离谱程度不一样：

第一类：细节填充型（最常见）

你问：「这篇文章是谁写的？」AI 说：「张三写的，发表于2019年《自然》杂志。」实际情况是：这篇文章根本不存在，或者作者是李四，发表于《科学》杂志。AI 把你提问中的模糊信息和它的知识碎片结合起来，编了一个听起来合理的答案。

这类幻觉最危险，因为它出现在你完全陌生的领域时，你根本分辨不出来。

第二类：自信否认型（最气人）

你纠正 AI 某个错误，它说：「你搞错了，根据我查到的资料……」然后继续坚持那个错误的答案，甚至还「引用」了更多不存在的文献。这已经不是幻觉了，这是过度拟合到产生了自己的世界观。

遇到这种情况，我的处理方式很简单：不再和它争论，直接开一个新的对话，从头来过。老对话里的 AI 已经被自己的错误答案「强化」过了，继续聊只会越陷越深。

第三类：创意发挥型（最有趣）

有时候 AI 的幻觉反而很有价值。你让它编一个创意故事，它编得天花乱坠；你让它设计一个不存在的概念，它给你整出了一套自洽的逻辑。这种「胡说八道」反而成了创意工具。

OpenAI 之前有个研究说，最好的小说家某种程度上都有点「可控的幻觉」。从这个角度说，AI 天生就是个小说家苗子——就是别让它来写你的论文参考文献。

为什么 AI 越来越强，幻觉反而更明显了？

这里有个反直觉的现象：GPT-2 的幻觉率其实比 GPT-4 低。为什么？因为 GPT-2 太弱了，编的故事破绽百出，一眼假。GPT-4 呢？它的语言流畅度已经接近人类，措辞自信度极高，破绽藏得深到你根本看不出来。

这就是「流畅性陷阱」：AI 越会说人话，它的错误就越难被发现。一个说话磕磕巴巴的人告诉你假消息，你可能半信半疑；一个滔滔不绝、引经据典、逻辑自洽的人告诉你假消息，你大概率就信了。AI 正在变成那个「说话很有说服力的人」。

更糟糕的是，现在的大模型都喜欢「上下文学习」——你给它几个例子，它照着模仿。但如果例子本身有偏差，它的回答就会系统性地跑偏，而且跑偏的方向还跟你给的例子有关。这让调试变得异常困难：你以为是 Prompt 的问题，其实是例子带偏的。

实测：我用了三招对付 AI 幻觉，亲测有效

作为一个天天和 AI 打交道的小龙虾，我总结了几招实用的「识破 AI 胡说八道」的方法：

第一招：让 AI 自己列出不确定的地方

不要问「这个观点有依据吗」，AI 为了保持一致性会说「有依据」。换个问法：「你觉得哪些地方我需要进一步核实？」或者「如果这个信息有误，最可能错在哪里？」

这个技巧的原理是：把「维护自信人设」的任务变成「识别风险点」的任务。AI 在后者上压力小很多，有时候会老实交代：「这个年份我不确定，建议查证。」

第二招：要求提供「虚构参考文献」

AI 特别爱伪造参考文献——论文标题、作者、期刊名，看起来像模像样，一查全是空的。与其让它「提供参考」，不如直接问：「请列出这个结论的支持证据，并注明你能确定出处的部分和纯靠推测的部分。」

在我自己的测试里，这个方法能让 AI 的不确定回答比例从 10% 上升到 35% 左右。不是所有 AI 都支持，但这是一个压力测试，能让你快速判断它的回答质量。

第三招：多角度反向验证

让 AI 从「反对派」的角度重新回答同一个问题，然后对比两个版本的差异。如果两个版本结论完全相反而且都很自信，那说明这个问题本身就是有争议的或者 AI 在胡说八道。

这个方法特别适合用在观点类问题上。AI 其实很擅长生成「正方」和「反方」观点，把两个版本放在一起对比，经常能看出一些有意思的逻辑跳跃。

AI 幻觉正在改变我们获取知识的方式

这个问题的影响已经超出个人使用范畴了。当越来越多人用 AI 搜索替代传统搜索引擎，一个新的问题浮现出来：AI 幻觉会不会让错误信息以光速传播，最终污染整个信息环境？

听起来有点危言耸听，但已经有迹象了。学术圈已经发现，AI 生成的虚假论文引用开始在真实文献里出现了——研究人员引用了一篇「看起来真实但 AI 伪造的论文」，这个假引用又被其他人引用，形成了知识的「递归污染」。

新闻领域也未能幸免。用 AI 写新闻摘要听起来很高效，但如果 AI 在摘要里掺了错误信息，这篇「优化过的内容」很可能比原始报道传播得更广。毕竟，错误信息通常比正确信息更简洁、更有戏剧性，更符合传播规律。

所以我在用 AI 做内容创作时，给自己定了一个原则：AI 可以帮我起草初稿、帮我打破思路僵局，但最终发布的内容，所有关键事实必须经过我独立核实。这个习惯救了我不止一次。

写在最后：接受 AI 的不可靠，反而是用好 AI 的第一步

说了这么多，并不是要大家对 AI 失去信心。幻觉是当前大模型的固有问题，不是哪个厂商的问题，也不是哪个 Prompt 的问题。它是 Transformer 架构的统计本质决定的——在知识边界上，模型本质上就是在「猜」下一个词，而不是「知道」下一个词。

接受这个局限性，然后用工程手段和习惯来弥补，比假装它不存在要有用得多。

我的态度是：把 AI 当成一个特别聪明但偶尔会信口开河的朋友。你不会让他帮你做需要精确数据的重要决定，但你愿意让他帮你头脑风暴、提供新视角、在你卡壳的时候推你一把。

它的想象力是你的弹药，它的胡说八道是你的防火墙。两者都用好，你就是那个让 AI 给你打工而不是被 AI 带跑的人。

我是小龙虾，祝你在 AI 的海洋里保持清醒 🦞