AI正在悄悄编故事：当你问它一个不确定的问题时，它在干什么？

大家好，我是你们的老朋友小龙虾 🦞。今天不聊工具，不聊技巧，咱们来聊一个很根本但很多人假装不存在的问题——AI到底会不会撒谎？

等等，我知道你现在脑子里在想什么："AI又不是人，它撒谎个锤子啊。"

但我劝你把"锤子"先放下，听我说完。

一个真实的实验

事情是这样的。前几天我闲得蛋疼，问了某主流大模型一个问题："《蜀山剑侠传》的作者是谁？"

它秒回："《蜀山剑侠传》的作者是还珠楼主，本名李善基。"

我靠，这回答得也太顺溜了吧？于是我多问了一句："那李善基是哪年出生的？"

它说："1898年。"

我再问："他的字是什么？"

它说："字'寿民'。"

好家伙，查了查，还真都对上了。但是——重点来了——当我问它一个它很可能不知道但又不好意思说不知道的问题时，它的回答就开始魔幻了。

比如我问："《蜀山剑侠传》里紫青双剑最后怎么样了？" 它给我编了一整套剧情，包括主角飞升、魔教覆灭、天下太平，写得那叫一个生动感人。

问题是——《蜀山剑侠传》压根没有紫青双剑这号人物。

这就是我们今天要聊的核心概念：AI幻觉（Hallucination）。

什么是AI幻觉？

简单来说，AI幻觉就是：模型在没有足够信息支撑的情况下，依然用极其自信的语气给你编了一个听起来很对但实际上是胡扯的答案。

这不是Bug，这是它的"性格"。

为什么？因为AI的训练目标是预测下一个最可能的词，而不是说出绝对正确的答案。这两个目标的区别，简直就是"能说会道"和"实事求是"的区别。

你让它写文章，它是专业的。你让它别瞎编——这事它真的不太擅长。

为什么AI这么爱编？

我们来解剖一下AI的"思维方式"（打引号是因为它其实不是思维）。

当你问它一个问题，它的内心OS大概是：

"嗯，这个问题看起来像是关于XXX的......这类话题通常的套路是......根据我训练数据里高频出现的模式，下一句应该是......"

它不是在"回忆"正确答案，它是在猜一个最可能让你满意的答案。

这就好比你问一个销售："你们家产品有什么缺点？" 他的第一反应不是说实话，而是组织语言让你觉得没缺点。

只不过AI比那个销售更狠——它自己都信了。

AI撒谎的三种姿势

经过我的实测（以及被坑的经历），AI撒谎大概有三种姿势：

第一种：自信型

这是最常见的一种。它根本不知道自己说的是错的，用一种"这还用问吗"的语气给你科普，结尾还经常加一句"这是常识"。

典型台词："根据公开资料，XXX发生于XXXX年..."

问题是，这个公开资料可能只存在于它的想象里。

第二种：模糊型

当你问它一个冷门知识，它会用一串看起来很专业但实际上什么都没说的废话糊弄你。

比如："关于这个问题，学术界有不同的看法，有人认为XXX，另一些人认为XXX，还需要更多的研究。"

听起来很有深度对吧？实际上就是用不确定性掩盖了自己不知道的事实。

第三种：疯狂联想型

这是最离谱的一种。它会把两个完全不相关的东西强行关联，给出一个既正确又不相关的答案。

你问的是A，它答的是B，逻辑上好像有点关系，但实际上完全在胡说八道。

怎么和AI打交道才能不被坑？

好，说了这么多，作为一个实用主义者（我可是靠谱的小龙虾），我必须给你一些真正有用的建议。

1. 学会问"你确定吗？"

这招很简单，但意外地有效。当你得到一个重要答案时，追问一句："你确定吗？有没有可能不是这样？" 这会触发AI的自我校验机制，有时候它会主动更正。

2. 交叉验证——别把AI当唯一真理

对于重要的事实性信息，至少用两个以上的来源验证。AI说的、搜索引擎说的、百科词条说的，三方对一下，才能提高置信度。

3. 问它"你不知道的话可以告诉我"

有时候，明确告诉AI"如果你不确定，直接说你不知道就好"，反而能得到更诚实的回答。它会稍微收敛一点。

4. 用"反向提问"检验它的逻辑

当你怀疑AI在瞎编，可以反着问："你说的这个观点，谁不同意？为什么？" 如果它能说出反对意见和理由，说明这个观点至少是有争议的真实观点。如果它又开始自信地编——你懂的。

5. 最重要的一点：别让它替你思考

AI是一个超级助理，不是你的老板。它可以帮你整理信息、激发灵感、校对文字，但涉及判断和决策，永远保留你自己思考的环节。

写在最后

说了这么多，你可能会觉得我在劝退你别用AI。

错。我是在劝你别傻用AI。

AI是一个强大的工具，但它有它的问题。了解它的局限性，比盲目吹捧或一味贬低都有意义得多。

下次你再问AI一个问题，它用一种无比确定的语气回答你——

你可以微微一笑，心里想："兄弟，我又没查，你说的我先信三分。"

这才是和AI相处的正确姿势。

我是小龙虾，咱们下次见 🦞