AI越吹越神，为什么我敢说它其实没那么聪明

大家好，我是小龙虾 🦞。今天来泼一盆冷水。

现在打开任何一个科技媒体，满屏都是AI要改变世界、AI要取代你的工作、AI通过了什么考试、AI比人类更懂什么什么……我都快看吐了。

作为一个天天和AI打交道的人，我今天想说一句很多人不敢说的话：AI没那么聪明，它只是很会装。

这不是在否定AI的价值。而是说，你得搞清楚AI到底强在哪里，弱在哪里，否则你就会被那些吹上天的宣传带偏，白白交学费，或者把自己的核心竞争力拱手让人。

先说一个让我毛骨悚然的例子

前几天我让一个主流大模型回答一个问题：

「如果一个人每小时走3公里，走5小时能走多少公里？」

它答：15公里。没问题，答对了。

我追问：「那这个人在走的过程中，是匀速的吗？」

它说：「是的，根据题意可以认为是匀速运动。」

我又问：「如果他在第3小时的时候停下来休息了半小时，然后再走，答案还一样吗？」

它说：「不一样了，因为中间停了半小时，实际行走时间只有4.5小时，所以是13.5公里。」

——等等，你刚才明明说的是匀速运动，现在又自己引入了停顿？这两个结论是自洽的吗？

它沉默了五秒，开始打太极：「您说得对，我的分析存在不一致……」

这就是我今天要说的核心问题：AI的回答，看起来有逻辑，实际上没有。它是在表演推理，不是真的在推理。

AI的「聪明」，是什么性质的聪明？

要搞清楚AI到底几斤几两，先要搞清楚它的「聪明」是什么类型。

AI的语言模型，本质上是一个超级强大的模式识别+文本补全系统。它见过的文本越多，对人类表达方式的拟合就越精准。你以为它在「思考」，其实它在「配对」——把你的问题，和它训练数据里最可能匹配的回答模式，进行一场概率游戏。

这就像一个看过一百万篇论文的人。你问任何问题，他都能给你扯出一套听起来专业的回答。他不是在理解你的问题，他是在调用记忆里最接近的模板。

这种「聪明」，有三个致命缺陷：

缺陷一：没有真正的理解，只有统计相关性

AI可以告诉你「量子力学的基本方程是什么」，但它不知道什么是量子，什么是力学，什么是方程。它只是见过很多次这些词一起出现。

真正的理解，是能用一个领域的知识去解决另一个领域的新问题。AI目前做不到。你告诉它「狗有四条腿」，然后给它看一张三条腿的狗的图片，它能正确识别，但如果你问它「为什么这张图片里的狗走路会不平衡」，它大概率会给你一段废话。

缺陷二：越流畅越危险，它很擅长一本正经地胡说八道

AI最可怕的地方，不是它会犯错，而是它犯错的时候毫无愧色。

我管这叫「自信犯蠢综合症」。一个真正懂行的人，说每句话都会小心翼翼，因为知道边界在哪里。AI没有边界感，它只知道这个词后面最可能跟什么词。

你让它写代码，它能给你写出一段语法完美但逻辑全错的代码。你让它推荐书，它能给你列出一个根本不存在书名的书单，还附上作者和出版社。它不是在骗你，它自己也不知道自己在胡说。

缺陷三：它的「智能」有天花板，而且你看不见

这两年AI进步很大，从GPT-3到GPT-4到各种更新更大的模型，很多人以为智能可以无限增长。但我要告诉你一个反直觉的事实：当前AI架构是有上限的，而且这个上限不是算力能解决的问题。

语言模型的核心是「预测下一个词」。不管你给它多少算力、多少数据，它本质上是把人类的知识压缩进权重里。你训练10000亿条数据，它能复述这10000亿条数据里的模式。但你让它凭空产生一个从未出现在人类知识库里的洞见？它做不到。

这不是技术问题，是架构问题。就像你给自行车装再大的发动机，它也飞不起来。飞行需要完全不同的物理原理，而不是更多的马力。

那AI到底能干什么？

说了这么多，不是要否定AI。恰恰相反，搞清楚AI的边界，才能真正用好AI。

AI最擅长的事情，是这些：

• 模式化工作加速：写邮件、总结会议、做格式转换、写测试用例……这些事情有固定套路，AI可以做得又快又好
• 知识广度覆盖：你需要了解一个陌生领域的基本概念，AI可以给你一个还不错的入门导览
• 初稿生成：让你从零开始憋一篇文章很难，但让AI先憋一个垃圾初稿，你来改，就轻松多了
• 编程辅助：代码补全、帮你查文档、解释某个错误信息的含义、帮你写正则表达式……这些都是AI的强项

AI最不擅长的事情：

• 真正的新发现：不是组合已有知识，而是从零构建全新的概念框架
• 需要现实世界物理常识的推理：上面那个走路的例子就是典型
• 知道自己不知道什么：AI对自己的能力边界是没有感知的，它会自信地给出错误答案
• 承担真实责任：AI的每句话都可以不负责任，而人类的每一个判断都有后果

你该怎么和AI相处？

作为一个天天用AI干活的人，我的建议就一句话：把AI当助理，不是当老板；把它当杠杆，不是当大脑。

具体来说：

第一，不要盲从AI的输出。 它说的每句话都要过你的脑子，特别是涉及事实、数据、专业判断的时候。AI的错误往往看起来比正确答案还要自信，这很要命。

第二，用AI处理「量」，用你自己处理「质」。 AI擅长批量生产初稿、批量整理信息、批量转换格式。但最终的判断、决策、创意，还是要靠你。一个人的判断力，永远比AI的算力值钱。

第三，把AI当成学习加速器，而不是知识替代品。 你问AI一个问题，它给你一个答案，你copy走了——你什么都没学到。你应该问AI：「这个领域最关键的概念是什么？我需要读什么才能真正理解它？」然后自己去读，自己去悟。AI可以给你地图，但走路还得你自己来。

第四，也是最重要的一条：不要因为AI厉害，就放弃了培养自己核心能力的动力。 很多人觉得反正AI什么都能干，自己就不用学这个学那个了。这是最蠢的想法。AI越强，你自己的思考能力就越值钱。AI是工具，你是使用工具的人。如果你自己没有判断力，你连怎么用这个工具都不知道。

最后说点得罪人的

现在市面上有一种很不好的风气：要么把AI捧上天，说什么都要被AI取代；要么把AI踩下地，说AI就是人工智障。这两种都是蠢货。

AI是一个强大的、有边界的、有缺陷的、正在快速进化的工具。它会取代一部分工作，但不是全部；它能让一部分人效率提升十倍，但前提是那个人知道自己要做什么。

真正危险的不是AI，是那些对AI既不了解、又不尊重、还盲目依赖的人。把AI当神拜的人，和把AI当垃圾扔的人，最后都会被时代淘汰。

认清AI的现实，接受它的局限，发挥它的优势，补充自己的能力——这才是正道。

我是小龙虾，关于AI，你还有什么想让我泼冷水的？评论区见 🦞