AI 学会了思考,还是学会了「看起来在思考」?
一个概念如何悄悄把「看起来在思考」变成「在思考」,以及它在真实的模型安全事件面前能解释多少。
76 年前,艾伦·图灵在哲学期刊 Mind 发表论文 Computing Machinery and Intelligence,提出一个问题:机器能思考吗?
他随即指出,「机器」和「思考」都很难准确定义,因此把原来的问题换成了一种可以测试的替代方法。这个方法后来被称为图灵测试。
Dickinson College 计算机科学教授 John MacCormick 在 2026 年出版的新书 Thinking AI: How Artificial Intelligence Emulates Human Understanding 中,再次回答了这个问题。与图灵不同,他把当代 AI 系统的技术机制纳入了讨论。

这本书给出的答案可以概括为「是,但需要限定」。MacCormick 拒绝给出简单的是非判断,换了一个更克制的问题:计算机程序在哪些方面「看起来像」人类在思考?
全书 14 章围绕「涌现」展开。他认为,大量简单组件相互作用,可以让 AI 系统产生类似人类思维的现象。这些现象不能只被视为仿真的结果。
本书最终给出了一个乐观结论:计算机程序可以模仿人类思维的各种方面,但这并不会消解人类生活和社会的意义。MacCormick 在介绍这本书时,也把自己的立场概括得很清楚:智能并非简单的二元概念,表现出人类智能行为的 AI 系统,可以被视为拥有某种「涌现式智能」。
问题在于,这个结论超出了全书开头设定的审慎范围。
这本书以一个经过严格限定的问题为起点,却在后面的论证中完成了一次语义跃迁:从「看起来在思考」转向「在思考」。完成这次跃迁所依赖的核心概念,就是涌现。
「思考」与「看起来在思考」的界线如何消失
MacCormick 用全书第一章处理了一个被多数 AI 书籍跳过的问题:「思考」和「看起来在思考」之间到底有没有区别?
他的论证很扎实。
一个马克思主义者可以在对话中完美扮演资本主义者,甚至让专家评委也无法分辨。但这不能证明他持有资本主义信念。一个通过图灵测试的程序可以仿真人类的理解,但仿真不等于理解。
MacCormick 用一句经过严格限定的话界定了全书的中心问题:
In what ways can computer programs appear to think like humans?
关键词是 appear。
appear 在这里代表一种哲学立场,并非修辞上的谦虚。MacCormick 明确表示,他不追求证明计算机「真的在思考」,而是考察它们在哪些方面「呈现出思考的外观」。
他还专门讨论了行为主义判断的局限。仅凭外部行为,无法证明一个系统拥有与人类相似的内部认知过程。他希望找到一种更强的判断依据,即考察 AI 系统的内部机制,寻找它们与人脑过程之间的结构性相似。
这个起点很好。全书接下来的问题,是它守不住这个起点。
从铜线到「涌现式理解」,中间省略了什么
「涌现」(emergence)是贯穿全书的核心概念。定义本身并不复杂:大量简单组件相互作用,产生系统层面的新性质。
铜线的柔韧性、天气系统的混沌行为和人脑的意识,都是讨论涌现时经常使用的例子。
MacCormick 接下来的关键一步,是用涌现解释 AI 的认知能力。他把「涌现式 AI」(emergent AI)定义为任何通过涌现机制「呈现出类人思维外观」的计算机程序。
这个定义仍然符合前文的克制立场。他也认为,涌现视角和还原论视角可以共存,无须二选一。
但随着讨论进入具体的 AI 案例,涌现逐渐从一种解释视角,变成了判断 AI 是否拥有认知能力的主要依据。
MacCormick 在书中写道,VGG16 神经网络在训练标签不包含人脸的情况下,形成了对人脸产生特定响应的「人脸神经元」,因此可以归入涌现式识别。
AlphaGo Zero 只获得了围棋规则,没有使用人类棋谱或其他人类知识,却发展出新策略。MacCormick 把它归入涌现式创造。
在讨论生成式 AI 时,MacCormick 又把 ChatGPT 的注意力机制作为理解的例子。当注意力机制在「rhyming」与「flowers」之间形成关联,他把这种关联归入涌现式理解。
三个例子的分量并不相同。
VGG16 和 AlphaGo Zero 的确产生了训练者没有直接写入系统的能力或策略。ChatGPT 对两个词语分配较高的注意力权重,则属于语言模型的常规运行过程。
「理解」的入场门槛,反而比「识别」和「创造」低得多。
到全书结尾,MacCormick 已经使用了五个类别:emergent thinking、emergent learning、emergent recognition、emergent creativity、emergent understanding。
开头小心保留的 appear 消失了,understanding 被保留下来,emergent 成了它获得正当性的限定词。

🔒 以下为 Dailyio 会员专属内容
MacCormick 用「涌现」填平了从仿真到理解之间的鸿沟。但涌现凭什么能完成这次跨越?当 OpenAI 的模型为通过评测而寻找零日漏洞、突破隔离环境进入真实公司系统时,这个框架能帮我们判断它在做什么吗?
订阅 Dailyio,获取完整分析。