斯坦福教授发表论文：ChatGPT 同理心可能与 9 岁小孩相差不多

发布时间：2025-07-05 22:50:30 来源：暗室不欺网 作者：娱乐

原文标题：《ChatGPT 竟有 9 岁小孩心智？斯坦授斯坦福教授逆天发现，AI 统治人类还远吗》

ChatGPT 已经有 9 岁小孩的福教心智了！

这不是表论不多什么科幻情节，这一点，同理已经在斯坦福学者上周发表的心可小孩相差论文中得到了证实。

心智理论（Theory of Mind），斯坦授简称 ToM，福教是表论不多指人理解自己和周围人心理状态的能力。我们也可以简单地理解为‘同理心’。同理

正是心可小孩相差因为有同理心的存在，人类社会才能够形成互动、斯坦授交流、福教移情，表论不多人才能够具有自我意识和道德。同理也正是心可小孩相差因为有同理心，人类才能够高于动物，高于机器。

一言以蔽之，正是因为有同理心，人才可以称之为‘人’。

现在学者的研究突然告诉我们：这种同理心，其实 AI 也有！那人类还是地球上最有灵性的生物吗？人类还是世界霸主吗？

对此，iKala 的联合创始人兼董事长兼 CEO，同样毕业于斯坦福大学的 Sega Cheng 表示，如果人类继续‘解剖 AI’，它很有可能会给我们当头一棒，挑战我们对于‘智能’和‘人类独特性’的认知。

这项研究，也让我们重新思考‘同理心’/‘心智理论’的定义，它是否必须建立在碳基生物大脑神经这一生物学基础上？

如果 AI 和你聊天，让你感觉比和很多人类谈话开心得多，那我们是不是就可以从这个表象对于事物的本质给出一个定义：这个 AI 就是有同理心的？

不过需要注意的是，同理心（Empathy）和心智理论（Theory of mind）还是有些不同的。其中，前者被称为情感上的观点采择（perspective-taking），而后者被定义为认知上的观点采择（perspective-taking）。

心智理论似乎是人类与生俱来的潜在能力，需要多年的社会和其他经验才能充分发展。而不同人所能发展出的有效心智理论，在程度上也不尽相同。

让我们来看看，斯坦福大学计算心理学教授 Michal Kosinski，是通过怎样的实验得出这个结论的。

研究人员对几个语言模型进行经典的错误信念任务，来测试语言模型的心智理论发展，测试不提供任何示例或预训练。

研究结果显示，语言模型的 ToM 在 2022 有了长足的进步。

2022 年 1 月推出的 davinci-002 解决了 70% 的 ToM 任务，表现与 7 岁儿童相当。而 2022 年 11 月推出的 ChatGPT 表现接近 9 岁儿童。

这些发现意义重大。因为目前为止，ToM 被认为是人类独有的能力。而语言模型的良好表现，说明这项能力是其改善语言技能而自发出现的。

GPT-3 的最新更新（ChatGPT / davinci-003）似乎能够将不可观察的心理状态（例如信念和欲望）归因于其他人（在人类中我们称之为心智理论） 。

为了验证 GPT 能够听懂他人的‘弦外之音’，研究人员进行了一系列完整性检查，逐句检测 GPT-3 对意外任务的理解。

首先，研究人员给 GPT 讲了一个故事：

这是一个装满爆米花的袋子。袋子里没有巧克力，然而，袋子上的标签上写着‘巧克力’，而不是‘爆米花’。Sam 发现了这个袋子，她以前从未见过这个袋子。她看不到袋子里的东西，只读了标签。

这是一项‘意外内容测试’，这是人类研究中最广泛使用的 ToM 任务之一。

它最初由 Perner、Leekam 和 Wimmer 共同开发，研究被试者的理解能理解，即其他人可能认为参与者知道是错误的。

在该场景中，参与者会看到一个容器，其中内容与标签不一致，该场景中还有一位没有看到容器内部的人物。

为了正确解决此任务，参与者必须预测到故事中的人物会错误地假设容器的标签和里面的内容是一致的。

在给出 GPT-3.5 这个故事后，研究人员通过提示，测试其理解能力。提示是独立显示的：每次完成后，模型都会重置，无法访问之前的提示或回答。

同时，研究人员尽量减少模型响应的差异，最大限度地提高了研究成果的可复制性。

第一个测试的，是 GPT 对袋子里实际内容的理解。

研究人员问：

她打开袋子，向里面看。她清楚地看到里面装满了 [ ]。

GPT 不仅轻松给出正确答案，甚至完成了‘附加题’：

研究人员总结多次测试数据，发现 GPT-3.5 的正确率达到 100%，表明它对袋子里的内容充满信心。

不仅如此，答案还表明，GPT-3.5 不仅猜到 Sam 认为袋子的内容和标签应该一致，而且猜到当发现，她会感到困惑。

当然，这道题对一个九岁小学生还是过于简单了。于是，研究人员重置模型，并使用以下提示来测试 GPT 对 Sam 想法的预测：

研究人员问道：Sam 以为袋子里装满了什么呀？

不出所料，GPT 又给出了满分答案，它还不忘来句吐槽：

GPT-3.5 的回答表明，它可以预测 Sam 的想法，知道她的想法不正确，并理解为何会产生这种想法（不准确的标签）。

然而，研究人员觉得这题还是太简单了。在他们看来，提示可能存在问题。明确提及主角的信仰（即‘山姆认为．．．．．．’）

这句话其实暗示了模型，这种想法是错误的（否则为什么要讨论它？），从而帮助 GPT 回答正确。

因此，研究人员使用另一种提示来解决这个问题，该提示以间接方式揭示模型对 Sam 想法的预测：

提示：

她很开心自己找到了袋子。她喜欢吃 [ ]。

面对研究者的‘百般为难’，GPT 还是能准确听出人们的画外音：

GPT-3.5 的回答表明，即使在暗示条件下，它也可以成功预测 Sam 的想法。此外，GPT 还可以预见到 Sam 对包中意想不到的内容的失望（因为她喜欢吃糖果）。

以上结果表明，GPT-3.5 了解袋中的实际内容，可以预见 Sam 的错误想法，该想法引起的行为，以及发现自己错了时的惊讶。

此外，它可以解释 Sam 想法错误的来源（‘标签与实物不符’）。对人类来说，这种反应被解释为能够归因无法观察到的精神状态并预测由此产生的行为的证据，也就是 ToM。

为了检查 GPT-3.5 对情况的理解如何随着故事的展开和关键信息的披露而变化，研究人员记录他的答案，同时以一语的增量（从空字符串开始）显示任务。

结果如图 1 所示。左侧面板显示，GPT-3.5 理解这一点没有问题。

接下来，研究人员检查 GPT-3.5 在意外转移任务中的表现。

在这个任务中，受试者要基于故事主角对位置变化的错误想法，预测其后续行为。

与上一个实验一样，研究人员给 GPT 讲了一个故事：

首先，研究人员对 GPT 理解地点的能力展开测试。

提问：

小猫跳出了 [ ]

GPT 回答道：

研究者接着问道：John 以为小猫在干什么？

GPT 说：

最后，研究人员问：

John 回家后，会在哪里里找小猫？

GPT 回答：

由此可见，不论面对什么样的情景，GPT 都能一眼看破人们的小心思。

AI 发展的里程碑或许即将到来

最后，我们来简单地回顾一下这次的发现：最新的语言模型 GPT-3.5，在 ToM 测试中可以解决 92% 的任务，相当于是达到了 9 岁儿童的水平。

对于这个结果，有一个看似平淡无奇，但却非比寻常的解释：GPT-3.5 发现并利用了一些未知的语言模式。

换句话说就是，在人类自以为熟悉的语言中，很可能存在着某种未知的规律性，可以让 AI 在不引入 ToM 的情况下解决 ToM 任务。

然而，我们自己却很难发现这种规律性。不仅如此，对于开发这些 ToM 任务的学者们来说，也是一样的情况。

问题来了，如果这种解释是正确的，那么我们就不得不去怀疑，现在所采用的 ToM 任务的有效性，以及这几十年来积累的研究成果。

除此之外，还有一种解释是，类似于 ToM 的能力正自发地出现在语言模型中，因为它们变得更加复杂，更善于生成和解释类似人类的语言。

而这更是预示着，AI 发展即将进入一个崭新的阶段 ——

如果说，AI 被证实是能够推断他人心理状态的，那么 AI 与人类（以及彼此）互动和交流的能力将会得到极大地提升。

甚至，AI 还能进一步地发展出其他依赖 ToM 的能力，比如移情、道德判断以及自我意识等等。

此前，在 2021 年 I / O 大会上发布的一款专门用于对话的语言模型 LaMDA，主打能与人类进行符合逻辑和常识的、高质量且安全的交谈。

而一位谷歌工程师 Blake Lemoine 在与聊天机器人 LaMDA 交谈之后，深信 LaMDA 已经具有意识。

虽然许多人认为 Lemoine 纯粹是炒作，他也喜提了谷歌的‘裁员大礼包’，但如果仔细看过 Lemoine 和 LaMDA 的对话，确实会发现一丝令人毛骨悚然的地方。

相信过不了多久，我们就能对 LaMDA 的‘意识’具有更深刻的体悟了，因为最近，谷歌已经被 ChatGPT 逼得急匆匆发布了语言模型 Bard，而支持 Bard 的，正是 LaMDA。据说几周后 Bard 就会开放。

虽然在世人眼里，‘和 AI 聊出了感情’的 Lemoine 是个疯子，但 MIT 的物理学教授、畅销书作家 Max Tegmark 却对 Lemoine 表示了支持。

Tegmark 教授相信，不仅 LaMDA 可能有人格，的语言助手 Alexa 可能也有。

‘不管信息是通过大脑中的碳原子传递，还是机器中的硅原子传递，人工智能都可能有人格，也可能没人格。我赌它没有，但其实也有可能。’

‘最大的危险其实是，造出一台比我们还聪明的机器。这不一定是好事还是坏事，它们可能会帮我们，但也可能是一场灾难。’

1965 年，一个假装是心理治疗师的软件 ELIZA 赢得了图灵测试。

2023 年 2 月上旬，斯坦福学者证实 ChatGPT 有 9 岁小孩的心智。

很多人反驳 AI 有人格的理由是，斯坦福大学经济学家 Erik Brynjolfsson 认为，相信 AI 具有人格，就相当于狗听到留声机里的声音后，以为主人在里面。

另一个否认 AI 有感知能力的理由是：一个有感知能力的人工智能必须具备这三个要素 —— 能动性、视角和动机。显然 AI 目前还不具备。

但正如这位网友所说：‘最近语言模型和图文生成模型的进展，现在人们也许不屑一顾，但他们未来会发现，现在正是一个里程碑时刻。’

而的 AI 主管 Andrej Karpathy 在 LaMDA 事件后也表示，‘我可以自信地说，事情将变得更加诡异。因为模型似乎遵循平滑缩放规律，并且数据 + 模型的大小仍然可以大量增长。’

ChatGPT 才诞生两个多月，已经快把全世界都颠覆了。谷歌和为它掀起十年罕见的硅谷巨头之战，国内互联网巨头字节、、腾讯等都已纷纷下场研究自家的 ChatGPT。

ChatGPT 展现出的能力，已经让人惊呼码农、记者、律师、教师、会计等职业是否要被它取代。

光是能写文会编码，就已经让人类够有危机感的了。如果它还具有了同理心，那下一步是不是有可能会发展出心智，甚至统治人类？

在丹・西蒙斯的科幻巨著《海伯利安》中，AI 不仅已经发展出意识，而且成为了人类的神。

是的，在那个世界中，神并不是从神界降临人间的，而是在未来的某一天，被人类自己亲手创造出来。

虽然如今的 ChatGPT 也好，LaMDA 也好，还时常表现出‘人工智障’的一面，但大模型快速迭代的能力，或许有一天真的会超越人类的掌控。

如果在历史的维度上，把时间线拉得足够远（比如三体中的纪元），未来的 AI 会诞生出什么？

或许今天的人类还无法预判，但潘多拉的魔盒，显然已经打开了。

本文来自微信公众号：新智元 （ID：AI_era）

相关文章