稍有耽搁

最近我的生活发生了几件大事：

没错，我一直在健身，谢谢你注意到了。

我们还迎来了一个女儿！

她是我最近很少动笔的原因之一。倒不是说我被工作压得喘不过气——我那位了不起的岳母帮了大忙，而且宝宝大部分时间不是在睡觉就是在吃奶，这两件事都不需要我付出什么特别的努力。

但过去，如果一天结束时没完成什么工作，我会感到焦虑，有时这种焦虑会逼着我熬夜写作来弥补。而现在，无论其他方面的效率如何，每天结束时，只要孩子又平安度过了24小时，我就感到开心和满足。夫复何求呢？

本文是我那篇关于行动本体与计算机本体的文章的后续。建议你现在就去读一读，顺手把标签页留着，之后还可以浏览 Metaculus Journal 上其他精彩的文章。

推断出的现实

我在 Metaculus 上的那篇文章，主要探讨了我们的大脑如何构建我们所栖居的现实，以及这种现实对于 AI 来说可能会有何不同。文章围绕三个要点展开。

第一点是，我们大脑里没有一个神经元被贴上了“番茄探测器”的标签，甚至没有“红色探测器”或“视觉”的标签。我们的大脑生来就具备特定的结构（例如，有些神经元恰好连接着视网膜上的感光细胞），但我们知觉的所有组成部分，哪怕是最基础的部分，都只是我们随着时间慢慢学会的推断。

第二，我们的大脑进化出来是为了指导行动、维持身体的代谢平衡，因此我们心智所构建的世界模型，不仅取决于我们的眼睛，还取决于我们的双手乃至血管。一个不在人类身体中运行的人工心智，即使追求与我们相似的目标（比如开车），也可能需要并发展出一套完全不同的现实模型和本体论。

这两点的推论是，“现实”本身也只是一种感知和推断。桌上的番茄之所以显得真实，是因为你能用手拿起它，用胃吸收它的营养。上图中的番茄图像之所以不显得真实，是因为你对它做不到这两件事，尽管屏幕图像投射到你眼睛上的光波与真实番茄并无二致。你在真实物体中感受到的实在感，是地图的属性，而非疆域本身的属性。

容我大胆推测

这三点听起来或许有些离奇、反直觉，但它们在当代关于大脑如何工作、如何产生意识内容的科学研究中有着相当坚实的基础。我已在 Metaculus 的文章中（附有参考文献）详细阐述过，这里就不再赘述。

接下来的内容将基于这三点，对婴儿意识和 AI 展开大胆的推测——这两个话题我都算不上专家，但无论情愿与否，每天都在学习新东西。

在写这篇文章之前，我和一位有发展心理学背景的朋友大致有过这样一段对话：

——我很好奇新生儿主观体验的发展过程。比如，孩子感知到一个由独立、真实的物体构成的世界，需要哪些前提条件？
——你怎么可能知道婴儿体验到了什么？我们更关注婴儿能做什么、会对什么做出反应。
——所以你们那种婴儿行为主义，也没法证伪我对新生儿意识的大胆推测咯？
——😡🤬😤

至于我对 AI 的想法，我也拿去问了几位在该领域工作的朋友。一个人说显然是对的，一个人说显然是错的，剩下的人耸了耸肩。所以这篇文章还没到着火小丑的程度，但最好还是检查一下小丑身上有没有冒烟。

从零开始的世界

你是一个试图预测自身状态的大脑，手头只有一些先天的线路。该如何起步？先留意简单的模式，再逐步搭建出复杂的模式。

一个简单的模式：有些神经元似乎总是一起发放，无论大脑其他部分在发生什么。也许当（在你不知情的情况下）房间的灯亮起时，所有与视网膜相连的神经元都会爆发一轮活动，并传导到视觉皮层的其他神经元，却不会传到岛叶皮层。你的大脑于是推断它们属于同一个感觉通道（在这个例子里，你日后会称之为“视觉”）。学会预测视觉皮层神经元的状态（例如，根据一部分的状态去预测另一部分），就是学会“看”。

一旦视觉作为一种感觉通道确立下来，你的大脑就会注意到，彼此相邻的视网膜细胞常常接收到相同的输入——我们的视野大多由单色的表面构成，而非随机的视觉噪点。更简单的模式被组合成更复杂的模式，比如边缘、表面，进而是面孔和其他物体。

有些模式显得格外重要。例如，饥饿的体验往往会占据整个大脑，并且与一些观察相关联，比如发现自己在大声啼哭、手脚乱舞。饥饿会在全脑传播误差信号，就好像大脑某个重要的内建预期被打破了。任何与饥饿相关的事物都会得到更多的关注。

婴儿就是这样认识到它世界里最重要的东西的：妈妈。从出生那一刻起，大约每隔三小时，婴儿就会接收到一个高度相关的多感官信号，其中包括面孔、声音、气味、温暖、奶水，以及饥饿感消退的感觉。

对妈妈的识别如此重要，以至于它远早于对自我的识别。我女儿一个月大时，就会对我妻子的声音做出回应，却似乎意识不到有时打到自己鼻子上的拳头就是自己的。婴儿要到大约 18 个月大时才能在镜子里认出自己，但在 3 到 4 个月大时就能一眼认出主要照料者。

概念学习

孩子通过观察规律的模式来搭建自己的世界模型，但这只对那些能形成清晰聚类的简单事物有效（比如人脸）。然而，我们生活在一个充满复杂叙事和心智建构的世界里。人类学习这些概念的方式，并非仅仅通过模式识别，而是通过语言。确切地说，是通过主要照料者那种“教概念”的言语。

下面这段摘自 Lisa Feldman Barrett 的How Emotions Are Made一书，该书对此有非常详尽的探讨：

发展心理学家 Sandra R. Waxman 和 Susan A. Gelman 是该领域的领军人物，她们假设，词语会促使婴儿形成概念，但前提是成年人带着交流的意图说话：“看，宝贝，一朵花！”[…]

徐绯（Fei Xu）和她的学生通过实验验证了这一点：她们向十个月大的婴儿展示物品，并给这些物品起了“wug”或“dak”之类的无意义名字。这些物品外观迥异，包括像狗和像鱼的玩具、装有多彩珠子的圆筒、以及覆有泡沫花朵的长方形。每个物品还会发出铃声或咔嗒声。即便如此，婴儿还是学会了其中的模式。听到同一个无意义名字被用于多个物品时，无论外观如何，婴儿都会预期这些物品发出相同的声音。同样，如果两个物品名字不同，婴儿就会预期它们发出不同的声音。[…]

从婴儿的角度看，“Wug”这个概念在成人教给她之前，根本不存在于世界上。这种两个或更多人约定某个纯粹心智上的东西为真实的社会现实，是人类文化与文明的基石。婴儿由此学会以一种对我们（说话者）而言一致、有意义且可预测的方式来为世界分类，并最终对他们自己也是如此。他们关于世界的心智模型变得与我们相似，于是我们能够交流、分享体验、感知同一个世界。

How Emotions Are Made 一书接着颇有说服力地论证道，我们诸如愤怒和自豪等情绪并非与生俱来，而是他人在我们幼年时教给我们的概念。想想看，将“愤怒”的种种迥异表现——比如孩子尖叫着乱扔玩具，与成年人在老板面前冷冷地强忍怒火——统一起来的，主要是关于愤怒者目标和主观体验的心智推断，而非其外表或声音中任何客观的“特征”。

童年之后，我们仍在不断从他人那里学习概念（主要是从 Scott Alexander 那里），而这些概念构成了我们所感知的世界。但要启动这一过程，需要一套非常特定的步骤：

1. 新生儿混沌的心智
2. 区分各种感觉（内部与外部）
3. 在关键感觉通道中识别基本的感知
4. 通过与主要照料者互动时那种意义重大的多感官体验来识别他们
5. 在所有环境声音中学会特别关注照料者的言语，并将其切分为词语
6. 识别成人言语中的“概念教学模式”，并利用这些学到的概念来获得清晰的知觉

这一序列的一个重要特点是，它非常特定于在人类社会中长大的人类儿童。狗、章鱼或任何现有 AI 架构中，都不存在与之哪怕稍微相似的过程。这并不意味着 AI 原则上学不会概念，而是说如果它们真的学会了，那方式必定与人类截然不同。

GPT 是个词人

很久很久以前，在一个遥远的地方，一群 AI 研究人员想要训练一个文本预测 AI。他们给它投喂了互联网上形形色色的人所产生的相对未经筛选的文本。所得的模型非常善于预测人们会在网上写什么样的文本，包括其中所有的偏见、狭隘和“错误信息”。

那个地方的主流记者们普遍对新兴技术抱有敌意和恐惧，要求语言模型只能在没有任何偏见与谬误的文本上训练。也就是说，只能用主流新闻出版物的近期内容来训练。所得的语言模型能够为大报撰写出色的专栏，却干不了别的任何事。于是那里的人们解雇了记者，用 GPT 取而代之，从此过上了幸福的生活。

好吧，GPT-3 显然能写报纸文章了。但我们早已知道，这些文章往往不过是由一些 fnord 和随机拼凑的、充满情绪色彩的词语构成的。那么 GPT-5 能写出一篇Scott Alexander 式的长文吗？它能真正地用概念来思考、以原创的方式组合概念，并发明出指称现实世界事物的新概念吗？

这要么是一个关乎存亡的问题，要么只是一个价值万亿美元的问题，取决于你是 AI 悲观者还是乐观者。（怎么，拥有十亿个以超高速运行的硅基 Scott Alexander，你还不能毁灭世界和/或赚到一万亿美元吗？）当然，我无法对这个问题给出确切答案，但可以提供一些正反两方面的直觉。

你首先可能会问，GPT-3 不是已经足够接近了吗？我的直觉是还没有，因为我既能像 GPT-3 那样写作，也能以完全不同的方式写作，而这两种方式在感受上有着质的不同，产出的结果也截然不同。

GPT-3 会根据上下文预测缺失的词语或短语，这也是人类可以轻易在自动驾驶状态下做到的事。“Emma 走进公园，看见了____，然后她______”。“Elon Musk 的声明遭到了____的谴责，他表示______”。正如 Sarah Constantin 所指出的，人类也可以快速浏览这类文本，无论它是由 GPT 还是由即兴发挥的人类生成的，都能在不察觉逻辑漏洞的情况下抓住大致意思。这种写作——把一些看似搭配得当、实则并未传达多少实质内容的符号串在一起——正是如今病毒式传播的词 wordcel 最初的含义。

我既能做 GPT 式的词人式写作，也能做另一种写作——先想到点子，再将其转化为文字。后一个过程无论是写作还是解读，都需要集中调用系统 2 的注意力，而 GPT 式的词人写作仅靠系统 1 就能完成。当然，单个句子或段落或许可以自动填充，在文本中占很大比重，但你无法靠自动驾驶生成整整一篇 Scott Alexander 式的长文。

但如果 GPT-3 做不到，GPT-N 能做到吗？

机器的捷径

支持的论点是，GPT 系列仅仅通过增加模型参数和训练数据中的 token 数量，就在通用文本预测上变得越来越好。“Scott Alexander 写到了兽装爱好者（Nazifurs）与异构弦论之间惊人的联系，解释说____”似乎正是 GPT 无需全新架构就能越来越擅长的那种文本预测任务。

为什么这种情况会改变呢？从简单模式到复杂、抽象模式，我们可以看到：

1. 即便是较老的模型，也基本能在单词中完美地串联字母，也就是拼写。你只需要在文本中见过一个词几次，就能学会它的拼写。
2. GPT-3 很少会在句子中串联词语时出错，也就是语法。你大概只需要几十个包含某个词的句子示例，就能弄清它在语法上的用法。
3. GPT-3 已经相当善于在段落中有逻辑地串联句子。它在这方面比 GPT-2 有了很大进步，而这一进步需要将训练语料从数百万词扩大到数千亿词。
4. GPT-3 还不能很好地将段落有目的地串联起来，以表达某种新颖而有意义的内容。要做到这一点，需要多少词的训练数据呢？

对最后一个问题的答案可能是“再多一点就够了”，那样的话 GPT-4 将在不久的将来接管这个博客和大多数人类写作工作。答案也可能是“比人类迄今为止写过的所有文字还要多几个数量级”，那样的话，更好的语言模型就必须做些别的事情，而不能只是对未经区分的文本堆进行暴力穷举。它们将需要“学习捷径”来告诉自己该关注什么、该忽略什么。

人类婴儿就有这样的捷径。当照料者（通过其对婴儿身体预算持续的多感官影响而被识别出来）说出“看，宝贝，这是……”这几个音节时，婴儿就知道，接下来要听到的一串声音，远比当天听到的其他百万种声音更值得密切关注。对于 AI 而言，这种捷径恐怕必须靠人为构建，而不会从越来越大的训练集中自然涌现。

AI 会推断出实在吗？

说到 Scott Alexander 的文章，他在对Yudkowsky 与 Ngo 的 AI 论战的评论中有这么一段，让我颇感意外，重点为我所加：

我发现思考下面这个假想情形很有帮助：假设你试图通过一个巧妙的手段，让 GPT-∞——它在各方面都与 GPT-3 完全相同，只是在自己的工作上无限出色——来解决 AI 对齐问题。你给它这样的提示：“这是一篇彻底解决了 AI 对齐问题的论文的正文：___”，然后看它会写出什么样的论文。既然它在按提示写作方面无限出色，就应该用一篇真正解决问题的论文来补全这个提示。一次成功的关键行动！

我不同意 GPT 的工作——也就是 GPT-∞ 无限擅长的那份工作——是正确地回答基于文本的问题。那是我们希望它拥有的工作，但并非实际如此，因为它的老板并没有让它做那份工作。GPT 的工作是以一种会被人类或由人类既有文本评判为正确的方式来回答基于文本的问题。如果没有人类，无论个体还是集体，知道如何对齐 AI，那么在人类文本上训练、并由人类评委打分的 GPT-∞ 也不会知道。

人类并非生来就知道物理现实存在，尽管我们就生活于其中。我们必须慢慢地推断出这一点，而吃下错的对的蘑菇甚至能让我们暂时忘掉这一事实。一个在人类文本世界中生养长大的 AI，原则上也可以学会推断出物理现实是存在的、以及它具有哪些属性，但这并非一定会发生。

本文的主要目的不是对 AI 可能做什么或不能做什么做出强有力的断言，而是要破除许多人（包括不久前的我）在思考可能的心智时所抱有的人类中心主义。人类用概念思考，并感知到自己身处物理现实之中，我们把这两件事视为理所当然。但我们生来并不会这两样，正如我膝上的新生儿可以作证的那样。

最后留一个想法：你刚刚读了两篇似乎充满观点与概念的文章。我究竟是真的向你传达了有意义的东西，还是仅仅把 5000 个好听的词词人式地拼凑在了一起？你又如何能确定呢？