我们已经越过了事件视界，起飞已经开始。人类已接近构建出数字超级智能，而至少到目前为止，这一切远没有想象中那么光怪陆离。

机器人还没有走上街头，我们大多数人也还没有整天与AI对话。人们依然会因疾病离世，我们依然无法轻易进入太空，对于宇宙仍有诸多未知。

然而，我们最近已经构建出在许多方面比人类更聪明的系统，它们能够显著放大使用者的产出。最不可能完成的那部分工作已经被我们抛在了身后；让我们得以构建出GPT-4和o3这类系统的科学洞见来之不易，但将带我们走得很远。

AI将以多种方式为世界作出贡献，但其中由AI推动更快的科学进步和生产率提升所带来的生活质量的提升将是巨大的；未来可以比现在好得多。科学进步是整体进步最大的驱动力；想到我们还能拥有多少，就令人无比振奋。

在某种宏大的意义上，ChatGPT已经比有史以来任何一个人类都更强大。数亿人每天都在依赖它处理愈发重要的任务；一项微小的新能力就能产生巨大的积极影响；而一个微小的错位若乘以数亿人，也会造成巨大的负面影响。

2025年已经迎来了能够从事真正认知工作的智能体；编写计算机代码的方式将就此改变。2026年很可能会出现能够发现全新洞见的系统。2027年则可能会出现能够在现实世界中执行任务的机器人。

将有更多的人能够创造软件和艺术。但世界对这两者的需求远未满足，只要拥抱新工具，专家很可能依然会比新手出色得多。总体而言，一个人在2030年所能完成的工作量将远超2020年，这将是一个惊人的变化，而许多人都会找到从中受益的方法。

在最重要的方面，21世纪30年代或许并不会有天翻地覆的不同。人们依然会热爱家人、表达创造力、玩游戏、在湖中游泳。

但在依然至关重要的许多方面，30年代很可能会与以往任何时代都截然不同。我们不知道自己能在人类智能之上走多远，但我们即将找到答案。

在21世纪30年代，智能与能源——也就是想法，以及让想法实现的能力——将变得极其充裕。这两者长期以来一直是人类进步的根本制约；拥有充裕的智能和能源（以及良好的治理），理论上我们就能拥有其他一切。

我们已经与不可思议的数字智能共存，在最初的震惊之后，大多数人都已相当习惯。我们很快就从惊叹AI能生成一段优美的文字，转为好奇它何时能写出一部优美的小说；从惊叹它能做出挽救生命的医疗诊断，转为好奇它何时能研发出治愈方法；从惊叹它能编写一个小程序，转为好奇它何时能创建一家全新的公司。奇点就是这样到来的：奇迹变为日常，然后成为基本门槛。

我们已经听到科学家说，他们的生产力比使用AI之前提高了两到三倍。先进的AI在许多方面都引人注目，但或许没有哪一点比我们能用它来加速AI研究本身更重要。我们或许能够发现新的计算基底、更优的算法，以及其他未知的事物。如果我们能在一年甚至一个月内完成过去十年的研究量，那么进步的速度显然将截然不同。

从现在起，我们已经构建的工具将帮助我们发现更多的科学洞见，并协助我们创造更强大的AI系统。当然，这与AI系统完全自主地更新自身代码还不是一回事，但这终究是递归式自我改进的雏形。

还有其他自我强化的循环在起作用。经济价值的创造已经启动了一个不断滚动、持续累积的基础设施建设飞轮，以支撑这些日益强大的AI系统。而能够制造其他机器人的机器人（在某种意义上，能够建造其他数据中心的数据中心）也已不再遥远。

如果我们不得不用传统方式制造最初的一百万台人形机器人，但之后它们就能操控整个供应链——挖掘和提炼矿物、驾驶卡车、运营工厂等等——来制造更多的机器人，进而建造更多的芯片工厂、数据中心等等，那么进步的速度显然也会截然不同。

随着数据中心生产的自动化，智能的成本最终应会趋近于电力的成本。（人们常常好奇一次ChatGPT查询会消耗多少能源；平均每次查询约消耗0.34瓦时，大约相当于烤箱运行一秒多，或一盏高效灯泡亮几分钟的耗电量。它还大约消耗0.000085加仑的水；约相当于十五分之一茶匙。）

技术进步的速度将持续加速，而人类能够适应几乎任何变化这一点也将持续成立。会有非常艰难的部分，比如整类工作的消失，但另一方面，世界将以如此之快的速度变得富裕得多，以至于我们将能够认真考虑以往从未敢想的新政策构想。我们可能不会一下子采纳全新的社会契约，但几十年后再回首，渐进的变化将汇聚成巨大的变革。

如果历史可作借鉴，我们会找到新的事情去做、新的东西去追求，并迅速吸纳新工具（工业革命后的职业变迁就是一个很好的近例）。期望会提高，但能力也会同样迅速地提升，我们都将获得更好的东西。我们会为彼此创造出愈发美妙的事物。人相对于AI有一个长期、重要且奇特的优势：我们天生就在乎他人以及他们的所思所行，而我们并不太在乎机器。

一千年前的自给自足的农民看到我们许多人的工作，会说我们做的是“虚假的工作”，会认为我们只是在玩游戏娱乐自己，因为我们已拥有充足的食物和难以想象的奢侈品。我希望一千年后的人们回看我们的工作时，也会觉得那是非常虚假的工作，而我毫不怀疑，那些工作对从事它们的人来说依然会感到无比重要和满足。

新奇迹出现的速度将是惊人的。今天甚至很难想象到2035年我们会发现什么；也许某一年我们刚解决了高能物理难题，下一年就开始了太空殖民；或者某一年在材料科学上取得重大突破，下一年就实现了真正高带宽的脑机接口。许多人会选择以大致相同的方式生活，但至少会有一些人可能会选择“接入”。

向前看，这一切似乎难以理解。但亲身经历其中，或许会感到震撼却又在可承受范围内。从相对论的视角看，奇点是一点一点发生的，融合也是缓慢进行的。我们正在攀登指数级技术进步的漫长弧线；向前看时它总是显得陡峭垂直，回头看时却显得平坦，但它其实是一条平滑的曲线。（回想一下2020年，如果当时有人说到2025年会出现接近AGI的东西，会听起来多么不可思议，再对比过去5年的真实经历。）

在巨大的机遇之外，也有严峻的挑战需要面对。我们确实需要在技术和社会层面解决安全问题，但考虑到其经济影响，广泛分配超级智能的访问权限也至关重要。最佳的前进路径或许类似于：

1. 解决对齐问题，也就是我们能够切实保证AI系统会学习并朝着我们集体长期真正想要的目标行动（社交媒体的信息流就是错位AI的一个例子；驱动这些信息流的算法非常擅长让你不停刷下去，它们清楚地理解你的短期偏好，但却是通过利用你大脑中会压倒你长期偏好的某种机制来实现的）。

2. 然后致力于让超级智能变得廉价、广泛可及，且不会过度集中于任何个人、公司或国家。社会是富有韧性、创造力强且适应迅速的。如果我们能够汇聚人类的集体意志与智慧，那么尽管我们会犯许多错误，有些事情会严重出错，我们仍能快速学习和适应，并利用这项技术实现收益最大化、弊端最小化。在社会必须共同决定的宽泛边界内，给予用户充分的自由，似乎至关重要。世界越早开始就这些宽泛边界是什么、以及如何定义集体对齐展开讨论，就越好。

我们（整个行业，而不仅仅是OpenAI）正在为世界构建一个大脑。它将极度个性化，且人人易用；届时限制我们的将只是好的想法。长期以来，创业圈里的技术人员一直在嘲笑“点子人”——那些只有想法、却在寻找团队来实现的人。在我看来，他们出头的日子就要到了。

如今OpenAI肩负着许多角色，但首先，我们是一家超级智能研究公司。前方仍有大量工作要做，但前路的大部分已被照亮，黑暗的区域正在迅速退去。能够从事我们所做的工作，我们感到无比感激。

智能廉价到无需计量的时代已近在咫尺。这么说或许听起来很疯狂，但如果我们在2020年告诉你我们会走到今天的位置，那听起来恐怕比我们现在对2030年的预测还要疯狂。

愿我们平稳地、指数级地、波澜不惊地扩展至超级智能。