这是我的全家福。我爱他们胜过一切。

我希望影像是有力量的。我们平时尽量保持低调、私密，但在这种情况下，我选择分享这张照片，希望它能劝阻下一个想向我家投掷燃烧弹的人，无论他对我抱有什么看法。

已经有人在昨晚凌晨3点45分这么做了。万幸的是，燃烧弹被房屋弹开，没有人受伤。

文字同样拥有力量。几天前出现了一篇关于我的煽动性文章。昨天有人对我说，这篇文章发布于人们对AI普遍感到焦虑的时刻，让我的处境变得更加危险。当时我对此不以为意。

现在我在半夜醒来，感到愤怒，也意识到自己低估了言语和叙事的力量。现在似乎正是把一些事情说清楚的好时机。

第一，关于我的信念。

*为所有人谋求繁荣、赋予每个人力量、推动科学与技术进步，对我而言是道德责任。

*AI将是人类迄今所见过的、拓展人类能力和潜能的最强大的工具。对这一工具的需求几乎没有上限，人们会用它创造出非凡的成就。世界理应拥有大量的AI，我们必须想办法让它成为现实。

*并非一切都会顺利。人们对AI的恐惧和焦虑是正当的；我们正在亲历一场长久以来、甚至可能是有史以来最大规模的社会变革。我们必须确保安全，这不仅仅是让模型对齐的问题——我们迫切需要全社会的共同应对，来增强对新威胁的抵御能力。这包括制定新的政策，以帮助我们度过艰难的经济转型期，从而走向一个更美好的未来。

*AI必须民主化；权力不能过度集中。对未来的掌控权属于所有人及其制度。AI需要在个体层面赋能于人，而关于我们的未来和新规则的决策，则需要我们共同作出。由少数几家AI实验室来决定我们未来形态的最关键抉择，我认为这是不对的。

*适应能力至关重要。我们都在以极快的速度学习新事物；我们的一些信念会是对的，一些会是错的，有时随着技术的发展和社会的演变，我们需要迅速改变想法。还没有人真正理解超级智能会带来什么影响，但它必将是巨大的。

第二，一些个人的反思。

回顾我在OpenAI的第一个十年，我可以指出许多令我骄傲的事，也有不少错误。

我想起了我们与埃隆即将进行的庭审，也回想起自己当时如何坚守底线，拒绝同意他对OpenAI的单方面控制。对此我感到自豪，正是那条狭窄的道路让我们得以让OpenAI存续下来，并取得了之后的一切成就。

令我羞愧的是，我不善于处理冲突，这给自己和OpenAI都带来了巨大的痛苦。我也为自己在与前董事会冲突中处理不当、给公司造成巨大混乱而感到羞愧。在OpenAI这段不可思议的发展历程中，我还犯过许多其他错误；我是一个身处极端复杂局面中心的不完美的人，努力每年都能有所进步，始终为使命而工作。我们一开始就知道AI事关重大，也知道那些出于善意、我所关心的人们之间的个人分歧会被极大地放大。但亲身经历这些激烈的冲突，并常常不得不去居中调解，则是另一回事，其代价是沉重的。对于那些被我伤害过的人，我感到抱歉，也希望自己能更快地学到更多。

我也非常清楚，OpenAI如今已是一个重要的平台，而不再是一家初创小公司，我们现在需要以更可预期、更稳定的方式运作。过去几年极其紧张、混乱且充满高压。

尽管如此，最让我感到自豪的是，我们正在践行自己的使命——这在我们起步时看起来是极不可能实现的。克服重重困难，我们摸索出了如何构建非常强大的AI，如何筹集足够资金来建设基础设施以将其交付，如何打造一家产品公司和商业模式，如何大规模地提供足够安全和稳健的服务，以及更多。

许多公司都说要改变世界；我们真的做到了。

第三，关于行业的一些想法。

关于过去几年，以及我们这个领域为何会上演如此多莎士比亚式的戏剧性冲突，我个人的体会可以归结为一句话：“一旦你见识过AGI，就再也无法视而不见。”它有一种“魔戒”般的效应，会让人做出疯狂的事。我的意思不是说AGI本身就是那枚戒指，而是指那种“要成为掌控AGI之人”的极端执念。

我能想到的唯一解决办法，是将技术广泛地分享给大众，让任何人都无法独占这枚戒指。实现这一目标最显而易见的两种方式，是赋予个体力量，以及确保民主制度保持主导。

民主程序必须比公司更强大，这一点至关重要。法律和规范将会改变，但我们必须在民主程序的框架内行事，尽管这会显得混乱、比我们希望的更缓慢。我们希望成为其中的一个声音、一个利益相关方，但不希望掌握全部权力。

对我们行业的大量批评，源于对这项技术巨大风险的真诚担忧。这是非常正当的，我们欢迎善意的批评和辩论。我能理解反技术的情绪，显然技术并不总是对每个人都有好处。但总体而言，我相信技术进步能够让未来变得无比美好，无论是对你的家庭还是我的家庭。

在进行这场辩论的同时，我们应该缓和言辞和手段，试着让更少的家庭发生更少的爆炸，无论是比喻意义上的，还是字面意义上的。