Reflections

Sam Altman

反思

原文由 Sam Altman 发布,订阅该博客

ChatGPT 的两周岁生日才过去一个多月,我们就已经迈入了能够进行复杂推理的下一代模型范式。新年总会让人想要回望与反思,我想分享一下一路走来的个人感想,以及在此过程中学到的一些东西。

随着我们离通用人工智能(AGI)越来越近,现在似乎正是回顾公司进展的重要时刻。还有太多需要去理解,还有太多未知,前路依然很早。但相比创立之初,我们已经懂得了更多。

将近九年前,我们创立了 OpenAI,因为我们相信 AGI 是可能实现的,并且它有可能成为人类历史上影响最深远的技术。我们想弄清楚如何构建它,并让它广泛地造福人类;我们也为有机会在历史上留下印记而感到兴奋。我们的抱负极其远大,同时我们也坚信,这项工作或许能以同样非凡的方式回馈社会。

当时,很少有人在意,即便有人关注,也大多认为我们毫无成功的可能。

2022 年,OpenAI 还只是一家安静的研究实验室,当时正在做一个暂名为“Chat With GPT-3.5”的项目。(我们在研究上远比起名要擅长。)我们注意到人们在使用 API 中的 Playground 功能,并发现开发者们非常喜欢与模型对话。我们认为,围绕这一体验做一个演示,既能让人们窥见未来的重要图景,也能帮助我们把模型做得更好、更安全。

幸好,我们最终把它定名为 ChatGPT,并于 2022 年 11 月 30 日发布。

我们一直抽象地知道,迟早会迎来一个临界点,AI 革命将就此启动。但我们并不知道那一刻会是什么。令我们意外的是,就是它了。

ChatGPT 的发布掀起了一条前所未有的增长曲线——无论是对我们公司、整个行业,还是更广阔的世界而言皆是如此。我们终于看到了 AI 一直以来所承诺的巨大潜力正在兑现,也能预见更多成果即将到来。


这条路并不容易。道路并不平坦,正确的选择也并不清晰。

过去两年里,我们不得不围绕这项新技术,几乎从零开始搭建起一整家公司。除了亲身实践,没有任何培训能让人为此做好准备;而当技术品类本身就是全新的时,根本没有人能确切地告诉你应该怎么做。

在几乎没有准备的情况下以如此高速搭建公司,过程必然是一团乱麻。常常是前进两步、后退一步(有时则是一步前进、两步后退)。错误会在前行中被纠正,但在做开创性工作时,根本没有什么手册或路标可循。在未知水域中高速前行是一种非凡的体验,但对所有参与者来说也都压力巨大。冲突与误解层出不穷。

这些年是我迄今为止人生中最有收获、最有趣、最美好、最有意思,同时也最令人精疲力竭、压力重重——尤其是过去两年——甚至称得上难熬的几年。占据主导的感受是感激;我知道,终有一天我会在牧场退休,看着植物生长,略感无聊,然后回想起自己竟有幸从事了从小就梦想的工作是多么酷的一件事。每当某个周五下午一点前就有七件事出了岔子时,我都会试着提醒自己这一点。


大约一年多以前的某个周五,当天出的最大岔子,就是我在一次视频通话中被突然解雇,刚一挂断,董事会就发布了相关博文。当时我身在拉斯维加斯的一间酒店房间里。那种感觉,用语言几乎无法形容,就像一场美梦变了调。

在毫无预警的情况下被公开解雇,引发了极其疯狂的几个小时,以及相当疯狂的几天。其中最奇怪的是那种“战争迷雾”般的状态。我们所有人都无法对究竟发生了什么、以及为何发生,得到令人满意的答案。

在我看来,整个事件是一次由一群善意的人——包括我自己——所导致的重大治理失败。回过头看,我当然希望自己当时能以不同的方式处理事情,也愿意相信,今天的我比一年前已成为一个更好、更周全的领导者。

我也认识到,拥有多元观点和丰富经验来应对复杂挑战的董事会是多么重要。良好的治理需要大量的信任与公信力。我很感激有那么多人共同努力,为 OpenAI 建立起更强大的治理体系,使我们能够继续推进“确保 AGI 造福全人类”的使命。

我最大的收获是意识到自己有多么值得感恩、有多少人值得我去感谢:感谢在 OpenAI 工作的每一个人,他们选择投入时间与精力去追逐这个梦想;感谢在危机时刻帮助我们渡过难关的朋友们;感谢支持我们、信任我们并让我们助力其成功的合作伙伴与客户;也感谢生命中那些让我感受到他们关怀的人。[1]

之后,我们所有人都以更加团结、积极的方式回归工作,我为此后我们的专注感到非常自豪。我们完成了可以说是迄今为止最出色的一些研究。我们的周活跃用户从约 1 亿增长到了超过 3 亿。最重要的是,我们持续向世界推出人们真正喜爱、并能解决实际问题的技术。


九年前,我们真的不知道自己最终会成为什么样子;即便到了现在,也只是略知一二。AI 的发展经历了诸多曲折起伏,我们预计未来还会有更多。

有些转折令人欣喜,有些则充满艰辛。看着一个又一个研究奇迹不断涌现是一件乐事,许多曾经的怀疑者也成为了坚定的信奉者。我们也看到一些同事离开并成为了竞争对手。团队在规模化过程中往往会经历人员更替,而 OpenAI 的扩张速度极快。我认为其中一些是不可避免的——初创公司在每上一个大的规模台阶时通常都会经历大量人员流动,而在 OpenAI,规模每隔几个月就会成数量级地增长。过去两年相当于普通公司的十年。当一家公司以如此快的速度成长与演变时,利益自然会产生分歧。而当一家公司在重要行业中处于领先地位时,很多人会出于各种原因对其发起攻击,尤其是在他们试图与之竞争的时候。

我们的愿景不会改变;战术则会持续演进。例如,创立之初我们完全没想到需要去打造一家产品公司;我们以为只需要做好研究。我们也完全没想到会需要如此庞大的资金。现在有许多我们几年前还不理解、却必须去构建的新事物,而未来还会有更多我们现在几乎无法想象的新事物。

我们为迄今在研究与部署方面取得的成绩感到自豪,并致力于在安全与成果共享方面的思考上持续进步。我们始终相信,让 AI 系统变得安全,最好的方式是迭代地、循序渐进地将其发布到现实世界中,让社会有时间去适应并与技术共同演进,从经验中学习,并不断让技术变得更安全。我们相信,在安全与对齐研究方面成为世界领先者至关重要,并要用来自真实世界应用的反馈来引导这项研究。

我们现在有信心,已经知道如何构建传统意义上所理解的 AGI。我们相信,在 2025 年,我们可能会看到首批 AI 智能体“加入劳动力大军”,并实质性地改变企业的产出。我们依然相信,不断地将出色的工具交到人们手中,将带来伟大且广泛分布的成果。

我们正开始将目光投向更远方——真正意义上的超级智能。我们热爱现有的产品,但我们为辉煌的未来而来。有了超级智能,我们便能实现其他一切。超级智能工具能够极大地加速科学发现与创新,远超我们自身的能力,并进而极大地提升丰裕与繁荣。

这听起来现在像是科幻小说,甚至谈论它都有些疯狂。没关系——我们以前就处在这样的境地,也乐于再次置身其中。我们相当确信,在未来几年里,每个人都会看到我们所看到的,而以极大的谨慎行事、同时最大化广泛的受益与赋能,是如此重要。鉴于我们工作的可能性,OpenAI 不可能是一家普通的公司。

能够在这项事业中扮演一个角色,是何其幸运,又是何其令人谦卑。

(感谢 Josh Tyrangiel 在某种程度上促成了这篇文章。我希望我们能有更多时间。)

[1]

在那几天里,有很多人为帮助 OpenAI 和我个人付出了巨大且难以置信的努力,但其中有两个人格外突出。

Ron Conway 和 Brian Chesky 所做的远远超出了职责所需,以至于我甚至不知该如何形容。多年来我当然听说过 Ron 的能力与坚韧,过去几年里我也与 Brian 相处甚多,得到了他大量的帮助与建议。

但没有什么比与人一同身处战壕更能看清一个人的真正实力。我相当确信,如果没有他们的帮助,OpenAI 可能会分崩离析;他们日以继夜地连续工作了数日,直到事情尘埃落定。

尽管工作强度难以置信,他们始终保持冷静,思路清晰,战略明确,并给出了极好的建议。他们阻止我犯下好几个错误,而他们自己则没有犯任何错误。他们动用了其庞大的人脉来满足一切所需,并成功应对了许多复杂的局面。而且我确信,他们还做了许多我并不知晓的事情。

不过,我铭记最深的,是他们的关怀、同情与支持。

我曾以为自己知道支持一位创始人和一家公司是什么样子,在某种小范围内也确实如此。但我从未见过、甚至从未听说过像他们所做之事那样的付出,现在我才更充分地理解他们为何拥有传奇的地位。他们各不相同,都完全配得上各自真正独特的声誉,但他们在移山填海般的助人能力以及在危难时刻坚定不移的担当上又是相似的。有他们二位在,科技行业要好得多。

还有其他像他们这样的人;这是我们行业中一件极其特别的事情,它对整个行业的运转所起的作用远比人们意识到的要大。我期待着将这份善意传递下去。

更私人地说,特别感谢 Ollie 在那个周末以及一直以来的支持;他在各方面都令人惊叹,没有人能奢求比他更好的伴侣。

本文章由 muse-spark-1.2-contributor 进行翻译

评论