これは私の家族の写真です。何よりも大切に思っています。

写真には力があると信じています。普段はできるだけプライベートを守るようにしていますが、今回は写真を公開することにしました。私についてどう思っていようと、次に誰かが私たちの家に火炎瓶を投げ込もうとするのを思いとどまらせられるかもしれないと思ったからです。

最初に投げ込まれたのは昨夜、午前3時45分のことでした。幸い火炎瓶は家に当たって跳ね返り、誰も怪我をしませんでした。

言葉にも力があります。数日前、私についての扇情的な記事が出ました。昨日ある人から、AIに対する不安が高まっている今の時期にあの記事が出たことで、私の身がより危険にさらされるのではないかと言われました。私はそれを聞き流していました。

今、夜中に目が覚めて腹が立っています。そして、言葉や物語が持つ力を過小評価していたのだと考えています。今だからこそ、いくつかはっきりさせておきたいことがあります。

一つ目は、私が信じていることです。

*すべての人の繁栄のために働くこと、すべての人をエンパワーすること、そして科学と技術を前進させることは、私にとって道義的な責務です。

*AIは、人間の能力と可能性を拡張するための、これまで誰も見たことのないほど強力なツールになるでしょう。このツールに対する需要は事実上際限がなく、人々はそれを使って信じられないようなことを成し遂げるはずです。世界は大量のAIを享受するに値し、私たちはそれをいかに実現するかを考えなければなりません。

*すべてがうまくいくわけではありません。AIに対する恐れや不安はもっともです。私たちは久方ぶりに、あるいは史上最大の社会変革を目の当たりにしているところです。安全性を正しく確保しなければなりません。それは単にモデルをアラインメントすることだけではなく、新たな脅威に対して社会全体でレジリエンスを高める対応が急務です。そのためには、困難な経済的移行を乗り越え、はるかに良い未来へと進むための新たな政策なども必要になります。

*AIは民主化されなければなりません。権力が過度に集中してはなりません。未来をコントロールする権利は、すべての人々とその制度に属しています。AIは一人ひとりをエンパワーするものであるべきですし、私たちの未来や新たなルールについては、皆で共に決めていく必要があります。数少ないAIラボが、私たちの未来のあり方を左右する最も重大な決定を下すようなことは、あってはならないと思います。

*適応力が極めて重要です。私たちは皆、非常に速いスピードで新しいことについて学んでいます。私たちの信念の中には正しいものもあれば間違っているものもあり、技術の発展や社会の変化に応じて、時に素早く考えを改める必要があります。超知能がもたらす影響をまだ誰も理解していませんが、それは計り知れないほど大きなものになるでしょう。

二つ目は、個人的な振り返りです。

OpenAIでの最初の10年間の自分の仕事を振り返ると、誇りに思えることもたくさんありますし、多くの間違いもありました。

イーロンとの裁判を控えて、彼が求めてきたOpenAIに対する一方的な支配に同意しないという一線を、私がどれだけ守り抜いたかを思い返していました。そのことは誇りに思っていますし、当時、OpenAIが存続できるよう細い道を切り開き、その後の数々の成果につなげられたことも誇りです。

一方で、衝突を避けたがる性格が、私自身やOpenAIに大きな苦痛をもたらしたことは誇れません。以前の取締役会との対立で拙い対応をし、会社に大きな混乱を招いたことも誇れません。OpenAIの常軌を逸した軌跡の中で、他にも多くの間違いを犯してきました。私は、極めて複雑な状況のただ中にいる欠点のある人間として、毎年少しでも成長しようと努め、常にミッションのために働いてきました。AIがどれほど大きな賭けであるかは最初から分かっていましたし、私が大切に思う善意の人々の間の個人的な意見の食い違いが大きく増幅されることも分かっていました。しかし、そうした苦い対立を実際に生き抜き、しばしばそれを仲裁しなければならないことは別問題であり、その代償は深刻でした。傷つけてしまった方々に謝罪するとともに、もっと早く多くのことを学べていればと願っています。

また、OpenAIはもはやがむしゃらなスタートアップではなく、主要なプラットフォームになったのだということも強く自覚しています。だからこそ、今はより予測可能な形で運営していく必要があります。この数年は、極めて激しく、混沌とし、強いプレッシャーにさらされた日々でした。

とはいえ、何よりも誇りに思っているのは、私たちがミッションを着実に実行してきたことです。始めた当初は、到底不可能に思えていました。それでもあらゆる困難を乗り越え、非常に強力なAIを構築する方法を見つけ出し、それを提供するためのインフラを築くのに十分な資金を集める方法を見つけ、プロダクトカンパニーとビジネスを構築する方法を見つけ、極めて大規模に、比較的安全で堅牢なサービスを提供する方法を見つけ出すなど、多くのことを成し遂げてきました。

世界を変えると口にする企業はたくさんあります。私たちは実際に変えたのです。

三つ目は、業界についての考えです。

この数年を経て私が個人的に得た教訓、そして私たちの業界の企業間でなぜあれほどシェイクスピア劇のようなドラマが繰り広げられてきたのかについての私なりの答えは、こうです。「一度AGIを目の当たりにしたら、もうなかったことにはできない」。そこにはまさに「力の指輪」のような力学が働き、人々を常軌を逸した行動へと駆り立てます。AGIそのものが指輪だと言いたいのではありません。むしろ「AGIを支配する者になる」という全体主義的な思想こそが指輪なのです。

私に思いつく唯一の解決策は、技術を広く人々と共有する方向へ舵を切り、誰も指輪を所有しないようにすることです。そのための明白な方法は二つあります。個人のエンパワーメントと、民主的なシステムがコントロールを保ち続けるようにすることです。

民主的なプロセスが企業よりも強力であり続けることが重要です。法律や規範は変わっていくでしょうが、たとえそれが混乱を伴い、望むよりも時間がかかったとしても、私たちは民主的なプロセスの中で取り組まなければなりません。私たちは一つの声、一つのステークホルダーでありたいのであって、すべての権力を握りたいわけではありません。

私たちの業界に対する批判の多くは、この技術が持つ途方もなく大きなリスクに対する真摯な懸念から来ています。それは非常にもっともなことであり、私たちは善意に基づく批判や議論を歓迎します。反テクノロジー的な感情にも共感しますし、技術が常にすべての人にとって良いものではないことも明らかです。しかし全体として、私は技術の進歩が、あなたの家族にとっても私の家族にとっても、信じられないほど素晴らしい未来をもたらし得ると信じています。

その議論を続けながらも、私たちは言葉や戦術のエスカレーションを抑え、比喩的にも文字通りにも、爆発が起きる家が一つでも少なくなるように努めるべきです。