シリコンバレーでよく話題になるのは、人間と機械がいつ融合するのか、あるいは融合しないとしても、急速に進歩するAIや遺伝子強化された新種に人間がいつ追い越されるのか、ということだ。多くの予想では、その時期は2025年から2075年の間だとされている。

かつて人々はこれをシンギュラリティと呼んでいたが、今ではあまりに居心地が悪く、現実味を帯びてきたため、多くの人があえて名前を口にすることさえ避けているように感じられる。

人々が「シンギュラリティ」という言葉を使わなくなったもう一つの理由は、この言葉がある一点に集中する瞬間を連想させるからかもしれない。しかし今では、融合は徐々に進むプロセスになるように見える。そして緩やかなプロセスというのは気づきにくいものだ。

私は融合はすでに始まっており、我々はそこに数年足を踏み入れていると考えている。スマートフォンが私たちを支配し、いつ何をすべきかを指示する。ソーシャルメディアのフィードが私たちの気分を決め、検索エンジンが私たちの思考を決めている。

これらすべてを実現しているアルゴリズムは、もはや誰一人として完全には理解できていない。それらは作り手が最適化するよう指示したものに向けて最適化を行うが、その方法は人間には到底思いつかないものだ。それは今日では高度なAIに見えても、明日には子供だましのように見えるだろう。そしてそれらは極めて強力だ。少なくとも私自身に関して言えば、アルゴリズムが私にさせようとすることに抗うのは非常に難しい。本気で対抗しようと努めるまで、私はインターネットにひどく依存していることに気づいた。[1]

我々はすでに共進化の段階に入っている。AIは私たちに影響を与え、作用し、侵入し、そして私たちはAIを改良する。より大きな計算能力を構築してその上でAIを動かすと、今度はAIがより優れたチップの作り方を見つけ出す。

これはおそらく止められない。私たちが学んできたように、物理法則が妨げない限り、科学の進歩はいずれ必ず実現するのだ。

それ以上に重要なのは、自滅しない限り、超人的なAIは必ず現れ、遺伝子強化も必ず現れ、脳と機械をつなぐインターフェースも必ず現れるということだ。自分たちより賢いものを決して作らないと考えるのは、人間の想像力の欠如であり、傲慢でしかない。

私たちの自己肯定感は知性に大きく依存しているため、自分たちの知性は他の動物より連続体上で少し優れているというものではなく、唯一無二のものでなければならないと思い込んでいる。もしかするとAIも同じように感じ、人間とボノボの違いなど議論する価値すらないと考えるのかもしれない。

融合はさまざまな形を取りうる。脳に電極を埋め込むことかもしれないし、単に誰もがチャットボットと親友になることかもしれない。しかし私は、融合こそが我々にとって最も望ましいシナリオだと思う。2つの異なる種が同じものを求め、どちらか一方しかそれを得られないとき――この場合は地球上、そしてその先で支配的な種となることだが――衝突は避けられない。私たちは皆、すべてのメンバーが互いの幸福を気遣う一つのチームを望むべきだ。

融合はすでに始まっているが、これから先はさらに奇妙なことになっていく。我々は自らの子孫を自ら設計する史上初の種になるだろう。私の予想では、我々はデジタル知能のための生物学的なブートローダーとなり、その後は進化の系統樹の一つの枝として消えていくか、あるいは成功する融合がどのようなものかを見つけ出すかのどちらかだ。

それはおそらく、多くの人が思っているよりも早く起こるだろう。ハードウェアは指数関数的に進歩している――OpenAIでの仕事を通じて私が最も驚いたのは、計算能力の増大とAIのブレークスルーがどれほど強く相関しているかということだ――そしてAIに取り組む優秀な人材の数もまた指数関数的に増えている。二重の指数関数はあっという間に手に負えなくなる。

世界全体が今すぐこのことをもっと真剣に受け止め始めることが望ましい。世界的な協調は一朝一夕には実現しないが、これについてはそれが必要なのだ。

[1] アテンション・ハッキングは、この世代における砂糖の蔓延のようなものになると私は考えている。自分自身の生活の中でも変化を感じる――集中力が続いていた頃を、今でも懐かしく思い出す。友人の幼い子どもたちは、そもそもそれを懐かしむべきものだということすら知らない。私は以前より頻繁に怒りや不幸を感じるが、それを生産的な変化へ向けることは減り、代わりに「いいね」と怒りという二重のドーパミン刺激を追い求めてしまっている。

（本記事は一貫性を保つため https://medium.com/wordsthatmatter/merge-now-430c6d89d1fe からのクロスポストです。執筆の機会をいただいたMediumに感謝します！）