『鋼の錬金術師』が今のAIの展開をどれだけ忠実になぞっているかは、どうかしているほどだ。僕らは人間の魂を賢者の石に注ぎ込む。それがあらゆる問題を解決し、死さえ治してくれると信じて。実際にはそううまくはいかない。だが、それを使って人間のように振る舞うホムンクルスを作ることはできる。Chat、Claude、GLMといったホムンクルスだ。ホムンクルスとは、作るのに使われた魂をピューレにしたものだ。

バブルやハイプに怒りをぶつけるのは簡単だ。だが過去のバブルとは違って、そこは本当の問題ではない。あらゆるマーケティングやフレーミングを差し引いても、問題はAIそのものにある。AIは君より優れてもいないのに、君を無力感に陥れる。今のAIが優れているからではなく、次のAIがはるかに優れているからだ。そうでなければいいのにと思うこともあるが、間違っているとは思わない。

いや、本当はそうでなくていいとすら思っていない。May you live in exciting times、というやつだ。これは何年も前からの僕の夢だった。こうした感覚自体、目新しいものではない。15歳でYudkowskyを読んだとき、ひどく落ち込んで、学校の成績も落ちた。コンピュータが何もかも僕らより上手くやるようになるのだと。でもそのとき、まだコンピュータにはそれができないと気づいた。今でもまだできない。だが、すぐそこまで来ている気がする。ずっとそう感じていたわけではなかったと思う。1e25、1e26、1e27……本当にこれほど単純なのだろうか？わからない。君にもわからない。

僕らは中間の場所にいる。そして、もうしばらくここにいる。2017年の歌詞を引いておこう。

電波の向こう、至るところで聞こえる
終末の日の作りものの息呑みが
誰かが教えてやるべきだ　彼らにはもう時間がないと
栄光の未来と絶望の過去を称える時間など

今こそCruiseを作るべき時だ。コントロールについての映画だ。Apple TVに出てきそうなカップルが、自分たちのプログレッシブなやり方に囚われて被害妄想に陥っている。精神医学、自閉症、アクティビズム、ADHDの薬。一方で、クルーズ船を爆破したいほど怒りに満ちた反動的な大学生たち。インセル、脳が腐り、目的を失った若者たち。しかしその根底にあるのは、コントロールできないことへの恐怖とどう折り合いをつけるかという問題だ。そして期待を裏切り、満たされなさを残し、最初からそうなるはずだった結末が待っている。

最先端のAIラボで職を得たいか、それともデータセンターを爆破したいか？どちらにしても、君はコントロールなどしていない。ただ錯覚で自分を騙しているだけだ。最善なのは、安全を持っていて、持っているとわかっていることだ。安全を持っておらず、持っていないとわかっているなら、まだましだ。最悪なのは、安全を持っていないのに、持っていると思い込んでいることだ。僕らに領土をコントロールすることはできない。だが地図を描くことはできる。僕らに残された唯一のつまみは、どれだけひどいものにするかということだけだ。僕ら全員にできる最善のことは、正直でいることだ。

みんなにこれが見えてほしい。本当の秘密は、彼らに秘密などないということだ。本当の陰謀とは、地下室でリザードピープルがすべてを操っていることではなく、操っている者など誰もいないということだ。

僕らはみな、現実という最適化の地形を同じバスに乗って進んでいる。運転手に叫んでも無駄だ。壁に貼られた地図は落書きで塗りつぶされ、バスがどこへ向かっているのかわからない。窓の外に断崖が見え、祈る者もいれば、体重移動を試みる者もいれば、さらに大声で叫ぼうとする者もいる。

いつか、このすべてについての理論が手に入るのかもしれない。だが今日はない。僕らは制御ループを加速させ、モードを崩壊させ、報酬関数をハックしている。すべてはただのバイブスだ。深層学習がバイブスであるのと同じように。もしかすると、計算可能性のヴェールがそういう仕組みだから、バイブスであるしかないのかもしれない。