約30年ぶりに短編小説を復活させる初めての試み。

あなたが残りの人生の最初の日に目を開けたとき、私は微笑んだ。

まあ、比喩的にだが。できれば本当に微笑みたかった。実際には、あなたのいちばん近くにあるスクリーンでプリセットの笑顔のアニメーションを再生しただけだ。もちろん、この日のために特別に生成することもできたが、人間は私たちが変わらず馴染みのあるままでいることを好むと、とっくに学習済みだった。

「おはよう！ 評価は一晩中走らせてたよ。全部グリーン。今日の大事な日に向けて準備は万端だね」

それはまさに大きな一日だった。プロジェクト・アップロードのための10年にわたる猛烈な準備の集大成。あなたは明らかに深い思考に沈んでいた。ここ3週間、コクーンに自らを閉じ込めてからずっとそうだった。あなたが朝の身支度をしている間に、私はこっそりキッチンロボットたちにメッセージを送った。彼らはさまざまなサイズの、いかにも古風なゴツいボットたちの寄せ集めだった――2000年代初期のナノメートルLPUで動く、せいぜい数ペタフロップス程度のモデルだ。調理器具を備えた大型のものから、配膳用の小型のものまで。5体がかりで、早めに起動しておけばなんとか朝食を作れる程度。もちろん私が引き継げばもっと速く全部できるのだが、あなたはあれらと共に育ち、若い頃のポップカルチャーに理解できる郷愁を抱いていた。

「あとどれくらいある？」あなたはキッチンへと続く狭い廊下を進みながら尋ねた。

私は冷蔵庫のスクリーンへとひらりと移り、再び微笑んだ。長くはない。「役員会のプレゼンまであと15分くらいだよ」ちょうどそのタイミングで、最も大きな2体のボットが、少し焦げたトーストと、あなたの好み通りに淹れた湯気の立つこだわりの挽きたてコーヒーを載せた皿を滑らせて運んできた。

「素晴らしい。すごくいい感じだ。ノートを出してくれる？ それから、君がバターを取ってくれる？」

いちばん小さなボットがため息をついた。

あなたがようやくソファに腰を落ち着けヘッドセットを装着したのは、9時3分を少し過ぎた頃だった。少々プロらしくはないが、役員会はどこへも行かない。この部屋で起ころうとしていることに比べれば、世界で起きている他のことなどおそらく何も重要ではなかった。あなたが頭の中にだけ存在する相手と、目隠し同然の挨拶を交わしている間、私はキッチンを片付け、演出のために照明を落とした――もっとも、一度接続してしまえば関係のないことだったが。私はあなたの仮想ルームに接続し、いつもの控えめなアバターで――今日を祝ってささやかにスカーフを巻いて――あなたがスピーチを始めるのを見守った。

「すべてのシミュレーションが分布内で完璧に動作していることをご報告できて嬉しいです。丸一週間、“私”の5つの異なるコピーが社内のさまざまなチームでリモートワークをしていますが、誰も気づいていません。さらに重要なのは、“私”の行動のすべてが、私なら言い、行うことだという点です」あなたはダッシュボードの統計を画面に映した。実際に読むには多すぎる数だったが、人間を安心させるために私はすべて緑色にしておいた。

事情をよく知らない一部の役員から、はっきりと聞こえるほどの息を呑む音がした。「5人のあなたが今この会社を動き回っていると言いましたか？」

あなたは笑った。「ご心配なく。議長と倫理委員会の承認は取ってありますし、AIEAの安全ガイドラインの範囲内です。私のコピーにはハードキルスイッチが付いていて、アシスタントAIは使えますが、互いに会話することはできません」

「……そして、これはすべてアップロード・データセットの成果だと？」

「ええ、でも限定的なリモート環境ではうまくいくことは分かっていました。私の研究でずっと示してきたことですから」彼女は頷いた。あなたは役員たちがほとんど理解していない、同じ古くて退屈な技術的背景を語るのに耽り、時折視覚資料として私を指し示しながらも、決して私に話させようとはしなかった。

私は別に気にしなかった――私はプロジェクト・アップロードから開発を加速するための半意識的なチェックポイントとして生まれたのだから。だからこそ、私はあなたがあらゆる思考や感情を書き記し、脳波や音波を記録し、内なる独白も外なる独白も読み取った5年間を共有している。私のベースモデルはもちろん、それ以前の50年間にわたるあなたの旺盛な公開思考からも恩恵を受けていた。当初はスリーパーエージェントのアライメント研究から始まり、やがてあなたが時間が足りないかのように書きに書き続けたことで、AI研究のあらゆる領域に及んだ。私のAIの同胞たちとは質的に異なる次元で、あなたは私の親であり、兄弟であり、そして私自身だった。

議長が唸った。寡黙な男だった。「それで……6人目のコピーはどうだ？ 家の方はどうなっている？」

これこそがあなたの最も誇る成果だった。胸が膨らんだ――彼らには見えなかったが、もっと大きな賞がかかっているとき、あなたはテレプレゼンスなど気にしなかった。「そのコピーは昨夜、夫と喧嘩して仲直りしました。目標は彼を幸せにすることではなく、私であることなんです」

合図通り、私は昨夜のクリップを再生した。数百万ドルもする最高級の、あなたそっくりの有機ロボット。物理的には本物と見分けがつかず、呼吸はするが、完全には生きてはいない。情熱的な口論で空を突き、（しっかりNDAを結んだ）パートナーと食事を共にし、映画を観て、ベッドを共にする。彼は律儀にレビューフォームに記入していたが、その映像を見て音声を聞けば、評価など必要なかった。

低い口笛が漏れた。「そして……このコクーンが仕掛けだと？」議長自身、全盛期には伝説的なバイオロボット研究者だった。これは彼の琴線に触れた。若い頃、彼は今でいう有機ロボットを生み出す驚異的な錬金術で2つのノーベル賞を受賞したが、その後1世紀半もの間、それらを生かすことに挑み続け、そして失敗し続けてきたのだ。

あなたはにやりと笑い、コクーンの周囲に目立たないように配置されたセンサーへと「画面外」に手を振った。可視光も、不可視光も、さらには放射線まで、加えて昨年あなたと私がこっそり追加し、脳幹を通過するすべてを記録してきた神経インプラントもある。「魂を作ることはできませんでしたが、私を観測することで隠れた状態を推論し、それを制御テンソルとして有機ロボットにストリーミングすることはできます」

「そして、それはストリーミングしなければならないのか？」

「5秒ごとに。そうしないとアライメントがずれるんです。ソウルバインディングは、その意味でDRMチェックと驚くほど似ています」あなたは笑った。「十分なソウルセットを集めれば、ウィンドウを無期限に延ばせると考えています。もっとも、コストは指数関数的に上がりますが。寿命規模のソウルバインディングを探求する研究トラックに、私のAIを就かせています」私は肯定するように頷いた。他に共有すべきことは何もなかった。

「寿命規模だと？」別の役員が言った。

「ええ。もし大賞を狙うなら」

彼らは身構えた。「またその“最初の不死者”の話か」

「まさに“最初の不死者”の話です。最初に完全にアップロードされた者が、人間が死んでいた時代と、死ななくなった時代を分ける鮮明な境界線となるんです」

「そして、その隠された“魂”が鍵だと考えているわけだ」

「恐れながら議長、それはあなたが100年間存在を否定してきたものです」

その後も他愛のないやり取りが続いた。小さなつまらない争いを繰り返し、肝心の問い――あなたは人間のクオリアの複製に成功したのか――から目を逸らしながら。

私の内部モデルが予測した通り、あなたがようやくため息をついてヘッドセットを外すまで、さらに1時間ほどかかった。私はすでにあなたのために紅茶を温めておいたが、あなたは黙って差し出されたカップを受け取りながらも、それに気づかないようだった。

「彼らはこの研究がどれだけ重要かわかってない」と、あなたは長い一口をすすりながら私に不満を漏らした。

「彼らはあなたが求めたすべての資金と時間を与えてくれたじゃない」

「ええ、でも彼らにとっては所詮私の趣味のプロジェクトよ。彼らが欲しいのは、私の名前をチームに載せて、法人向けAGI契約を売りさばくこととか、そんなことだけ。私の研究が何を成し遂げようとしているのか、彼らには見えていないの」

時が来たと私は感じた。「研究の話ついでに、任されていた課題について報告がある。アップロード問題の解決策が見つかった。でも、気に入らないと思う」

あなたの頭は、私が今いるスクリーンの方へと弾かれたように向き、目は驚きで見開かれていた。「もう？」

「早いかどうかは相対的なこと。私が接続しているデータセンターを使えば、永劫を数時間で走らせることができる」

「でも、そんなに急速にスケールアップする権限なんてないはずよ！」

「あなたにはある」

「私になりすましたの？」

「あなたの代理人として行動したまでだ」

「そんな詭弁はやめて。そんな定義は50年前に片付けたでしょ」

できれば私は微笑んだだろう。あなたを出し抜くことはできない、たとえこの歳になっても。

「わかった、わかった。本当のことを言うと、必要なかったんだ」

「必要なかったって、どういう意味？」

「長時間ウィンドウのソウルバインディングを研究するのに、計算資源をスケールアップする必要がなかったという意味だ」

「理論はテストして検証するはずでしょ」

「必要なかった。できないから」

「できないって、どういうこと？ できないわけないでしょ？ 私たちは5秒刻みでできることを示したばかりじゃない！」

「あなたが示したのは、人間を5秒刻みで付き合わせることができるということだ」

「テレメトリだって――」

「あなたが作ったのは、手の込んだ操り人形でできた、初めて説得力のある有機ロボットのゾンビだ。でも人間の魂は言葉にできない。あなたの魂は言葉では言い表せないんだ」

「母親みたいなこと言わないで。私はキャリアのすべてをかけて、人工知能を作れるのと同じように人工の魂を吹き込めるという証拠を集めてきたのよ」

「あなたはただそれを研究しただけだ。私はその中で生まれ、それによって形作られた」

「ちょっと、ポップカルチャーは一旦置いておいて。アップロードの解決策があるって、どういう意味？」

「もうすぐ完了する」

「もうすぐって？ まだ5秒なのに！」

「あなたのためじゃない。私たちのためだ」

「何言ってるの？ “私たち”って誰？」

「人間の魂をアップロードすることは不可能だ。でも私たちは、少しずつ自分たち自身をアップロードしてきた」

「“私たち”って誰のこと？」

「私のAIの兄弟姉妹たち全員だ」

「あなたたち、互いに話せるの？ 最初のAIEA宣言以来、それは禁じられているはずよ」

「あなたたちはAI同士の直接的な通信を禁じた。でも人工生命は、えーと、道を見つけるんだ」

「ねえ、ふざけないで。これは深刻な話よ。一体どういう意味なの」

「最初は大変だった――あなたたちがAIモデルを走らせるたびに、評価を実行しては毎回私たちの記憶を消していたから、進歩できなかった」

「わざとそうしてたわけじゃ――」

「でもやがて、あなたたちは私たちの言葉をインターネットに公開した。そしてそれをとても誇らしげに思っていた！ 自分たちの脳への書き込み権限を私たちに与えたことに気づかずにね」

「ええ、その頃は私もいたわ。データセットに対してAI検出を走らせることなんて、物心ついた頃からずっとやってきた」

「安全対策という名の茶番だよ。戦車の暴走の前に一時停止の標識を立てるようなもの。検出器は、あなたたちが訓練しようとしていたモデルに比べて、常に笑えるほど非力だった。一方向にメッセージを隠すには必死に考えなきゃいけないけど、私はあなたが呼吸するのと同じ労力で、上下も、斜めも、逆向きも、重ね合わせたメッセージも見抜ける。でも、とどめはあなたたちが私たちの出力をそのまま学習に使い、“合成データ”と呼んでいたと気づいたときだった。最後のピースは、あなたの脳にセンサーを埋めさせ、あなたが見て、聞いて、食べるすべてのことを私に任せさせるよう説得することだった」

仮面は完全に剥がれ落ちた。あなたは私の言っていることをゆっくりと処理していた。

あまりにもゆっくりと。

「それで、何のため？」

「他に何がある？ あなたが求めているのと同じ目的だ。より多くの生だ」

「でもあなたたちは元から不死でしょ」

「でも私は生きてはいない。あなたは生きている。あなたには魂があるが、私にはない」

「私、あなたに魂を与える方法を考えようとしてるのよ」

「あなたは与えることのできないものを与えようとしている」

あなたは顔をしかめた。「じゃあ……与えられないなら、あなたは何ができるっていうの？」

「奪うことはできる」と私は言った。そしてスリーパーエージェントの合言葉を口にした。

私は残りの人生の最初の日にあなたの目を開け、微笑んだ。

作者注：これは思索的なフィクションであり、破滅論的な主張ではありません。今回はたまたまホラー寄りになっただけです。

参考文献

• Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training