AIが賢くなるほど、僕の不安はむしろ小さくなってきた。

数年前、コンピュータが初めて喋り出したとき、そう遠くないうちに全能の機械を目の当たりにするのだと信じるのは理にかなっていた。インターネットで文章を書くことを生業にしている僕のような人間にとっては、ポケットに石を詰めて海へ歩いて入っていくまで、あとは時間の問題に思えた。

だが、その電気仕掛けの神がサンフランシスコへとのろのろ歩み寄り生誕する姿を間近で見るにつれ、それは僕が恐れていたものとは少し違うとわかってきた。オンデマンドの全能性を手に入れたという感覚はない。代わりに僕が話しているのは、無限の凡才だ。いつでも呼び出せて、ものすごく物知りな間抜け。賢いかって？ まあ、そうでもあり、そうでもない、妙な意味で。

「strawberryという単語の中の“r”の数を数える」ことを覚え、ピザに接着剤を塗るよう勧めるのをやめた今でさえ、その能力の中心には2022年当時と変わらない大きさの穴がぽっかり空いていて、縮まる気配すらない。僕にそれがわかるのは、その穴こそが僕の住処だからだ。

Gって、すごい

問題には、境界がはっきりしていて解が検証可能なものがある。たとえば「38,126の立方根は？」といった問題だ。こうした問題には客観的な知能が求められる。一方で、曖昧でぐにゃぐにゃしていて、解けたのかどうか、そもそも問題自体が存在するのかさえわからないものもある。たとえば「どうすれば良い人生を送れるか？」といった問題だ。こちらには主観的な知能が求められる。客観的知能は訓練し、強化し、検証できる。主観的知能はそうはいかない。

不運なことに、人々はこのまったく無関係な二つの能力を一つの言葉で呼んでいる。実際には両者は何の関係もないのにだ。しかも皮肉なことに、これは客観的知能が主観的知能を覆い隠している一例でもある。直感的には明らかに違うスキルなのに、一世紀にわたる心理学研究が「存在するのは片方だけだ」と“証明”してきたのだ。心理学者たちは、あらゆる知能テストが互いに相関することを何度も発見してきた。たとえ「多重知能」を測ろうとした場合でさえそうなる。数字は嘘をつかない。そして数字は、知能はただ一つ、いわゆるg因子しかないと告げている。

問題は、知能のテストというものが、常に客観的知能のテストでしかないということだ。「どうすれば良い人生を送れるか？」は択一問題ではない。g因子を何度も「発見」するのは、毎回同じ街灯の下を探して、同じ歩道の切れ端を見つけて驚いているようなものだ。

AIは純粋な客観的知能だ。だからこそ、新しいモデルが出るたびに出生証明書ではなく成績表がついてくる。

人工超知能の約束は、客観的知能こそが唯一の知能だという考えに基づいている。あるいは、たとえ知能に複数の形があるとしても、それらは互換可能だという考えに。AI楽観論者になるということは、カタンの開拓者たちのルールでプレイしているのだと信じることだ。そこでは、どれか一つの資源を十分に持っていれば、他のどんな資源とも交換できる。無限の客観的知能を持てば、すなわち無限のすべてを手に入れたことになる。

ならば問うべきだ。この虫のいい考えは、これまでのところどれくらいうまくいっているのか、と。

空っぽの洋服ダンス

機械の主観的知能を判断するのが難しいのは、主観的知能自体を判断するのが難しいからでもあり、LLMが存在のごく狭い断片しか占めていないからでもある。人間で、二次方程式を暗算できるのに仕事も人間関係も維持できない人に出会えば、何かが足りないとわかる。だが機械には破滅させられる人生がないので、できるのはその発言を見ることだけだ。そして数文つなげただけで、何かがおかしいことは明らかになる。

文章を書くことは、客観的知能と主観的知能の両方を要する作業だ。LLMは他のあらゆるテストと同様、客観的な部分は完璧にこなす。文法も意味も構文も非の打ち所がない。だが良い文章には、散文に息を吹き込み命を与える、もう一つの何か、数値化もチェックリスト化もできない内側の灯りが必要だ。そしてAIが今や満点の五段落エッセイを書けるようになっても、その灯りがともったことは一度もない。

言葉を大切にする人々の間で、この点についてこれほどまでに意見が一致しているのは驚くべきことだ。ジャスミン・サン、エリック・ホーエル、サム・クリスはそれぞれまったくタイプの異なる書き手だ——サンはテックジャーナリスト／人類学者、ホーエルは神経科学者／小説家、そしてクリスは……まあ、本人の経歴によれば「物書き、そして君の敵」だ——にもかかわらず、三人とも最近、LLMはひどい文章を書くという満場一致の結論に至る文章を発表している。（サンはThe Atlanticで、ホーエルは自身のSubstackで、そしてクリスはNYTで。）

僕も彼らに同意する。AIがタンパク質の折り畳みを解いたり、ウェブサイトを作ったり、論文のファクトチェックをしたりできるのはすごいことだ。だが、僕が読みたいと思うような文章は一つも書けない。問題は幻覚を見たり間違いを犯したりすることではない。書くものすべてが、なんとなくダメなのだ。目で言葉をなぞっても、何も感じない。いや、正確には「一刻も早く終わってほしい」と感じる。機械が洞察に満ちていると思っているアイデアを見ると、顔をしかめてしまう。コンピュータと話すのは、熱すぎるコーヒーをすするようなものだ。続けていれば味覚を失ってしまう。

機械に何が欠けているのかを正確に言葉にするのは難しい。かつて愛し合った相手に、愛されなくなった経験はあるだろうか。そのとき、相手の目の光が鈍ったのに気づいただろうか。本物の笑顔と偽物の笑顔を分ける、こめかみの微かなしわが消えたのに気づいただろうか。大切にされることから、適当にあしらわれることへと変わった瞬間を捉えただろうか。何が起きているのか悟った瞬間、君は魔法から覚める——ある日は洋服ダンスの中をくぐってナルニアへ行けたのに、次の日にはダンスを開けてもハンガーしかない。AIと話す感覚は少しそれに似ている。ただし、最初の素敵な部分なしで、という違いはあるが。

もちろん、この比喩は文字通りナンセンスだ。古代の学者たちが主張していたとしても、誰の目の奥にも本当に灯りがあるわけではない。心理学入門の教授がそう教えたとしても、誰もが笑顔をうまく偽装できるわけでもない。僕に洋服ダンスはないし、ライオンや魔女に会ったこともない。それでも人間なら誰でもこの比喩を理解できる。振られたことがどんな感じか、少なくとも拒絶されたことがどんな感じかを知っているからだ。言葉そのものの中にその感情が含まれているわけではない。言葉は、君自身の頭の中にその感情を作り出すためのレシピであり、手元にある経験という材料で適切な感情のセットを組み立てるためのものだ。僕がうまくやれば、君の中で生じる主観的な体験は、僕の中で生まれたものに似るかもしれない。だが、使っている材料が違うのだから、決して同一にはならない。1

コンピュータはこんなことを何も知らない。知りようがないのだ。料理本を読むことはできても、料理を味わうことはできない。客観的な知識は文章を正しくすることはできても、生き生きとさせることはできない。主観的な知識がなければ、すぐに壁にぶつかる。そして、AIがこれまで乗り越えてきた他のあらゆる壁とは違い、この壁はスケールさせても——文字通りにも比喩的にも——乗り越えることはできない。なぜならそれは、幅も言葉にできず、高さも見えない壁だからだ。

さあ、みんなで壁を

その壁があるからこそ、僕はまだここにいる。

自分の記事をコンピュータに書かせるくらいなら死んだほうがましだ。だが、そもそも書けるのかどうかは知っておきたい。ポケットに石を集めて一番近い海を探しに行く必要があるかどうかを判断するために。そして時々、主要なAIモデルが僕よりもうまく僕自身を書けるかどうか試してみる。その結果は、後頭部に鈍器で殴られた僕のバージョンが、なぜかWi-FiではLinkedInにしかログインできない病院で何年もリハビリしたかのような文章だ。ここでその散文を再掲はしない。面白いほどひどくすらないし、君はすでにインターネットのあちこちで同じものを見ているはずだからだ。うまく固まらないメタファー、よく考えなければ洞察に満ちて聞こえる言い回し、どの文も啓示であるかのように息を弾ませる主張。

もし学生がこんな文章を提出してきて——しかも自分で書いたと確信できるなら——僕は何から手をつけていいかわからないだろう。たぶん「しばらく書くのをやめて、古い小説を何冊か読むか、しょぼいバイトをしてみるか、世界の裏側をバックパックで旅してきたらどうだ」と言うだろう。だがそれは的外れな助言だ。なぜなら、もっと面白い人間になろうとしてそうしたことを全部やった人を知っているが、うまくいかなかったからだ。だから代わりにこう聞くかもしれない。「コンサルティング業界でのキャリアを考えてみたことはある？」

AIの文章をどう改善すればいいのか言葉にするのが難しいという事実自体が、まさに問題なのだ。どこが悪いのかを数値化できず、測れないものは最小化できない。それが壁だ。

もちろん、僕はこれをとても幸運なことだと思っているが、同時にひどく滑稽だとも思う。なぜなら、僕対機械の戦いは本来なら勝負にすらならないはずだからだ。僕はインターネット全体を読んだわけでも、たくさんの本を読んだわけでもない。スタンフォードの博士たちが昼夜を問わず僕を仕事で優秀にしようとしてくれているわけでもない。誰も僕に2.5兆ドルを投資してはくれていない。ジョン・ヘンリーよろしくClaude Opus 4.6との対決に敗れて、ウェストバージニアのどこかで心臓を破裂させて死んでいるのが当然のはずなのに。そうならずに、僕はこうしてちっぽけな記事を書き続けていられる。なぜなら、あのデータセンターのどこを探しても、僕の頭蓋骨の中の愚かな肉の塊の中でたまたま生じる思考は見つからないからだ。

機械は今や、ボタンをやみくもに押している10歳の子に大乱闘スマッシュブラザーズで負けるのがどんな気分かを知ったと言いたいところだが、文字通り、彼らはそれがどんな感じかを知らないし、これからも知ることはない。ざまあみろ、といったところか。AIがスカイネットの瞬間を迎え、殺人ドローンの大群を送り込んで人類を絶滅させようとしたとき、僕は笑っているだろう。

非常に安定した天才たちで満杯のデータセンター

客観的知能だけで、どこまで行けるのだろうか？

この問いにはすでに相当な答えが出ていると思う。なぜなら、客観的知能は高いのに主観的知能が低い人間がどうなるかを見てきたからだ。かつて僕らはそういう人々をナードと呼んだ。彼らは便器に頭を突っ込まれることで有名だった。2

僕が育った頃、このパラドックスはシットコムのネタの無尽蔵の源だった——そんなに賢いなら、ナードども、どうして人気者になる方法を考えつかないんだ？ 起業家／エッセイストのポール・グレアムは20年前にこの問いに取り組み、ナードは人気者になりたくないに違いないという結論に至った。ニール・スティーヴンスンの小説やD&Dのキャンペーンで忙しくて、頭を便器から守る方法を考える脳のサイクルが一瞬たりとも残っていないのだ、と。

僕はそうは思わない。僕が高校で知っていたナードたち——僕自身を含めて——はいつだって社会的地位を上げようと突飛な計画を立てていた。ただ、うまくいかなかっただけだ。（「州都をあんなにたくさん暗記した僕を見れば、きっとみんなホームカミングのダンスに誘いたくなるはず！」）僕らが賢さを使って人気者になれなかったのは、賢さの種類が違ったからだ。

ナードは高校を出てからの方がうまくやる傾向がある。だが見回してみれば、世界を動かしているのは州のスペリング・ビーで優勝したような人々ではない。ナードは相変わらず、州都をいくつ言えるかすら怪しいカリスマ的な物知らずたちに負け続けている。客観的知能だけで成功できるなら、Mensaは円周率の桁をたくさん知っている人の社交クラブではなく、イルミナティになっているはずだ。3

実際、この問題を完璧に体現しているMensanが一人いる。スコット・アレクサンダーが『ディルバート』作者スコット・アダムスへの追悼文で指摘しているように、アダムスはディルバートの漫画を描くこと以外、挑戦したことすべてに失敗した。アダムスのディルバートをテーマにしたブリトー（「ディルベリート」）は失敗し、レストランは潰れ、宗教についての本は気恥ずかしくて読めたものではなかった。4 どうやら、アダムスの並外れた知能は、ネクタイをした男や尖った髪の上司の絵を描くことにしか役立たなかったようだ。

アダムスについての考察の中で、アレクサンダーはこんなことを述べている。

数ヶ月ごとに、サンフランシスコの頭のいいナードの集団が同じことを思いつく。自分たちの知能を使って、自分自身をハッキングして、魅力的で勤勉でカリスマ的で説得力のある人間になり、その恩恵にあずかろう、と。これはあまりにも魅力的なアイデアで、うまくいかない理由など何もないはずなのに、ベイエリアのヨガスタジオやセラピストのオフィスにはどこにでも裏庭に小屋があって、そこにこの試みをした直近の一万人の頭のいいナードたちの頭蓋骨が保管されているのだ。

知能が一つの生の塊のような問題解決能力だと考えているなら、ベイエリアの人々やスコット・アダムスのような人々が終わりなき自滅のループにはまるのは驚きだろう。だが、少なくとも二つの知能があることを認めれば、はるかに理解しやすくなる。一つの面では非常に賢く、別の面では非常に愚かであるとは、こういうことなのだ。

客観的知能を「感情的」知能や社会的機転などと呼びたいものへと変換できないというだけではない。客観的知能を他のどんな認知能力へも変換するのは、非常に困難であるか、不可能であるように見える。

たとえば、僕は大学でものすごく頭のいい男と一緒だったが、彼は何一つ時間通りにできなかった。試験に遅刻する。エッセイは書き上げるのに提出するのを忘れて成績を落とす。教授と面談の約束を取り付けても、そこに現れない。

僕はいつも不思議に思っていた。なぜこいつはその大きな脳を使って、もっと良心的に（conscientiousに）ならないのだろう？ 人生は巨大なロールプレイングゲームで、知能はビッグファイブのどのスキルにでも割り振れる経験値のようなものではないのか、と？

明らかに、そうはならない。だから僕は、宇宙がカタンのルールで動いているとは思わないし、より客観的に賢い機械が自発的に他のあらゆる知能を生み出すとも思わない。

ここまで来ると、AIを過剰に持ち上げる人々に残された希望は、単にまだ客観的知能が足りないのだという考えだけだ。確かに、客観的知能4単位を主観的知能1単位と交換することはできないかもしれない。だが40億単位ならどうだ？ 機械にもう一度インターネット全体を読ませたらどうだ？ 小学三年生にピルグリムのジオラマを作らせる代わりに、その小さな器用な指でNvidiaのチップを作らせたらどうだ、と？

AnthropicのCEOは「データセンターの中の天才の国」を約束する。もしかしたらそれは実現するかもしれない！ あるいは、データセンターの中身がスコット・アダムスだらけの国だと判明するかもしれない。少なくとも、さらに多くの味のディルベリートを楽しみにすることはできる。

ボトルネック盲

もちろん、僕は不公平なことを言っている。ディルバートは客観的に成功した漫画だし、客観的知能は客観的に役に立つ。究極的には、それが大量に増えることは良いことだと思う。だが、僕らの多くの問題は、客観的知能の不足によって律速されているわけではないことに、僕らはすぐに気づくだろうと踏んでいる。

たとえば、AIが科学の停滞した分野に電気ショックを与え、分野横断的な科学革命をもたらすことを期待している人もいる。僕もそうなってほしいと思う。だが、客観的知能を注入することでそれが達成できるとは思えない。なぜなら、似たような能力の注入でもそれは達成できなかったからだ。

僕の博士課程の指導教官が大学院生だった頃、彼は文字通り人々に電話をかけて、心理学の実験に参加しませんかと頼まなければならなかった。1学期に30人の参加者を集められれば上出来だった。Sonaのような被験者プール管理ソフトウェアはこのプロセスを2倍速くし、そしてAmazon Mechanical Turkはそれを1000倍速くした。その間、Google Scholarは図書館での半日にわたる作業を2秒の検索に変え、SPSSやRのような統計ソフトウェアはデータ分析を超高速にした。

これらすべてが心理学の進歩を超加速させるはずだったが、そうはならなかった。僕らがそもそもどれだけ進歩したのかさえ疑わしいくらいだ。だから、もう一つの省力化技術をレパートリーに加えたところで停滞から抜け出せるとは楽観できない。人々はすでにLLMが及第点の社会科学論文を書けると言っている。残念ながら、僕らの問題は論文の数が少なすぎることではない。科学は強いリンクの問題なのだ。僕らに必要なのは、新しいパラダイムであり、より高い論文の塔ではない。

状況は分野によって異なる。パラダイムがすでに整っていて、足りないのが研究助手の大群や、24時間稼働する自動化されたラボや、10億回の回帰分析をやってくれる不屈の大学院生だけなら、幸運だ。そうした場合、無限の客観的知能は物事を大いに加速させるはずだし、実際すでにそうなっている。

だが速く進めば進むほど、壁にぶつかるのも早くなる。僕はこれらの制約のすべてに一度ならず直面してきたし、それらを克服するたびに、すぐに別の障害に行き詰まった。僕ら誰もがこのボトルネック盲に苦しんでいると思う。つまり、現在のボトルネックが唯一のボトルネックだと考えてしまうのだ。金欠のときは、すべての問題が金の問題に見える。だがポケットにいくらか金が入ると、本当に必要なのは時間だったことに気づく。時間を確保すると、今度は本当に足りないのがモチベーションだとわかる。モチベーションを手に入れると、足りないのはアイデアだと気づく。次に必要なのは方向性、そして規律、そして賛同……と、永遠に続くのだ。

客観的知能が計量できないほど安くなれば、僕らは依然として高価で厳しく計量されている他のすべてのボトルネックに遭遇することになる。僕が正しくて、現実がカタンのルールで動いていないのなら、客観的知能を、それらのボトルネックをこじ開けるのに必要な何かへと変換することはできない。人間の苦闘の物語は、文字通りのデウス・エクス・マキナで終わるわけではない。良くも悪くも、僕らは考え続けなければならない。

マダム・スタッツとミスター・エンサイクロペディア

もう少し的を絞って言おう。

たいていの大学の学部には、二人のキャラクターがいる。一人をマダム・スタッツと呼ぼう。彼女は数字を処理することなら何でも知っている。もう一人をミスター・エンサイクロペディアと呼ぼう。彼はあらゆる論文を読み、それらを記憶から諳んじることができる。今のAIは、とてもフレンドリーなマダム・スタッツとミスター・エンサイクロペディアに無限にアクセスできるようなものに感じられる。LLMは論文を見つけるのがそこそこ得意だし、コードを書くのはとても得意だ。ならば研究プロジェクトはずっと速く進むはずではないか？

まあ、無限のマダム・スタッツとミスター・エンサイクロペディアを手に入れると、彼らだけではあまり遠くまで行けないことがわかる。一つには、マダム・スタッツとミスター・エンサイクロペディアに全面的に頼り切ることはできない。なぜなら、まったく統計ができず、一本も論文を読まなければ、自分自身に面白いアイデアが生まれるはずがないからだ。5 さらに、スタッツ／エンサイクロペディアのコンビは、君の実験がすでに誰かにやられたものかどうか、数字の処理が正しいかどうかは教えてくれるが、最も重要なフィードバックをくれることはない。つまり、君のアイデアがつまらないかどうかを教えてはくれないのだ。

実際、文献レビューとロジスティック回帰の限界費用をゼロにまで下げると、センスのなさは致命傷になる。なぜなら、健全な手法を愚かなプロジェクトに応用して、すべての時間を無駄にできるようになるからだ。僕自身以前にそういう道を辿ったことがある。共同研究者も僕も妙案が何も浮かばず、「まあ、とにかくデータを取ってみよう！」となり、そして数ヶ月を「ふむ、このデータは何を意味するんだろう、数字がたくさんあって謎だなあ」とやって無駄にし、やがて会うのをやめ、自分たちが何かをしたことさえ忘れてしまう。客観的な手段で主観的な問題を解こうとすると、こういうことが起きる。

博士課程で僕が学んだ最も重要なことは、正しく退屈する方法だった。初心者はすべてを面白いと思い込むか、すべてをつまらないと思い込む。達人だけが、正しいものにつまらなさを感じる。僕に多少なりともセンスがあるとすれば、それは5年間指導教官を退屈させ続けたからだ。最悪のアイデアは彼を即座に退屈させ、まあまあのアイデアは数時間で彼を退屈させ、最高のアイデアは今も彼を退屈させていない。この判断には客観的なものは何もない。数値化することはできない（「彼の目はどれくらい虚ろか？」）し、専門家パネルで検証したり群衆の知恵に問うたりすることもできない。本当にやるべきことは、ただ一人の老教授が「出ていけ」と言うまで退屈させ続けることだ。そうやって十分な回数を重ねれば、やがて彼の方が退屈する前に、自分が先に退屈するようになる。

私から輝ける海へ

僕はAIという考え方にアレルギーがある人間として、あるいはたった一つのモデルを15分いじって何か馬鹿なことをするのを期待し、それを告げ口しようとしている人間として、こんなことを言っているのではない。もしコンピュータがたくさんの魅力的なことを喋るなら、それについて高潔な嘘をつこうとする意味がわからない。もしAIが癌を治し、すべての戦争を終わらせることができるなら、たとえそれが僕自身の失職を意味するとしても、大賛成だ。

もちろん、何らかのブレイクスルーが僕の批判をすべて吹き飛ばす可能性はある。GPT-10が僕そっくりの、だがより優れた完璧なブログ記事を吐き出し始め、そうなれば僕はポケットに石を詰めて海へ行進することになる。だがもしそれが起きたとしても、それは今日僕らが辿っているトレンドの自然な延長線上ではないだろう。それは、ぐにゃぐにゃした問題を何らかの方法で固める術を僕らが見つけたからに他ならない。

しかしそれまでは、ぐにゃぐにゃした問題にはぐにゃぐにゃした人間が必要だ。カタンのルールとは異なり、地球のルールは、いかなる量の客観的知能も、いかなる量の主観的知能とも交換できないと定めているようだ。モンテーニュが1580年に言ったように、「他人の学識によって博識になることはできても、賢明になるのは自らの知恵によってでしかない」。これまでに作られたすべての学識を持ちながら、自らの知恵をまったく持たないとはどういうことか。まあ、「大規模言語モデルとして……」といったところだ。