Blog Dice

How accurate have Ed Zitron's AI skeptic predictions been?

Dan Luu

エド・ジトロンのAI懐疑論的な予測はどれほど正確だったのか？

原文は Dan Luu により に公開されました。 このブログを購読する

私が目にしてきた中で最も広く引用されているAI懐疑論者（エド・ジトロン）の予測がどれほど当たっているのか気になったので、実際に検証してみた。まず自分のバイアスを明らかにしておくと、私はAIの進歩に対して特に強い賛成・反対の立場を取ってきたわけではない。例えば、2022年には、カーツワイルのような尊敬されている人物も含め、未来学者たちの予測を包括的に検証し、予測の結果もその根拠も概して間違っていることを示した。一方で、2015年には、AIが人間の仕事を代替する能力を人々が過小評価していると書き、その後も繰り返し、多くの人がAIによる雇用代替を過小評価していると公言してきた。私のAIに対する立場は極めて退屈なもので、要するに「すでに起きていることについて、それは永遠に起こり得ないと言っている人たちは、おそらく間違っている」ということだ。

AI懐疑論者に誰かが反論したときに、懐疑論者側からよく聞くコメントに、AIはフェイクではないと言っている連中は皆、私利私欲にまみれた嘘つきだというものがある。個人的な話をすると（明らかに自分の不利益になるのだが）、私はAI企業に特定の金銭的利害を持っていない。退屈なインデックスファンドを通じて市場平均並みに保有しているだけだ。シードステージへの投資も少しはあるが、タイミングや大きくなった企業の関係で、その部分はAIへの配分がむしろ低い。AIラボやAIラボに供給する企業で働いているわけでもない。以前、面接が笑えるほど下手だという話をしたが、数年前に実際にAIラボの面接を受け、電話面接で落ちた。その出来は、ジェフ・アトウッドの有名なWhy Can’t Programmers... Program?にインスピレーションを与えたであろう類のもので、彼は「プログラミングができる人なら、あれほどひどくコーディング面接で失敗するはずがないのだから、偽物のプログラマがたくさんいるに違いない」と結論づけている。AIがうまくいったからといって私が特別に得をするわけではない。広範なインデックスファンドを持つ誰もが得をするという意味を除けば、だが。ただ、正確性にはこだわりたい。

2024年：Meta、Google、Microsoftは死につつある

検証すべき予測の数自体が多いので、完全なリストを見る前に一つだけ詳しく見て、ジトロンがどのような推論を用いるのか感触をつかんでみよう。手当たり次第に、2024年11月のこのトークを取り上げる。ここでジトロンは、MetaやGoogleのような大手テック企業は死につつあり、成長のさせ方がわからないからAIにやみくもに飛びついているなどと述べている。

ジトロンは具体的にMetaを名指しして、死にゆく企業だと述べている（「死にゆくプロダクトであり、ある意味死にゆく企業だ」）。Metaの売上高と利益（GAAP営業利益）の推移は以下の通りだ。

期間売上高利益
金額伸び率金額伸び率
2023年$135B16%$47B62%
2024年$165B22%$69B48%
2025年$201B22%$83B20%
2026年上半期$117B30%$42B10%

企業がもはや成長のさせ方をわかっていない（「もはやこれらの企業のどれも、本当に成長のさせ方をわかっていない……死にゆくエコシステムで成長を再燃させようと必死になって、テック業界はこの［AIという］クソをあらゆるものにねじ込もうとするだろう」）と語った際には、Google、そしてMicrosoftを名指しした。Alphabet（Googleの親会社）の売上高と利益は以下の通りだ。

期間売上高利益
金額伸び率金額伸び率
2023年$307B9%$84B13%
2024年$350B14%$112B33%
2025年$403B15%$129B15%
2026年上半期$230B23%$80B30%

そしてMicrosoftの数値は以下の通りだ（なお一貫性を保つため、すべての数値は会計年度ではなく暦年ベースである）。

期間売上高利益
金額伸び率金額伸び率
2023年$228B12%$101B21%
2024年$262B15%$118B17%
2025年$305B17%$143B21%
2026年上半期$173B18%$79B19%

ジトロンの発言の趣旨に反するが、Metaは実際には死につつあるが、まだ死んでいないだけだと主張することも一応は可能だ。しかし、ジトロンの議論の推論はここで間違っている。Meta、Google、Microsoftのエコシステムは死につつなどいない。これらの企業が（売上高と利益の面で）どれほど急速に成長しているかを見れば、AIがジトロンが示唆するような「成長のさせ方がわからず、アイデアが尽きたから必死にすがっている」ものではないことは明らかだ。各予測にこれほど紙幅を割くつもりはないが、ここでジトロンが用いたパターンは象徴的だ。

これらが死につつあると主張するために、彼は、これから起きると示唆するような極めて大きな変化を引き起こすには到底至らない些細な問題を引っ張ってくる。Metaについては、FacebookのMAUが何らか減少したという主張を挙げている。Meta自身のMAU数値や売上・利益の数値を使うのではなく、Similarwebの数値を使っているようだ。こうしたサードパーティのトラッキング数値についての私の経験では、それらはかなり不正確で、大まかな桁数の比較以外にはほぼ役に立たず、ジトロンが引用した減少は意味をなさない。Facebookは2023年12月にMAUの公表をやめたが、ほとんどの推計ではFacebookのMAUは時とともに増加しており、Metaが公表している他の数値も、同社プロダクトの利用が概ね増加傾向にあることを示している。ジトロンは自分の主張を通すために、外れ値である低い推計値を恣意的に選び出しているのだ。

Googleについては、彼が真に邪悪で「経営コンサル派に寝返った計算機科学者の階級的裏切り者」と呼ぶプラバカー・ラガヴァン氏が、Google検索に何らかの深刻な損害を与えたとしている。ラガヴァン氏についての長広舌の中で、彼がGoogle検索に深刻な害を及ぼしていると信憑性をもって示すことは一度もなく、彼の長文にコメントしたGoogle検索のエンジニアたちも、ラガヴァンを検索問題の唯一あるいは主要な原因とする仮説には同意していないようだ。1

しかし仮にジトロンが正しく、悪役プラバカー・ラガヴァンが英雄ベン・ゴメスを打ち負かし、Google検索に何らかの問題を引き起こしたとしても、それでもなおGoogleの売上成長が危機に瀕しているとは言えない。なぜならGoogleには、検索が伸びなくても成長を牽引しうるYouTubeやGoogle Cloudといった他の主要プロダクトが複数あるからだ。

ここでの推論の連鎖の重要な部分はすべて、単に間違っているだけでなく、Googleや大企業一般について何か知っていれば、そもそももっともらしくない。私自身、Google検索の品質には深刻な問題があることや、Googleが長年にわたってユーザー体験よりも収益の優先度を上げてきたことは真っ先に認める。これは私が2013年にGoogleにいたとき、ユーザー重視のエンジニアたちにとって悩みの種だった。

ジトロンが挙げる問題の一つ、広告がユーザーにとって紛らわしいという件について、2013年に私はある検索エンジニアに、Googleが広告の背景色を検索結果に似せるように変えたことについて尋ねたことがある。以前の調査で、広告が検索結果に似れば似るほど、ユーザーがそれが広告なのか純粋な検索結果なのか混乱することが示されており、Googleはユーザーの混乱を避けるために意図的に広告を検索結果と似ないようにしていたと聞いていたからだ。その検索エンジニアは、一部の人々がユーザーを混乱させたくないと考えていたため、広告を検索結果とほぼ同一に見せるような変更を一気にやることは不可能で、あまりにも露骨だからだと言った。

それが実現する方法は、広告を検索結果に少し近づけるA/Bテストを行うたびに莫大な収益増になるので、変化は何年にもわたって複数の段階に分けて少しずつ起こり、こうした動きに反対したい人々が反論しにくいほど小さな変更として積み重なる、というものだった。それはまさにこのエンジニアが予測した通りに起きたが、それはラガヴァン氏が最終的に検索を統括することになったかどうかに関わらず起きたはずのことだ。そしてもちろん、そうしたことが起きたからといって、Googleが成長の余地を使い果たし、死にゆくエコシステムで成長を再点火させようと必死になっているわけではない。Googleがそうすべきかどうかは別として、それはGoogleをより儲けさせるものだ。

ジトロンはどのように引用されているのか

私が見た限り、人々がジトロンを引用する際には、権威として持ち出すことで、「この数字を見た男がこう主張しているのだから、自分の主張は数字に裏付けられている」と言えるようにしている。実際にジトロンの主張を見て、そのトピックについて何か知っていれば、その主張は筋が通らないことがわかるのだが、それは要点ではないように思う。要点は、誰かが数字を見たと言えることだ。もう一つの要点は、この男が怒っているということのようで2、それはエンゲージメントを稼ぐうまい方法だ。

もちろん人々が彼を持ち出すとき、その怒りを引用しているわけではない。「ほら、数字を見た男がいて、もし君がAIに怒っているなら、彼も君と同じようにAIに怒っていて、しかも数字を味方につけている」と言っているのだ。3 前述したように、各主張についてこのレベルの詳細に立ち入りたくはない。これは以下の主張がどのようなものかを示す例示に過ぎない。私が読んだ彼の投稿のどれについても、数字は散りばめられているものの、その数字は実際には一貫した議論につながっていない。多くの場合、上で見たように、数字はそもそも彼の議論を裏付けてもいない（例えば、FacebookのMAU減少がMetaの財務問題を引き起こし、それがMetaを、本来不要な場所にAIをむやみに挿入する方向へ駆り立てる、といった類だ）。彼は、人々が数字を見ると目がくらみ、その数字が何を意味するのか考えなくなることに賭けているのだろう。

以下の予測について、誰かがまったく同じ予測実績を持ちつつ、理由だけは完全にまっとうだがたまたま外れた、ということもあり得る。あるいは、誰もがすべてのケースで正しいのに、理由がすべて間違っているためにやはり間違っている、ということもあり得る。後者のような人は、何かをうまく言語化できない直感を持っているのかもしれないし、あるいは単に運が良かっただけかもしれない。幸いなことに、私たちはこの難しい判断をする必要がない。なぜならジトロンは予測においても、その根拠においても間違っているからだ。

細部に注意を払う人々から見たジトロン

私は何年も世間から隔絶して暮らしており、AIをめぐる言説にようやく追いついたところで、ジトロンや他の大物AIコメンテーターのものを実際に読んだり見たりしたことはなかったのだが、判断力のある人々が何と言っているかを調べてみると、彼らもまた、ジトロンの数字の使い方は単なる手品だと見抜いている。例えばユホ・スネルマンの次のコメントだ。

彼の文章は確かに華やかだが、攻撃性や罵倒は、すでに彼の書くことを信じている人々を盛り上げるためのもので、考えを変えさせるためのものではないようだ。彼はアンチテックという煽り商法のニッチを見つけ、今はそのニッチを搾取できるだけ搾取している。だが、もし彼の言うことであなたが納得したものがあるなら、実際にいくつかファクトチェックしてみるといい。少なくとも彼の書いた記事については、基本的にすべてがでっち上げか、誤って伝えられているのだから。確かにソースへのリンクはたくさんあるが、それを一次情報までたどってみると、言っていることはジトロンがほのめかしていることとは全く違う

ジトロンの分析が何らかの理由で優れていると思い込んでいるコメントに対する、ユホ・スネルマンの返信がこちらだ： > 核心的な問題は、彼の経済分析が完全にクズだということだ。以前は単に無能なだけだと思っていたが、誤りの偏りを見ると、明らかに意図的な欺瞞だ。だが、それを指摘するのはしばしば非常に難しい。彼が書く記事はどれも1万語にも及ぶギッシュ・ギャロップなのだから。HNのコメントで、彼が意図的に犯している誤りのうち、たった一つの核心的な点について反証を試みたことが何度かあるが、返信が長すぎると文句を言われる。

例えば、ティモシー・B・リーが、ジトロンがAnthropicの収益予測を作成するために使ったスプレッドシートを調べたとき、彼はこう指摘している

彼は2月1日〜10日をカウントせず、3月1日〜10日を二重にカウントし、8月21日〜10月21日を2か月ではなく1か月としてカウントし、10月21日〜11月1日をカウントしていない。[別のコメント投稿者は、彼のスプレッドシートには2月30日も含まれていると指摘している]……エドは2025年のAnthropicの収益を計算しようとして36億ドルという数字を出し、何か不正があると示唆している[だが誤りを修正すれば数字は合う]

ジトロンの予測いくつか

  • 2024年2月： 「生成AIができることや、その出力の正確さについて、我々は上限に達しつつあると思う」
    • 誤り4
  • 2024年3月： 「ピークAIを迎えたか？」；ハルシネーションを理由にAIの進歩は当時の水準で頭打ちになるという別の予測
    • 誤り
  • 2024年4月： 「以前警告した通り、人工知能企業はデータを使い果たしつつある……」；データがもうないためモデルは改善しないという別の予測
    • 誤り5
  • 2024年6月： OpenAIの成長は停滞しており（今後も停滞し続けるという含み）、それが何らかのOpenAIの崩壊につながる
    • 誤り（OpenAIが崩壊する可能性はあるが、そうなるとしても2024年時点の成長停滞が原因ではない）
  • 2024年7月： 「生成AIは、3月に述べた通り、ピークを迎えつつあり、もしすでにピークを迎えていないとしてもそうだ。現在やっていること以上にできることはそう多くなく、せいぜい新しい入力を加えてそれをより速く、より多くやる程度だ」
    • 誤り
  • 2024年7月： 「生成AIモデルはエネルギー効率が上がっているわけでもなければ、機能性を高めるような意味でより『強力』になっているわけでもない」
    • 誤り（モデルはより強力になり続けた）6
  • 2024年8月： 「生成AIは行き止まりの技術であり、ピークを迎えた」
    • 誤り
  • 2024年8月： AIバブルにはあと3四半期の猶予がある（2024年3月時点から）という主張の繰り返し。さもなければ崩壊する
    • 誤り（バーテック・オグリチャクは指摘する。AIが自らを証明したという意味では正しいとも言えるが、ジトロンは改善はないとも主張しているので、ジトロン自身の基準では誤り）7
  • 2024年9月： 「o1はOpenAIが必死であり、アイデアが尽きていることを示している」、データ不足によりモデルは改善しないという考えの繰り返し
    • 誤り
  • 2024年10月： OpenAIの2024年売上37億ドル、2025年116億ドル、2029年1000億ドルという予測は馬鹿げており、「あまりにもひどい発言で、声に出して言うこと自体が何らかの金融犯罪ではないかと驚くほどだ」
    • 誤り（2025年の目標は超過達成、2029年は未確定だが、口にするだけで金融犯罪レベルのあり得なさではない）
  • 2024年10月： 「［OpenAIの売上］成長はすでに鈍化しており、年明けには劇的に鈍化するだろう」
    • 誤り（OpenAIは予測を上回り、急速な成長を続けた）
  • 2024年12月： 「3月にも警告した通り、生成AIはすでにピークを迎えた」
    • 誤り（加えて、奇妙なことに2024年3月以降進歩がないことを示唆している）
  • 2025年1月： 「我々はAIのピークにいると思う」
    • 誤り
  • 2025年1月： 「DeepSeekが［LLMを］コモディティ化した」
    • 誤り（OpenAIとAnthropicは今もなお大きな価格決定力を持ち、DeepSeekを大きく上回る価格を維持できている）
  • 2025年2月： Anthropicが2027年に売上345億ドルを達成するというのは「多くの点で笑止千万だが、中でも2024年にAnthropicの約2倍の売上を上げたOpenAIが、同年にAPI呼び出しでやっと10億ドルしか稼げなかったことが最大の理由だ」
    • 誤り（2027年に達成するかどうかは別として、2026年のARRがそれを大きく上回っている時点で、2027年の予測は笑止ではない）
  • 2025年2月： 「スンダー・ピチャイが、Geminiを『2025年末までに5億人に使わせたい』と望んでいるが、これはあまりにも非現実的な数字で、Googleの誰かがクビになるべきであり、その誰かとはスンダー・ピチャイだ」
    • 誤り（Geminiは7億5000万人に到達した）
  • 2025年2月： 「サム・アルトマンがOrionをGPT-5からGPT-4.5へ格下げしたことは、OpenAIが次のモデルで壁にぶつかり、期待値を下げざるを得なくなったことを示唆している」
    • 誤り（GPT-5はGPT-4.5から大幅に進歩した）
  • 2025年2月： 「間違っていると証明されるまで書き続ける」
    • 誤り（ジトロンは繰り返し間違っていると証明されているにもかかわらず書き続けている）
  • 2025年3月： 「このニュースレターを書き始めて以来、CoreWeaveほど腐った企業はほとんど見たことがない……」 ジトロンはさらに、同社は資金調達なしでは半年も存続できず、40億ドル調達できれば1年は持つかもしれないと述べる
    • 誤り（CoreWeaveは今も存在し、本稿執筆時点で株価はIPO価格の2倍以上である。CoreWeaveはIPOで15億ドルしか調達していない）
  • 2025年4月： ジトロンは再びバブルを宣言し、「私が正しいかどうか、まもなくわかるだろう」と述べる
    • 誤り（ジトロンが正しいことを証明するような重大な出来事が間もなく起きるという含みだったが、そのような出来事は起きなかった、という意味で）
  • 2025年4月： 「また、この時点で、生成AIが今日やっていること以上に大したことをするようにはならないのは、かなり明らかだ」
    • 誤り
  • 2025年5月： 「この話を読んでCohereが死ぬと思わない人がいるのかわからない。彼らの予測は現実とあまりにもかけ離れている」
    • 期限がないため厳密には反証不能だが、示唆された主張は誤り
  • 2025年7月： 「大げさに言っているわけではないが、Cursorは死ぬだろうと結論づけるのは至って簡単だ」
    • 誤り（Cursorは600億ドルでエグジットした）
  • 2025年8月： 「これらのモデルは、学習が収穫逓減に陥るという壁に明らかにぶつかっている」
    • 誤り
  • 2025年8月： ジトロンはCursorは死につつあり、投げ売り価格で売却されると予想。100億ドルという価格すらあり得ない：「Cursorは100億ドルの価値があるか？ない！プロダクトがどれだけ優れていようといまいと、終わりの見えない数億ドルの赤字を垂れ流す必要がない価格で売却できるほど良いものではない」
    • 誤り
  • 2025年10月： 「AIバブルが弾けるとしたら、いつだと予想するか？」という質問に対し、ジトロンは「遅くとも2026年第2四半期まで」と答える
    • 誤り
  • 2025年11月： 「高品質な学習データが枯渇しつつあり、スケーリング則の壁にぶつかっているという事実、学習というパラダイムにおいて、これらのモデルは良くなっていない。今日見ているものが、ほぼずっとそうあり続けるだろう」
    • 誤り

この時点以降、私が見たさらなる予測のほとんどは、反証不能か、将来に解決を委ねるものだった。なお、ナンセンスな発言や当時すでに事実として誤っていた発言、例えば2024年12月の「生成AIのプロダクトは1年以上にわたって事実上琥珀の中に閉じ込められている」や、2026年1月の「［モデルは］1年前と基本的に同じだ。効能は同じだ」といった主張は、カタログ化しようとはしていない。ジトロンは、AIの能力が今後向上しないという将来予測だけでなく、能力は向上していないという過去を振り返っての主張も一貫して行ってきたが、それらは当時明らかに誤りであるにもかかわらず、彼の支持層には（他の誤った発言と同様に）よく受けるようだ。彼の発言をすべてつなぎ合わせると、2026年1月時点のAIは2023年12月時点と同じ能力だったことが示唆され（さらに後の発言をつなげると、実際には2026年8月の能力が2023年12月と同じであることが示唆される。ただし公平を期すために言えば、彼は頻繁に自己矛盾しており、2026年半ばには限定的な改善を認めてもいる）。

公平を期すために言えば、ジトロンが「1年以上にわたって事実上琥珀の中に閉じ込められている」などと言うとき、彼は口語的に話しているのだから、2023年12月以降実際に何の変化もなかったという意味ではない、と言えるかもしれない。したがってその発言は推移的ではない。ここで一種の口語的な曖昧さを仮定したとしても、一連の発言は依然として、2023年12月から2026年8月にかけての改善は最小限だった（おそらく、上で述べたように、彼が自己矛盾して一部領域で限定的な改善を認めた場合を除いて）ことを示唆している。

尊敬される未来学者たちとの比較

未来学者たちの予測がどうだったかという私たちの分析と比較すると、スタイルの面では、ジトロンは私たちが見た未来学者の誰よりもはるかに怒りに依存している。推論の質という点では、彼はおそらく未来学者たちと比べて平均的だった。ほぼすべてにおいて間違っているにもかかわらず、彼は、原子は周波数を持ち、電波も周波数を持つので、我々のすべての周波数を拾って電波で送ることで人を電波で送れるようになると示唆したバックミンスター・フラーのような人物より不合理というわけではない。

推論のスタイルという点では、検証した未来学者の中では、彼はおそらくカーツワイルに最も近い。数字を使って信憑性のようなオーラをまとうが、議論しているトピックについて何か知っていたり、数字を見たりすると、推論は崩れ去る。ジトロンの推論はカーツワイルより悪いわけではない。カーツワイルは（例えば）2001年に2011年までに寿命が無限になると予測するなど、極めて速い進歩の予測を繰り返し行い、それが外れ続けている。AIの進歩が誤った理由で止まるだろうと繰り返し予測することは、進歩への賭けの裏を取ることに他ならない。無限の進歩がある代わりに、進歩はゼロになる。その予測が外れるたびに、また同じような予測をして、期日を少し先にずらせばいい。ミハウ・ザレフスキ（lcamtuf）は、なぜこうなるのかについて次のように考えている。

人気のあるフォロワーを築く最も確実な方法は、明確で強く、疑いの余地を残さない立場を表明することだ。「まあ、市場はどちらにも動く可能性がある」「両方の政党に一理ある」「AIには誇張もあるがメリットもある」といったことでは、ポッドキャストやテレビ出演をそう多くは得られない。あるいは、投稿の例で言えば、「ハリー・ポッターはまあまあ面白い本だ」といったことでは。

実際、そこにはポジティブなフィードバックループがある。挑発的でエッジの効いたスタンスを取れば、より多くの注目と「いいね」を得られるので、ある種……自己ラディカル化する？ある時点で、それはもはや変えることのできる意見ではなくなる。それはアイデンティティであり、個人のブランドなのだ。

それが……なぜエド・ジトロンが、すべては巨大な詐欺に過ぎないという大ヒットブログを持っているかの理由だ。もう少しニュアンスのある見方をすれば、せいぜい何の反応も得られないか、最悪の場合、両側から軽蔑を招くだけだ。8

よく練られた反AI的な見解を求めている人には、whitequarkがかなり良いと思う（同意するわけではないが、推論は健全で、前提が私と少し違えば同意しうると考えられる）。だがもちろん、whitequarkはジトロンのような大きな聴衆を集めることはない。

間違った立場をどれだけ維持できるのか？

このような進歩についての失敗した予測の数々に誤った側に立った後、人々はどうするのか気になる。未来学者たちについては、ほぼ完全に間違っていた者たちでさえ（ここで検証した全員がそうだった）、「自分が起きると言ったことの4分の1は起きた、ただ予想より2倍から20倍時間がかかっただけだ」といった主張は可能で、正確さにこだわらなければ、これを「自分が起きると言ったことは起きた」と丸めることができ、彼らがしばしばそうしてきたように、それはそれでうまくいってきたようだ。どうせ誰も細部を気にして見ないのだから。

だが、ポール・エーリックのように、著述中に明らかに起きていなかったし、その後も起きなかった差し迫った破局を予測した人物はどうなるのか？エーリックのWikipediaページだけ見ても、次のようにある。

よくある批判は、エーリックの予測が日常的に外れてきたというものだ。例えば、Reason誌のロナルド・ベイリーは彼を「抑えがたい破滅論者……私の知る限り、差し迫った破局の予測で一度も当たったことがない」と評している。[41] 1970年の最初の地球の日に、彼は「10年以内に海の重要な動物生命はすべて絶滅するだろう。海岸線の広大な地域は死んだ魚の悪臭のために避難しなければならないだろう」と警告した。[41][42]

1971年の講演で、彼はこう予測した。「2000年までに英国は単に貧しい島々の小さな集まりとなり、約7000万人の飢えた人々が住むことになるだろう」「もし私がギャンブラーなら」とエーリック教授は飛行機に乗る前に締めくくった、「イギリスは2000年には存在しないことに金を賭ける」[41][42]

このシナリオが起きなかったとき、彼はこう答えた。「未来を予測すれば、間違えることもある。どれだけ間違えるかが問題だ。もし賭けをしていれば負けていただろう。しかし、イギリスをよく見てみれば、何と言えるだろう？彼らは他の皆と同じように、あらゆる種類の問題を抱えている」[41]

エーリックは『人口爆弾』の中で「インドは1980年までに2億人分の食料を賄うことは到底不可能だ」と書いた。[27] 1967年、エーリックはインドへの緊急食料援助を「絶望的」だとして打ち切るよう求めた。[43] この立場は後に批判された。インドの食料生産はその後、インドにおける緑の革命を通じて急増し、一人当たりのカロリー摂取量は人口が倍増したにもかかわらず、その後の数十年で大幅に増加したからだ。[44]

1960年代以降の世界的な食料生産の大幅な増加と人口増加の鈍化により、現在の非再生可能資源の枯渇が続くという文脈の中で、エーリック夫妻が予言した規模の食料不足、飢餓、破局は回避されてきた。

カナダのジャーナリスト、ダン・ガードナーは2010年の著書『Future Babble』[45]の中で、エーリックが自らの誤りを認めることに十分に率直でなかった一方で、自分が「正しかった」と主張するものについては知的 dishonesty（不誠実さ）やはぐらかしを見せていると論じている。例えば、彼は物的不足の予測や、飢餓による大量死（出版物『Age of Affluence』では10億人にも及ぶ）の予測、あるいは特定の国への壊滅的影響に関する間違いを認めることはめったにない。一方で、エイズの増加や地球温暖化を「予測した」ことについては喜んで功績を主張する。[13]

病気の場合、エーリックは過密や飢えた人々の免疫力低下に基づく病気の増加を予測していたので、「これを1980年代のエイズ出現の予測と見なすのは拡大解釈だ」同様に、地球温暖化はエーリックが描写したシナリオの一つに過ぎないので、それについて功績を主張しつつ、失敗したシナリオについては責任を否定するのは二重基準だ。ガードナーは、エーリックが認知的不協和の古典的な兆候を示しており、自らの判断の明らかな誤りを認めないことが、彼の現在の思考を疑わしいものにしていると考えている。[13]

バリー・コモナーは、エーリックの1970年の発言「これ以上の努力は無駄だと悟った時点に達したら、自分と友人の面倒を見て、残されたわずかな時間を楽しむのが一番だ。私にとってその時点は1972年だ」を批判している。[46] ガードナーは、エーリックがウィリアム・パドックとポール・パドックの著書『Famine 1975!』で提案された戦略を支持したことを批判している。彼らは、インドやエジプトのような「絶望的な」国への食料援助を打ち切るという「トリアージ」システムを提案していた。『人口爆弾』の中で、エーリックは「食料分配に関しては、パドック夫妻の戦略の何らかの形を採用する以外に合理的な選択はない」と示唆している。もしこの戦略が当時食料援助に依存していたインドやエジプトのような国々に実施されていれば、彼らはほぼ確実に飢饉に見舞われていただろう。[13] むしろ、エジプトもインドも食料生産を大幅に増加させ、今では食料援助に頼ることなく、はるかに大きな人口を養っている

驚くべきことに、1968年に『人口爆弾』を書いて以降の一連の誤った予測の後、彼は1990年に『人口爆発』でそれに続き、世界的な人口過剰が存在し、世界の人口を減らさなければ深刻な危機を引き起こすか引き起こすだろうと言い続けてきた。彼は今世紀にも、そしてこの10年間にも同じことを言ってきた。今日それを言っていない唯一の理由は、彼が今年初めに亡くなったからであるように見える。

調べなければ、私は彼の最近の立場は「まあ、いくつか間違えたが、私の仕事に触発された行動のおかげで危機が回避されただけだ」とか、「危機は回避されたが、それは運の良いサイコロの目が出ただけで、ほとんどの宇宙では、私が予測した大量餓死を食い止めた農業の進歩は起きない」といったものだろうと推測しただろう。「ちょっと待て、危機は今まさに起きており、私は証明されようとしている」というものではない。2015年に、誤りだった1968年の本について、彼は「［今なら］私の言葉はさらに終末論的になるだろう」と述べた。それは私たちがジトロンに見てきたパターンだが、一度調べた一人がさらに50年間それを続けていたとは予想していなかった。もしかすると、AIの進歩の終焉を予測するジトロンの50年がさらに続くのかもしれない。

ジトロンへのいくつかの反応

上のユホ・スネルマンの発言の一つで、スネルマンは彼が大量のギッシュ・ギャロップを書いていると言う。これは、誰もわざわざ反論する気にならないほど安価な（作るのが安いという意味で）ナンセンスを大量に浴びせる手法を指す言葉だ。ジトロンのトークの小さな一部分について詳細に議論するだけで、企業がどのように機能するかについての彼の誤った理解や、推論をどこで間違えたかを説明するのに1000語以上を費やした。それを読んだ誰かが「でもXについては触れていない」と言うこともできるが、それは事実だ。私が最初にそのトークを見たとき、90秒でタブを閉じた。ナンセンスが多すぎて、これ以上時間をかける価値がないと思えたからだ。動画の最初の90秒についてだけで5000語は書ける。ジトロンはただナンセンスを並べ立てているだけなので、それを非常に安く行うことができ、もし手元にすべての事実があれば、彼の90秒のナンセンスを論破するのに30〜60分かかるだろう。正確な情報を調べる時間をかければ、おそらくその2倍から3倍の時間がかかる。判断力のある人がこういうものを見たとき、彼らはすぐにその人物を切り捨てる傾向がある。例えば、この投稿を書いていると友人に話したとき、彼はこう言った。

その男が出ているポッドキャストを聞いていたんだけど、途中で聞けなくなったんだ。心拍数が上がってきて、彼はただ嘘を言って、まともなインタビュアーがそれについて「Xについてはどうなんですか？」と聞くと、また別の嘘に飛ぶんだ……

……途中で切り上げる前、彼はLLMがこの1年であまり良くなっていないという話をしていて、インタビュアーが「みんな使っていて、この1年で確実に良くなっている」って言うと、ジトロンはそれを否定して「そうかな？」って言うんだよ。インタビュアーはただ「はい……」って感じで。その時点で、なんでこの会話を聞いているんだろうって思ったよ

私たちは主に予測について論じ、過去や現在についての誤った発言については論じなかったが、ジトロンについて私が読んだり見たりしたものはすべて、こうした類のもので溢れている。多くの人はこういうものを見て、この男はトンデモだと思い、注目するのをやめるだろう。だが他の多くの人々はこういうものを見て、誰かが一連の事柄を論破したのを見て、「でもXについては論破していない」と言うだろう。そして一般的に、論破する側はそのうちのいくつかには答えるかもしれないが、最終的には諦める。なぜならギッシュ・ギャロップの手法は増幅型DoS攻撃と同じ性質を持っているからだ。新しいナンセンスを生成するのは非常に安上がりだが、それを論破するにはある程度の労力がかかる。

ちなみに、このインタビューが何だったのか気になったので、上の引用をChatGPTに入れてインタビューを探させた。関連するやり取りのあるインタビューを特定することができ（実際、これはジトロンによくある質問と回答のパターンらしく、複数を特定した）、インタビュー内の各関連発言のタイムスタンプも示した（議論全体の始まりはここ、「そうかな」発言はここ。その「そうかな」コメントの前で、インタビュアーはエージェントの能力が向上したというベースラインを確立しようとしている。ジトロンはそれが起きていないと否定し、インタビュアーが仕事でそれらを使っている人々がそう言っていると指摘すると、ジトロンは「そうかな？」というコメントでこれを否定する（彼は実際にその一連の中で複数の矛盾した発言をしている）。

ここで注目すべきもう一つの点は、ジトロンの述べる確信度が極めて高いということだ。先に挙げたものの中には、OpenAIの予測が「あまりにもひどい発言で、声に出して言うこと自体が何らかの金融犯罪ではないかと驚くほどだ」（彼らはこれまでのところ達成している）とか、GoogleのGeminiユーザー数予測が「あまりにも非現実的な数字で、Googleの誰かがクビになるべきであり、その誰かとはスンダー・ピチャイだ」（彼らは予測を50%上回って達成したのに、ジトロンの主張ではその数字に到達すること自体が完全に馬鹿げているはずだった）といったものがあった。

私自身もかなり多くの予測をしてきて、そのうちのかなりの数が間違っている。私が本当に予測をするときは、自分のために確信度を添えるようにしている。そうすれば後で振り返って、予測がどれだけ適切にキャリブレーションされていたかを見ることができる。ジトロンが一部の予測に与えているような確信度に近い確信度を持つ予測で、私が間違ったことは一度もない。表明された確信度のレベルからすれば、たった一つの誤った予測でさえ、極めて高い過信のサインとなる。あのレベルの確信度でなされた予測については、事実上決して間違うべきではないのだが、ジトロンは修辞的に言ってほぼ最高の確信度でなされた予測について日常的に間違っている。

ちなみに、Geminiが5億ユーザーに到達することが「あまりにも非現実的で、Googleの誰かがクビになるべきであり、その誰かとはスンダー・ピチャイだ」という件について面白いのは、ジトロンが（誤って）Googleは成長のさせ方をわかっていないので、その結果としてAIをあらゆる場所にねじ込んでいるとも述べていることだ。デニス・スネルは、もしジトロンが自分の発言を真剣に受け止めるなら、Googleはジトロンが彼らがやるだろうと言ったこと、すなわちAIをあらゆる場所にねじ込むことをやれば、Geminiのユーザー数を好きなだけ増やせると指摘した。

Googleの成長不足がAIへの必死さにつながっているというジトロンの発言を真剣に受け止めることと、スンダーが5億ユーザーといった数字を挙げることで何らかの重大な職務怠慢を犯していると彼が言うのを真剣に受け止めることを、同時に成り立たせることはできない。これは彼のトークや文章を見ればすぐに明らかになるもう一つのことだ。そこには互いに整合しない、ばらばらな発言がたくさんある。AI企業やAIを使っている人々や企業が邪悪で悪いという発言であるという点以外は。実際の数字や発言の論理は矛盾している。悪役を邪悪に描くために思いついたことを何でも使っているように見える。そして、なんとも皮肉なことに、Geminiが到達した7億5000万人という数字は、ジトロンの両方の発言が誤りだったことを示している。もしGoogleがジトロンが主張するほど数字を水増しすることに必死だったなら、Geminiをあらゆる場所にねじ込むことで簡単に10億人を超える数字を得られただろうし、もちろん7億5000万 > 5億だ。

ちなみに、私が最初にそのトークを止めた箇所はここだ。

前年比の売上成長に取り憑かれた市場。そしてこの進展は自然なものだった。それはひどいものだった。マーク・アンドリーセンを非難することもできる。彼はひどい男だ。多くのひどい男たちを非難できる。今この瞬間、怒りを向けるべき男たちがたくさんいる。

最後の文が、ジトロンの立場を本当によく要約している。「今この瞬間、怒りを向けるべき男たちがたくさんいる」このトークで、彼はアンドリーセンへのこの当てこすりを挟み込み、Meta、Google、Microsoftが成長を追求していることをアンドリーセンのせいにしている。実際には、もしマーク・アンドリーセンが存在しなかったとしても、Meta、Google、Microsoftはほぼ確実にそれでも成長しようとしていただろうから、これらの企業が成長しようとしていることをアンドリーセンのせいにすることは当然できない。ただそこに彼が悪いと言う何かがあり、そしていつものスタイルで、誰かを引っ張ってきて、そいつがこの悪いことの責を負う邪悪な悪役だと言い、そして次の支離滅裂な話へと移っていくのだ。

なぜ人々はこれを真に受けるのか？

私はマゾヒストなので、実際にジトロンについての議論を大量に読んでみた（HNとlobsters上の主要な議論はすべて、他にもたくさんの議論を読んだと思う）。ジトロンを真剣に受け止めている人々が何を言っているのかを見るためだ。よくある擁護の一つは上記のもので、確かにいくつかの点は論破したが、Xについてはカバーしていない、というものだ。より一般的な擁護は、概して、人々はY（通常は彼のスタイル）のせいでジトロンを攻撃するが、彼の論点には決して触れない、「それがすべてを物語っている」（あるいはそれに類する何か）と言うものだ。メッセージのタイムスタンプを見る限り、議論されていたストーリーだけに限っても、すでにジトロンの実際の誤りについて論じているコメントが一般に存在していたのだが、ジトロンの擁護者たちはこれを無視し、人々はジトロンが犯した間違いを指摘できなかったとただ主張する。これは非常にジトロン的な動きであり、彼のスタイルを好む人々が同様の動きを使うのも納得がいく。結局のところ、誰がジトロンを説得力があると思うだろうか？この種のことが妥当な推論だと考える人だ。

次に多かった「動き」は、論破されたことをジトロンは言っていないと単に否定することだった。人々が、ジトロンが2024年や2025年にLLMは根本的な理由でこれ以上改善し得ないと繰り返し述べていたことに触れると、ジトロンの擁護者たちは彼がそんなことは一度も言っていないと言う。同様に、過去の予測や事実として誤った発言についてもそうだ。

私が見た別の種類の擁護は「でも、間違っているAI誇大宣伝者はどうなんだ？」といったコメントだった。前述したように、私は最も尊敬されている未来学者たちが、単に誤った予測をしただけでなく、その手法や推論が間違っていたことについて、3万4000語にも及ぶ投稿を書いた。だが、未来を誇大宣伝する多くの人々が間違っているからといって、エド・ジトロンやポール・エーリックが少しでも間違っていないことにはならない。ジトロンやエーリックは、そうした未来学者たちが存在しなかったとしても、まったく同じだけ間違っている。

ある友人は、ジトロンが2023年から2026年にかけてモデルが改善していないという点で間違っていたと人々が指摘するケースについてのコメントについても、こう指摘していた。

「ジトロンは間違っていない、ただ早すぎただけだ！」と言う人がたくさんいるのを見るのは驚きだ。言外の意味は、2026年に持っているモデルは実際には2024年に持っていたものより優れていないと、我々がやがて気づくだろうということなのかな？

今後の予測

ジトロンの過去の予測は概して間違ってきたが、将来何かについて彼が正しい可能性もある。おそらくこれらの企業のいくつかは何らかの理由で評価額が下がるだろう。しかし、たとえ大規模なAIクラッシュが起きてOpenAIとAnthropicがゼロになったとしても、社会的影響という点では、それに加えて、現在AIラボが内部で持っているものを超えてモデルのさらなる進歩を妨げるような何らかの出来事が起きたとしても、それでもかなりの変化がもたらされることになる。どの企業が成功するかは誰が金持ちになるかを変えるが、特定の企業が失敗しても、現在あるいは次世代のモデルの能力から生じる変化が起きなくなるわけではない。最も利益を得るのが誰かが入れ替わるだけだ。

個人的には、ある企業の人々が金持ちになるか、別の企業の人々が金持ちになるかは、私にとってどうでもいいことだ。ある企業が別の企業より（何らかの抽象的な意味で）より良いことをすれば、それは私にとってある程度興味深いが、特定の企業が別の企業より「正しいこと」をより多くやるだろうという主張については懐疑的だ（この点については説得される可能性はあるが、私が知る限り公の主張はあまり説得力がない）。

もしジトロンがある企業や他の企業の崩壊について結果的に正しいとしても、能力がどのように発展してきたか、そして今後どう発展するかという点に比べれば、私にとってはあまり面白くない。彼はこれまでその点で間違ってきた。また、彼はこれまでのところ財務予測についても間違ってきたが、それにはあまり興味がない。とはいえ完全を期すために多くの財務予測を含めた。

コメント／修正／議論をくれたヨッシ・クレイニン、ユホ・スネルマン、デニス・スネル、ニック・バーグソン＝シルコック、バーテック・オグリチャク、ジェイミー・ブランドン、シュリラム・クリシュナムルティに感謝する。

付録：エド・ジトロンが語る「なぜ人々はエド・ジトロンを好まないのか」

ジトロンの仕事についての議論を探している間、redditでの検索結果2位はジトロンによるこのコメントだった。

……一部の男性が私を好まないのは、感情的な誠実さや内省が彼らにとって難しいからだ。感情は男性が抑圧したり圧縮したりするように言われてきたものだ。私はそれを拒否し、そうするように言う者を誰であれ忌まわしく思う……

……感情から始めよう。なぜならそれが最も明白だからだ。人々は本当に私のあり方が気に入らず、私が「怒りを芸としてやっている」と思ったり、さらには私を精神異常で手に負えないなどと評したりする。これは、私自身が感情的に抑圧されている人、特に自分の仕事においてそうである人によく見られる反応だ。感情的でありながら、かつよくできた意見を持つことは難しい……

……私はまた、ここにたどり着くために「通るべき」とされている道を通ってきていない。「通るべき」とされているのは、大手メディアの既成のライター、あるいはアナリスト、あるいは金融関係、あるいはその他「真の道」とされるもののいずれかで、そこであなたは何かを得るのに「ふさわしい」とされる。私は伝統的な意味で「修行を積んだ」わけではなく、修行を積んだ者たちは私がここに自力でたどり着いたのではないと考えている……

……私の仕事はまた徹底しており、それは徹底した仕事をしない人々にとってはフラストレーションとなる。私は自分が持つすべての論点を考え抜いており、主題をよく知るために多大な苦労を払っている。いまだに「それはUberと同じだ」とか「ドットコムバブルと同じだ」と主張する人がどれだけいるかに注目してほしい。それが本当かどうか一度も確かめずに、ただそうだと決めつける方がはるかに簡単なのだ！徹底的に、そして情熱をもってやってくる厄介な奴がいることはフラストレーションとなる。それはあなたの仕事を悪く見せる……

……私は良い写真撮影をし、良いインタビューをし、出来事をうまく利用する。そしてそれをあざとくなくやっている。なぜなら私はたいてい何千語もの考えや、何かについてのエピソードを持って現れるからだ。このレベルの注目や威信を得たいと思っている者もいると思うが、彼らはそれを得るための仕事をしたくないのだし、それが癪に障る……

……私は大きく愛し、激しく愛し、私は私であり、「内輪」のどのグループにも歓迎されたと感じたことは一度もない。私は必死に働き、誰よりも多く書き、現れる。私が作り出すどんな空間でも、私は「内輪」や徒党に反撃する。私は彼らが嫌いだし、彼らも私を嫌っている。そして私は自分が何を信じているのかを根本的にわかっている。それは自分が何を信じているのかわかっていない人々を苛立たせる。

彼がそのいずれかを本気で言っているのかどうかはわからない（このWiredのプロフィールが正確なら、そうではない方に傾くだろう）が、ジトロンは聴衆が聞きたいことを言うのが非常にうまいようだ。なので、これは少なくとも彼の聴衆について何らかの洞察を与えてくれる。

徒党や「内輪」についてのくだりで一つ指摘しておきたいのは、redditで彼の名前を検索するだけでわかることだが、彼のsubredditでAIが改善したことを示すもの（例えばベンチマークへのリンク）を投稿すると、BANされるというコメントが寄せられていることで、極めて徒党的なエコーチェンバーができあがっているということだ。私はMETRの進歩ベンチマークは意味がないし、誤解を招く分析に頼るより感覚を頼りにした方がましだと言っているし、広く引用されているAI評価はしばしば欠陥があるとも言っているので、ベンチマークが概して良いと思っているわけではないのだが、コメントから得た印象では、党の方針に従わなければかなり速くBANされるようで、それは上で描かれた像とは正反対だ。これはジトロンに限ったことではない。しばらく前に別のインフルエンサーを調べたとき、そのインフルエンサーのredditで異論を唱えると、彼らはあなたのコメントに感謝し、どれだけ人々からのフィードバックを得られることが嬉しいか、世界がいかに素晴らしい平和と愛の祭典であり、我々は皆互いを愛すべきかについてコメントを書きつつ、同時にあなたをredditからBANしていた。

また、徹底した仕事を好まないから人々は自分の仕事を好まないのだというジトロンのコメントについても、いくつか理由があって興味深いと感じた。

一つは、私自身の仕事がしばしば厳密で徹底していると好意的に引用されることだ。私の仕事を嫌う人ももちろんたくさんいるが、徹底しているから嫌いだと言った人を知らないし、内心で徹底しているから嫌いだという人がいるとしても驚くだろう。一般的に、徹底していることが何かを嫌う理由になるようには思えない。

二つ目は、私自身は自分の仕事を徹底しているとは考えていないということだ。ここで自分の仕事が良いとは感じていないと述べたことと同じことが、自分の仕事が徹底していると感じていないことにも当てはまる。ある程度の確認はする。かける時間という点では人より多いとは言えないかもしれないが、手法とかけた時間の組み合わせという点では、平均よりうまく機能しているのではないかと思う。だが、公開するときはいつも不満が残る。なぜなら、永遠により徹底的に確認し続けて何も公開しないこともできるので、徹底性としては平均以上だが、徹底からは程遠いレベルで自分を強制的に公開しているからだ。自分が徹底していると考えるゲイリー・バンハートのような人の仕事と比べれば、自分の仕事を徹底しているとはどうしても言えない。バンハート級の仕事を生み出す友人も何人かいるが、私ははるかに多くの量を、より低い品質で生み出すという選択をしている。これは品質とスピードのトレードオフの空間において良い位置だと思うが、それで私の仕事が徹底したものになるわけではない。これは今年7月に再び公に書き始めて以来に発表したすべてのものについて二倍当てはまる。いつもよりはるかに少ない確認と編集でどんどん出す実験をしているからだ。それでもなお、私のファクトチェックのプロセスはジトロンのそれよりはるかに徹底しているように見える。

付録：なぜこれを書いたのか

特に大した理由はない。4時間しか寝ておらず、頭がほとんど使い物にならない状態で、誰かがredditに投稿されたエド・ジトロンの予測実績をこき下ろすスクリーンショットを投稿したのを見かけた。未来学者の予測の正確さについてのこのレビューを書いたとき、私が検証する対象に何らかのバイアスがかからないように気をつけた。reddit投稿者がジトロンの予測を引っ張ってきた方法が偏りのないものだったのか、何らかの形で偏っていたのかは投稿からは明らかではない（AIが文化戦争の争点になっているので、誰かが偏った予測を引っ張ってきても驚かない）が、エージェントにやらせたい別の無関係なタスクをつつきながら、空き時間にジトロンを少し読んでみることにした。未来学者の投稿では、予測を引っ張るために何冊もの本を丸ごと読み、誰かが同じことを何度も繰り返して言い続けている場合にのみやめるようにしていた。このケースでは、ジトロンがやっていることは繰り返しだけなので、未来学者レビューでの手法に従えば、いくつかの予測を検証してすぐにやめることになる。それを克服するために、ChatGPTに予測のリストを出させ（正しい予測や誤った予測へ意図的に傾けることなく）、それからChatGPTがリンクした投稿をざっと読んだ／読んだ。ChatGPTの投稿の読み取りが誤っていると思ったケースもいくつかあった（これらはたいてい、その読み取りが正しければ誤りとなる予測にフラグが立っていたが、私はその読み取りに同意しなかったケースだ）。また（後述するように）反証不能だったり、同語反復的で無意味に思えたりする予測は除外した（未来学者の投稿でも同様のことに触れた）。

よく考えれば、もっとましな時間の使い方があったかもしれないが、こうなってしまった。疲れすぎてまともな仕事ができないときのためにやることリストを用意しておくこともあるが、今回はそれがなかった。彼らが特にひどい予測を恣意的に選び出したとは思わないが、より馬鹿げて聞こえるものの中からいくつか選んではいる。しかし、鉄板の「論破」と言えるものではない予測（例えば、Geminiが年末までに5億ユーザーに到達することはスンダーがそのアイデアを出しただけでクビになるほど馬鹿げていると言いながら、実際には年末までに7億5000万人に到達したといったもの）の詳細を見ていっても、それらはCursorには現実的な買い手がおらず、100億ドルですら売れないだろうという主張が、「誰もが」（AIのエグジットに関心のある誰もが）知っている通り600億ドルで売却されたという主張と同じくらい間違っている。

reddit投稿者は注目度の高い外れた予測を選んだが、ジトロンの予測コーパスにはさらに多くの失敗があり、前述した通り、より大きな問題は彼の推論だ。

そのredditコメントについて、それが偏っているかどうかに関わらず、r/accelerateに投稿されたもので、投稿者はどうやらr/accelerateの信奉者らしいので、一種のバイアスの疑いを持たれるかもしれないということもある。実際の予測を見ると、いくらかのバイアスと整合的だ（正直な間違いとも整合的で、記録からは区別できない）。例えば、「論破」の一つは、ジトロンがOpenAIは12〜24か月以内に崩壊するという発言だ。OpenAIは崩壊しなかったので、これは表面的にはジトロンが間違っていたことを示す素晴らしい方法に見えるが、ジトロンの投稿を読めば、彼の実際の主張はOpenAIは崩壊するか、さらに多くの資金を調達するかのどちらかであり、彼らはさらに多くの資金を調達した、というものだった。私はジトロンが示唆するようにこれが必然的に後の崩壊につながるという含意には同意しないが、彼の述べた予測は反証されなかった。

この予測は本稿で採点された予測群には含まれていない。含めるべきだと主張する人もいるだろう。この予測が採点されなかった理由は、この予測がジトロンのより広い論点（OpenAIは破滅しており、崩壊せざるを得ない）に寄与する以外は、無意味に思えるからだ。

考えうる予測について考えてみると、（ここではスペースの都合で省略するすべてのエッジケースを書き出せば）必ず真となる同語反復的な予測は、OpenAIは事業を続けるのに十分な資金を持っているか、持っていないかのどちらかであり、持っていなければ、何らかの方法で資金を調達しなければならない、というものだ。私はそのような同語反復的な予測を100万個作ることもできるが、もし誰かが私の予測実績を採点するなら、無意味だからこれらを含めるべきではない。一般的に、存続している企業はコストを賄う。賄えなければ、資金調達を試みる。それに失敗すれば、閉鎖するか買収される。ある企業がコストを賄うか、賄わないかのどちらかだという予測は何も語らない。

OpenAI自身の予測では、まだ黒字ではなく、コストが収益を上回るということだった。それはほぼ確実に思えたので、このほぼ確実なことが真であると仮定すれば、OpenAIは崩壊するか、コストを賄うために資金を調達するかのどちらかだという、ほぼ同語反復的な予測が得られる。非常に高い確信度（99.9%以上）でこのような予測をすることは合理的だっただろう。ブライアスコアのような何らかの予測スコアリング手法を使えば、ジトロンが多数の高確信度の誤った予測を持っている限り、これらの予測は間違ったとき以外は本質的に何の寄与もしない。

そして、上で述べたように、ジトロンは彼が与える最高の確信度（彼の言い回しからすれば、これらのいくつかは6ナイン以上の確信度と評価する）で述べた予測について繰り返し誤っているので、ブライアスコアのようなスコアリング機構では、ジトロンの記録は非常に悪い。そしてこのような要約指標は、この種の予測がどれほど無意味であるかを実際には過小評価している。仮にジトロンが無限の数の正しい99.99%確信度のほぼ同語反復的な予測をしたとしよう。それは彼が行った他の限られた数の予測からのスコアを、ブライアスコアのようなものでは無意味にしてしまうだろう。それでもなお、彼の同語反復に近くない予測のいずれについても全く確信は持てないだろうし、それらは一般的に人々が話題にする予測（AIの進歩は終わった、AI企業は崩壊せざるを得ず、それは大手テック企業も巻き込む、など）なのだ。

redditコメント投稿者の潜在的なバイアスと私のバイアスの話題に戻ると、上で述べたように、私は急速な進歩が不可避だという見方に特定のバイアスを持っておらず、人々が過度に楽観的であるケースを指摘してきた。それは未来学者予測についてのこの投稿が示す通りだ。また、誰かが間違っているとか悪いとかいう理由をでっち上げてエンゲージメントを稼ぐ必要もなければ、その欲求もないし、すべての予測者を一律に悪いと評価しているわけでもない。それはスティーブ・イェッジの予測実績についてのこのレビューが示す通りで、そこでは彼が高いスコアを収めたこと、さらに正確な予測が外れていても予測は概してよく推論されており方向性としては正しいため、実際のスコアが示すよりもはるかに良い成績だったことを指摘している。誰かが未来について良い洞察を持ち、それを公に共有してくれるなら、それは素晴らしいことだと思うので、そうしたケースに気づいたときは喜んで指摘する。ただ、このケースでは、ジトロンはある種の反イェッジなのだ。予測実績が悪く、その予測は記録から見えるよりもさらに悪い。

付録：本稿の誤りについて

本稿には複数の誤りがあることはほぼ確実だと思う。一般的に、誤った推論の長い流れを読んでから、その中の誤りを探すときに雑にならないようにするのは非常に難しい。未来学者予測を検証したときにも、まさに同じ問題があった。それは、コンパイラが非常にバグの多いシステム向けにプログラミングしていて、一日中コンパイラのバグに遭遇するようなものだ（少なくともLLM以前の組み込みシステムでは珍しくなかった。今は比較的簡単にバグを修正できる）。「ふむ、これはコンパイラのバグかもしれない」と雑に考えずにいるのが難しいと感じる。たまには実際に自分のバグであってコンパイラのバグではないこともあるのだが。こうした予測のようなテキストを見るとき、問題ははるかにひどい。コンパイラはまだ概ねまともに動き、しばしば正しいのに対し、ここで論じたようなテキストを読んでいるときは、たまに良い正確な指摘で中断されるナンセンスに、ただただ溺れ続けることになるからだ。

これをうまくやるには、こういうものをかき分けるための並外れて高い忍耐力を持つ人（つまり、私よりもはるかに忍耐強い人。私はこういうことに対する忍耐力は平均よりやや高いようだが）を見つけるか、あるいは独立して評価と採点を行うチームを持つ必要があると思うだろう。だが、表面的に読んだだけで、これらの人々がほぼ完全に間違っていることを示す多くの事柄がすぐに明らかになるのに、誰がそこまでの労力をかけたいと思うだろうか？

私はChatGPT（ウェブ版、Pro）とClaude（ウェブ版、Fable 5）に本稿のファクトチェックを依頼した。両者とも公開前に修正された軽微な誤りをいくつか見つけた。

1年前には、このようなファクトチェックはほぼ役に立たないと感じていたが、今では半ばまともになっており、ジトロンに反して、今後も良くなり続けると予想している。両者に興味がある人のために言うと、今回のケースではChatGPTの方がClaudeよりもはるかに徹底しており、より多くの誤りを見つけ、Claudeが見つけたすべての誤りも見つけていた。ただし、少々過剰で、冗談めかしたコメントが誤りであるとしたり、概して正しい多くの記述をより文字通りの言い回しにすべきだとするなど、誤りでないものをいくつか指摘してもいた（AIらしい文章のおまけ付きで）。

  1. だが、仮にラガヴァン氏に対する非難が真実であるとしても（そもそもどうすれば真実になり得るのか私にはわからない。そもそも計算機科学者に対して階級的裏切り者になることなどどうしてできるのか、というところからして、だが仮にそれが何を意味するにせよ真実だと仮定しよう）、ジトロンの主張は「このクソ野郎［ラガヴァン氏の画像を指さす］が2020年にGoogle検索を引き継いだ」そして検索品質よりも特定の指標を優先した、というものだ。なぜこのことを特定の一人のせいにするのか私にはわからない。なぜならこれは多くの人々があらゆる側面で関わった長年の争いだったからだが、仮にこれがすべて真実だとすれば、「経営コンサル派」がエンゲージメントや収益を検索品質を犠牲にして増加させる指標を動かすことになる。これはジトロンがここで自分の主張を通すために必要な効果、すなわちGoogleの成長は終わり、彼らは成長にあまりにも必死でAIをあらゆる場所にねじ込むという狂気の最後のあがきに打って出ている、ということとは逆の効果だ。いずれGoogle検索の衰退を引き起こすだろうという議論はできるかもしれないが、ジトロンの議論は2024年時点で彼らが必死だったというもので、ユーザーがいずれGoogle検索から離れ、それが後に衰退を引き起こすだろうというものではなかった。

    ジトロンをたくさん読んだ人なら誰でも、彼の定番の「動き」の一つに、状況をある種のヒーロー対ヴィラン物語に仕立て上げることがあると気づくだろう（検索については、英雄とされるのがベン・ゴメスで、悪役がプラバカー・ラガヴァンだ）。まるで彼の企業がどう動くかというメンタルモデルが、企業についての映画から来ているかのようだ。ある出来事についてされるはずの映画を見てから、そのことについて読んでみると、物事がヒーロー対ヴィランの物語へと過度に単純化され、状況のニュアンスのほぼすべてが削ぎ落とされていることがわかる。そして、もしあなた自身が何かに個人的に関わったり、個人的に関わった人々に話を聞いたりして、実際に起きたこととそれについて書かれた本とを比較すれば、また同じことが起きる。一般的に、主要な因果要因はテックで起きたことについての本では特定されておらず、重要な決定のいくつかに最も深く関わった人々の多くは名前すら挙げられない。なぜなら、何が起きたかについて人々に話を聞いているジャーナリストたちは、根底にあるメカニズムを理解し、良い情報を持っている人にとって妥当に正しいと思える物語をうまく組み立てることができないからだ。とにかく、状況について何も知らなくても、誰かがジトロンの好むようなヒーロー対ヴィランの物語を語れば、すでに少し懐疑的になることができる。

    [戻る]

  2. ちなみに、彼の怒りは動画ではあまり伝わってこないと思う。確かに彼は文章と同じように自分が怒っていると明言し、罵り、人を侮辱するのだが、私にはあまり怒っているようには見えない。最近大勢で受けた感情認識のテストを思い出す。

    そのテストはかなり難しく、最初の問題に5分ほどかけた。というのも、写っている人物は大きく作り笑いを浮かべつつ、少し不快そうで不安げにも見えたからだ。その人が幸せなのか、不快／不安なのか、どちらと答えるべきなのかわからなかった。これは非常に簡単なテストであるべきなのか、それとも少し微妙さのあるテストであるべきなのか。テストがどのようなものかに基づいてしばらく考えた末、「幸せ」を選んだ。幸いテストでは正解か不正解かがわかるので、テストが問うているのは作られた誇張された表情であって、その人の実際の表情ではないことがわかり、残りの問題のほとんどは簡単だった。一つだけ難しかったのは、教科書に載っているような典型的な感情表現を、他の教科書的な表現よりも不完全で非現実的な、非常に特定のやり方で偽装していたものだった。まるで誰かが軽蔑の冷笑とは何かという説明文を読み、その文章による説明に基づいて表情を作ろうとしているかのようだった。その一つは正解を得るのに2分ほど考える必要があった。

    とにかく私にとって、ジトロンは怒りを演じている人のように見え、実際に怒っている人には見えない。声のトーン、表情、ボディランゲージ、動きのスタイルなど、どれも私には怒っているように見えないのだ。この怒りのポジショニングは、彼のスピーチよりも文章の方がうまく機能すると思う。なぜなら彼が使う手がかり（罵る、怒っていると言う、多くの軽蔑を示す、人を侮辱するなど）は、文章における怒りの手がかりとしては最良の部類だからだ。音声や映像がある場合、これらはかなり弱い手がかりだ。より強い手がかりがあまり怒りを示していなければ、その人は単に怒っているように見えないのだ。彼が怒りの示し方が非標準なのか、あるいは私が単に注意を払っていなかっただけなのかもしれないが、彼が文章で書くように話す動画をいくつか見ても怒っているように見えなかったので、もはや文章も怒っているようには感じられなくなった。

    [戻る]

  3. 誰かが数字について議論しようとしたときにどうなるかの例が見たければ、ユホ・スネルマンがある人が「みんな計算した」と主張するのに対して反論しているこのスレッドがこちらだ。AIについての議論に追いつく中で、片方は実際に数字を見た人がいて、もう片方は数字が見られたという漠然とした主張を振りかざすだけ、という議論を何度も見てきた。これは決してどこにも行き着かない。なぜなら、片方の側にとって要点は数字から何かを理解できるということではなく、誰かが数字を見たのだから振りかざせる証拠を持っているということだからだ。

    [戻る]

  4. 当時のジトロンの主張は、ハルシネーションは今のままが精一杯で、それがAIの性能は2024年の水準で頭打ちになることを意味するというものだった。全体的な予測も、そのメカニズムも間違っていた。この予測は当時から間違っているように思えた。2024年にここで述べたように、AIにループさせてコードがコンパイルされテストが通るまで実行させるだけで、AIにまともなコードを書かせることができるからだ。当時私はAIのヘビーユーザーではなかったが、AIを使っていた人なら誰でも、広く適用されていなかったハルシネーション率を緩和する方法があることがわかったはずだ（これはcodexやclaudeのようなコーディングエージェントがコードを実行してテストが通るかチェックするようになる前のことだった）。

    [戻る]

  5. これも当時から真実ではないように思えたもう一つのものだ。私はMLの専門家ではないが、RL環境とは何かと誰かに教えてもらった瞬間、数分のうちに、学習を改善するための合成データを生成する方法をいくつも思いついた。これらが目新しいものではなかったのは確かで、AIラボがやっていることだ。私が言いたいのは、数分考えれば、たとえインターネット上で見つかる新しいデータがもうなくても、モデルを改善する方法はたくさん思いつけるということだ（ましてや、インターネット上で最もスクレイピングしやすいコンテンツ、例えばredditのコメントなどだけではないデータを取得するためにより多くの労力をかけることもできる）。

    [戻る]

  6. なお、ここでは解決済みの予測のみを採点している。その特定の投稿でジトロンはAGIへの進歩は決して起きないとも述べているが、これは依然として曖昧で判定が難しく、また肯定的に解決することは決してないものだ。同様に、以前の投稿で、ある企業がいずれサブスクリプションを追加しなければならなくなるという予測は、期限がなく否定的に解決することもあまりないため、リストに載せていない（すぐに起きなければならないことが示唆されていたので、議論の余地はあるが誤りとも言えるが、言い逃れしようと思えば将来起きると言うこともできる）。

    [戻る]

  7. ここでジトロンはまた、「今では物事に期限を結びつけるのはあまり有用ではないと気づいた（とはいえ私は自分の予測を支持する）。したがってバブルが弾ける条件が実際に何であるかを示唆する方がより有用だと思う」とも述べている。この時点以降、ジトロンは期限付きの発言を比較的少なくし、反証不能な期限のない発言をより多くするようになる。おそらく以前の予測で頻繁に間違ったことへの反応だろうか？

    [戻る]

  8. ささやかな楽観論として言えば、このブログは極端な立場に傾くことなく、概してクリックベイトを避けるようにしてきたにもかかわらず、まずまずうまくやってきたように思う。これはしばしば、データを見たときに、非常に興味深いバズりそうな糾弾記事になりそうなものを見つけても、よりよく見ると実際には退屈な否定的結果だった、例えばこの大雑把なプログラミング言語評価を実行したときのように、当初は非常に興味深い結果を示したように見えたが、明らかな評価のバグを修正したら消えてしまった、ということを意味する。まあ仕方ない。退屈な否定的結果をもっと多くの人が公開してくれればいいと思うので、私は退屈な否定的結果を公開した。

    このブログがジトロンのSubstackと桁違いではないトラフィックを持っているとしても驚かない（サーバーサイドの統計では過去1か月で54万ユニークだが、そのうちどれだけがCloudflareで最低限のボットブロックをすり抜けたボットかはわからない）。ジトロンが私よりはるかに頻繁に書き、あらゆるクリックベイトの手口を駆使している一方で、私はただ書きたいと思ったときにたまに何かを投稿するだけだ。私の目標がトラフィックを得ることではないのは明らかだが、かけた時間や労力で調整すれば、このブログはジトロンと比べてひどくやっているわけではないと思う。ジトロンが月間540万ユニークを持っている可能性はあるだろうか？不可能ではないし、ボットトラフィックがある中でこれらの数字が何を意味するのかを知るのは難しいが、参考までに、The Economistは約130万の購読者、NYTは約1300万のデジタル購読者を持っている。ユニークの4分の3がボットトラフィックだと仮定すれば、このブログの10倍のトラフィックを持つことはジトロンをThe Economistと同じクラスに置くことになり、それはあまりもっともらしくないように思える。

    他の条件が同じなら、ザレフスキの言うインセンティブは正しいと思うし、最もエンゲージメントを生むものに傾くことで自分自身のカリカチュアになっていく人をたくさん見てきたが、逆のことをやってもまずまずうまくいくと思う。

    例えば、クリックベイトとは正反対と言えるスタイルで、サイモン・ウィリソンは、過去3〜4年間でプログラマーの間で最も広く読まれているブログを書いてきたと思われる（かつて様々な時期にジョエル・スポルスキーやジェフ・アトウッド、スティーブ・イェッジがプログラマーの間で最も広く読まれているプログラマーだったのと同様に）。プログラマーやAIのヘビーユーザーの間では、ウィリソンはジトロンよりも大きな聴衆を持っていると推測する。

    しかし、ジトロンにはウィリソンがそのスタイルでは決して得られない種類の聴衆がいるのは確かだ。本文では、AIを使う人々が集まるフォーラムでのジトロンのよくある擁護について見た。それはAIを使う人々が集まるフォーラムから引っ張ってきたものだ。世界全体を見渡せば、コメントはかなり違って見える。例えば、私の友人が言及した動画では、ジトロンが繰り返し現実を否定し、インタビュアーがそれに反論しているが、現時点でのトップコメントはすべてジトロンを支持するもので、彼らもまた現実を否定し、インタビュアーが現実の一部で反論している箇所は、インタビュアーが偏っているか、単に何を話しているのかわかっていないのだと主張している。トップコメントの中には、事柄の事実への関与はほとんどないように見える。すべてがムードへの帰属だ。そのコメントは、ギッシュ・ギャロップ戦略を用いて大量の途方もないナンセンスを並べ立てる政治家について支持者が言うことと同じに思える。ジトロンがいつか現実否定の人気を力に政治家に立候補したり、政権内の誰かの右腕となる扇動者になったりしてもおかしくないと思う。だからザレフスキが正しいのは、ジトロンの魅力はAIで起きていることを正確に描写することで得られるものではないということだ。

    だが、ウィリソンを知らないし、これは完全に間違っているかもしれないが、私の印象では、彼も私と同じように、とにかく自分がやりたいことをやっており、聴衆は聴衆を最大化しようとしなくても勝手に集まったということだ。うまくいくと言うとき、彼がスポンサーシップのおかげでフルタイムのオープンソース開発者として生計を立てられているように見えるということを意味しており（それはおそらく彼がそれほど大きな聴衆を持っているからだろう）、それはジトロンのような大衆的人気は生み出さなくても、良い結果のように思えるということだ。

    [戻る]

この記事は「muse-spark-1.2-contributor」を使用して翻訳されました。

コメント