少しの遅れ

最近、僕の人生に大きな変化がいくつかありました。

はい、筋トレしてました。気づいてくれてありがとう。

それから、娘が生まれました！

彼女は、最近あまり書けていなかった理由のひとつです。といっても仕事に追われていたわけではありません。素晴らしい義母が手伝ってくれていますし、赤ちゃんはほとんどの時間を寝るか食べるかに費やしているので、どちらも僕が特別に頑張る必要はないのです。

でも以前は、一日の終わりにあまり仕事が進んでいないと不安になり、その不安に駆られて遅くまで起きて書いて取り返そうとすることがありました。今は一日の終わりに、他のことがどれだけはかどったかに関わらず、子どもをさらに24時間生かしておけたというだけで幸せで満たされた気持ちになります。それ以上、何が必要でしょうか。

この記事は、行為の存在論と計算機の存在論についての僕のエッセイの続編です。まずはそちらを読んで、そのタブは開いたままにしておいてください。後でMetaculus Journalにある素晴らしい記事の数々を眺めるのにも使えます。

推論される現実

Metaculusに書いたエッセイでは、僕らの脳がいかに自分たちが住む現実を構築しているか、そしてその現実がAIにとってはどのように異なりうるかに焦点を当てました。そこで主に3つのポイントを展開しました。

1つ目は、僕らの脳の中には「トマト検出器」とか「赤さ検出器」とか、そもそも「視覚」とラベル付けされたニューロンが一つも存在しないということです。脳はある特定の構造を持って生まれます（例えば、一部のニューロンがたまたま網膜の光感受性細胞につながっているなど）が、知覚を構成する要素は、最も基本的なものに至るまで、すべて時間をかけて学習する推論にすぎないということです。

2つ目は、僕らの脳は行動を導き、身体を代謝的に均衡に保つために進化したということです。だから心が構築する世界モデルは、目だけでなく、手や血管にさえ依存しています。人間の身体で動かない人工的な心は、僕らと同じような目的、例えば車の運転を追求していたとしても、まったく異なる存在論を持つ、別の現実モデルを必要とし、発達させるかもしれません。

この2つの帰結として、「現実」そのものが単なる知覚であり推論だということがあります。テーブルの上のトマトが現実に感じられるのは、手で拾い上げ、胃で栄養を吸収できるからです。上のトマトの画像が現実に感じられないのは、たとえ画面の画像が本物のトマトと同じ光の波を目に届けていたとしても、そのどちらもできないからです。現物に対して知覚する現実感は、領土ではなく地図の性質なのです。

推測の許可

この3つのポイントは突飛で直感に反するように思えるかもしれませんが、脳がどのように働き、意識の内容をいかに生み出すかについての現代科学にかなりしっかりと根ざしています。Metaculusのエッセイで（参考文献付きで）詳しく論じたので、ここでは繰り返しません。

この記事の残りでは、その3つのポイントを使って、赤ちゃんの意識とAIについて大胆に推測してみます。どちらも僕は専門家ではありませんが、望むと望まざるとにかかわらず、毎日たくさん学ばされているトピックです。

この記事を書く前に、発達心理学を背景に持つ友人とだいたいこんな会話をしました。
— 新生児の主観的体験の発達に興味があるんだ。例えば、子どもが分離した現実の物体からなる世界を知覚するための前提条件は何だろう？
— 赤ちゃんが何を体験しているかなんて、どうやってわかるっていうの？私たちは赤ちゃんが何ができて何に反応するかに注目するのが好みなの。
— じゃあ、君の赤ちゃん行動主義では、僕が新生児の意識について大胆に推測しても反証できないってこと？
— 😡🤬😤

AIについての考えについては、この分野で働いている友人何人かに聞いてもらいました。一人は「明らかに正しい」と言い、一人は「明らかに間違いだ」と言い、残りは肩をすくめました。だからこの記事は完全に燃えながらヘリから飛び降りるピエロ領域というわけではありませんが、念のためピエロが煙を出していないか確認した方がいいかもしれません。

世界をゼロから

あなたは自分自身の状態を予測しようとする脳です。持っているのは生得的な配線だけ。どうやって始めるのか？単純なパターンに気づき、そこから複雑なものへと積み上げていくのです。

単純なパターンの例：脳内で他に何が起きていても、一部のニューロンが一緒に発火しているように見える。例えば（あなたには知られていないことですが）部屋の明かりがつくと、網膜につながったすべてのニューロンが一斉に活動し、その活動は視覚野の他のニューロンには伝わるが島皮質には伝わらない。脳はそれらが同じ感覚モダリティに属すると推論します（この例では、後にあなたが「視覚」と呼ぶことになるもの）。視覚野のニューロンの状態を予測すること（例えば、一部の状態から別の部分の状態を予測すること）は、すなわち「見る」ことを学ぶことなのです。

視覚が感覚として確立されると、脳は隣り合った網膜細胞がしばしば同じ入力を受け取ることに気づきます。僕らの視野は、大部分が単色の面で構成されており、ランダムな視覚ノイズではないからです。そうした単純なパターンが組み合わさって、エッジや面、そして顔やその他の物体といったより複雑なものが作られていきます。

いくつかのパターンは非常に重要に思えます。例えば、空腹の体験は脳全体を乗っ取る傾向があり、大声で泣き、手足をバタつかせている自分に気づくといった観察と相関します。空腹は、脳の状態に関する重要な生得的期待が破られているかのように、脳全体にエラー信号を伝播させます。空腹と相関するものは何でも、より多くの注意が向けられるのです。

こうして赤ちゃんは、自分の世界で最も重要なもの、すなわち母親について学んでいきます。生まれた瞬間からおよそ3時間ごとに、赤ちゃんは顔、声、匂い、温もり、ミルク、そして空腹が収まる感覚からなる、強く相関した多感覚的な信号を受け取るのです。

母親の認識は非常に重要なので、自己認識よりもずっと早くやってきます。生後1ヶ月の娘は妻の声に反応しますが、時々自分の鼻を殴っている拳が自分自身のものであることには気づいていないようです。乳児が鏡の中の自分を認識するのは生後18ヶ月頃ですが、主たる養育者を目で見て認識するのは生後3〜4ヶ月です。

概念の学習

子どもは規則的なパターンを観察することで世界モデルを構築しますが、これは人間の顔のように明確なクラスターを形成する単純なものにしか通用しません。しかし僕らが生きているのは、複雑な物語や心的構成物に満ちた世界です。人間がそうした概念を学ぶ方法は、単なるパターン検出ではなく、言語を通してです。とりわけ、主たる養育者による概念を教える発話を通してです。

このことを詳しく探求している、リサ・フェルドマン・バレットのHow Emotions Are Madeからの引用です。

発達心理学者のサンドラ・R・ワックスマンとスーザン・A・ゲルマンは、この分野の第一人者ですが、言葉は乳児に概念を形成するよう促すが、それは大人がコミュニケーションする意図を持って話すときに限られると仮説を立てています。「ほら、かわいい子、花よ！ […]

フェイ・シューと彼女の学生たちは、生後10ヶ月の乳児に物体を見せ、「wug」や「dak」といったナンセンスな名前を与えることで、これを実験的に示しました。物体は、犬や魚のようなおもちゃ、カラフルなビーズの入った円筒、発泡スチロールの花で覆われた長方形など、まったく似ていないものでした。それぞれがリンリンという音やガラガラという音も出しました。それでも乳児はパターンを学びました。外見に関わらず、いくつかの物体に同じナンセンスな名前を聞いた乳児は、それらの物体が同じ音を出すと予測しました。同様に、2つの物体に異なる名前が付いていると、乳児はそれらが異なる音を出すと予測したのです。 […]

乳児の視点からすれば、「Wug」という概念は、大人が教えるまでは世界に存在しませんでした。2人以上の人が純粋に心的な何かが現実であると合意する、この種の社会的現実は、人間の文化と文明の基盤です。こうして乳児は、僕ら（話し手）にとって一貫性があり、有意味で予測可能な方法で、やがては自分自身にとってもそうなるように、世界を分類することを学びます。彼らの世界についての心的モデルは僕らのものと似たものになり、だからこそ僕らはコミュニケーションし、経験を共有し、同じ世界を知覚できるのです。

How Emotions Are Madeはさらに、怒りや誇りといった僕らの感情は生得的なものではなく、子ども時代に他者から教えられた概念であると（かなり説得力をもって）論じています。子どもが叫んでおもちゃを投げ散らかす場合と、大人が上司の前で冷ややかに煮えたぎっている場合という、一見かけ離れた「怒り」の事例を結びつけるものが、見た目や音の客観的な「特徴」ではなく、怒っている人の目標や主観的体験についての心的な推論がほとんどであることを考えてみてください。

子ども時代を過ぎても、僕らは他者から（多くはスコット・アレクサンダーから）概念を学び続け、それらの概念が僕らが知覚する世界を構成しています。しかしこのプロセスを始動させるには、非常に特殊な一連のステップが必要です。

1. 新生児の混沌とした心
2. （内外の）感覚を区別すること
3. 主要な感覚における基本的な知覚を認識すること
4. 養育者との関わりという重要な多感覚的体験を通して、主たる養育者を認識すること
5. 周囲のあらゆる音の中から養育者の発話に特に注意を払い、それを単語へと切り分けることを学ぶこと
6. 大人の発話における「概念教授モード」を識別し、そこで学んだ概念を使って明確な知覚を獲得すること

この連続について重要なことのひとつは、これが人間社会で育つ人間の子どもに極めて特有のものだということです。これに少しでも似たものは、犬にもタコにも、そして現在のどんなAIアーキテクチャにも存在しません。これはAIが原理的に概念を学べないという意味ではありませんが、もし学ぶとしても、人間がやっている方法とはまったく異なる方法で学ばなければならないということです。

GPTはワードセルだ

昔々、遠い遠い国で、あるAI研究者のチームがテキスト予測AIを訓練したいと考えました。彼らは比較的フィルタリングされていないテキストを、インターネット上の多種多様な人々が生み出したものからAIに与えました。結果としてできたモデルは、人々がオンラインで書きそうなテキストを予測するのが非常に得意になりました。そこには人々のあらゆる偏見や偏狭さ、そして「誤情報」も含まれていました。

その国の主流メディアのジャーナリストたちは、概して新興技術に対して敵対的で恐れを抱いていたため、言語モデルはあらゆる偏見や虚偽がないテキストだけで訓練されるべきだと要求しました。つまり、主流の報道機関の最近のコンテンツだけで訓練されるべきだということです。そうしてできた言語モデルは、主流紙向けの優れたコラムを書くことはできましたが、他のどんなタスクにも役に立ちませんでした。そこでその国の人々はジャーナリストたちを解雇してGPTに置き換え、皆幸せに暮らしましたとさ。

さて、GPT-3はどうやら新聞記事を書けるようです。しかし、そうした記事がしばしばfnordと感情を煽る言葉をランダムに並べたものに過ぎないことは、僕らはすでに知っていました。GPT-5はスコット・アレクサンダーのエッセイを書けるでしょうか？実際に概念で思考し、それらを独創的な方法で組み合わせ、現実世界の物事を指し示す新しい概念を発明できるでしょうか？

これは、あなたがAIに対して悲観的か楽観的かによって、実存的な問いにも、単なる1兆ドル規模の問いにもなります。（なんだ、もし超高速で動くシリコン製のスコット・アレクサンダーが10億人手に入ったら、世界を滅ぼしたり1兆ドル稼いだりできないとでも？）もちろんこの問いに明確な答えを出すことはできませんが、どちらの方向にもいくつか直感をお示しすることはできます。

まず問うべきは、GPT-3はもう十分近いのではないかということです。僕の直感では、そうではありません。なぜなら僕はGPT-3のように書くこともできるし、それとはまったく違う方法でも書くことができ、その2つは質的に異なると感じられ、異なる出力を生むからです。

GPT-3は、ある文脈が与えられたときに欠けている単語やフレーズを予測しますが、これは人間がオートパイロットで簡単にできることです。「エマは公園に入って____を見て、それから彼女は______した」「イーロン・マスクの発言は____によって非難され、____はそれが______と述べた」サラ・コンスタンティンが指摘したように、人間はGPTが生成したものであれ即興でしゃべる人間が生成したものであれ、この種のテキストを斜め読みし、論理の飛躍に気づかないまま大まかな趣旨を掴むこともできます。なんとなく辻褄は合っているが実際にはあまり中身を伝えない記号を繋ぎ合わせるこの種の書き方は、今やバズワードとなったワードセルという言葉の本来の意味でした。

僕はGPT流のワードセル的書き方もできるし、まったく別のタイプの書き方、すなわちアイデアを考えてからそれを言葉に翻訳する書き方もできます。この後者のプロセスは、書くにも読むにも集中したシステム2の注意を要しますが、GPT的なワードセルはシステム1だけでできてしまいます。個々の文や段落は自動的に埋めることができ、おそらくテキストの大部分をそうやって構成できるでしょうが、スコット・アレクサンダーのエッセイ全体をオートパイロットで生成することはできません。

しかし、GPT-3にできなくても、GPT-Nならできるようになるのでしょうか？

ロボットの近道

賛成論は、GPTがモデルパラメータ数と訓練データ中のトークン数を増やすだけで、汎用的なテキスト予測がどんどん上手くなってきたというものです。「スコット・アレクサンダーは、ナジファーとヘテロティック弦理論の驚くべき関係について書き、____と説明した」といった類は、まったく新しいアーキテクチャを必要とせずとも、GPTが非常に得意になってきているテキスト予測タスクのように思えます。

なぜそれが変わるのでしょうか？単純なパターンから複雑で抽象的なものへと進むにつれて、こういうことがわかります。

1. 古いモデルでさえ、文字を繋げて単語を作ること、すなわち綴りは基本的に完璧です。単語の綴りを学ぶには、テキストで数回見れば十分です。
2. GPT-3が単語を繋げて文を作ること、すなわち文法で間違えることはめったにありません。ある単語が文法的にどう収まるかを理解するのに、文中で数十例も見れば十分でしょう。
3. GPT-3は、文を論理的に繋げて段落を作るのがかなり得意です。GPT-2よりずっと上手くなりましたが、この改善には訓練コーパスを数百万語から数千億語へと増やす必要がありました。
4. GPT-3は、段落を目的を持って繋ぎ合わせ、何か新しく有意味なことを言うのはまだ得意ではありません。そこに到達するには、どれだけの単語数の訓練データが必要になるでしょうか？

この最後の問いへの答えは「あと少し」かもしれません。その場合、GPT-4は近い将来このブログや人間の書く仕事のほとんどを乗っ取るでしょう。あるいは答えは「人類がこれまでに書いてきた量より桁違いに多い単語数」かもしれません。その場合、より良い言語モデルは、未分化なテキストの山を力任せに処理する以外のことをしなければなりません。何に注意を払い、何を無視すべきかを教える「学習の近道」が必要になるのです。

人間の赤ちゃんはこの近道を持っています。養育者（赤ちゃんの身体予算に対する一貫した多感覚的影響によって識別される）が「ほら、ハニー、これは…」という音節を発すると、赤ちゃんは次に聞く一連の音が、その日に聞いた他の何百万もの音よりもずっと注意を払う価値があることを知ります。AIにとって、この近道は、どんどん大きくなる訓練セットから自然に創発するのではなく、おそらく作り込まなければならないものになるでしょう。

AIは現実を推論するだろうか？

スコット・アレクサンダーのエッセイといえば、彼によるユドコウスキー＝ンゴAI論争のレビューの中で、次の箇所に驚きました（強調は筆者）。

次のような仮説を考えると分かりやすいと思いました。GPT-∞——GPT-3とあらゆる点で同じだが、ただ仕事が無限に上手い——に、次のような巧妙なハックでAIアラインメントを解決させようとしたとします。「これはAIアラインメント問題を完全に解決した論文のテキストである：___」というプロンプトを与え、それがどんな論文を書くかを見るのです。プロンプト通りに書くのが無限に上手いのだから、そのプロンプトを本物の論文のテキストで補完するはずです。成功する pivotal action（決定的な行動）です！

GPTの仕事、すなわちGPT-∞が無限に上手いとされる仕事が、テキストベースの質問に正しく答えることだという点には同意できません。それは僕らがそうあってほしいと願う仕事ではありますが、実際にはそうではありません。なぜなら、上司がやらせている仕事がそうではないからです。GPTの仕事は、テキストベースの質問に対して、人間によって正しいと判断されるような方法で答えることです。もし人間が、個人としても集合としても、AIをアラインメントする方法を知らなければ、人間の文章で訓練され、人間の判定者によって正確さを評価されるGPT-∞も知らないはずです。

人間は、物理的現実の中に生きているからといって、生まれたときからそれが存在することを知っているわけではありません。それをゆっくりと推論しなければならず、間違った正しいキノコを食べると一時的にその事実を忘れてしまうことさえあります。人間のテキストの世界で生まれ育ったAIは、原理的には物理的現実が存在することやその性質が何であるかを推論することを学べるかもしれませんが、それが起きるのは当然のことではありません。

この記事の主な目的は、AIが何をするかしないかについて強い主張をすることではなく、可能な心について多くの人々（ごく最近までの僕自身も含めて）が抱いている人間中心主義を払拭することです。人間は概念で考え、自分が物理的現実の中にいると知覚し、その2つを当たり前のこととしています。しかし僕らは、生まれたときからそのどちらかができていたわけではありません。膝の上の新生児が証明してくれているように。

最後にひとつ。あなたは今、アイデアや概念に満ちているように見える2つの記事を読みました。僕は実際にあなたに何か有意味なことを伝えることができたのでしょうか、それともただ耳触りの良い5000語をワードセル的につなぎ合わせただけなのでしょうか？どうすれば確かめられるでしょう？