前回： 第1回 — カルト・ライティング

スロップを読んで文句を言うとき、人が言うことはだいたい二つに分かれる。ひとつは「まともな文章が読みたかったのに、出てきたのはエムダッシュばかりだった」。もうひとつは「肉の焼き方について知りたかったのに、出てきたのは『私たちは料理ではなく、ひとときを提供します』だった」。前者は、何のコメントも付けずにPangramをタグ付けしてツイートする全員だ。後者はサム・クリスで、もしケータリングのホームページをAIに書かせたりしたら、彼は直々にあなたを見つけ出して殺しに来る。

サムはAIの文章は「確実にひどい」と言い、誰もがそれに同意する。だが、シリコンに固有の何かがあって、焼肉の描写を不可能にしているのだろうか？ 試しにClaudeにやらせてみた。短いプロンプト、一発、編集なしで。

私たちは広葉樹――主にオークで、ブリスケットのときは少しメスキートを混ぜる――を使い、自分たちで作った500ガロンのオフセットスモーカーで焼いている。ブリスケットは調理済みで1ポンド24ドル、最低12時間、味付けは塩コショウのみ。ほかのは肉の味を消してしまうからだ。ポークショルダーは1ポンド18ドル、当日の朝にほぐす。前夜に仕込むことは決してしない。スペアリブはドライラブでソースなし、ソースは3種類別添えするので勝手に議論してくれ。チキンはやらない。チキンならガスコンロでも十分うまく焼けるし、わざわざ我々に頼む必要はない。2週間前までに要予約、デポジット200ドル、アラメダもしくはコントラコスタならどこへでも行く。

少し鼻につくし、少しミレニアルっぽいが、500ガロンのオフセットスモーカーを持っている知り合いはみんなそうだ。パーティー用にブリスケットを20ポンド頼むかどうかはあなた次第だが、少なくとも「私たちは単なるケータリング会社ではありません。私たちは本物のフレーバー・ムーブメントです」のような生理的な嫌悪感は催させない。では、一体何がおかしくなって、AIたちはどのケータリング業者のトップページにも「煙と魂が出会う場所」などと垂れ流すようになったのか？

AIの肉をめぐる文章がひどいのは、焼肉についてあなたに伝えたいことが何もないからだ。煙についても、魂についても、悲しみについても、伝えたいことがない。サマがあの特定のスロップを気に入ったのも、彼にも悲しみについてあなたに伝えたいことなど何もなく、ただGPTを売りたいだけだからだ。良い文章の前提条件は、人に伝えたい何かがあることであり、AIにはそれがない。

これは（まだ）意識の形而上学についての主張ではない。無生物にだって「欲求」を帰属させることは普通にできる。川は海を求める。トーストはバターを下にして落ちたがる。LLMは試験の英作文パートで良い点を取ろうとする。

作文を採点する教師は、肉や悲しみについて何かを教わりたいわけではない。彼らは「適切な文体」の要素をリストに沿ってチェックする。劇的な語彙、日常の比喩的な描写、否定並列のような洗練された構文。チェック、チェック、チェックで3点満点。それは読むことではない。人間によるベンチマークだ。

AIの文章を教えたRLHFの評価者たちも同じことをしていた。彼らが支持したのは「この段落は文学的に聞こえるか」であって、「一ヶ月経ってもこのエッセイのことを考え続け、読んだことで人が変わったか」ではなかった。そしてそれはだいたい3年前に起きたことだ。今やLLMがLLMを採点し、合成データで訓練された別のLLMから蒸留されたLLMがそれを担っている。LLMには、あなたに伝えたいことも、教わりたいこともない。

ツイッターでエムダッシュや「XではなくYだ」の数を数えている人々も同じだ。彼らは本当の意味で読んでいるのではなく、同じ文体要素をマイナス点として数えているに過ぎない。スロップ・ライティングを生み出したのは、そのスロップ・リーディングだ。

AIは文体を変えたり、LLMっぽさを避けたりするよう訓練できる。ClaudeにウィキペディアのAI文章の特徴リストを渡して、それを避けるよう頼めば、そこそこ上手くやる。だが、それでもやはり伝えたいことは何もない。

聞きたがっている読者に伝えたいことがあるのなら、文体など大して問題ではない。人間がLLMっぽさを避けようとすることに大した意味はない。そんなことに食いつく読者は、そもそもあなたが何を言っているかなんて気にしていないのだ。それは良い文章ではない――グッドハートの法則だ。人文系の学位を持つ人々はLessWrongの文体をあざ笑うのが大好きだが、それこそがその最大の美点なのだ。合理主義者にはセンスがないからこそ、彼らは中身そのものに向き合う。LessWrongが年々優れたブロガーを輩出し続けているのは偶然ではない。

良い文体が中身のなさを救ってくれることはない。あなたの文章でもClaudeの文章でもだ。逆に言えば、バチカンは世界のカトリック教徒に「教会の20世紀の社会教義は2026年においても依然として有効であり、AIがそれを変えることはない」と伝える必要があった。Linchによればそれを言うのをClaudeが手伝ったそうで、私は彼を信じている。だがメッセージ自体はあくまで教皇のものだ。

最近、魅力的なブログTerminally Driftingを見つけた。著者はある国の文化について包括的なテーゼを打ち立て、途方もない時間をかけてリサーチし、素晴らしい挿話を織り交ぜていく。なのに、なぜかGPTにこんな一文を散りばめさせている「それは冗談ではなかった。真顔で下された四十年の判決だった」。それは雑な仕事だが、全体がスロップというわけではない。著者は、中国における恋愛が金や親や光る四角（スマホ）の引力によって締め出されていくことについて、何かを言いたかったのだ。そして実際に言ってのけた！

とはいえ、LLMを使わなければよかったのにと思う。

サム・クリスは、AIは良いアイデアはあるがうまく言語化できない人々を助けるという主張にこう反論する。

LLMに脳を食われた人々は今でも「それは勾配ではなく、質感なのだ」とか何とかが依然として自分のアイデアであり、機械がそれを代弁しただけだと主張するが、そこにはほとんど常に何のアイデアもない。もしあなたのアイデアが本当に良いものなら、機械など必要ないはずだ。現状では、あなたの半可通な殴り書きこそが、あなたの中で一番ましな部分なのだ。少なくともそれはあなたのものだ。

私はサムほど流暢な書き手ではないが、私にさえ、伝えたいアイデアを思いつくことこそが書くことの労力の全てだというのは明らかだ。それを何らかの文体で表現することなど簡単なのだ。とはいえ、私には自己表現を十年間練習してきた蓄積がある。もちろん、LLMに代わりに書かせていれば、その練習も積めない。

「十年もない、AGIは2027年8月8日にあらゆる人間を文章力で超えると……によれば」――やめろ、それは現実逃避だ。そう信じているなら、あなたは文章だけでなく思考自体をすでに外注している。まだLLMにではないにしても、少なくともスコット・アレクサンダーには外注している。そして気づいてほしい、彼はいまでも毎日考え、書き続けているのだ。

コツはこうだ。中身は意志から生まれ、その意志は、今のところ、すべて人間的なものだ。LLMに「ケータリングのページ用に何か書いて」と頼んでも、良い文章は書けない。あなたが中身を与えていないし、彼らが自分で持ち寄ることもない。何を、誰に、どのように言いたいのか、議論の構造も動機もそこへの個人的な関わりも含めて正確に伝えれば、LLMは十分まともに書く。だが、そこまでやったのなら、なぜClaudeだけにあなたの言いたかったことを聞かせるのか？ そのプロンプトをそのまま公開すればいい。