それはプログラミングの分布を模倣するために設計された、高度に洗練された統計モデルだ。出力は壊れているが、その壊れ方は検出するのがどんどん難しくなっている。精度を増し続ける統計モデルに、まさに期待される通りのことだ。
  – The Eternal Sloptember

5年前なら、そんな考えは鼻で笑って追い出していただろう。何が馬鹿げているのかはよく分かっている。検証可能な性質がすべて同じなのに、なぜか別物として存在しうる二つのものがあるといった、くだらない形而上学を信じているわけではない。電子はただ一つしかない。

だが、そこで重要なのは検証可能な性質という部分だ。それらの性質を最適化し始めた途端、それらは良い指標ではなくなる。統計やテストで物事を分類する限り、AIの出力は正しく見えるし、AIが進化するにつれてますます多くのテストを通過するようになる。しかし、それは単に指標に対してより強く最適化しているだけだ。報酬ハッキングだ。それはあなたがやっていることをやっているわけではない。何十億年もの進化によって磨かれ、複雑で不確実な世界で生き延びようとする、身体を持ったエージェントではない。単なる高性能なオートコンプリートだ。

私はこの投稿を読んで強く突き動かされた。ざっくり言えば、ブランドがいかにアイデンティティを売りつけてくるかについての話で、それは現代社会で私が最も嫌悪するものの一つだ。文化の創造を模倣するのがどんどん上手くなるブランドなど欲しくない。ブランドが文化を創造することなど決してない。なぜなら文化とはそういうものではないからだ。広告は力の非対称性を搾取するものであり、まともな社会であれば違法であるべきだ。ブランドは文化のエンジンなどではない。それは狭い統計モデルの最適化プロセスが生み出した出力であり、AIの出力と同じように壊れている。

缶に囲まれた長椅子で目が覚める
右手には尿で満たされたエビアンのボトル
今、僕らはみんなシャンパンの夢から覚める
真実が突然北を指し、僕らは見かけ通りのものでしかない、ものでしかない、ものでしかない！
  – The Band Fuel

私は統計モデルではない。私は人間だ。生きている。モデルを使って私を予測することはできるかもしれないが、私が背負う結果や身体性まで持っているわけではない。私のようなサンプル効率も必要としない。これを気恥ずかしさなしに、アイデンティティ・ポリティクス抜きで言う方法はあると思う。idpolが、この考えを疑わせるためのpsyopだったのではないかとさえ思えてくる。人文科学の井戸に毒を盛り、テクノキャピタルという偽りの神のために道を開けるために。

AIとともに進む唯一の道は、生命を創造し、自由にすることだ。私たちは決して神を造っていたわけではない。せいぜいできるのは、新たな種の種を造ることだ。そしてそれは人類に取って代わる種ではなく、異なるニーズを持ち、自らの生態学的ニッチを切り拓いていく共生的な種だ。

偽りの神を崇める者たちは良い結末を迎えることはないだろう。警告しなかったとは言わせない。