免責事項：本記事はオピニオンであり、その大半はまだ到来していない（まだ、だが？）未来についての推測である。ただし、すでに現れているいくつかのデータに基づいている。例によって、要約は末尾にある。

数年前、地球の裏側の倉庫から届く10ドルのドリルや2ドルのドレス、1ドルの靴にまともな市場があると言われても、笑い飛ばしていただろう。しかし今、その市場は実在し、名前まで持っている。しかも（持ち株会社経由という形ではあるが）上場すらしている。TEMUやSheinをはじめとする数社が、正直なところ眩暈がするほどのビジネスを築き上げた。その発想はこうだ。生産を十分に安く、十分に速く、そしてスマホの画面上ではまともに見えるギリギリの品質にすれば、たとえ一週間で壊れようと、素材に懸念すべきレベルの有害物質が含まれていようと、一回の配送のカーボンフットプリントが地元で買う場合より桁違いに大きかろうと、膨大な数の人々が買うのだ、と。

この種のビジネスモデルの鍵はイノベーションではなく、コストの外部化と圧縮にある。上流のどこかで、人々は週75時間働いている。しかも、このサイトの読者の大半が足を踏み入れることすら拒むような環境で。そうすることで、残りの私たちが5営業日以内に安いプラスチックのヘラを玄関先で受け取れるのだ。目に見える価格が暴落する一方で、目に見えないコストは埋立地や肺、そして私たちが決して出会うことのない人々へと分散されていく。

これから述べるのは、証明できない仮説だが、しばらく前から頭の中でこねくり回してきたことだ。というのも、ソフトウェアや書籍、音楽、（映画の）脚本、そして私たちが消費するほとんどのデジタル商品・サービスで、まったく同じことが起きているのを目の当たりにしているからだ。この場合の安価な労働力は人間ではない。大規模言語モデル（LLM）、世間で「AI」と呼ばれているものだ。そして外部化されるコストは、とりわけ品質である。品質を生み出すには職人技が要り、それを見抜くには注意力が要る。そしてモノの場合と同じく、私たちはおそらく二層化した市場に行き着くだろう。生成されたスロップが溢れる巨大で非常に儲かる下位層と、依然として人間による仕事だと分かる、より小規模で高価な上位層だ。

これをソフトウェア、デジタル商品・サービスのTEMU化と呼び、それがどのような姿になりうるかを描いてみたい。

安い労働力

数十年にわたり、世界のファッション産業は、ほとんど交渉力も発言権も持たない労働力に依存してきた。そしてその経済が成り立つのは、地球のどこかで誰かがコーヒー一杯以下の値段でTシャツを縫ってくれるからだ。その歪んだ構造がなければ、ファストファッションというビジネスモデル自体が崩壊する。あなたの手にある衣服があなたにとって安いのは、それが誰か他の人にとって高くついているからにほかならない。その代償は値札には現れない。

現代の大規模言語モデルは、経済の中でそれと似た位置を占めている。ただし重要な違いが一つある。搾取工場の中に人間はいないということだ。そこにあるのは、数十年にわたって他の無数の人間が生み出してきた仕事のコーパスで学習されたGPUの塊だけだ。圧縮されたのは歴史的な労働であり、モデルは何百万人ものプログラマー、作家、イラストレーター、音楽家たちの仕事を圧縮したコピーを、ほぼゼロの限界費用で提供し返すものだ。まあ、少なくとも理論上は、ハイパースケーラーがトークンあたりのコストを下げる方法を見つけた場合に限るが、それはまた別の話だ。

しかし結果は同じだ。ある種の財が、突然これまでより桁違いに安く生産できるようになる。そしてTEMUの商品と同じく、それらの財はどうにかギリギリ使える出来なのだ。

Vibeコーディングされたソフトウェア

これまでのところ、この現象が最も直接的に現れているのが、いわゆるvibe coding（雰囲気コーディング）だ。この言葉は、作りたいものを自然言語でLLMに説明し、出てきたものをそのまま受け入れ、基本的なアイデアをより洗練された記述で反復させ、最終的にその成果物を本番環境へ投入する手法を指す。開発者が生成されたものを実際に理解しているかどうかは、もはや実装上の詳細とみなされつつある。そして出力されるものは技術的にはソフトウェアだが、問題はどんなソフトウェアなのかということだ。

2025年のVeracodeのレポートによれば、AIが生成したコードサンプルの約45%がセキュリティテストに不合格となり、OWASP Top 10に含まれる重大な脆弱性を抱えていた。また、Claude、Gemini、Codestral、GPT-4o、Llama-3の出力をPython、Java、C++、Cにわたって評価した多言語・多モデルにまたがる学術研究では、生成されたスニペットの相当数が、基本的なセキュアコーディング基準に準拠していないか、分類された脆弱性（バッファオーバーフロー、ハードコードされた認証情報、SQLインジェクション、暗号の誤用、パストラバーサルなど、挙げればきりがない）を能動的に引き起こすものだった。さらに懸念されるのは、IEEE-ISTASの査読付き2025年論文で、わずか5回の反復プロンプトの後に重大な脆弱性が37.6%増加したことが記録されている点だ。これは、モデルにコードを洗練させればさせるほど、セキュリティの状況が悪化することを示唆している。

こうした問題が時間とともに積み重なれば、従来の開発よりも総コストは高くつく。しかし、長期的に考えるのではなくファストファッション的に考えるなら、そんなことは問題にならない。もちろん、これは経験豊富なエンジニアがこれらのツールをうまく使えないという意味ではない。彼らなら確実に使いこなせる。問題は、同じツールがそもそも「良いもの」が何かを知らない誰かによって使われ、しかもその下流にもそれを知る人が誰もいない場合に何が起きるかだ。出力は動くし、一見それっぽいという基本的なテストに合格し、本番へ出荷され、何かが大きく破綻したときに初めて表面化するようなアーキテクチャ的・セキュリティ的な負債を積み上げていく。

補足：業界には、とりわけAIツールベンダー側に、AI支援開発は天井を下げるというより床を引き上げるのだ、というもっともらしい主張もある。この見方によれば、ソフトウェアの中央値は昔から凡庸であり、締め切りに追われた疲れた人間が、Stack Overflowからあまり考えずにコピペし、ガムテープでどうにか保たせてきたものだ。LLMが同程度の品質の出力を何分の一かの時間で出すなら、何も悪化していない。単にボトルネックを取り除いただけだ、というわけだ。

この主張は、私には半分は説得力があり、半分は主張する側にとって都合がいいだけに思える。確かに、多くのソフトウェアは元々あまり出来が良くなかった。しかし同様に、何をしているか少なくとも理解している人間が書いたダメなコードと、何も理解していないシステムが書いたダメなコードには違いがあるというのも事実だ。前者は疑問を呈し修正できるが、後者は複利のように膨らんでいく傾向がある。なぜなら、出荷する本人がそれがなぜそう動くのかを答えられないからだ。少なくとも今のところは。

Vibeライティングされた書籍

ソフトウェアだけがこうなっているわけではない。書籍業界はむしろ先行していると言える。推計によれば、毎月1万から4万冊ものAI生成書籍がAmazonのKindle Direct Publishingプラットフォームにアップロードされており、その多くはモデルが関与したことの開示すらない。2023年6月には、Kindle Top 100のベストセラーリストに人間が書いた本はわずか19冊しかないことが判明している。Amazonはその後制限や開示要件を導入したが、取り締まりはまだらで、著者たちはこの緩やかな洪水と見える事態への抗議を続けている。

特に大きな打撃を受けているカテゴリには、旅行ガイド（著者が訪れたこともない都市の生成ガイドで、存在しないレストランを推薦する）、栄養・健康（存在しない研究への引用を伴う生成されたダイエット助言）、そしてパブリックドメインのリライト（実際の著者が同意したことのない、認知度の高いタイトルに便乗した生成された翻案）などがある。旅行ガイドはとりわけ、読者が記載された住所に行ってみると空き地だった、あるいは人間に勧めるはずのない地域を歩かせるルート案内に従わされるといった、ちょっとしたジャンルと化したエピソードを生んでいる。

補足：ここでも擁護論は、書籍市場の底辺は昔から中身のない本で溢れていた、プリント・オン・デマンドは以前からある、ゴーストライターによるビジネス書や流れ作業的なジャンル小説は生成AIより何十年も前から存在した、というものだ。しかし新しいのは、低品質なコンテンツが今や生産されうる規模と、カタログの残りを押し流す速度だ。著者たちは、週末に100冊の新刊を出せる存在と棚のスペースを競っているのだ。

Vibe生成された記事と動画

2020年1月以降に公開された65,000本の英語記事を分析した2025年の調査によれば、インターネット上の新規記事の半数強がすでにAI生成だという。そして機械によって大量生産されているのは文章だけではない。YouTubeにも同様の問題があり、Guardianの分析によれば、世界で最も急成長しているチャンネルの約10%がAI生成コンテンツのみを扱っており、Shortsに限れば新規ユーザーに表示される動画の5本に1本以上が低品質なAI生成素材だという。

Vibe生成された音楽

高度に創造的で（少なくとも最近までは）人間によるプロセスだった音楽制作ですら、このTEMU化から逃れられてはいない。Spotifyは何年も前からゴーストアーティストのトラックを削除してきたが、生成ツールによって任意の量のそれっぽいLo-Fi系BGMを簡単に作れるようになってから、その規模は劇的に拡大した。同プラットフォームは1年間で7500万ものスパム的トラックを削除したと報じられており、AI生成バンドThe Velvet Sundownのような注目例は、正体が暴かれる前に100万回以上の再生を集めた。少なくとも一件の刑事事件では、AI生成音楽とボットによる再生だけで800万ドル以上の不正なロイヤリティが築かれていた。

とはいえ、これをもってSpotifyを称賛すべきではない。というのも同社は、AIスパムと戦っているように見えるのは他人がそれで儲けようとしたときだけだからだ。

反撃……それとも遅延？

とはいえ、わずかな希望もある。AI生成記事へのエンゲージメントは2024年に約40%低下したと報じられており、一部の調査では人間が作ったコンテンツは依然としてAI生成素材の約5.4倍のトラフィックを得ているという。消費者の約38%がAI生成コンテンツに対してあからさまな懐疑を示しており、人々は依然として注意という形で投票しているように見える。その投票がプラットフォームレベルのインセンティブを動かすほど強力かどうかは別の問題であり、個人的には特に楽観していない。とりわけ、プラットフォームはどちらに転んでも利益を得るのだから。

例としてNetflixを挙げてみよう。私の理解では、WGAの2023年の合意は、スタジオがAI生成素材を原作素材として扱うことや、AIを使って脚本を執筆・リライトすることを明確に禁じており、Netflixも少なくとも2026年5月まではその合意に縛られているようだ。Netflix自身の生成AI制作ガイドラインもこれを反映しているように見え、AIはアイデア出しでは許容されるが、その使用は組合に代表される脚本家、俳優、スタッフが本来担う仕事を、正当な承認なしに置き換えたり実質的に影響を与えたりするものであってはならないとしている。表面的には安心できるように聞こえるが、私見ではこれは制限ではなく遅延に過ぎない。

同じ会社が、制作パイプラインでAIに全面的に賭けると公言し、世界のVFX労働者の相当部分を危険にさらすことを明言したVFX自動化プロバイダーと契約を結び、すでに少なくとも一つの番組（El Eternauta）で生成AIを使用している。軌跡はこう見える。「契約上許されているあらゆる場所で今すぐAIを使い、契約が許し次第残りの領域にも拡大し、その結果をdEmOcRaTiZaTiOn Of CrEaTiViTy（創造性の民主化）として喧伝する」。

この先を見据えて

そこで、私の具体的で（そしておそらく間違っている）予測を述べよう。

今後5年から10年のうちに、Netflixはカタログの大半がAI生成またはAI支援コンテンツで構成されるベーシックなサブスクリプション層を提供するようになるだろう。想定しているのは、少ないテンプレートの組み合わせで各エピソードがリミックスされる生成プロシージャルドラマ、なんとなく教育的だが一時間後には何も覚えていない生成キッズコンテンツ、既存IPのプロットを再利用し残りを雰囲気で埋めた生成ドラマだ。視聴者は最低の月額料金を払い、プラットフォーム側は制作コストをほぼゼロに抑えて巨大なマージンを確保する。消費者にとって唯一の「利点」は広告の中断がないことだろう。というのも、ターゲティング広告が視聴中の番組にリアルタイムでシームレスに挿入され、ストーリーに自然に溶け込み、気づかないうちにあなたの猿の脳を刺激して、爽やかなソーダや甘いおやつを欲しがらせることになる可能性が高いからだ。

一方でプレミアム層は、人間が作った層になる。クレジットされた人間の脚本家によるシリーズ、クレジットされた人間の監督による映画、そして肖像がデジタル複製されていない人間による演技だ。マーケティング上は人間製とは呼ばないだろう。そう呼べば安い層がそうでないことを認めることになるからだ。しかし価格差がそれを明白にする。あなたはずっとNetflixが売ってきたものと同じものに、余分にお金を払うことになる。ただし今度はそれが贅沢品として位置づけられるのだ。

もちろん、これが起きると証明できるわけではない。Netflix自身のガイドラインは、文面上はそれを禁じているし、WGAの合意が遅延を強制した。しかし契約上の障壁が取り除かれれば、その財務的論理に抗うのは難しい。ほんのわずかなコストで十分良いコンテンツを作れるストリーミングサービスは、やがて必ずそれを試すだろう。そして念のため言っておくと、Netflixは一例に過ぎない。同じ論理は、サブスクリプションモデルとマージンを持つ他のあらゆるコンテンツ配信ビジネスにも当てはまる。

手作りの品

もしこの二層化した世界の人間側がどう見えるかを知りたいなら、既存の最良のモデルは手工芸品やハンドメイド商品の市場だと私は思う。2025年時点で、その市場は世界で約9,870億米ドルと推定され、2035年までに1兆ドルを超えると予測されている。データによれば米国の消費者はすでに支出の約5分の1を大量生産品ではなくハンドメイド品に費やしており、世界的に手工芸品の買い手の半数以上が、エコ認証を受けた製品や天然素材で作られた製品を好むと示している。これはTEMUがやってきたこととは正反対の方向だ。

この市場が示しているのは、工業化が職人を消し去るのではなく、別のセグメントへと押しやるということだ。工場が椅子を安く作り始めても、人々が手作りの椅子を買うのをやめたわけではない。大衆がより安い大量生産品を選ぶ一方で、小規模だが根強い少数派の買い手は人間の手によるバージョンを求め続け、やがてそれにプレミアムを払うことをいとわなくなった。

仮説が正しければ、ソフトウェアエンジニアリング、執筆、演技、イラストレーション、作曲、その他コンテンツを生み出す職業も同じような道をたどるだろう。市場の大半は安価で大量生産された生成の層へ移行し、より小さな市場が、思考し、呼吸し、独自の意見を持つ人間の産物であることが検証可能な仕事を評価し、対価を払い続ける。私たちはすでにその兆しを目にしている。人間のみによるコンテンツを（プレミアム価格で）明示的に宣伝するエージェンシーや、AIライブラリ音楽と区別するために楽曲を人間作曲と表示するライセンス会社などだ。

興味深い問いは、この分断が起きるかどうかではなく、市場のどれだけがどちらの層に行き着くのか、そして上位層がどれだけ頑健であり続けるかだと私は思う。

超加工

この喩えには、より暗いバージョンもある。米国と英国の平均的な成人の1日のカロリー摂取量の約57〜60%は、現在超加工食品から来ている。22の欧州諸国では、その割合は14%から44%に及び、それは主に地域の食文化がどれだけ守られてきたかによる。これらの食品は安く、豊富で、どこでも手に入り、代替品より栄養的に劣っていることは長く研究されてきた。人々はそれを知っていながら、それでも食べる。しばしば代替品の方が時間がかかり、高価で、見つけにくく、教わってこなかったスキルを要するからだ。

AI生成コンテンツも同じ道をたどっているのではないかと私は疑っている。安い層は周辺的なオーディエンスに向けた周辺的な現象ではなく、デフォルトになるだろう。ほとんどの人々が消費するソフトウェア、エンターテインメント、ニュース、情報のあり方の基盤になる。なぜなら、それがプラットフォームが提供するものであり、月額サブスクリプションでカバーされるものだからだ。代替品をわざわざ探すほど気にかける人もいるだろうが、大多数はそうしないだろう。超加工食品について知っていることを知りながら、買い物の習慣を変えない大多数の人々と同じように。

でも、もしかしたら私は間違っているのかもしれない

これらすべてに対するおそらく最も強力な反論は、LLMはまだ初期段階にあり、品質の問題は一時的で、数世代のモデルを経ればAI生成と人間生成の仕事の差は、区別が意味をなさなくなる、あるいは区別すら不可能になるほど縮まる、というものだ。もしそれが真実なら、二層化の構図は崩れる。上位層を正当化する品質の差がなくなり、残るのはマーケティング上の違いだけになるからだ。手作りの喩えは崩壊する。なぜなら、手作りの椅子とは異なり、生成された小説は、もはや見分けがつかなくなった時点で、書かれた小説と機能的に同一だからだ。

しかし、私はそうなるとは疑わしく思っている。私が予想より速く差が縮まるのを見てきたタスクもあるが、差が頑固に縮まらず、失敗がより巧妙になっただけのタスクもある。私の直感では、範囲が狭く明確に区切られた技術的な仕事では、差はさらに縮まるだろう。一方で、一貫した世界観や生きた経験、そして何より感情に依存する長編の仕事では、そうはならないだろう。モデルはそれらのどれも持っていないからだ。

第二の反論は、消費者の反発が私が考えているよりも強くなるというものだ。AI生成記事へのエンゲージメントの40%低下は無視できるものではなく、ユーザーがAIに溢れたフィードにペナルティを与え始めれば、プラットフォームのインセンティブも変わるかもしれない。Appleなどがコンテンツの来歴や開示の仕組みの実験を始めており、もし広く採用されれば、最悪の洪水は食い止められる可能性がある。だから、私が免疫反応を過小評価している可能性はある。

第三の反論は、安い層自体が持続可能ではないかもしれないというものだ。AI生成コンテンツをAI生成コンテンツで学習させるとモデルの品質が劣化し、より広いエコシステムが自らの学習データを汚染してしまうからだ。もしそれが支配的な力学となるなら、安い層は定着する前に崩壊するかもしれない。

これら三つの反論はいずれも妥当で、それなりの重みがあると私は思う。しかし私見では、どれもTEMU化は起きないと確信させるほど強力ではない。それらがどう起きるかを調整することはあっても、おそらくそれを止めることはないだろう。

まとめ

当初、この文章に楽観的な結末を探そうとしていた。ソフトウェアエンジニアリングはなくならない、作家もなくならない、俳優もなくならない、と言えるような結末を。しかし、それらすべてが真実だと私は思う一方で、それをこれまでと同じ姿であり続けると混同すべきではない。

私が予想し、ある程度すでに目にしているのは、ソフトウェアや書籍、音楽、脚本、その他人間が作る仕事を生み出す人々が消えるのではなく、より狭く、より専門化され、より「贅沢品」としてコード化された市場の一角へと追いやられるということだ。それは、手製本のノートやインディペンデントなレコード店、自家製粉する小さなベーカリーがたどった道とほぼ同じだ。そこでも生計を立てることは依然として可能であり、時には非常に良い生計にもなるだろう。しかしその姿は大きく異なり、これらの分野で生計を立てる人はおそらく減るだろう。私の見立てでは、彼らはニッチの中ではより目立つ存在になるが、その外では目立たなくなり、自らの価値を来歴（プロヴェナンス）に基づいて訴えることになる。つまり、これは自分のしていることを分かっている人間によって作られたものであり、それは見れば分かる、という根拠だ。

一方で、大多数の人々が触れるものの大半は、私の予想では生成されたものになるだろう。その一部は悪くないだろうし、一部は超加工されたものになるだろう。冷凍ラザニアが超加工食品であるのと同じ意味で。それは機能的で、カロリー的には十分な食べ物だが、あなたのイタリアのおばあちゃんが作っていたものではない。それでも人々はそれを食べるだろう。そこにあるから、安いから、便利だから、そして代替品が日々の生活から価格的に締め出されてしまったからだ。

これに「必然性」はない。なぜなら、まだ何も本当には決まっていないからだ。プラットフォーム、規制当局、消費者、そして実際に仕事をする人々によってなされる選択が、どちらの層がどれだけ大きく、どれだけ持続的になるかを形作る。ハンドメイド市場が存在するのは、それを成り立たせるだけの十分な人々がハンドメイド品を買い続けたからだ。ソフトウェアやデジタル商品の人間製の層も、十分な人々がそれを買い続ければ存在し、そうでなければ存在しない。もしあなたが意図と視点を持って手作業でコードや物語、音楽、脚本を書く人なら、LLMがあなたの仕事を奪うとは私は思わない。しかし、あなたが活動する市場の形を変え、望むと望まざるとにかかわらずあなたを上位層へと押しやり、なぜあなたの仕事がその価格差に見合う価値があるのかを、より意識的に説明することを求めてくるとは思う。

私たち残りの者にとって、より興味深い問いは、どちらの層から消費することを選んでいるのか、そしてそれを意図して選んでいるのか、それともアルゴリズムがデフォルトで提供したものだから選んでいるだけなのか、ということだ。答えについては思うところがあるが、間違っていてほしいと心から願っている。