I love LLMs, I hate hype

George Hotz

LLMは大好きだ、ハイプは大嫌いだ

原文は George Hotz により に公開されました。 このブログを購読する

このブログを読んでいると、僕がAIについてどれだけ有頂天になっているかを過小評価してしまうかもしれない。2007年から2014年まではハッキングをやっていて、それ以降は僕のキャリアすべてをAIに捧げてきた。進歩が大好きだ。新しいLLMも、自動運転車も、動画生成モデルも、コーディングエージェントも、すごく楽しみにしている。先週、ローカルのGLM-5.2でopencodeを動かすLinuxマシンをセットアップしたんだけど、install tmux with the geohot configurationと言うだけで本当に動くんだよ、すごい。Linuxデスクトップの年がついに来た!


嫌いなのは二つある。一つは、「窓が閉じつつある」とか「永遠の下層階級」とか「取り返しがつかないほど遅れてしまう」とかいう、延々と続くクソみたいな話だ。これはネガティブなハイプで、真実でないだけでなく、君に自分自身について気分を悪くさせて、クソみたいなサンフランシスコに引っ越させようとするために作られていることの方が多い。あそこでは本当に、連中が言う通りに何もかもがクソなんだ。

二つ目は、「ちょっと気の利いたオートコンプリートだよね、賢いコンパイラだよね、ちょっとマシな検索エンジンだよね」から、「マジで光円錐全体を支配するぜ、ブロ、SFにいなくて然るべきパーティーにいなかったら、ある日空に閃光が走っても何が起きたのかさえわからず、ただ全てが一変したんだ」みたいな藁人形的な飛躍だ。僕は持っているものすべてを賭けても、そんなことは起きないと言える。そんなことを広めている連中はひどい人間だが、救いは彼ら自身がいつも心の中でそう感じているということだ。


超知能についての2016年のクールなプレゼンがこれ。機械が世界を乗っ取る1991年の映画がこれ。ある種のカルトは、自分たちがいようがいまいが起きていることの手柄を主張したがるが、これがフロンティアラボのバリュエーションに対する僕の主な反論だ。AIがそれほどの価値を生み出さないという話ではなく、彼らがその価値を手中に収められないという話なんだ。

高尚な安全性がどうとか中国がどうとかいうクソみたいな話で飾り立てようとしているが、オープンソースに反対する議論の核心はコモディティ化への恐怖だ。AIは、彼らが起こしているというより、ムーアの法則とコンピューティング全般の進歩によって主に起きていることだ。もちろん、君にそれを知られたくない強いインセンティブが彼らにはある。知られてしまえば、君が彼らに何十億ドルも渡したくなくなるかもしれないからだ。


The Eternal Sloptemberで、モデルはプログラミングできないと言ったのは少し厳しすぎたかもしれない。実際に起きているのは、プログラミング自体が変わりつつあるということだ。コンパイラはプログラミングできるだろうか?リーナス・トーバルズの言葉に、エージェントはプログラミングを10倍生産的にするが、コンパイラは1000倍生産的にするというものがある。10倍も1000倍も極端な見積もりだと思うが、今では自分も使い方が上達してきて、モデルからある程度恩恵を受けているとかなり確信している。これは新しいスキルで、ずっと試し続けてこなかったわけでもない。すごく慎重になる必要がある。認知的疲労を増やすこともあるし、バイブコーディングされたものは相変わらずゴミの山だ(生産性が上がったなら生まれるはずの、あの魔法のような新しいソフトウェアはどこにあるんだ?)。でもモデルは、置換やStack Overflow、あるいは今まで書き方を覚えられず、これからも覚えることはないであろう正規表現と同じように役に立つ!

AIはコンピュータ革命の続きだ。僕はコンピュータが大好きでたまらない。

この記事は「muse-spark-1.2-contributor」を使用して翻訳されました。

コメント