DS4について一言
DwarfStar 4(https://github.com/antirez/ds4)がこれほど急速に人気を集めるとは思っていなかった。単一モデルの統合に特化したローカルAI体験が求められていたことは明らかだ。そしていくつかのことが同時に起きた。ローカル推論の常識を塗り替えるほど大きく、しかも十分に高速な準フロンティアモデルが登場したこと。さらに、2ビット/8ビットという極端に非対称な量子化レシピとの相性が極めて良く、96GBや128GBのRAMがあれば動かせてしまうこと。もちろん、ここ数年でローカルAIムーブメントが積み重ねてきた経験もある。それをGPT-5.5のおかげで素早く活かすことができたのだ(そうでなければ1週間でDS4を作ることなど不可能だし、この助けがあってもLLMに優しく語りかける方法を知っている必要がある)。
この1週間は面白くもあり、疲れる1週間でもあった。平均して1日14時間は働いた。Redisの初期から、普段は1日4〜6時間程度が平均なのだが、Redisの最初の数ヶ月もこんな調子だった。
では、次はどうなるのか。このプロジェクトはDeepSeek v4 Flashで始まって終わりなのか? いや、モデルは時間とともに変わっていく。僕の構想では、そのポジションを占めるのは、ハイエンドなMacや「GPU in a box」的な機材(DGX Sparkやそれに類するセットアップ)で*実用的に速い*、その時々の最良のオープンウェイトモデルだ。次の候補もやはりDeepSeek v4 Flash自身だと賭けている。近くリリースされる新しいチェックポイントで、できればコーディング用に特化してチューニングされたバージョン、そしてもしかしたら他のエキスパート派生(MoEのエキスパートという意味ではない)も出てくるかもしれない。ローカル推論において、ds4-codingやds4-legal、ds4-medicalといったモデルを用意するのは、考えてみればとても理にかなっている。質問に応じて必要なものをロードすればいいのだから。
ローカル推論で遊び始めてから(最初期から触っている)、普段ならClaudeやGPTに頼むような本気の用途でローカルモデルを使うようになったのは今回が初めてだ。これは本当に大きなことだと思う。ベクトルステアリングを使って、LLMをもっと自由に使える感覚を味わえたのも初めてのことだ。DeepSeek v4 Flashは本当に素晴らしいモデルで、疑いようがない。優秀だが小規模なローカルモデルの体験をA、オンラインで使うフロンティアモデルをBと想像してみてほしい。DS4はAよりもはるかにBに近い。正直、次のリリースが待ちきれない(ところで、DeepSeekに感謝したい)。
あの慌ただしい最初の数日を経て、今後はプロジェクトとして次のことに注力したい。品質ベンチマーク、プロジェクトの一部としてのcoding agentの追加の可能性、自宅にCIテストを回せるハードウェア環境を整えて長期的な品質を担保すること、さらなる移植対応、そして最後に、しかし非常に重要な点として、分散推論(直列と並列の両方)だ。
ひとまず、これまでのすべてのサポートに感謝したい。本当にありがたく思っている :) AIは、単に提供されるサービスとしてだけ存在するには重要すぎるものだ。
記事をランダムに読む