Dangerous Technology For Americans Only

Armin Ronacher

危険なテクノロジーはアメリカ人専用

原文は Armin Ronacher により に公開されました。 このブログを購読する

いまX(旧Twitter)では、Anthropicが米政府の輸出管理指令によりFableとMythosへのアクセス停止を命じられたことをめぐって、ちょっとしたざまあみろ的な空気が流れている。Anthropicとその経営陣はこれまで、自社のテクノロジーは危険であり厳格な管理と規制が必要だと盛んに説いてきた。米政府がその言い分を真に受けて「外国籍の者には提供を停止せよ」と命じたのだから、人々がその状況を揶揄したくなる気持ちも分からなくはない。

その反応は理解できる。だが、そこに長くとどまるべきではないとあえて言いたい。なぜならそれは巨大な目くらましだからだ。重要なのは、Anthropicの「安全性」という言葉がブーメランになったことではない。米政府が引いた一線だ。曰く、このテクノロジーはあまりに強力だから、アメリカ人だけが持つべきだ、と。

我々は分断された世界へとまっしぐらに進んでいる。本来なら、誰にとっても危険すぎるモデルがあるとすれば、それはアメリカ人にとっても危険なはずだ。にもかかわらず、米国はこれらのモデルを管理すべき兵器のように扱っている。問題は能力だけではない。人種差別であり、ナショナリズムだ。持っているパスポートが「違う」だけで、信頼に値しないとみなされる。これは安全性とはまったく別の話であり、ヨーロッパ人はこの点を注視すべきだ。

安全性と国家統制

Anthropicの説明によれば、この指令は米国内外を問わず外国籍の者に適用され、Anthropic社内の外国籍従業員さえも対象になる。考えてみれば驚くべき境界線だ。「敵対的な政府には売るな」から、「国籍そのもの」が境界線へと変わったのだ。これは米国内外のヨーロッパ人にとって、率直に言えばあらゆる非米国籍者にとって、警鐘であるべきだ。

AIの安全性をめぐる言説の多くは、普遍的な装いをしている。人類、破滅的リスク、安全策、責任ある展開――。Anthropic自身の文章でさえ、出だしはそうだ。だが規制の話になるたびに、必ず国家安全保障の響きが混ざり、「間違った手に渡ってはならない」という論調になる。これはAnthropicだけの問題ではない。米国を拠点とするAIをめぐる言説全体だ。その根底には、米国は道徳的に優位であり、他者は信頼できないという前提がある。他国は権威主義的で、自由が欠けている、という決めつけだ。

それは私たちを居心地悪くさせるはずだ。ヨーロッパ人だけでなく、とりわけ私たちを。これは規制でどうにかできる問題でもない。欧州のテクノロジー政策は、この事態にまったく備えていない。なぜならこれは規制の問題ではなく、力と権力の問題だからだ。そしてそれこそが、ヨーロッパに欠けているものだ。

ヨーロッパは長年、巨大な米テック企業を規制しようとしてきた。時には正当な理由からだ。私もそれ自体に反射的に反対しているわけではない。DMA(デジタル市場法)が重要なのは、アクセスが重要だからだ。ユーザーは自分のデバイス、データ、使うソフトウェアに対して主体性を持つべきだ。だが規制は、能力の代わりにはならない。そして私たちに足りないのはまさにその能力だ。規制で扉をこじ開けようとしても、その扉自体が米中企業からしか提供されないのであれば、大した成果にはならない。

また、これはカネと力の交渉なのだということを、ナイーブに捉えてはならない。米国がその地位にいられるのは、強大な軍事力を持っているからだ。米国は世界のどこであろうと国を爆撃し、国際的な交易路を封鎖させ、それでも咎められずに済む。それが真のレバレッジだ。

嗚呼、ヨーロッパ

ヨーロッパの米国への依存は、もはや無視できない水準に達している。米国のクラウドプロバイダー、OS、開発者向けプラットフォーム、そして今やAIモデルや衛星インターネットに依存している。制御できないグローバルな半導体サプライチェーンにも依存している。最先端AIへのアクセスが米国の国家安全保障政策の問題となれば、ヨーロッパはその対話において対等な存在ですらなく、市場としてすら扱われないかもしれない。

屈辱的な立場だが、完全に自ら招いた結果だ。

欧州の市民も政治家も、いまだに失敗をEUのせいにすることから抜け出せていない。私たちは分断された市場を作り維持しておきながら、単一市場があるかのように振る舞ってきた。会社設立も、採用も、株式報酬も、税制も、公証も、KYCも、銀行も、国境を越えるサービスも、必要以上に困難なまま放置し、そのルールを互いに競わせてきた。欧州レベルだけでなく、加盟国それぞれの中でもだ。私たちは次の世代が偉大な企業を築くことを信じる代わりに、リスクを嫌い既得権にしがみつくトラストや既存大企業を保護してきた。手続きが主体性の低さの言い訳になる文化を作り上げた。新しい大企業を作ることを困難にしておきながら、最も野心的な起業家が別の場所へ移ったり、米国で法人を設立したりすると驚いてみせるのだ。

非常に大きなテクノロジー企業を築きたいと考えるヨーロッパ人は、ますます米国へ移っている。資本市場が優れており、スタートアップのインフラが優れており、従業員への株式付与がよりよく理解されているからだ。そうする人を責める気はないし、私自身もそうしている――私たちの持株会社はデラウェアで法人化している。本気で資金を調達し、積極的に採用し、速く動こうとすれば、米国が街で唯一の選択肢に見えることが多い。率直に言えば、実際にそうなのだから。

だが、これこそが私たちがすでに危険な負のスパイラルに陥っている理由だ。エコシステムが弱いから人材が去り、人材が去るからエコシステムは弱いままなのだ。インフラが世界を作る。優れたプールを作れば、優れたスイマー世代が育つ。

当面の課題はシンプルだが居心地が悪い。ヨーロッパ人は、アメリカの引力に屈しない程度に自分たちを信じる必要がある。創業者やテック従業員として米国へ移るのは合理的であり、個人としてはしばしば正しい決断だ。だが野心あるすべての人がヨーロッパを見限れば、ヨーロッパは本当に見限られた場所になる。主体性のある人全員が去れば、システムを形作るために残るのは、現状のシステムに最も安住している人々だけだ。そうなって何も変わらなくても、驚くべきではない。

ヨーロッパに必要なのは、より多くの野心、より多くの当事者意識、より多くの切迫感、そして築こうとする意志だ。諦めは少なくしなければならない。規制を戦略と、依存を美徳と混同するのをやめる必要がある。ルールが主に保護主義として機能している領域では規制緩和が必要だ。現代のテクノロジーが求める規模で企業に資金を提供できる資本市場が必要だ。従業員による保有が、珍しいものではなく当たり前になる必要がある。サービスにおける本物の単一市場が必要なのだ、単なる演説ではなく。国々が「欧州の利益のため」と主張しながら互いに争うのをやめる必要がある。

何より重要なのは、政治家のせいにするのをやめることだ。あまりに多くのヨーロッパ企業が、自らの選択でその官僚主義を増長させている。彼らは書類の山であなたを溺れさせる。かつて私はオーストリアの小売店で120ユーロのランプ1つを引き取るのに、わずか15分後に店頭で受け取るだけなのに4ページの契約書に署名させられたことがある。ヨーロッパのイベントで講演を引き受ける際にも、複雑な権利放棄書を送りつけられなければ話が進まないことがある。すべては起こりうる不利益に対する書類上の自己防衛だ。

影響力を行使する力を持たないとき、少なくともなぜ、どこで物事がうまくいっていないのかを理解すべきだ。あまりに多くの起業家が、加盟国に起因する失敗をEUの規制のせいにしている。EUの規制は、同じ経済圏の中で自国の産業を優遇しようとロビー活動する国々の間の民主的プロセスの結果だ。どれだけEUを廃止したところで、この厳しい現実は変わらない。これを最もよく示しているのが、EU域内での国境を越えたM&Aができないことだ。それを阻んでいるのはEUではなく、損をする側の国なのだ。

ヨーロッパを強くすることは必要だ。弱さは私たちを駒にするからだ。築けず、資金を供給できず、連携できず、自らの利益を守れないヨーロッパは、対等には扱われない。規制で迂回され、輸出管理で迂回され、事後に相談されるか、そもそも相談すらされないだろう。

アメリカという罠

私が言いたい教訓は、ヨーロッパが単に米国のコピーになればよいということではない。米国はヨーロッパが解決できていないいくつかのことを解決してきた。深い資本市場、はるかに強いオーナーシップの文化、リスクに対する高い寛容度、そしてなぜできないかを説明するのではなく、どうやって前進を可能にするかを考えようとする制度。それに、ヨーロッパでは比べものにならないほどの国内統合も達成している。莫大な優位性だ。

だが、あらゆる面で米国流の道が健全とは限らない。米国は紛争や戦争の多い道を選びがちで、国内の社会的分断や深刻な不平等も抱えている。権力は大統領や富を持つ人々へと集中し、市民から遠ざかる。一方の失敗を他方の失敗と交換しているに過ぎない。結局は米政府の気まぐれと、その厳格な規則や規制に左右されることになる。米国は今日、自国民の権利すらかろうじて守っているに過ぎない。

両方の側面について正直であるべきだ。ヨーロッパは何も問題ないと見て見ぬふりをしても勝てないし、アメリカがすべてを解決したと思い込んでも勝てない。

私たちの周りで国際協力が崩れつつあるあらゆる兆候から、目を背けてはならない。米国は、ヨーロッパ人に直接影響する指令を実施する前に、もはや欧州政府と協議すらしない。最も古い同盟国の一つであるデンマークの領土、グリーンランドを奪取すると脅している。条約も、同盟も、制度も、すべての価値を失った。

私たち自身の人生が会社を作り、富を生み、人を雇い、ものを作ることに集中していたとしても、そうしたことすべてが重要なのだ。個人としての成功への道は一つのことだが、それは契約が機能し、ビザが機能し朝令暮改で変わることがなく、交易路が開かれ、決済システムが動き、家族が国境管理や戦争によって引き裂かれない世界があってこそ成り立つ。世界が混沌に陥れば、たとえ高給や株式、信頼してくれる投資家があったとしても、私たちの基本的なニーズが満たされているとは言えない。

活路は協力にある

ここで私がヨーロッパ人に求めているのは、米中と競争するためだけに尻を叩けということではない。結果としてそうなることを期待はするが、目標は決して、国際関係の悪化を長期的に受け入れることであってはならない。

私はオープンソースが重要であり、国際協力が重要であると心から信じている。それはあらゆる問題への魔法の答えではないが、権力の完全な集中へと自然に行き着かない、数少ない道の一つだ。

もし最先端のAIが大企業と政府だけが制御できるものになれば、他のすべての人は彼らの判断に依存することになる。それは望ましくない状況だ。企業は、どれだけ構造が洗練されていようと、自らのインセンティブを最適化し、政府はより多くの権力を最適化する。今私たちは、汎用的な能力へのアクセスが、途方もない力を持つ少数のアクターによって仲介される道を進んでいる。

AIに本質的なリスクがないふりをするほど、私はナイーブではない。オープンなシステムは厄介で、悪用される可能性があり、デュアルユースの能力について不快な問いを生む。それを軽視したいわけではないが、クローズドなシステムにしたところでそれらの問いが消えるわけでもない。決定権をより少数の手に集めることは、私が信じる解決策ではない。そして私が米国に住む米国市民だったとしても、同じ意見を持っただろう。

大きなブロック同士を恒常的に争わせるような道は、個人の権利を奪うという卑劣な下流効果をもたらす。非米国籍者には適用されない自由について米国が語るのはまったく無意味であり、それはヨーロッパや他のどの国についても同じだ。私たちはこうした制約を一時的に受け入れることはあっても、それがもたらしうる非人道的な影響を考えれば、長期的に受け入れることは断じてできない。

このテクノロジーが善のために使われうると信じるなら、広範なアクセスが重要であり、私たちの目標は国際的な法の支配を回復することであって、さらに弱体化させることではない。もし私たちが他国の友人たちと、冷戦であれ熱戦であれ戦争状態に陥るようなことがあれば、私たちは社会として失敗したことになる。

私たちが立ち戻るべく努力すべき世界は、国際協力と、最も良い意味でのグローバリゼーション、そして人間の尊厳に支えられた世界だ。インターネットは私たちの生活を不可逆的に国際的なものにした。毎日、人々は国境を越えて恋に落ち、言語を越えて結婚し、大陸を越えて移り住み、訪れることすらない国の、会ったこともない友人たちと働いている。そんな世界で特定の一国に強く同一化することは、愚かなことだ。

この10年で、私がオープンソースを通じて知り合った多くの人々が、直接戦争に巻き込まれた。この連鎖を断ち切る道があると信じたい。最も豊かな国々が武装し、未来と物語を誰が支配するかを巡って争うのを許すのではなく、私たちは破綻国家を修復し、人々の間の信頼を再構築し、再び協力する方法を見つけるべきだ。もちろん、ヨーロッパが駒でなくなるために強くなることを私は望んでいる。だが、その一時的な必要性を最終目的地と勘違いするようなことがあれば、私は深く失望するだろう。

活路は、アメリカの覇権でも、中国の覇権でも、ヨーロッパの覇権でもない。活路は、代替案が戦争になる前に、協力へと這い上がることだ。

人工知能は、私たちが持ちうる協力のための最も強力な道具の一つになりうるにもかかわらず、急速に軍事化と国家間競争の新たな手段となりつつある。私たちはそれを、社会や言語を越えて人々が互いを理解するのを助けるために使うべきであり、誰がそれを支配するかを巡って争うために使うべきではない。

この記事は「muse-spark-1.2-contributor」を使用して翻訳されました。

コメント