Dangerous Technology For Americans Only

Armin Ronacher

危險科技,僅限美國人使用

原文由 Armin Ronacher 發布,訂閱此部落格

推特上現在瀰漫著一股幸災樂禍的氛圍,原因是以 Anthropic 被美國政府的出口管制指令要求暫停對 Fable 與 Mythos 的存取。Anthropic 及其高層過去花了大量時間與精力,將自家技術描述為危險、需要嚴格管控與監管的對象。如今美國政府似乎把這套說法當真,要求他們對外國公民關閉存取,我能理解為什麼有人會拿這件事來嘲諷。

我能理解這種反應,但奉勸大家別在這上面糾結太久,因為這完全是個巨大的干擾。重點不在於 Anthropic 過去那套安全說詞反噬了自己,而在於美國政府正在劃下的那條界線:這項科技顯然已經強大到只有美國人才配擁有。

我們正走在一條通往分裂世界的清晰道路上。照理說,如果一個模型對所有人都太危險,那它對美國人也應該同樣危險。但美國卻把這些模型當成需要管控的武器。這不只是能力問題,更是種族主義與民族主義的問題。只要你拿錯了護照,你就不值得被信任。這跟安全完全是兩回事,歐洲人應該對此高度警覺。

安全與國家管控

根據 Anthropic 的描述,這項指令適用於所有外國公民,無論他們身在美國境內或境外,甚至包括 Anthropic 內部的外籍員工。仔細想想,這是一條極其驚人的界線。我們已經從「不要把這個模型賣給敵對政府」演變成以國籍本身作為劃分的標準。這應該給所有在美國境內外的歐洲人——坦白說,是所有非美國公民——敲響警鐘。

許多 AI 安全論述都把自己包裝成普世性的:為了人類、為了防範災難性風險、為了安全防護、為了負責任的部署。就連 Anthropic 自己的文章一開始也是這樣寫的,但每當談到監管,論調中總會帶有國家安全的弦外之音,強調絕不能讓技術落入「錯誤的人」手中。不只是 Anthropic,整個以美國為中心的 AI 論述都是如此。其背後的預設是美國擁有道德優越性,而其他人都不值得信任,別的國家是威權的、缺乏自由的。

這應該讓我們感到不安,不只是歐洲人,尤其是我們。而且這也不是靠監管就能解決的局面。歐洲的科技政策對此完全沒有準備,因為這根本不是監管的問題,而是實力與權力的問題——而這正是歐洲所欠缺的。

歐洲花了多年時間試圖監管大型美國科技公司,有時理由也很充分。我並非本能地反對這麼做。DMA 很重要,因為存取權很重要。使用者應該對自己的裝置、資料與所使用的軟體擁有自主權。但監管無法取代實力,而我們恰恰缺少實力。監管或許能試圖強行打開大門,但如果那些門全都來自美國或中國公司,那其實也沒什麼用。

另外,我們也別天真地以為這只是金錢的談判,這更是武力的較量。美國之所以能處於這個位置,是因為它擁有強大的軍事力量。美國可以在世界任何地方轟炸他國、迫使國際貿易航線關閉,卻還能全身而退。這才是真正的籌碼。

唉,歐洲

歐洲對美國的依賴,已經到了無法再忽視的地步。我們依賴美國的雲端服務供應商、作業系統、開發者平台,如今還有 AI 模型與衛星網路。我們也依賴自己無法掌控的全球半導體供應鏈。如果取得前沿 AI 的權限成為美國國家安全政策的一環,歐洲在這場對話中連平起平坐的對手都算不上,甚至可能連市場都算不上。

這是個屈辱的處境,但卻是完全人為造成的。

歐洲公民與政治人物至今仍只會把失敗歸咎於歐盟,卻無法超越這種指責。我們打造並維持著支離破碎的市場,卻假裝自己擁有單一市場。我們讓公司設立、聘僱、股權報酬、稅務、公證、KYC、銀行業務與跨境服務,維持在遠比必要艱難得多的狀態,還讓彼此用這些規則互相牽制。不只是在歐洲層級,在每一個成員國內部也是如此。我們保護的是那些規避風險、根深蒂固的托拉斯與既有企業,而不是信任下一代去打造偉大的公司。我們創造了一種文化,讓流程成為缺乏主動性的藉口。我們讓打造新的大型企業變得困難重重,然後當最有野心的創辦人移往他處、或乾脆決定在美國註冊公司時,又表現得大感意外。

越來越多想打造大型科技公司的歐洲人移往美國。他們這麼做是因為那裡的資本市場更好、新創基礎建設更完善、員工股權也更被理解。我無法責怪任何這麼做的人,我自己也同樣如此——我們的控股公司就是在德拉瓦州註冊的。如果你想募集大筆資金、積極招募人才並快速推進,美國往往看起來是唯一的選項。坦白說:它確實就是。

但這正是我們已經陷入危險死亡螺旋的原因。人才因為生態系薄弱而離開,而生態系又因為人才離開而持續薄弱。基礎建設造就世界:蓋出優秀的游泳池,你就能培養出一代傑出的泳者。

眼前的任務很明確,卻令人不適:歐洲人必須足夠相信自己,不要向美國的引力投降。以創辦人或科技從業者的身分移往美國是理性的,就個人而言往往也是正確的決定。但如果每個有抱負的人都把歐洲視為無可救藥之地,那歐洲就真的會變成那樣。如果所有有行動力的人都離開了,留下形塑體制的,只會是那些對現狀最自在的人。到那時,我們真的不該對一成不變感到意外。

歐洲需要更多的野心、更多的主人翁意識、更多的急迫感,以及更強的打造意願。它需要更少聽天由命的心態。它需要停止把監管誤認為策略、把依賴誤認為美德。我們需要在那些主要淪為保護主義的領域鬆綁管制。我們需要能夠以現代科技所需規模來資助企業的資本市場。我們需要讓員工持股變得常態而非罕見。我們需要一個真正針對服務業的單一市場,而不只是口頭上的宣示。我們需要各國停止一邊聲稱為了歐洲利益行事,一邊彼此內鬥。

最重要的是:我們需要停止只怪政治人物。太多歐洲企業完全是出於自身選擇而疊加了官僚程序。他們用文書作業把你淹沒。曾有一次,我在一家奧地利零售商買一盞 120 歐元的燈,卻得簽一份四頁的合約,才能在 15 分鐘後到店取貨。有時我在歐洲活動想進行一場演講,卻得先被迫簽署複雜的權利讓渡文件。這一切都只是用文書作業來防範潛在風險。

當我們沒有影響力時,至少應該搞清楚問題出在哪裡、為何失敗。太多創業者把源自成員國內部的失敗歸咎於歐盟監管。歐盟的監管是各國在同一個經濟體內為自身產業利益遊說、經過民主程序後的結果。再怎麼廢除歐盟,也無法改變這個殘酷現實。沒有什麼比歐盟內部跨境併購的困難更能說明這一點。阻擋它的不是歐盟,而是那些居於劣勢的國家。

強化歐洲是必要的,因為弱小只會讓我們淪為棋子。一個無法打造、無法融資、無法協調、也無法捍衛自身利益的歐洲,不會被當成平等的對象。它只會被繞過監管、被出口管制排除在外,事後才被告知,甚至根本不被諮詢。

美國陷阱

我不希望大家得到的結論是,歐洲只要把自己變成美國的複製品就好。美國確實解決了一些歐洲尚未解決的問題。它擁有深厚的資本市場、強大得多的主人翁文化、對風險更高的容忍度,以及那些往往試圖讓進展成為可能、而非解釋為何不可行的制度。它還達到了歐洲無可比擬的內部整合程度。這些都是巨大的優勢!

但美國的道路並非在各方面都顯然是健康的。它往往伴隨著大量衝突與戰爭、嚴重的內部社會分裂與深刻的不平等。它將權力集中到總統與有錢人手中,遠離公民。你不過是用一套失敗換另一套失敗。你依然得看美國政府及其嚴苛規章制度的臉色。如今的美國,甚至連保障本國公民的權利都勉力維持。

我們應該對雙方都保持誠實。假裝歐洲一切安好,不會讓你獲勝。假裝美國已經找到所有答案,同樣不會讓你獲勝。

我們不能對國際合作正在我們周遭瓦解的種種跡象視而不見。美國在實施直接影響歐洲人的命令前,不再與歐洲政府商量。它甚至威脅要奪取格陵蘭——其最老牌盟友之一丹麥的領土。條約、聯盟與制度都已失去價值。

這一切都至關重要,即使我們個人的生活重心是打造公司、創造財富、聘僱人才與製造產品。個人邁向成功的道路是一回事,但它依賴的是一個合約能被履行、簽證能正常運作且不會朝令夕改、貿易路線保持暢通、支付系統得以運作、家庭不會因邊境管制或戰爭而破碎的世界。如果世界陷入混亂,光有優渥的薪水、股權或信任我們的投資人,並不代表我們的基本需求就能獲得滿足。

這就是為什麼強化歐洲不能是終極目標。一個更強大的歐盟,充其量只是對抗更黑暗世界的一種暫時防禦,而不能成為用歐洲民族主義取代美國民族主義的藉口。長遠的答案不該是讓越來越大的集團彼此爭鬥,爭奪誰能使用哪個模型、哪塊晶片、哪朵雲或哪條貿易航線。

出路在於合作

我在這裡並不是要求歐洲人把自己的爛攤子收拾好,僅僅是為了跟美國或中國競爭。也許我希望這會自然發展成那樣,但目標絕對不能是讓我們長期接受國際關係的惡化。

我真心相信開放原始碼很重要,國際合作也很重要。它不是解決所有問題的靈丹妙藥,但卻是少數幾條不會自然導向權力完全集中的道路之一。

如果前沿 AI 變成只有大型企業與政府才能掌控的東西,那麼其他所有人都將依賴他們的判斷而活。那是個糟糕的處境。企業會為自身誘因而優化,無論其結構多麼完善,政府則會為獲取越來越多的權力而優化。而我們現在正走在一條道路上:取得通用能力的管道,正由少數擁有巨大權力的行動者所把持。

我並非天真到假裝 AI 不存在固有風險。開放系統是混亂的,可能被濫用,也會帶來關於兩用能力的棘手問題。我不想輕描淡寫地帶過這些,但封閉系統也不會讓這些問題消失。把決策權集中到更少數人手中,並不是我認同的解方。即使我是住在美國的美國公民,我也會有同樣的看法。

任何讓大型集團彼此持續對抗的道路,都會產生剝奪個人權利的可鄙後果。美國去談論那些不及於非美國公民的自由,根本毫無意義,對歐洲或任何其他國家來說也是如此。我們或許可以暫時接受這些限制,但從長遠來看,我們絕對不能接受,因為它們可能帶來不人道的後果。

如果我們相信這項科技可以被用來向善,那麼廣泛的近用就至關重要,而我們的目標應該是重建國際法治,而非進一步削弱它。如果我們發現自己與來自其他國家的朋友陷入戰爭,無論是冷戰還是熱戰,我們作為一個社會就已經失敗了。

我們應該努力重返的世界,是一個擁抱國際合作、以最良善意義實現全球化、並尊重人性尊嚴的世界。網路已經讓我們的生活不可逆地國際化:每天都有人跨越國界相愛、跨越語言結婚、跨越大洲遷徙,並與可能從未謀面、位於可能永遠不會造訪的國家中的朋友共事。在這樣的世界裡,過度認同任何一個國家都是徒勞無功的傻事。

過去十年間,我透過開放原始碼認識的許多人,都直接被捲入了戰爭。我想要相信我們有辦法打破這個循環。我們應該修補失敗的國家、重建人與人之間的信任,並尋找再次合作的方式,而不是讓最富有的國家武裝自己、爭奪誰能掌控未來與話語權。當然,我希望歐洲變得更強大,這樣它才能不再淪為棋子,但如果我們把這種暫時的需求誤認為終點,我會感到深深的失望。

出路不是美國霸權、中國霸權或歐洲霸權。出路是在另一種選擇變成戰爭之前,努力爬回合作的道路。

人工智慧正迅速成為軍事化與國家對抗的另一項工具,而它本可以是我們所擁有最強大的合作工具之一。我們應該用它來幫助不同社會、不同語言的人們彼此理解,而不是為爭奪誰能掌控它而鬥爭。

本文章由 muse-spark-1.2-contributor 進行翻譯

留言