仅供美国人的危险技术
原文由 Armin Ronacher 于 发布,订阅该博客
Twitter 上现在弥漫着一种幸灾乐祸的情绪,起因是 Anthropic 被美国政府的出口管制指令击中,被要求暂停对 Fable 和 Mythos 的访问。Anthropic 及其高层曾花费大量时间和精力,把自家技术描述为危险的、需要严格管控和监管的对象。如今美国政府似乎当真采纳了这套说辞,要求他们对外国公民关闭访问,我能理解为什么有人会拿这件事开玩笑。
我理解这种反应,但我奉劝大家不要沉溺其中太久,因为这完全是在转移注意力。重点不在于 Anthropic 当初的安全话术如今反噬了自己,而在于美国政府正在划下的那条界线:这项技术显然强大到只有美国人才配拥有。
我们正清晰地走向一个分裂的世界。按常理,如果一个模型对所有人都太危险,那它对美国人来说也同样危险。但美国却把这些模型当作需要管控的武器来对待。这已不仅仅是能力问题,更是种族主义和民族主义的问题。只要你拿错了护照,你就不值得信任。这与安全完全是两码事,欧洲人应该对此保持高度警惕。
安全与国家控制
根据 Anthropic 的描述,该指令适用于所有外国公民,无论其身在美国境内还是境外,甚至包括 Anthropic 自己的外籍员工。仔细想想,这是一条令人震惊的界线。我们已经从“不得将此模型出售给敌对政府”,演变成了以国籍本身作为划分标准。这应该给美国境内外的欧洲人——坦率地说,给所有非美国公民——敲响警钟。
许多 AI 安全论述都把自己包装成普世性的:为了人类、为了防范灾难性风险、为了保障措施、为了负责任地部署。Anthropic 自己的文章一开始也是如此,但每当谈到监管时,总会带上国家安全的弦外之音,强调绝不能让技术落入“错误的人”手中。不只是 Anthropic,整个美国本土的 AI 讨论都是如此。其底层逻辑是美国拥有道德优越感,而其他人则不可信任,认为其他国家是威权的、缺乏自由的。
这应该让我们感到不安,不只是欧洲人,尤其是我们。这也不是靠监管就能解决的局面。欧洲的技术政策对此完全没有准备,因为这根本不是监管问题,而是实力和权力的问题——而这恰恰是欧洲所缺乏的。
欧洲多年来一直试图监管美国大型科技公司,有时理由也很充分。我并非条件反射地反对这一点。DMA 很重要,因为访问权很重要。用户应该对其设备、数据和所运行的软件拥有自主权。但监管无法替代能力,而我们恰恰缺乏能力。监管或许能强行撬开几扇门,但如果这些门都来自美国或中国的公司,那也无济于事。
也不要天真地以为这只是金钱的谈判,这更是武力的谈判。美国能处于这个位置,是因为它拥有强大的军事力量。美国可以在世界任何地方轰炸他国,可以强行关闭国际贸易航道而不用承担后果。这才是真正的筹码。
唉,欧洲
欧洲对美国的依赖已经到了越来越无法忽视的地步。我们依赖美国的云服务商、操作系统、开发者平台,如今又加上了 AI 模型和卫星互联网。我们还依赖着自己无法掌控的全球半导体供应链。如果对前沿 AI 的访问成了美国国家安全政策的一部分,欧洲在这场对话中连平等的参与者都算不上,甚至可能连市场都算不上。
这是一种屈辱的处境,但完全是人为造成的。
欧洲的公民和政客们仍然没能跳出把失败归咎于欧盟的思维。我们亲手建立并维持着支离破碎的市场,却假装自己拥有一个统一市场。我们让公司注册、招聘、股权激励、税收、公证、KYC、银行和跨境服务变得远比必要的更加困难,还让这些规则相互掣肘。这不仅发生在欧洲层面,也发生在每一个成员国内部。我们保护那些规避风险、根深蒂固的托拉斯和既得企业,而不是信任下一代去创建伟大的公司。我们造就了一种把流程当作低能动性借口的文化。我们让创建新的大型公司变得困难,然后又对最有抱负的创始人纷纷出走、干脆把公司注册在美国感到惊讶。
越来越多想打造大型科技公司的欧洲人选择移居美国。因为那里的资本市场更好,创业基础设施更完善,员工股权也更受理解。我不怪任何这么做的人,我自己也难辞其咎——我们的控股公司就注册在特拉华州。如果你想融到大笔资金、大举招人并快速行动,美国往往看起来是唯一的选择。坦白说,它也的确是。
但正因如此,我们已经陷入了危险的死亡螺旋。人才因为生态系统薄弱而离开,生态系统又因为人才离开而持续薄弱。基础设施塑造世界:建起一流的游泳池,你才能培养出一代优秀的游泳健将。
眼下的任务直截了当却让人不适:欧洲人需要足够相信自己,不要屈服于美国的引力。作为创始人或科技从业者移居美国是理性的,从个人角度看往往也是正确的决定。但如果每个有抱负的人都把欧洲视为无可救药,欧洲就真的会无可救药。如果所有有能动性的人都离开了,剩下塑造体制的,就只有那些对现状最安逸的人。那时,我们真的不该对一成不变感到惊讶。
欧洲需要更多的雄心、更多的主人翁意识、更强的紧迫感和更强的建设意愿。它需要少一些听天由命。它需要停止把监管当成战略,把依赖当成美德。我们需要在那些主要起保护主义作用的领域放松管制。我们需要能够按现代科技所需规模为企业提供资金的资本市场。我们需要让员工持股变得寻常而不是稀罕。我们需要一个真正的服务业单一市场,而不是只停留在口头上。我们需要各国停止一边声称为了欧洲利益,一边相互拆台。
最重要的是:我们需要停止一味指责政客。太多欧洲企业完全是出于自身选择在加剧官僚习气。它们用文书工作把你淹没。有一次,我在一家奥地利零售商那里为了取一盏 120 欧元的台灯,竟要签一份四页的合同,15 分钟后才能去店里提货。有时我想在欧洲的活动上做个演讲,都得先收到一份复杂的权利弃权书。这一切不过是用文书来防范潜在风险。
当我们没有能力去施加影响时,至少应该弄清楚问题出在哪里、为何失败。太多创业者把本源于成员国内部的失败归咎于欧盟监管。欧盟的监管是各国在同一经济体内为本国产业游说博弈后,经由民主程序产生的结果。再怎么废除欧盟也改变不了这个残酷现实。没有什么比欧盟内部跨境 M&A 的举步维艰更能说明这一点。阻碍它的不是欧盟,而是那些担心吃亏的国家。
让欧洲变强是必要的,因为弱小只会让我们沦为棋子。一个无法建设、无法融资、无法协调、无法捍卫自身利益的欧洲,不会被当作平等的一方对待。它只会被绕过监管、被绕过出口管制,事后才被象征性地征求意见,甚至根本不被征求意见。
美国陷阱
我不想让大家得出的教训是欧洲只需要把自己变成美国的复制品。美国的确解决了欧洲尚未解决的一些问题。它拥有深厚的资本市场、更强的主人翁文化、更高的风险容忍度,以及那些常常致力于让进步成为可能、而不是解释为何不可能的制度。它还实现了欧洲无可比拟的内部一体化程度。这些都是巨大的优势!
但美国的道路并非在所有方面都是健康的。它往往伴随着大量的冲突与战争、严重的社会内部分裂和深刻的不平等。它将权力从公民手中集中到总统和有钱人那里。你不过是用一套失败换另一套失败。你依然要受制于美国政府及其严苛的规章制度。今天的美国甚至勉强才能保障本国公民的权利。
我们应该对两边都保持诚实。假装欧洲一切安好,你赢不了;假装美国已经找到所有答案,你也赢不了。
我们不能对国际合作在我们周围分崩离析的所有迹象视而不见。美国在实施直接影响欧洲人的命令之前,不再与欧洲政府商议。它甚至威胁要夺取格陵兰——其最古老盟友之一丹麦的领土。条约、联盟和制度已经丧失了所有价值。
这一切都至关重要,即便我们个人的生活重心是创办公司、创造财富、招募人才和打造产品。个人的成功之路是一回事,但它依赖于一个合同有效、签证有效且不会朝令夕改、贸易航道畅通、支付系统正常运转、家庭不会因边境管制或战争而四分五裂的世界。如果世界陷入混乱,仅仅因为我们有优厚的薪水、股权或信任我们的投资人,并不意味着我们的基本需求就能得到满足。
这就是为什么让欧洲变强不能成为最终目标。一个更强大的欧盟,充其量只是抵御更黑暗世界的临时防御,而不是用欧洲民族主义取代美国民族主义的借口。长远的答案不可能是让越来越大的集团去争夺谁能使用哪种模型、哪种芯片、哪种云或哪条贸易航道。
出路在于合作
我并不是在这里要求欧洲人振作起来仅仅为了与美国或中国竞争。也许我希望这会成为一个结果,但目标绝不能是让我们长期接受国际关系的恶化。
我真心相信开源很重要,国际合作也很重要。它不是解决所有问题的灵丹妙药,但却是少数几条不会自然导致权力完全集中的道路之一。
如果前沿 AI 变成只有大公司和政府才能掌控的东西,那么其他所有人就只能依赖于他们的判断。那将是一个糟糕的处境。企业会为自身利益而优化,无论其结构多么完善,政府则会为越来越大的权力而优化。我们现在正走在一条道路上:对通用能力的访问由少数拥有巨大权力的行为体来居中调控。
我并非天真到认为 AI 没有固有风险。开放系统是混乱的,可能被滥用,也会带来关于军民两用能力的不适问题。我不想回避这些,但封闭系统也不会让这些问题消失。把决策权集中到更少的人手中,并不是我认同的解决方案。即便我是一名生活在美国的美国公民,我也会持同样观点。
任何让大型集团之间持续相互争斗的道路,都会带来卑劣的连锁后果,最终剥夺个人权利。美国去谈论那些不及于非美国公民的自由是毫无意义的,对欧洲或任何其他国家来说亦是如此。我们或许可以暂时接受这些限制,但考虑到其可能造成的不人道后果,我们绝不能长期接受。
如果我们相信这项技术可以被用于向善,那么广泛的获取就很重要,我们的目标应该是重建国际法治,而不是进一步削弱它。如果我们发现自己与来自其他国家的朋友陷入战争,无论是冷战还是热战,我们作为一个社会就已经失败了。
我们应该努力回归的世界,是一个充满国际合作、真正意义上的全球化以及人类尊严的世界。互联网已经让我们的生活不可逆转地国际化:每天都有人跨越国境相爱、跨越语言结婚、跨越大洲迁徙,与可能从未谋面、身处从未到访国家的好友共事。在这样的世界里,过分认同任何一个国家都是徒劳之举。
过去十年里,我通过开源认识的太多人被直接卷入了战争。我愿意相信我们有办法打破这个循环。我们应该修复失败国家,重建人与人之间的信任,寻找重新合作的方式,而不是让最富有的国家武装自己,去争夺谁来掌控未来和话语权。当然,我希望欧洲变得更强大,从而不再沦为棋子,但如果我们把这种暂时的需要误当成终点,我会深感失望。
出路不是美国霸权、中国霸权或欧洲霸权。出路是在另一种选择变成战争之前,努力爬回合作的道路。
人工智能正在迅速成为军事化和国家竞争的又一工具,而它本可以成为我们拥有的最强大的合作工具之一。我们应该用它来帮助不同社会、不同语言的人们相互理解,而不是为争夺谁来控制它而争斗。
随机一篇博客
评论
登录后参与讨论