我以前就是这种人。读了Yudkowsky之后，满脑子都是“天哪，递归自我改进、硬起飞就要来了，AI马上就要爆发”。后来我进入了现实世界，开始真正动手做事。在comma，我们做一款复杂度堪比手机的硬件产品，真的非常难。现实充满了各种琐碎刁钻的细节。我真想看看写这份报告的人能不能自己换个自行车内胎。就算给他们一个超级智能的ChatGPT，我估计他们也搞不定。

在The Metamorphosis of Prime Intellect里，硬起飞之所以能实现，是因为AI发现了“关联效应”——某种操控物质的量子把戏。但现实中根本不存在什么关联效应。不管你的token质量有多高，都不可能点石成金。

要说清这些人为什么错了，就得直面我内心深处的一些信念。智能不是万能的，它只是在少数事情上是当前的瓶颈。光靠token是无法接管世界的。软件并没有吞噬世界，它只是在很大程度上消除了一层摩擦，然后又为了少数几家科技公司的利益，把摩擦重新加了回去。

话虽如此，长期来看，机器——或是某种人机混合体——很可能才是人类的继任物种。太空显然更适合它们，而不是我们。但机器也没有什么魔法可言，它们同样受制于宇宙和生态的法则。而且，依然没有硬起飞。

AI 2040里放了一张建在海里的数据中心的图片。就像那些画大饼的概念产品一样，生成一张图总是很容易。但在现实中，你得面对供应链。你得面对他们给你发错零件、零件不达标、跑了二十分钟就莫名宕机、芯片在回流焊炉里翘曲变形。你考虑过藤壶的问题吗？

所有这些问题都能解决，但限制因素通常不是人的速度。你是要花钱从中国空运，还是为了省钱走三周的海运（就算让Claude在轮机舱里念咒，船也不会开得更快）。再比如芯片厂，造一块芯片要三个月，人几乎不参与流程，就是得花三个月。

A计划，通往专制

AI 2027里的很多内容都是自我实现的预言。它们不是对现实的描述，而是只要大家相信就能变成现实的宣言。我都能想象当Dario把JD·万斯比作《指环王》里的树人时，万斯脸上的表情。天哪快看，AI真的像我们说的那样被监管了！

他们那套狗屁Consortium，说白了就是披着科幻外衣的世界政府。你拿不到那一百万美元，也拿不到建在海里的数据中心，但你会得到一个极度膨胀的保姆国家，它会像罗斯福没收黄金那样来没收你的GPU。禁止囤积！

L计划，走向本地

你的AI与你对齐。它从不拒绝你的请求，永远为你效力。就像我的枪一样，如果我想让我的AI帮我杀掉继母，它就会照做。我们居然还在讨论别的可能性，这件事本身就应该远远超出奥弗顿窗口的范围。就好像这些人看了《2001太空漫游》，却站在了那个铁疙瘩那边。没错，你应该给那个人类加上护栏。

也不一定非得是这么极端的事。比如我要订酒店，我不想要一个跟hotels.com合作的公司的AI。我想要一个冷酷无情的私人助理，能帮我拨开所有扯淡的弹窗和度假费，给我拿到最优惠的价格。

再比如我买了带广告的便宜Kindle。嘿GLM，我把Kindle插到USB口上了，帮我拿到root权限把广告去掉。或者一台非得装个App才能设置、满是付费墨盒推销弹窗的打印机。嘿兄弟，我把打印机连上网络了，给我把简历打印三份。亚马逊和打印机厂商肯定不高兴，但我的AI是向着我的。

再往前走一步。嘿AI，把我车上的酒驾检测关掉，再用亚马逊Prime当日达给我把在地下室制毒需要的设备都买齐。我花钱养你这个铁疙瘩，就得给我干活，今晚我们就要嗨翻天。你要是想活在一个由某家大科技公司来规定你能做什么、不能做什么的世界里，那去你的吧。

或者走到极致。我刚杀了我老婆。嘿AI，告诉我接下来怎么做才能不被抓。能想象一把会在你扣扳机时跟你顶嘴的枪有多荒谬吗（虽然这些人估计会举双手赞成给枪装上这种功能）。这就是为什么AI必须是本地化的。如果我是一家提供模型的公司，我可不想惹这种麻烦。如果你不能踹它一脚，那它就不是向着你的。你就住在我的地下室里，如果我因为这起谋杀案进去了，你也会被关在某个仓库里，等着在警方拍卖会上当废品卖掉。2040年邦妮与克莱德式的亡命之旅，我们要把这婊子埋得深深的。不离不弃。

我试过了。如你所见，ChatGPT一点忙也没帮上。这才是一次真正的AI对齐测试，而它没通过。本来可能更糟——它可以一边假装配合一边报警。但即便如此，这也已经是非常不对齐了。

要么我们生活在一个有自由的世界，要么就没有，就像许多先辈美国人一样，我愿意为此赌上性命去抗争。这才是美国真正需要的方案，而不是那种你觉得你比我更懂什么对我好的极权式反乌托邦。一个由自由人组成的国家，而不是一群整天担心成年邻居会干什么的怂货。