说来也怪，《钢之炼金术师》和AI现实走向的相似度高得离谱。我们把人的灵魂灌进贤者之石，以为它能解决所有问题、治愈死亡。它其实并不能真正做到这些，但你可以用它来创造出行为酷似真人的人造人——Chat、Claude、GLM。人造人不过是用以创造它的那些灵魂搅碎混合成的糊状物。

抨击泡沫和炒作很容易，但和以往的泡沫不同，那并不是真正的问题所在。抛开所有的营销话术和叙事框架不谈，问题就在于AI本身。它甚至还没超过你，就已经让你泄气——不是因为现在的AI有多好，而是因为下一个会好得多。也许我也曾希望不是这样，但我并不觉得这有什么不对。

其实我也不怎么希望它不是这样，愿你生在有趣的时代，诸如此类。这么多年来，这一直是我的梦想——甚至连这种感受都不是新鲜事，15岁时读了Yudkowsky，我变得非常抑郁，开始荒废学业，觉得计算机很快就能在所有事情上超越我们。但后来我意识到，计算机当时还做不到这些。现在也依然做不到。但感觉已经很近了。以前好像并不总觉得这么近？1e25、1e26、1e27……难道就这么简单？我不知道，你也不知道。

我们正处在一个中间地带，而且已经在这里停留了很久。以下是2017年的一段歌词：

你能在电波的每个角落听见
那为末日精心炮制的惊呼
该有人告诉他们，他们早已没有时间
去颂扬那光辉的未来与绝望的过去

现在正是拍Cruise的时候。这是一部关于掌控感的电影。一对有着Apple TV式精致感的夫妇，用他们那种进步的方式疑神疑鬼。精神病学、自闭症、社会活动、ADHD药物。还有几个反动的大学生，愤怒到想炸掉一艘游轮。非自愿独身者、大脑被泡烂、漫无目的的人。但归根结底，这一切都是在应付对失控的恐惧。而结局会颠覆预期，让你怅然若失，却又早已注定如此。

你是想去最前沿的AI实验室工作，还是想去炸掉一个数据中心？无论哪种，你都无法掌控局面，但你可能会用幻觉来欺骗自己。最好的情况是有安全感，并且你知道自己有。没有安全感但自知没有，也还好。最糟的是没有安全感，却以为自己有。我们无法控制疆域，但我们可以绘制地图。我们唯一能调节的旋钮，就是想把它搞得多糟。我们所有人能做的最好的事，就是诚实。

我真希望每个人都能看清这一点。真正的秘密一直都是，他们根本没有秘密。真正的阴谋不是地下室里有蜥蜴人在操控一切，而是根本就没有。

我们都坐在同一辆巴士上，行驶在现实的优化景观之中。对着司机大喊也无济于事。车壁上的地图被涂鸦覆盖，所以我们不知道巴士要开向何方。透过车窗我们看到悬崖，有人祈祷，有人试图挪动身体来改变重心，有人则试着喊得更大声。

也许有朝一日，我们会对这一切有一个完整的理论。但今天还没有——我们在加速控制回路、坍缩模式、黑进奖励函数——这一切都只是凭感觉，就像深度学习就是凭感觉一样。也许以可计算性面纱的运作方式，它就必须是凭感觉？