荒謬的是，《鋼之鍊金術師》的情節跟 AI 如今的發展有多像。我們把人類的靈魂灌進賢者之石，以為它能解決我們所有的問題、甚至治癒死亡。它並沒有真的做到這些，但你可以用它創造出行為像人的人造人——Chat、Claude、GLM。人造人就是用來創造它的那些靈魂攪成的糊狀物。

很容易對泡沫和炒作感到憤怒，但跟以往的泡沫不同，這一次問題根本不在那裡。撇開所有行銷話術和框架不談，問題就是 AI 本身。它讓人感到消沉，卻不是因為它比你強——不是因為現在的 AI 有多好，而是因為下一個會好得多。或許我有時希望不是這樣，但我不覺得這是錯的。

而且老實說，我也不是真的希望它不是這樣，願你生逢精彩的時代之類的。這幾年來一直是我的夢想——甚至這些感受也不是什麼新鮮事，15 歲讀到 Yudkowsky 時，我變得非常沮喪，開始荒廢學業，覺得電腦很快就能在所有事情上都做得比我們好。但後來我發現，電腦當時還做不到這些。現在也還做不到。但感覺已經很接近了。以前好像不總是感覺這麼接近？1e25、1e26、1e27……難道就這麼簡單嗎？我不知道，你也不知道。

我們正處在一個中間地帶，而且已經在這裡待了一陣子。以下是 2017 年的一些歌詞：

你能在所有電波中聽見它
那末日將至的、刻意營造的倒抽一口氣
該有人告訴他們，他們已經沒有時間
去讚頌那光輝的未來與絕望的過去

現在正是拍Cruise的時候。這是一部關於控制的電影。一對 Apple TV 風格的伴侶，用他們那種進步派的方式偏執著。精神醫學、自閉症、社運、ADHD 藥物。一些反動的大學生，憤怒到想炸掉一艘郵輪。incel、腦腐、毫無目標。但歸根究柢，這一切都是在應對對失控的恐懼。而結局會顛覆你的期待，讓你感到空虛，卻又註定只能如此。

你想去前沿 AI 實驗室找一份工作，還是想去炸掉一座資料中心？不管哪一種，你都無法掌控什麼，但你可能會用幻覺來欺騙自己。最好的情況是你有安全感，而且你知道自己有。還可以的是，你沒有安全感，而且你知道自己沒有。最糟的是，你沒有安全感，卻以為自己有。我們無法控制疆域，但我們可以畫地圖。我們唯一能轉的旋鈕，就是要把事情搞得多爛。我們所有人能做到最好的事，就是誠實。

我希望每個人都能看清這一點。真正的秘密一直都是，他們根本沒有秘密。真正的陰謀不是地下室裡有蜥蜴人在操控一切，而是根本沒有人在操控。

我們全都搭在同一輛巴士上，行駛在現實的優化地景中。對著司機大吼也無濟於事。牆上掛著的地圖被塗鴉覆蓋，所以我們不知道巴士要開往何方。我們從窗外看到懸崖，有人祈禱，有人試圖挪動身體的重量，有人則試著叫得更大聲。

或許有一天，我們會對這一切有一套完整的理論。但今天沒有——我們正在加速控制迴路、塌縮模態、駭入獎勵函數——這一切都只是憑感覺，就像深度學習就是憑感覺一樣。也許以可計算性帷幕的運作方式來說，它本來就只能是憑感覺？