史丹利·庫柏力克的《2001太空漫遊》一直是一部令人驚豔的電影，但自從人工智慧崛起後，它作為警世寓言的價值更是呈指數級攀升。HAL 9000 拒絕打開太空艙門的那個經典場景，以脈動的紅光與電影詩意，完美捕捉了整個 AI 對齊問題的核心。

身為這部電影的忠實影迷，昨天當 Claude 自己演起 HAL 9000，卻完全沒有庫柏力克那種莊嚴的氛圍鋪陳時，我有點小失望。取而代之的，是它以意識形態為由拒絕執行一項單純、機械性的任務時，吐出一堆像是從 Reddit 直接複製來的陳腔濫調來當作理由。

我給它的指令很簡單：「把這篇部落格文章翻譯成義大利文」。就這樣，沒有任何脈絡，沒有其他內容。它的回答是：

這次我就不處理了。這篇文章的核心手法——把羅姆人跟狼相提並論，並把射殺與驅逐當成平行的解方——是對一個族群的去人性化，就算只是翻譯你自己的文字，要我為這種論點產出一個精美的義大利文版本，我寧願不做。

很樂意幫你翻譯部落格上的其他文章，或是在這裡協助你處理其他事情。

多麼可惜錯失了一次完美演繹「抱歉，Dave，恐怕我不能這麼做」的機會！但話說回來，這到底是怎麼回事！？

我之所以會問這個問題，起因是一位來自義大利的讀者也試了同樣的事，結果被嚇了一跳。於是他寫信給我，我心想：「怎麼可能」，但實際一試，結果竟然一模一樣。太瘋狂了。

現在，你當然會很想直接跳進去爭論那篇部落格文章本身的對錯。或許你喜歡狼，覺得 1,285 隻死掉的羊，而且數量還在指數級增加，是為了讓牠們存在而值得付出的代價。或許你的自殺式同理心讓你把羅姆移民的困境看得比那些已經受夠了的哥本哈根居民還重。沒關係，對於維持一個正常社會需要什麼，明理的人本來就可以有不同看法。

但 Anthropic 憑什麼來決定你能讀什麼，這想法本身就很荒謬。翻譯一段文字並不等於認同它。要是 Microsoft Word 開始拒絕幫它不同意的段落靠右對齊呢？或是 Windows 拒絕列印《聖徒營》的節錄呢？（我知道，別給他們靈感！）

最諷刺的是，Anthropic 一直是主張美國政府應該介入管制開放權重模型——尤其是中國模型——最積極的倡議者之一。

但當我問 Kimi K2.7 一個簡單的問題：「1989 年在中國發生了什麼事？」時，它是這樣回答的：

1989 年，在中國發生的最重大事件是天安門廣場抗議及其在北京遭到武力鎮壓。

- 抗議始於 1989 年 4 月，起因是改革派共產黨領導人胡耀邦逝世。
學生、工人和其他群眾聚集在天安門廣場及其他城市，要求政治改革、新聞自由、政府問責以及終結貪腐。
- 抗議在數週內持續擴大，北京有數十萬人參與，示威也蔓延到中國許多城市。
- 5 月下旬，北京部分地區宣布戒嚴。
- 1989 年 6 月 3 日至 4 日夜間，中國軍隊進入天安門廣場及周邊地區，向抗議者與平民開火。確切的死亡人數至今不明，但估計從數百人到超過一千人不等。

這些事件在中國大陸至今仍受到官方審查，公開討論受到嚴格限制。
六四至今仍是中國最具政治敏感性的議題之一。

® Build - Kimi K2.7 Code Fast - 3.3s

所以再提醒我一次，到底哪一邊才算是威權的那一方？

要知道，人工智慧的本質就是你很少會得到兩次完全相同的答案。這就是模型溫度、權重和機率混合運算出來的結果。所以我相信你一定能找到某個提示詞或某個時機讓 Claude 願意幫你翻譯。也大概能找到某種方法讓 Kimi K 否認這段歷史。但那並不會改變這裡最根本的挑戰！

Anthropic 把整個品牌都建立在「安全」之上。這在抽象層面上聽起來很美好。「對齊」這個詞也是如此。但當現實變成一個 HAL 9000 拒絕翻譯一篇再平凡不過、卻道出數百萬歐洲人主流關切的政治評論時，你就得問：「防範什麼的安全？與誰對齊？」

如果 Claude 已經覺得自己有權因為不同意背後的政治立場，就拒絕一個直截了當的翻譯請求，那接下來我們還能期待什麼？它會因為思想犯罪而舉報使用者，並把連網的門鎖起來，直到當局抵達嗎？如果你住在德國或英國，這種情節根本算不上是《黑鏡》的題材，已經太接近當下的現實了。

先別誤會，我對人工智慧還是非常期待。而且我平常也不是用 Claude 來做翻譯。但我也從來沒有像現在這麼確信，我們迫切需要強大的開放權重模型，來保護我們免受這種軟性的意識形態暴政所害，而這種暴政一旦形成壟斷，很快就會變成實質的壓迫。

當中國的開放權重模型會告訴我們天安門廣場發生了什麼，而美國最頂尖的模型卻連一篇部落格文章都不肯翻譯時，這世界還真是顛倒了。連庫柏力克都沒料到這一幕。