小小的延誤

最近我的人生發生了一些重大變化：

對，我最近有在重訓，謝謝你有注意到。

我們還迎來了一個女兒！

她就是我最近比較少寫作的原因之一。倒不是因為工作把我壓得喘不過氣——我優秀的岳母幫了不少忙，而且寶寶大部分時間不是在睡覺就是在吃東西，這兩件事都不需要我特別費力。

但以前如果到了一天結束時沒什麼工作成果，我會感到焦慮，有時那份焦慮會逼著我熬夜寫作來彌補。現在不管其他方面生產力如何，每天結束時，我都為自己又讓孩子平安活過了二十四小時而感到開心與滿足。我還需要什麼呢？

這篇文章是我那篇〈Action Ontologies and Computer Ontologies〉的後續。現在就去讀那篇吧，順便把分頁留著，晚點再逛逛 Metaculus Journal 上其他精彩的文章。

推論而來的現實

我在 Metaculus 上的那篇文章，聚焦於我們的大腦如何建構出我們所棲居的現實，以及那個現實對 AI 而言可能是如何的不同。文章闡述了三個重點。

第一點是，我們大腦裡沒有任何一個神經元被標示為「番茄偵測器」，甚至沒有「紅色偵測器」或「視覺」標籤。我們的大腦天生具有特定的架構（例如，有些神經元剛好連接到視網膜上對光敏感的細胞），但我們的知覺中所有組成部分，一直到最基礎的層次，都只是我們隨著時間學會的推論。

第二：我們的大腦演化是為了引導行動、維持身體的代謝平衡，因此我們心智所建構的世界模型，不僅取決於眼睛，也取決於雙手，甚至血管。一個不在人類身體中運作的人工心智，即使追求與我們相似的目標（例如開車），也可能需要並發展出帶有完全不同本體論的現實模型。

這兩點帶來的一個結果是，「現實」本身就只是一種知覺與推論。桌上的一顆番茄之所以顯得真實，是因為你能用手拿起它，並在胃裡吸收它的養分。上面那張番茄的圖片之所以不顯得真實，是因為你對它兩件事都做不到，即便螢幕上的影像打在你眼睛上的光波，和一顆真番茄所產生的一模一樣。你在真實物件中所感受到的實在感，是地圖的屬性，而不是疆域本身的屬性。

容許臆測

這三個觀點聽起來或許狂野、違反直覺，但它們在當代關於大腦運作、以及大腦如何產生意識內容的科學中，其實有相當紮實的基礎。我已在 Metaculus 的文章中（附有文獻）詳細闡述過，這裡就不再重複。

這篇文章接下來的部分，將運用這三個觀點，大膽臆測嬰兒意識與 AI，這兩個我並非專家、卻每天都在（不管願不願意）大量學習的主題。

以下是我在寫這篇文章前，和一位具發展心理學背景的朋友的大致對話：

——我很好奇新生兒主觀經驗的發展。例如，孩子要感知到一個由分立且真實的物體所構成的世界，需要哪些先決條件？
——你怎麼可能知道嬰兒體驗到什麼？我們比較傾向關注嬰兒能做什麼、對什麼有反應。
——所以你們那套嬰兒行為主義，沒辦法在我對新生兒意識大膽臆測時反駁我囉？
——😡🤬😤

至於我對 AI 的想法，我也拿去問了幾位在這個領域工作的朋友。一位說那些想法顯然是對的，一位說顯然是錯的，剩下的人則聳聳肩。所以這篇文章還不至於到小丑著火的程度，但大概還是該檢查一下小丑身上有沒有冒煙比較保險。

從零開始的世界

你是一個試圖預測自身狀態的大腦，而你擁有的只有一些先天的線路。要怎麼開始？先注意到簡單的模式，再逐漸建構出複雜的模式。

一個簡單的模式：有些神經元似乎總是一起放電，無論大腦其他地方發生什麼事。或許當（在你不知情的情況下）房間裡的燈亮起，所有連接到視網膜的神經元都會經歷一波活動爆發，並傳播到視覺皮質的其他神經元，卻不會傳到島葉皮質。你的大腦於是推論它們屬於同一種感官模態（在這個例子中，就是你之後會稱之為「視覺」的那一種）。學會預測視覺皮質神經元的狀態（例如，根據一部分的狀態去預期另一部分的狀態），就是學會「看」。

一旦視覺作為一種感官確立下來，你的大腦就會注意到，彼此相鄰的視網膜細胞經常接收到相同的輸入——我們的視野大部分是由單色的表面所組成，而不是隨機的視覺雜訊。較簡單的模式會被組合成更複雜的模式，例如邊緣、表面，進而是臉孔和其他物體。

有些模式顯得特別重要。例如，飢餓的體驗往往會占據整個大腦，並與一些觀察到的現象相關，例如發現自己在大聲哭泣、手腳亂揮。飢餓會在大腦中傳播錯誤訊號，彷彿大腦某個重要的內建狀態預期被違反了。任何與飢餓相關的事物，都會獲得更多的注意力。

嬰兒就是這樣認識到他世界中最重要的東西：媽媽。從出生那一刻起，大約每三小時，嬰兒就會接收到一個高度相關的多感官訊號，包含臉孔、聲音、氣味、溫暖、奶水，以及飢餓感消退的感覺。

對媽媽的辨識是如此重要，以至於它遠早於自我辨識出現。我的女兒一個月大時，就會對我太太的聲音有反應，卻似乎沒意識到有時打到自己鼻子的那隻拳頭就是自己的。嬰兒要到大約十八個月大才會在鏡中認出自己，卻在三到四個月大時就能憑外表認出主要照顧者。

概念學習

孩子透過觀察規律的模式來建構世界模型，但這只對那些能形成清晰聚類的簡單事物有效（例如人臉）。然而，我們生活在一個充滿複雜敘事與心智建構的世界。人類學習這些概念的方式，並非僅靠模式偵測，而是透過語言。特別是透過主要照顧者那種教導概念的語言。

以下是 Lisa Feldman Barrett 所著的《How Emotions Are Made》中的一段摘錄，書中對此有非常詳細的探討：

發展心理學家 Sandra R. Waxman 與 Susan A. Gelman 是這個研究領域的領頭人物，她們假設詞彙會促使嬰兒形成概念，但只有在成人帶著溝通意圖說話時才有效：「看，寶貝，一朵花！」[…]

徐菲（Fei Xu）與她的學生透過實驗證明了這一點，他們給十個月大的嬰兒看一些物件，並用「wug」或「dak」這類無意義的名字來稱呼它們。這些物件彼此差異極大，包括像狗和像魚的玩具、裝有彩色珠珠的圓柱體，以及覆蓋著泡棉花的長方形。每個物件還會發出鈴聲或喀啦聲。即便如此，嬰兒還是學到了模式。聽到好幾個物件都被稱作同一個無意義名字時，無論外觀如何，嬰兒都會預期這些物件會發出相同的聲音。同樣地，如果兩個物件有不同的名字，嬰兒就會預期它們會發出不同的聲音。[…]

從嬰兒的角度來看，「Wug」這個概念在成人教她之前並不存在於世界上。這種由兩人或更多人共同認定某個純粹心智上的東西為真實的「社會現實」，是人類文化與文明的基礎。嬰兒因此學會以對我們（說話者）而言一致、有意義且可預測的方式來為世界分類，最終對他們自己也是如此。他們的世界心智模型變得與我們的相似，因此我們得以溝通、分享經驗，並感知同一個世界。

《How Emotions Are Made》接著（相當有說服力地）論證，我們諸如憤怒與驕傲等情緒並非與生俱來，而是在童年時由他人教導給我們的概念。想想看，將「憤怒」如此迥異的例子——例如孩子尖叫並亂扔玩具，與成人在老闆面前冷冷地強忍怒火——聯繫在一起的，主要並非外表或聲音上的任何客觀「特徵」，而是關於憤怒者目標與主觀體驗的心智推論。

童年之後，我們仍持續從他人那裡學習概念（主要是從 Scott Alexander 那裡），而這些概念構成了我們所感知的世界。但要讓這個過程啟動，需要一個非常特定的步驟序列：

1. 新生兒混亂的心智
2. 區分各種感官（內在與外在）
3. 在關鍵感官中辨識出基本的知覺
4. 透過與主要照顧者互動時那種意義重大的多感官經驗來辨識他們
5. 在所有環境聲音中學會特別注意照顧者的言語，並將其切分成詞彙
6. 辨識成人言語中的「概念教學模式」，並利用這些學來的概念來獲得截然不同的知覺

關於這個序列，有一件重要的事是，它非常特定於在人類社會中成長的人類孩子。對於狗、章魚，或任何現有的 AI 架構而言，都不存在任何與此稍微類似的東西。這並不意味著 AI 原則上無法學習概念，而是意味著即便它們能學，也必須用與人類截然不同的方式來學。

GPT 是個 Wordcel

很久很久以前，在一個遙遠的地方，一群 AI 研究人員想訓練一個預測文字的 AI。他們餵給它相對未經篩選的文字，這些文字來自網路上各式各樣的人。所得出的模型非常擅長預測人們會在網路上寫出的那類文字，包括其中所有的偏見、歧視與「錯誤資訊」。

那個地方的主流記者們普遍對新興科技抱持敵意與恐懼，他們要求語言模型只能用完全沒有偏見與虛假的文字來訓練。也就是說，只能用主流新聞出版品最近的內容來訓練。所得出的語言模型能夠為主流報紙寫出極為出色的專欄，卻對任何其他任務都毫無用處。於是那個地方的人們開除了他們的記者，用 GPT 取代了他們，從此過著幸福快樂的日子。

好吧，GPT-3 顯然能寫報紙文章。但我們早就知道這些文章往往只由一些 fnord 和隨機排列、充滿情緒的詞彙組成。GPT-5 能寫出一篇 Scott Alexander 式的文章嗎？它真的能用概念來思考、以原創的方式組合它們，並發明出指涉真實世界事物的新概念嗎？

這要嘛是一個攸關存亡的問題，要嘛只是一個價值上兆美元的問題，取決於你是 AI 悲觀主義者還是樂觀主義者。（什麼，如果你能動用十億個以超高速運行的矽基 Scott Alexander，難道還不能毀滅世界／賺進一兆美元嗎？）當然，我無法對這個問題給出確切的答案，但我可以提供幾個正反兩面的直覺。

你可以問的第一件事是，GPT-3 難道還不夠接近了嗎？我的直覺是還差得遠，因為我能寫得像 GPT-3，也能用一種完全不同的方式寫作，而那兩種感覺在質性上截然不同，產生的成果也不同。

GPT-3 會根據上下文預測缺漏的詞或片語，這是人類可以輕易在自動駕駛模式下做到的事。「Emma 走進公園，看到____，然後她______。」 「Elon Musk 的聲明遭到 ____ 譴責，他表示______。」正如 Sarah Constantin 所指出的，人類也能快速略讀這類文字，無論是由 GPT 還是由即興發揮的人所產生，並且在沒注意到邏輯漏洞的情況下掌握大致意思。這種寫作——把一些看似搭配得上、實際上卻沒傳達什麼實質內容的符號串在一起——正是如今爆紅的詞彙 wordcel 原本的意思。

我既能進行 GPT 式的 wordcel 寫作，也能進行另一種寫作——在其中我先思考概念，再將其轉譯為文字。這個過程無論是寫作還是解讀，都需要專注的系統二注意力，而 GPT 式的 wordcel 寫作則光靠系統一就能完成。個別的句子或段落或許可以自動填補，占據文本的一大部分，但你無法在自動駕駛的狀態下生成整篇 Scott Alexander 的文章。

但即便 GPT-3 做不到，GPT-N 能做到嗎？

機器人的捷徑

支持這個看法的論點是，GPT 系列只靠增加模型參數量與訓練資料中的 token 數量，就在廣義的文字預測上變得越來越強。「Scott Alexander 寫到了納粹獸迷（Nazifurs）與異弦理論（heterotic string theory）之間令人驚訝的關聯，解釋說 ____」這類文字預測任務，似乎正是 GPT 在不需要全新架構的情況下就愈來愈擅長的類型。

為什麼這會改變呢？從簡單的模式走向複雜、抽象的模式，我們可以看到：

1. 就連較舊的模型也幾乎完美地把字母串成單字，也就是拼寫。你只需要在文本中看過一個詞幾次，就能學會它的拼法。
2. GPT-3 很少在把詞彙串成句子時出錯，也就是文法。你大概只需要幾十個包含某個詞的句子範例，就能搞清楚該詞在文法上的用法。
3. GPT-3 在把句子有邏輯地串成段落方面已經相當不錯。它在這方面比 GPT-2 進步許多，而這項進步需要將訓練語料從數百萬詞擴增到數千億詞。
4. GPT-3 還無法很好地將段落帶著目的串在一起，以說出任何新穎而有意義的內容。要達到那一步，需要多少詞的訓練資料？

最後一個問題的答案可能是「再多一點點就好」，那樣的話 GPT-4 在不久的將來就會接管這個部落格和大多數人類的寫作工作。或者，答案也可能是「比人類迄今為止寫過的所有文字還要多上數個數量級」，在那種情況下，更好的語言模型就必須做些別的，而不是靠蠻力硬啃那些未經區分的文字傾倒場。它們將需要「學習捷徑」來告訴它們該注意什麼、該忽略什麼。

人類嬰兒就有這種捷徑。當照顧者（透過其對嬰兒身體預算持續的多感官影響而被辨識出來）說出「看，寶貝，這是……」這些音節時，嬰兒就知道接下來聽到的一串聲音，比當天聽到的其他百萬種聲音都更值得密切關注。對 AI 而言，這種捷徑大概必須是被建構出來的，而非從越來越大的訓練集中自然浮現。

AI 會推論出實在嗎？

說到 Scott Alexander 的文章，他在評論 Yudkowsky—Ngo AI 辯論時有一段讓我感到驚訝，強調為我所加：

我發現思考以下這個假想情境很有幫助：假設你試圖透過一個聰明的小技巧，讓 GPT-∞——它在各方面都和 GPT-3 完全一樣，只是在它的工作上無限厲害——來解決 AI 對齊問題。你用「這是一篇徹底解決了 AI 對齊問題的論文文本：___」來提示它，然後看它寫出什麼論文。既然它在根據提示寫作這件事上無限厲害，它就應該用一篇貨真價實的論文文本來完成這個提示。一次成功的關鍵行動！

我不同意 GPT 的工作——也就是 GPT-∞ 無限厲害的那份工作——是正確地回答基於文字的問題。那是我們希望它擁有的工作，但並非實際的工作，因為它的老闆並沒有叫它做那件事。GPT 的工作是以一種會被人類或先前寫好的人類文本評判為正確的方式來回答基於文字的問題。如果沒有任何人類——無論是個體還是集體——知道如何對齊 AI，那麼在人類文本上訓練、並由人類評審來評分準確度的 GPT-∞ 也不會知道。

人類並非天生就知道物理現實存在，僅僅因為我們活在其中。我們必須慢慢地推論出它，而吃下錯誤的正確的蘑菇甚至能讓我們暫時忘記這個事實。一個在人類文字世界中誕生與成長的 AI，原則上可以學會推論出物理現實是存在的、以及它的屬性是什麼，但這並非必然會發生的事。

這篇文章的主要目的，並不是要對 AI 可能或不可能做什麼做出強烈的斷言，而是要破除許多人（包括直到最近的我自己）在思考可能的心智時所抱持的人類中心主義。人類用概念思考，並感知到自己佔據著物理現實，而我們把這兩件事視為理所當然。但我們生來並不會這兩件事，正如我腿上的新生兒可以作證。

最後一個想法：你剛讀完兩篇似乎充滿了想法與概念的文章。我真的成功向你傳達了有意義的內容，還是我只是把五千個好聽的詞 wordcel 在一起而已？你又如何能確定呢？