Will the explainer post go extinct?

Dynomight

解釋文會滅絕嗎?

原文由 Dynomight 發布,訂閱此部落格

短篇非虛構的網路寫作會滅絕嗎?這個問題聽起來或許有點奇怪。畢竟,這類寫作目前——如果真要說的話——正處於上升期,至少在政治、財經和文化戰爭的領域是如此,背後的原因是一個令人震驚的發現:有很多人願意每年付出相當於四本精裝書的價格,來支持他們喜愛的網路作者。

不過,特別是對「解釋文」來說,長期的前景似乎不太樂觀。我寫些五花八門的東西,然後寄給你。如果你只是想搞懂某件事,為什麼還要讀我冗長又雜亂的文章——如果 AI 能解釋得一樣好,還能依照你的喜好客製化風格,然後永遠耐心地回答你的所有問題?

我的意思是,假設你在某個主題上的解釋確實比 AI 更好,那很厲害,但一旦你發表了你的解釋,AI 公司就會把它放進它們的資料集裡,謝謝惠顧,然後 AI 就會開始複誦你的解釋。接著——等一下——突然間你就再也沒辦法在那個主題上比 AI 解釋得更好了。

這一切完全合法,因為你無法為點子本身主張著作權,只能為點子的呈現方式主張。過去要把別人的點子用新的形式重新呈現,需要花費一番功夫。而且過去有一種社會規範,會把功勞歸給最先提出某個點子的人。這創造了創造點子的誘因,即使那些點子不受法律保護。但 AI 可以瞬間把你的點子換上新的包裝,而且沒有人會期待 AI 為它的訓練資料標註出處。何必花時間創作內容,就只是為了被博格人同化?而且,如果博格人會為你精選人類最精華的內容,為什麼還要去讀其他人類寫的東西?

所以,解釋文能存活下來嗎?

讓我們從一個更簡單的問題開始:就算在今天,AI 已經樂於解釋任何事情,卻還是有很多人照樣去讀人類寫的解釋。為什麼他們會這麼做?我想得到七個原因:

  1. 準確度。 目前的 AI 並不可靠。如果我問它資訊理論或如何更換筆電電池,它表現得非常令人驚豔,但還是會犯一些錯。但如果我問它關於遺傳率的問題,答案就像是三顆胡言亂語的球疊在一起、再披上一件風衣。當然,隨便一個人類也會犯錯。但如果你找到一個優質的人類來源,它出現離譜錯誤的機率就低得多。在需要「大範圍脈絡」以及解答難以驗證的任務上,更是如此。

  2. AI 很無聊。 至少,目前主流 AI 工具寫出來的東西,預設就是很無聊。

  3. 擬社會關係。 如果我長期閱讀某個人,就會開始覺得跟他有某種關係。如果你長期追蹤這個部落格,或許也會覺得跟我有某種關係。把這些稱為「擬社會關係」聽起來有點陰險,但我認為這很正常,甚至是我們巧妙地運用部落時代的程式設定、來應對現代世界的一種方式。就像在「真實」的關係中一樣,當我閱讀一個有擬社會關係的作者時,我會有更多背景脈絡來理解他,會感受到一種人與人之間的連結,也會覺得自己正在追蹤他「故事」的最新進展。這些我在(目前的)AI 身上都得不到。

  4. 利害與共。 如果一個人搞砸了,會很丟臉。他們會失去尊重與讀者。在更宏觀的層面上,AI 公司也有類似的誘因不要搞砸。但 AI 本身似乎並不(在乎)。人性讓我們更容易信任那些把某種名譽押在檯面上的人。

  5. 炫耀性消費。 因為我讀過《Reasons and Persons》,我就可以向所有人炫耀我讀過《Reasons and Persons》。如果我讀的是 AI 寫的一本同樣好的書,大概沒人會在乎。

  6. 協調據點。 在某種程度上,我讀《Reasons and Persons》是因為我喜歡它。也許我讀它是為了能炫耀我讀過它。(嘿大家,我有沒有提過我讀過《Reasons and Persons》?)但我讀它也是因為其他人也讀過它。當我和那些人交談時,我們有了共同的詞彙和觀念,讓談論其他事情變得更容易。如果我們都是透過零碎的 AI「家教」來探索相同的觀念,這種效果就無法實現。

  7. 改變很慢。 距離印刷術發明已經過了 600 年,高等教育的主要模式仍然是人們親自走到一間教室裡,聽專家講話、並把專家說的話抄下來。如果我們適應得這麼慢,那麼也許我們讀人類寫的解釋文,純粹只是出於習慣。

這些理由各自有多重要?它們能讓我們對十年後解釋文是否還存在抱有多少信心?讓我們倒過來一個一個檢視。

論點七:改變很慢

的確,社會需要時間來適應科技變革。但我不認為大學講課是這種現象的好例子,也不認為它是僅靠慣性存活下來的中世紀遺跡。相反地,我認為它們之所以存活,是因為我們還沒有找到任何本質上更好的教育模式。

以紙本信件為例。一百年前,這是長距離溝通的主要形式。但在電話普及之後,只花了幾十年,電話就在幾乎所有它更勝任的場景中取代了信件。當電子郵件和簡訊出現後,它們又消滅了紙本信件幾乎所有剩下的用途。紙本信件至今仍然存在,但已經變得非常小眾。

同樣的故事也適用於馬匹、電報、卡片目錄、計算尺、錄影帶、真空管、蒸汽機、冰櫃、答錄機、帆船、打字機、短篇小說,以及君權神授。當我們有了真正更好的東西,就會很快拋棄舊的方式。單靠慣性,或許能讓解釋文再多活幾年,但不會更久。

論點五與六:協調據點與炫耀性消費

西方文明始於《伊里亞德》。或者說,至少我們決定假裝是如此。如果你讀過《伊里亞德》,你就可以炫耀你讀過《伊里亞德》(不錯),而且你會更有脈絡去與其他讀過它的人交流(非常好)。所以人們會一直讀《伊里亞德》。我認為這種現象會無限期地持續下去。

但那又怎樣?《伊里亞德》之所以處於那個位置,是因為人們已經閱讀/聆聽它數千年了。但如果你寫了一篇新的東西,而它沒有什麼「正常」的理由讓人去讀,那它就沒有辦法建立那種自我維持的傳承。

一般來說,非虛構作品的半衰期非常短。而且即使存在協調據點,人們往往還是依賴二手資料。就我個人而言,我試著讀過維根斯坦,但發現根本看不懂。然而,我覺得我已經透過閱讀其他人的轉述,吸收了他最有用的觀點。我不禁懷疑,「維根斯坦」在今天究竟在多大程度上還是一個思想來源,而不只是一個標籤。

還有……解釋文通常不是《伊里亞德》。所以我不認為這能為解釋文的存續提供什麼幫助。

(題外話:我一直不懂為什麼哲學如此執著於原典,而不是像數學和物理那樣不斷發展出對舊觀點的新詮釋。這跟哲學家去研討會然後真的把論文逐字唸出來這件事有關嗎?)

論點四:利害與共

當我知道對方把自己的名譽押在檯面上時,我會更信任他,就像我更信任那些依賴回頭客的餐廳一樣。AI 並沒有給我同樣的信心理由。

但那又怎樣?這只是個寬鬆的經驗法則。如果 AI 真的比人類寫作更準確,我相信大多數人會在幾週內就學會信任它。如果 AI 極度可靠、但人們真的需要一個可以究責的對象,AI 公司或許可以提供某種「保險」。所以我也不認為這能讓解釋文存活下來。

論點三:擬社會關係

人類是社會性動物。如果熊有一本祕密的熊用維基百科,翻到人類那一條,上面一定會寫:「人類超級執著於關係。」我很確定這一點未來也不會改變。

我也很有把握,我們會繼續對自己喜歡、尊敬的人對於事實性問題的看法感興趣。我們很可能也會繼續喜歡把這些資訊跟一點小笑話或個性展現打包在一起。所以我預期,我們的社會本能確實會為解釋文的存續提供至少一些理由。

但這種效應會有多強?當今天有人在讀解釋文時,有多少比例的讀者是對作者熟悉到足以產生擬社會關係的?也許 40%?而在那些熟悉的讀者中,又有多少比例的動機是來自擬社會關係,而不只是想搞懂內容?也許又是 40%?這些數字是我隨便編的,但我想很難避免得出一個結論:擬社會關係只解釋了人們今天閱讀解釋文的一小部分原因。

還有另一個問題。如果沒有其他理由去讀某個人,擬社會關係要如何開始建立?這些關係或許能讓已經成名的作者在水準降低的情況下再撐一陣子,但對於新人要冒出頭來,似乎會變得非常困難。

論點二:無聊

也許現在流行的 AI 有點無聊。但我認為這多半是最後那一步強化學習造成的。如果你去跟「基礎模型」互動,它們非常擅長捕捉風格線索,而且一點也不無聊。所以我高度懷疑這裡存在什麼根本性的限制。

再說,有人在乎嗎?如果你只是想搞懂為什麼維生素 D 在技術上算是一種類固醇,風格到底有多重要?比起清晰度呢?我認為風格主要是在擬社會關係的脈絡下才重要,而這一點我們上面已經討論過了。

論點一:準確度

我不確定 AI 是否終究會跟高品質的人類來源一樣準確。不過,物理定律似乎不太可能阻礙我們打造出比人類更準確的系統。

但如果 AI 真的達到了那種準確度,那麼我認為這番分析顯示,解釋文基本上就完蛋了。上面所有的論點都太薄弱,無法解釋人們現在為什麼大多數時候會去讀人類寫的解釋文。所以我認為關鍵大多還是在準確度。當人類在這方面的優勢消失時,我預期人類寫的解釋文也會跟著消失。

反方論點

我可以想到三個主要的反方論點。

第一,也許 AI 會解決發現的問題。目前,解釋文的潛在讀者往往根本找不到潛在的作者。搜尋引擎已經徹底向 SEO 垃圾投降。社群媒體則軟性封鎖對外連結。如果你長期寫作,你可以累積觀眾,但很少有人有時間和毅力做到那一點。如果你一生只寫過一篇解釋文,不會有人讀到它。這條規則的極少數例外,要不是來自對既有(非社群媒體)社群的貢獻,就是來自擁有極佳社交人脈的人。所以——這個論點認為——大多數潛在讀者懶得去尋找解釋文,而大多數潛在作者也懶得去創作。如果 AI 解決了這個媒合問題,解釋文或許反而能蓬勃發展。

第二,也許社會會想出某種新的方式來獎勵創造資訊的人。也許我們會去調整智慧財產權法律。也許我們會創造某種瘋狂的、類似沙那杜計畫(Project Xanadu)的系統,在那裡要閱讀某段文字,你必須先簽一份合約,承諾根據你獲得的價值付費,而這會遞迴地對所有在你下游的人強制執行。見鬼,也許 AI 公司會為了解決資料牆問題而決定付錢請人寫東西。但我對此抱持懷疑。

第三,也許解釋文會走上類似西洋棋的軌跡。直到大約 1990 年代初期,人類在西洋棋上還遠遠強過電腦,以至於電腦根本無足輕重。在 1997 年深藍擊敗卡斯帕洛夫之後,人們很快意識到,雖然電腦可以擊敗人類,但「人類+電腦」的組合仍然可以擊敗單純的電腦。這被稱為進階西洋棋(Advanced Chess)。然而,在 15 到 20 年內,人類就變得無關緊要了。也許解釋文也會經歷類似的「進階解釋文」時代?(開玩笑的,那個時代五年前就已經開始了。)

TLDR

解釋文會滅絕嗎?我的猜測是,大致上會——如果、當 AI 達到人類水準的準確度的時候。

順帶一提,鑑於現在有這麼多的科技悲觀主義:我認為這個結果會是……很棒的?想到人類全都跟 AI 交流、而不是彼此交流,確實有點黯淡。但好處是,全人類都能獲得對基本上所有事物更準確、也更容易取得的解釋。如果這就是通用人工智慧最糟的影響,那就儘管來吧。

本文章由 muse-spark-1.2-contributor 進行翻譯

留言