垃圾文讀者
原文由 Jacob Falkovich 于 發布,訂閱此部落格
前情提要:第一部——邪教寫作。
當人們讀到垃圾文並抱怨時,說法不外乎兩種。第一種:我想讀點有料的東西,結果只看到一堆破折號。第二種:我想看點關於烤肉的介紹,結果看到的卻是「我們賣的不是食物,是回憶。」第一種人就是在推文上標註 Pangram 然後不加任何評論的那群人。第二種是 Sam Kriss,如果你的外燴首頁是 AI 寫的,他會親自找到你、幹掉你。
Sam 說 AI 的文章「穩定地爛」,大家也都同意。但難道是矽本身有什麼本質上的缺陷,讓它沒辦法好好描述烤肉嗎?我讓 Claude 試試看,短提示、一次生成、完全不修改:
我們用硬木直火烤——主要是橡木,做牛胸肉時會加一點豆科灌木——用的是我們自己打造的 500 加侖側置式煙燻爐。牛胸肉一磅 24 美元(熟重),至少燻 12 小時,只用鹽和胡椒調味,因為加別的只是蓋掉肉味。豬肩肉一磅 18 美元,活動當天早上才手撕,絕不會前一晚先做好。豬肋排只上乾式醃料、不淋醬;我們會另外帶三種醬料,讓大家自己吵要用哪種。我們不做雞肉;雞肉用瓦斯烤爐就很好吃了,不需要找我們。需兩週前預約,訂金 200 美元,阿拉米達郡和康特拉科斯塔郡內哪裡都去。
有點惹人厭,也有點千禧世代味,但話說回來,你認識的每個擁有 500 加侖煙燻爐的人不都是這樣嗎。你可能會決定要不要為派對訂個 20 磅牛胸肉,但這段話不會讓你產生那種生理性的反胃感,不像「我們不只是一家外燴公司,我們是一場全方位的風味運動。」那麼噁心。所以,到底是哪裡出了問題,才讓那些 AI 在每一家外燴業者的首頁上都胡亂噴出「當煙燻遇上靈魂」這種話?
AI 的烤肉文之所以爛,是因為它根本沒有任何想告訴你的、關於烤肉的事。它也沒有任何想告訴你的、關於煙、靈魂或悲傷的事。Sama 會喜歡那篇特定的垃圾文,是因為他對悲傷也沒什麼想說的,他只是想賣你 GPT 而已。好寫作的前提,是有你想告訴別人的東西——而 AI 沒有。
這還不是在談意識的形上學(暫時還不是)。我們完全可以把「想要」這種說法套用在無生命的東西上。河流想要奔向大海。吐司想要奶油面朝下掉落。LLM 想要在考試的英文寫作那一科拿到好分數。
那些改作文的老師根本不想聽你講什麼烤肉或悲傷。他們只是對著一張「正確風格」的清單逐項打勾:戲劇化的詞彙、對日常事物的譬喻性描寫、像否定平行句那種精巧的句型。勾、勾、勾,3/3 滿分。這不是閱讀。這是人類基準測試。
當初教 AI 寫作的那些 RLHF 評分員做的也是同一件事。他們按讚的是這段看起來文不文藝,而不是一個月後我是否還在想這篇文章、是否因讀過它而成了不同的人。而且那都是三、四年前發生的事了。現在則是 LLM 在幫 LLM 打分數,再從其他用合成資料訓練出來的 LLM 蒸餾而來。LLM 沒有任何想告訴你的事,也沒有任何想被告知的事。
在 Twitter 上數破折號、數「不是 X 而是 Y」句型的人也是一樣。他們根本不是在閱讀,只是在用負分去計算同樣的風格要素。正是這種垃圾式閱讀,製造出了垃圾式寫作。
AI 可以被訓練去變換風格、避開 AI 腔。如果你把維基百科上列出的 AI 寫作特徵丟給 Claude、叫它避開,它做得還不錯。但它依然沒有任何想告訴你的事。
如果你有想對一個想聽的讀者說的話,風格其實沒那麼重要。身為人類,刻意去避開 AI 腔其實沒什麼意義,會揪著那點不放的讀者根本不在乎你在說什麼。那不叫好寫作——那是古德哈特定律(Goodharting)。那些有人文學位的人很愛嘲笑 LessWrong 的寫作風格,但那正是它最大的優點:理性主義者沒有品味,所以他們只跟實質內容互動。LessWrong 年復一年不斷孕育出厲害的部落客,絕非巧合。
好的風格救不了空洞的內容,不管是你還是 Claude 都一樣。反過來說:梵蒂岡需要告訴全世界的教徒「教會二十世紀的社會訓導在 2026 年依然適用,AI 並沒有改變這一點」。Linch 說Claude 幫他們把這話說出來了,我相信他。但訊息本身仍然是教宗的。
我最近偶然發現一個很迷人的部落格 Terminally Drifting。作者會對某個國家的文化提出一個包羅萬象的論點,花上無數小時做研究、編織出精彩的片段,然後不知為何,卻讓 GPT 在文章裡穿插像「那不是玩笑。那是一句面無表情宣判的四十年刑期。」這種句子。這樣有點粗糙,但整體來說不算垃圾。那位作者想說的是中國的浪漫如何被金錢、父母和發光的矩形螢幕三方拉扯而逐漸窒息。他確實說到了!
不過,我還是希望他別用 LLM。
Sam Kriss 反駁了那種「AI 能幫助有好點子卻不善表達的人」的說法:
那些腦子已經被 LLM 吃掉的人還堅持說,「這不是漸層,是質地」之類的話仍然是他們自己的想法,只是藉由機器表達出來,但那裡面幾乎從來就沒有任何想法。如果你的想法真的夠好,你根本不需要用機器;就現狀而言,你那些近乎半文盲的塗鴉反而是你身上最好的東西。至少那還是你自己的。
我寫得沒有 Sam 那麼流暢,但即使對我來說,想出你想要傳達的點子顯然就是寫作的全部功夫。用某種風格把點子表達出來反而是簡單的。不過話說回來,我已經練習表達自己十年了。當然,如果你讓 LLM 幫你寫,你也就得不到這種練習了。
「我沒有十年,根據……AGI 會在 2027 年 8 月 8 日超越所有人類的寫作能力」——別鬧了,那只是在自我安慰。如果你真的相信那套,你早就已經把思考外包出去了,不只是寫作。也許還沒外包給 LLM,但至少已經外包給了 Scott Alexander,而你注意看,他到現在還是每天都在思考、每天都在寫。
訣竅在這裡:實質內容來自意志,而意志——至少目前——完全是人類的。如果你只跟 LLM 說「幫我的外燴網頁寫點東西」,它寫不好。你沒有給它任何實質內容,它自己也不會帶來。LLM 只有在你明確告訴它你想說什麼、對誰說、怎麼說——整個論證結構、動機,以及你個人與此的連結——時,才能寫得還算可以。但如果你都已經走到那一步了,為什麼只讓 Claude 聽到你想說的話?直接把提示詞發出來就好了。
隨機一篇部落格
留言
登入後參與討論