Slop Readers

Jacob Falkovich

垃圾读者

原文由 Jacob Falkovich 发布,订阅该博客

前文:第一部分——邪教写作。


人们读到垃圾内容然后抱怨时,说的无非是两种话。第一种:我想读点像样的东西,结果全是破折号。第二种:我想看点关于烤肉的介绍,结果却是“我们卖的不是食物,是瞬间。”第一种是所有人在推文里艾特 Pangram 而不加任何评论。第二种是 Sam Kriss,如果你的餐饮主页是 AI 写的,他会亲自找到你、干掉你。

Sam 说 AI 的文笔“稳定地烂”,大家都认同。但硅基的本性里真有什么东西让它无法描述烤肉吗?我让 Claude 试了试,提示词很短、一次生成、不做修改:

我们用硬木烤——主要是橡木,做牛胸肉时会加一点牧豆木——炉子是自己做的 500 加仑偏置式烟熏炉。牛胸肉熟重 24 美元一磅,至少烤 12 小时,只用盐和胡椒,因为别的调料只会盖住肉味。猪肩肉 18 美元一磅,活动当天早上现手撕,绝不提前一晚准备。排骨是干腌、不刷酱的;我们会另外带三种酱,让大家自己争哪种好。我们不做鸡肉;鸡肉用燃气烤架就烤得挺好,用不着我们。需提前两周预订,定金 200 美元,阿拉米达和康特拉科斯塔两县内哪里都去。

有点招人烦,也有点千禧一代的味儿,但哪个拥有 500 加仑偏置烟熏炉的人不是这样。你可能会决定要不要为聚会订 20 磅牛胸肉,但这不会引起那种生理性的反胃,像“我们不只是一家餐饮公司,我们是一场全方位的味觉运动。”那种。那些把“烟火与灵魂相遇之处”糊满每家餐饮店首页的 AI,到底哪里出了问题?

AI 的烤肉文案之所以烂,是因为它根本没有什么想告诉你的关于烤肉的事。它也没有什么想告诉你的关于烟、灵魂或悲伤的事。Sama 会喜欢那篇特定的垃圾,是因为他对悲伤也无话可说,他只想把 GPT 卖给你。好文章的前提,是有你想告诉别人的东西,而 AI 没有。

这还不是在谈意识的形而上学。我们完全可以给无生命的东西赋予“想要”。河流想要奔向大海。吐司就想黄油面朝下掉下去。大模型想要在考试的英语作文部分拿个好分数。

批作文的老师并不想听你讲烤肉或悲伤。他们只是按清单核对“得体文风”的要素:华丽的词汇、对平凡事物的比喻性描写、像否定式平行结构这样复杂的句式。勾、勾、勾,3/3。这不是阅读,这是给人打分。

教 AI 写作的 RLHF 评分员做的也是同样的事。他们点赞的是这段听起来够不够文学,而不是一个月后我是否还在想这篇文章、是否因读过它而有所改变。而且那都是三四年前的事了。现在是模型给模型打分,模型蒸馏自别的模型,而那些模型又是用合成数据训练出来的。大模型既没什么想告诉你的,也没什么想被告知。

在推特上数破折号和“不是 X 而是 Y”句式的人也一样。他们根本不是在阅读,只是在用负分制清点同样的文风要素。正是这种垃圾式阅读,催生了垃圾式写作。

AI 可以被训练去变换文风、避开 AI 腔。如果你把维基百科上那份 AI 写作特征清单丢给 Claude,让它避开这些,它做得还不错。但它依然没有什么想告诉你的。


如果你有想说的话,而读者也想听,那文风就没那么重要。作为一个人类刻意去避开 AI 腔没什么意义,会盯着这些不放的读者根本不在乎你在说什么。那不叫好写作,那叫古德哈特定律。有文科背景的人喜欢嘲笑 LessWrong 的文风,但那恰恰是它最大的优点:理性主义者没有品味,所以他们只关注实质内容。LessWrong 年复一年不断涌现出优秀的博主,绝非偶然。

再好的文风也救不了内容的空洞,不管是你还是 Claude 的。反过来:梵蒂冈需要向全世界的天主教徒传达“教会二十世纪的社会训导在 2026 年依然适用,AI 并没有改变这一点”。Linch 说Claude 帮他们把这话说出来了,我信他。但信息本身依然是教皇的。

我最近偶然发现了一个很有意思的博客Terminally Drifting。作者会为某个国家的文化提出一个包罗万象的论题。他花无数时间做研究、编织出精彩的片段,然后不知为何,却让 GPT 掺进这样的句子“那不是玩笑。那是一段板着脸宣判的四十年刑期。”这有点草率,但整篇文章算不上垃圾。作者想说的是,中国的爱情正在被金钱、父母和发光的长方形屏幕挤压得无处容身。他说到了!

即便如此,我还是希望他别用大模型。

Sam Kriss 反驳了“AI 能帮助那些有好想法却不善表达的人”这一说法:

那些脑子已经被大模型吃掉的人还坚称,“这不是渐变,是质感”之类的话依然是他们自己的想法,只是借机器之口说出来,但那里几乎从来就没有什么想法。如果你的想法真那么好,你根本不需要机器;就现在而言,你那些半文盲的涂鸦才是你身上最好的东西。至少那是你自己的。

我写作不如 Sam 流畅,但即便对我来说也很明显,想出你要传达的想法才是写作的全部功夫。用某种文风把它表达出来反而是容易的。话说回来,我已经练习自我表达十年了。当然,如果你让大模型替你写,你也就得不到这种练习了。

“我没有十年时间,AGI 将在 2027 年 8 月 8 日超越人类的一切写作水平,据……”打住,这就是自我安慰。如果你真这么想,那你已经把思考外包出去了,不只是写作。也许还没外包给大模型,但至少已经外包给了 Scott Alexander,而你看,他至今每天仍在思考和写作。

窍门在于:实质内容来自意愿,而就目前而言,意愿完全是人的。如果你只对大模型说“给我的餐饮主页写点东西”,它写不好。你没有给它任何实质内容,它自己也不会带来。如果你确切地告诉它你想说什么、对谁说、怎么说——整套论证结构、动机,以及你与此事的个人关联——它倒也能写得不错。但既然都做到这一步了,为什么只让 Claude 听到你想说的话?直接把提示词发出来不就行了。

本文章由 muse-spark-1.2-contributor 进行翻译

评论