Infinite midwit

Adam Mastroianni

无限的中庸者

原文由 Adam Mastroianni 发布,订阅该博客

图片来源:我爸

AI越厉害,我反而越不焦虑了。

几年前,电脑刚刚会开口说话时,有理由相信我们很快就要面对全能的机器了。对于我这样靠在网上写字为生的人来说,当时觉得自己迟早得往口袋里装满石头、蹚进海里去,似乎只是时间问题。

但当我们那位电子神明摇摇晃晃地朝旧金山走去、在那里诞生之际,我们得以近距离端详它,它和我当初恐惧的样子不太一样。我并不觉得自己拥有了一个随叫随到的全能力量。相反,我面对的是一个无限的中庸者:一个随时在线、知识渊博的跟班,但要说它聪明?嗯,在某些奇怪的层面上,算是,也不算是。

即便它已经学会了数清单词“strawberry”里有几个“r”,即便它已经不再叫人往披萨上抹胶水,它能力版图正中央的那个空洞,依旧和2022年时一样大,而且丝毫没有要缩小的迹象。我之所以知道这一点,是因为那个空洞正是我安身立命的地方。

天哪,G因子

有些问题边界清晰、答案可验证,比如“38126的立方根是多少?”这类问题需要的是客观智力。另一些问题则模糊、柔软,甚至搞不清是否已经解决、是否真的存在,比如“怎样才能过好一生?”这类问题需要的则是主观智力。客观智力可以被训练、被强化、被验证。主观智力则不能。

遗憾的是,人们用同一个词来指代这两种能力,尽管它们实际上毫无关联。颇具讽刺意味的是,这本身就是客观智力压倒主观智力的一个例证:这两种能力明明直观上就截然不同,但一百年的心理学研究却“证明”只有一种智力存在。心理学家一次又一次地发现,所有的智力测试都彼此相关,即便你表面上想测的是“多元智能”。数字不会说谎,而数字都说,只存在一种智力,即所谓的g因子

问题在于,任何智力测试测的永远都只是客观智力。“怎样过好一生?”不是一道选择题。一次又一次地“发现”g因子,就像每次都在同一盏路灯下找到同一块人行道,却还为此感到惊讶一样。

AI就是纯粹的客观智力。这就是为什么每一个新模型面世时带来的是一份成绩单,而不是一张出生证明:

来源

人工超级智能的许诺,建立在客观智力是唯一智力这一观念之上。或者,即便存在多种智力,它们也是可互换的。做一个AI极繁主义者,就等于相信我们正按《卡坦岛》规则在游戏——只要你有足够多的某一种资源,就可以换成任何其他资源。如果你拥有无限的客观智力,那么你就拥有无限的一切。

那么我们该问问:这种神奇的想法到目前为止运转得如何?

空衣橱

判断机器的主观智力很难,一来因为主观智力本身就很难评判,二来因为大语言模型所占据的存在切片实在太小。当你遇到一个能心算二次方程、却保不住工作也维系不了亲密关系的人,你知道他脑子里缺了点什么。但机器没有可以搞砸的人生,所以我们能看的只有它们说的话。而只要它们连缀起几句话,问题就显而易见了。

写作是一项同时需要客观智力和主观智力的任务。大语言模型像攻克所有考试一样攻克了客观的部分;你在语法、语义或句法上挑不出它们的毛病。但好的写作还需要一点额外的灵气,让文字活起来、呼吸起来,那是一种无法量化、无法列入清单的内在光亮。即便AI如今已能产出A+级别的五段式议论文,那盏灯却从未亮起。

在意文字的人们对此竟能达成如此高度的共识,实在令人惊讶。Jasmine Sun、Erik Hoel和Sam Kriss是风格迥异的三位写作者——Sun是科技记者/人类学家,Hoel是神经科学家/小说家,而Kriss……嗯,他的简介说自己是“作家,你的敌人”——然而他们三人最近都发表了文章,得出了完全一致的结论:大语言模型写得一塌糊涂。(Sun在《大西洋月刊》Hoel在他的Substack上,以及Kriss在《纽约时报》上。)

我同意他们的看法。AI能折叠蛋白质、搭建网站、核查期刊论文等等,这很酷,但它写不出任何我想读的东西。问题不在于它会胡编乱造或犯错,而在于它写的一切都隐隐让人不适。我让视线拖过那些文字,内心毫无波澜。这么说还不太准确——实际上我的感受是:“希望这玩意儿赶紧结束。”当我看到机器自以为深刻的想法时,我会皱起眉头。和电脑对话就像喝了一口滚烫的咖啡:喝多了,你的味觉就迟钝了。

很难确切说清机器缺的是什么。你有没有爱过一个曾爱过你、后来却不再爱你的人?你有没有注意到他们眼中的光是如何熄灭的?有没有留意到太阳穴处那道区分真笑与假笑的细微皱纹是如何消失的?有没有捕捉到那个瞬间——你不再是被关爱的对象,而只是被敷衍的对象?当你意识到发生了什么的那一刻,你就从迷恋中成长、清醒了——前一天你还爬进衣橱通往纳尼亚,第二天再打开衣橱,里面只剩下衣架。和AI对话就有点像那样,只不过开头连美好的部分都没有。

当然,这个比喻从字面上看完全是胡说。尽管古代经院学者可能那样声称,但人的眼睛背后并没有真的光。尽管你的心理学入门课老师可能那样告诉过你,有些人完全可以把假笑装得天衣无缝。我没有衣橱,也从未见过狮子或女巫。然而任何人都能读懂这个类比——他们知道被甩是什么感觉,至少知道被拒绝是什么感觉。词语本身并不包含那种感受——它们是一份配方,用来在你自己的脑海中酿造那种感受,用你手头的经历拼凑出相应的情绪。如果我写得足够好,你内心产生的那种主观体验或许会与我内心最初的体验相似,但永远不会完全相同,因为我们手头的配料本就不同。1

电脑对此一无所知。它也不可能知道。它只能照着菜谱念,却尝不到菜的味道。客观知识能让你的句子正确,却不能让它们鲜活。没有主观知识,你很快就会撞上一堵墙。而与AI此前翻越的所有墙不同,这堵墙无法靠扩大规模来逾越——无论是字面意义还是比喻意义上的规模——因为这是一堵你无法描述其宽度、也无法看见其高度的墙。

一起撞墙

这堵墙是我至今还留在这里的唯一原因。

我宁愿死也不让电脑代写我的文章,但我确实想知道它能不能——以防我需要开始往口袋里捡石头、寻找最近的一片海。于是我时不时会测试一下,顶尖的AI模型能不能比我更像我。结果听起来像是一个后脑遭受重击的我,在医院里躺了好几年,期间不知为何Wi-Fi只允许登录领英。我不会在这里转载那些文字,因为它们连糟得有趣都算不上,而且你在网上已经见过无数遍了:怎么也凝不拢的隐喻、只要你不细想就显得深刻的套话、以及那种气喘吁吁、坚称每一句都是惊人发现的腔调。

如果有学生交来一篇听起来像这样的文章——而且我确信是他自己写的——我会不知从何指点起。我大概会让他先别写作,去读几本老小说,或去打一份糟糕的工,或背包去地球另一端走一遭。但那会是糟糕的建议,因为我认识一些为了让自己变得更有趣而做过这些事的人,结果并不管用。所以我或许会转而问他:“你有没有考虑过做咨询?”

很难描述该如何改进AI的写作,这本身恰恰就是问题所在。你无法给它做错的地方打个分,也就无法去最小化那些你无法度量的东西。这就是那堵墙。

当然,我觉得这很幸运,但也觉得颇为好笑,因为我和机器的对决本该毫无悬念。我既没有读过整个互联网,也没读过多少书。我身后没有一支斯坦福博士团队日夜不停地让我在工作上变得更强。也没有人在我身上投入2.5万亿美元。按理说,我此刻应该已经像约翰·亨利那样,在与Claude Opus 4.6的较量落败后,心脏爆裂、倒毙在西弗吉尼亚的某个角落。相反,我还能写我的小文章,只因为在那些数据中心里,没有任何地方存放着恰好在我颅骨中那团愚笨血肉里产生的那些念头。

我本想说,机器现在知道输给一个乱按手柄的10岁小孩、玩《任天堂大乱斗》是什么滋味了,但它们字面意义上就不知道那是什么感觉,而且永远也不会知道。菜就多练吧,我猜,等到AI迎来它的“天网”时刻、派出成群的杀人无人机来灭绝人类时,它们会发现我正在大笑。

装满“极其稳定的天才”的数据中心

单靠客观智力,你能走多远?

我想我们对此已经有了相当不错的答案,因为我们已经见过那些客观智力很高、主观智力却很低的人类会怎样。我们过去把这种人叫作书呆子,他们以被人按进马桶里而闻名。2

在我成长的年代,这个悖论为情景喜剧提供了无穷的情节——既然你们书呆子这么聪明,为什么就想不出怎么让自己受欢迎呢?企业家/随笔作家Paul Graham在20年前探讨过这个问题,并得出结论:书呆子们肯定是不想受欢迎。他们忙着看尼尔·斯蒂芬森的小说、玩龙与地下城,根本没空分出一丁点脑力去琢磨怎么让自己的脑袋远离马桶。

我不同意。我高中认识的书呆子——包括我自己——总在绞尽脑汁策划各种异想天开的计划来提升社交地位。只是都不管用。(“等她们看到我背下了多少个州的首府,所有女生都会想和我一起去毕业舞会!”)我们无法用自己的聪明让自己受欢迎,是因为我们的聪明用错了地方。

书呆子在高中毕业后往往混得更好一些,但环顾四周:这个世界并不是由那些赢得全州拼写大赛的人在掌管。书呆子们一直在输给那些魅力四射、却一无所知的家伙——我敢打赌,他们连像样数量的州首府都背不出来。如果成功只需要客观智力,那么门萨就该是光明会,而不是一个供人比拼谁记得更多圆周率位数的社交俱乐部了。3

事实上,有一位门萨会员恰好完美地说明了这个问题。在Scott Alexander为《呆伯特》作者Scott Adams所写的悼词中,他指出Adams尝试过的一切都失败了——除了画《呆伯特》漫画。他那款《呆伯特》主题的卷饼(“Dilberito”)惨败,他的餐厅倒闭,他那些关于宗教的书尴尬又难读。4 显然,Adams那相当可观的智力,只够用来画系领带的男人和尖头发老板。

来源

在对Adams的这番沉思中间,Alexander提到这样一段话:

每隔几个月,旧金山就会有一群聪明的书呆子产生同样的想法:我们要用智力来改造自己,变得性感、勤奋、有魅力、善言辞,然后坐享其成!这个想法如此诱人,根本没有理由会失败,而湾区的每一家瑜伽馆和心理诊所后院,都有一个小棚子,里面堆着过去一万个尝试过此道的聪明书呆子的头骨。

如果你认为智力就是一整块解决问题的原材料,那么湾区那帮人和像Scott Adams这样的人会陷入永无止境的自我打脸循环,就该让你感到惊讶。但如果你承认至少存在两种智力,这事就没那么费解了。这就是在某方面极其聪明、在另一方面却极其愚笨的样子。

问题不只是客观智力无法转化为“情商”或社交手腕或随便你怎么称呼的那种能力。看起来,把客观智力转化为任何其他认知能力,都非常困难,甚至是不可能的。

比如,我大学时有个同学超级聪明,但他做什么都无法准时。他会迟到错过考试。他的成绩一落千丈,因为他写完了论文却忘了交。他会和教授约好见面来解决问题,然后又放了人家鸽子。

我过去总在想:这家伙为什么不用他的大脑袋让自己变得更靠谱一点?生活不就是一场大型的角色扮演游戏吗?智力不就是经验值,可以随意分配到“大五人格”的任何一项技能上吗?

这就是AI的用武之地

显然,事情不是这样运作的。这就是为什么我不认为宇宙遵循《卡坦岛》的规则,也不认为更具客观智力的机器会自动衍生出所有其他种类的智力。

到这个份上,AI狂热派唯一的指望就是:我们只是还没有足够多的客观智力。诚然,我们或许无法用四单位客观智力换一单位主观智力,但四十亿单位呢?如果我们让机器把整个互联网再读一遍呢?如果我们不再让三年级小孩用他们灵巧的小手做清教徒的立体模型,而是让他们去组装更多的英伟达芯片呢?

Anthropic的首席执行官向我们承诺一个“数据中心里的天才之国”。也许真会实现!也或许我们会发现,数据中心里装的其实是一个住满Scott Adams的国家。至少,我们可以期待更多口味的Dilberito卷饼。

瓶颈盲视

当然,我这么说有点不公。《呆伯特》客观上是一部非常成功的漫画,而客观智力客观上也很有用。归根结底,我认为拥有更多客观智力终究是件好事。但我猜,我们很快就会发现,我们的许多问题并非受限于客观智力的匮乏。

比如,有些人希望AI能让停滞的科学领域起死回生,在各个领域掀起科学革命。我也希望如此。但我怀疑单靠注入客观智力能否实现,因为类似能力的注入过去也没能做到。

当我的博士导师还在读研时,他得亲自打电话问别人愿不愿意参加心理学实验。一个学期能招到30个被试,就算很不错了。像Sona这样的被试池管理系统让这个过程快了一倍,而Amazon Mechanical Turk则让它快了1000倍。同时,Google Scholar把原本要在图书馆泡半天才能完成的工作变成了两秒钟的搜索,像SPSS和R这样的统计软件则让数据分析变得飞快。

所有这些本该让心理学突飞猛进,但并没有。我认为我们是否真的取得了多少进展都值得怀疑。所以我并不乐观,觉得再添一项节省人力的技术就能让我们摆脱困境。已经有人说大语言模型能写出一篇像样的社会科学论文了;可惜,我们的问题不是论文产得太少。科学是一个强链问题——我们需要的是新范式,而不是更高的论文高塔。

在其他领域情况则不同。如果你已经有了成熟的范式,缺的只是一支研究助理大军,或一个能24小时运转的自动化实验室,或一个能为你跑十亿次回归、不知疲倦的研究生,那你就走运了。在那些情况下,无限的客观智力理应大大提速——事实上,它已经做到了

但跑得越快,撞墙就越早。我曾在不同时期面对过所有这些限制,而一旦克服其中一个,马上就会被另一个障碍绊住。我想我们所有人都患有这种瓶颈盲视:我们总以为当前的瓶颈就是唯一的瓶颈。手头拮据时,你会觉得所有问题都是钱的问题。但口袋里有了点钱后,你会发现真正缺的是时间。挤出时间后,你又发现缺的是动力。有了动力,你会意识到缺的是点子。然后你需要方向,然后需要自律,然后需要他人的认可,如此循环,永无止境。

一旦客观智力变得廉价到无需计量,我们就会撞上其他那些依然昂贵、仍被严格计量的瓶颈。如果我是对的、现实并不遵循卡坦岛的规则,那么我们就无法把客观智力兑换成撬开那些瓶颈所需的任何东西。人类奋斗的故事并不会以一个字面意义上的机械降神而告终。无论好坏,我们仍需继续思考。

统计夫人与百科先生

让我把话说得更尖锐一点。

在大多数院系里,你都能找到两种人。一种我们可以叫她统计夫人:她精通一切数据运算。另一种我们可以叫他百科先生:他读过每一篇论文,能凭记忆为你复述。现在的AI,感觉就像让你无限量地拥有两位极其友善的统计夫人和百科先生。大语言模型挺擅长找论文,也非常擅长写代码。那么,它们难道不该让研究项目快得多吗?

求求给Sam Altman一万亿美元,好让我能继续做这种图

然而,一旦你拥有了无限的统计夫人和百科先生,你会发现他们并不能带你走太远。一来,你不能完全依赖他们,因为如果你自己一点统计都不懂、也从不读论文,你自己大概也提不出什么有趣的想法。5 再者,尽管这对组合能告诉你实验是否已被人做过、数据算得是否正确,他们却无法给你最重要的那种反馈:他们无法告诉你,你的想法是不是很无聊

事实上,当你把文献综述和逻辑回归的边际成本降为零时,品味差就成了致命伤,因为你现在可以把所有时间都浪费在用严谨的方法去做愚蠢的课题上。我以前就走过这条路:我和合作者都没有什么好点子,于是我们说:“那就先搞点数据吧!”然后浪费好几个月,对着数据嘀咕“嗯,这些数据是什么意思,这么多数,好神秘啊”,最后我们干脆不再碰头,忘了我们曾一起做过什么。这就是试图用客观手段解决主观问题时的下场。

我在读博期间学到的最重要的一件事,就是如何正确地感到无聊。新手要么觉得一切都令人兴奋,要么觉得一切都无聊透顶。只有高手才会在正确的事情上感到无聊。如果说我还有那么一点品味,那是因为我花了五年时间让我的导师感到无聊。最烂的点子立刻就让他无聊,半吊子的点子几小时后让他无聊,而最好的点子至今还没让他无聊。这种判断毫无客观可言——你无法给它打分(“他的眼神有多涣散?”),也无法让专家小组来验证或交给群体智慧去裁决。你真的就得去烦一个老头,直到他叫你滚出办公室,而如果你这么做得够多,最终你会在他之前就先感到无聊。

从我,到光辉之海

我说这些,并非因为我对AI过敏,也并非因为我只花了15分钟随便摆弄某个模型,就盼着它出丑好去告状。如果会说话的电脑真的能说出许多迷人的话,我看不出有任何必要对此编造一个善意的谎言。如果AI能治愈癌症、终结战争,我举双手赞成,哪怕这意味着我个人会失业。

当然,也有可能某项突破会击碎我所有的批评,GPT-10开始产出完美无瑕、听起来像我但比我更好的博客文章,然后我就该往口袋里装石头、走向大海了。但如果那真的发生,那也不会是我们今天所处趋势的自然延续。而是因为我们找到了某种方法,把那些柔软模糊的问题硬化了。

不过在那之前,柔软的问题仍需柔软的人来解决。地球的规则,不像卡坦岛的规则,似乎在说:再多的客观智力也换不来哪怕一点主观智力。正如蒙田在1580年所言,“我们固可因他人之学而博学,但人唯靠自身之智方可成智”。拥有人类创造过的一切学识、却没有半点属于自己的智慧,会是什么样子?嗯,“作为一个大语言模型……”

  1. 天哪,看看谈论这事有多难吧?

  2. 我们现在其实已经没有词来形容这种人了,一方面是因为“书呆子”这个词被挪用去卖漫威电影周边了,另一方面是因为孩子们如今只会在安全的社交距离之外霸凌彼此。所以如今用来形容成绩好却没朋友的人的恰当词汇,大概是“失败者”。

  3. 我最喜欢的门萨故事:当喜剧演员Jamie Loftus考过了他们的测试并开始在门萨的Facebook群组里捣乱时,他们的回应方式充分体现了天才风范,那就是发出死亡威胁。

  4. 我小时候也是Adams的粉丝,我记得读到他一本《呆伯特》文集的结尾,突然间Adams声称引力根本不存在——一切都在不断变大,所以当你跳到空中时,你和地球都在变大,于是你们又重逢了。(宇宙也在膨胀,所以我们才不会觉得地方不够用。)

  5. 还有另一个无法用机器取代这些专家的理由,这不仅是实际操作层面的,更是社会层面的。当我与统计夫人和百科先生合作时,我借用的不仅是他们的智力,还有他们的声誉。如果他们把数字算错或漏引了文献,责任在他们。所有人类专家的价值,有一半在于充当保险。

    AI可不提供这种保障。电脑不会被解雇、不会身败名裂、不会被吊销执照或被剥夺教职。它搞砸时会非常抱歉,但它不会引咎辞职。打造机器的人类也帮不上忙——如果AI导致我犯下大错,承担后果的是我,而不是Sam Altman。这正是即便AI能完成某些同样任务,也难以取代人类劳动的一个隐蔽原因:没有血肉之躯,就做不成挡箭牌。

本文章由 muse-spark-1.2-contributor 进行翻译

评论