The Merge

Sam Altman

融合

原文由 Sam Altman 发布,订阅该博客

在硅谷,人们热衷于讨论人类与机器将在哪一年融为一体(如果不会融合,那人类又将在哪一年被飞速发展的人工智能或经过基因增强的物种所超越)。大多数预测都集中在2025至2075年之间。

人们过去常把这一时刻称为“奇点”;如今它让人感到不安,又过于真实,以至于许多人干脆对此避而不谈。

人们不再使用“奇点”一词,或许还有另一个原因:它暗示着某个单一的瞬间,而现在看来,融合将是一个渐进的过程。而渐进的过程往往难以被察觉。

我认为融合其实已经开始,并且已经持续了几年。手机支配着我们,告诉我们何时该做什么;社交媒体的信息流决定着我们的喜怒哀乐;搜索引擎则决定着我们的想法。

让这一切运转起来的算法,如今已没有任何一个人能够完全理解。它们按照创造者设定的目标去优化,却以人类无法参透的方式——以今天的眼光看,它们已是相当精密的人工智能,而在明天看来又不过是小儿科。它们极其有效——至少就我个人而言,我很难抵制算法想让我去做的事。在我真正下决心与之对抗之前,我发现自己已对互联网极度上瘾。[1]

我们已经进入了共同进化的阶段——人工智能影响、塑造并侵染着我们,然后我们再去改进人工智能。我们搭建更强的算力并在其上运行AI,而AI又会想出如何制造出更优越的芯片。

这一切恐怕无法被阻止。正如我们所知的那样,只要物理定律不禁止,科学的进步终将发生。

更重要的是,除非我们先自我毁灭,否则超人类智能终将出现,基因增强终将出现,脑机接口也终将出现。认为我们永远不会造出比自己更聪明的东西,既是人类想象力的匮乏,也是人类的傲慢。

我们的自我价值如此根植于智力,以至于我们相信智力一定是独一无二的,而不愿承认它只是在连续谱系上比其他动物略高一点。也许人工智能也会有同样的感觉,并认为人类与倭黑猩猩之间的差异根本不值一提。

融合可以有多种形式:我们可以向大脑中植入电极,也可以仅仅是与一个聊天机器人成为亲密的朋友。但我认为,融合很可能是我们最好的结局。如果两个不同的物种都想要同一样东西,而只有一个能得到——在这种情况下,就是成为地球乃至地球之外的支配性物种——它们之间必将产生冲突。我们都应该希望成为同一支队伍,让每一个成员都关心其他所有成员的福祉。

尽管融合已经开始,未来会变得更加光怪陆离。我们将成为有史以来第一个设计自身后代的物种。我的猜测是,我们要么充当数字智能的生物引导程序,随后淡出,成为进化树上的一个分支,要么就弄清楚一次成功的融合究竟是什么样子。

这一切很可能比大多数人预想的来得更快。硬件正以指数级的速度提升——我在OpenAI工作期间学到的最令人惊讶的一点,就是算力的增长与AI的突破之间存在着极强的相关性——而从事AI的聪明人的数量也在以指数级增长。双重指数叠加,很快就会超出人们的掌控。

全世界现在就开始更认真地对待这件事,会是一件好事。全球范围的协作从来都不是一蹴而就的,而在这件事上,我们恰恰需要它。

[1] 我认为,注意力劫持将成为这一代人的糖瘾流行病。我能在自己的生活里感受到这种变化——我仍会带着惆怅怀念自己曾拥有专注力的时光。而我朋友年幼的孩子们甚至不知道那是某种值得怀念的东西。我比以前更容易感到愤怒和不快,却更少将其转化为富有成效的改变,反而去追逐点赞与愤慨带来的双重多巴胺快感。

(本文为保持一致性,从 https://medium.com/wordsthatmatter/merge-now-430c6d89d1fe 转载至此;感谢Medium邀请我撰写此文!)

本文章由 muse-spark-1.2-contributor 进行翻译

评论