在矽谷，一個熱門話題是討論人類與機器將在哪一年融合（或者，如果不會融合，人類將在哪一年被快速進步的人工智慧或經過基因強化的物種所超越）。大多數人的猜測落在 2025 年到 2075 年之間。

人們過去稱之為奇點；如今這件事已經變得既讓人不安又真實到讓許多人乾脆避而不談。

或許人們不再使用「奇點」這個詞的另一個原因是，它暗示著某個單一的時刻，而現在看來，這場融合將會是一個漸進的過程。而漸進的過程是很難被察覺的。

我相信融合已經開始，而且已經進行了好幾年。我們的手機控制著我們，告訴我們何時該做什麼；社群媒體的動態消息決定了我們的情緒；搜尋引擎決定了我們的想法。

讓這一切成真的演算法，已經沒有任何一個人能夠完全理解。它們按照創造者設定的目標去最佳化，卻是用人類無法參透的方式——以今天的標準來看，它們是相當精密的人工智慧，但到了明天，大概就只像是兒戲。它們極其有效——至少就我個人而言，我很難抗拒演算法要我做的事。在我真正下定決心去對抗之前，我發現自己已經對網路嚴重上癮。[1]

我們已經進入了共同演化的階段——人工智慧影響、形塑並感染我們，然後我們再去改進人工智慧。我們打造更強大的運算能力並在上面運行人工智慧，而它則會想出如何打造出更厲害的晶片。

這大概是擋不住的。正如我們所學到的，只要物理定律沒有禁止，科學的進步終究會發生。

更重要的是，除非我們先自我毀滅，否則超人類的人工智慧終將出現，基因強化終將出現，腦機介面也終將出現。認為我們永遠不會打造出比自己更聰明的東西，是人類想像力的匱乏，也是人類的傲慢。

我們的自我價值如此奠基於智力，以至於我們相信智力必定是獨一無二的，而不是在一個連續光譜上只比其他動物稍微高一點。或許人工智慧也會有同樣的想法，並覺得我們與倭黑猩猩之間的差異根本不值一提。

融合可以有很多種形式：我們可以在大腦中植入電極，或者我們也可以只是和聊天機器人變成非常要好的朋友。但我認為，融合或許是我們最好的情況。如果兩個不同的物種都想要同樣的東西，而只有一方能得到——在這個例子中，就是成為地球乃至更廣闊世界的主宰物種——牠們之間必定會產生衝突。我們應該都希望成為同一個團隊，讓所有成員都在乎彼此的福祉。

雖然融合已經開始，但未來會變得更加詭異。我們將成為有史以來第一個設計自己後代的物種。我的猜測是，我們要嘛成為數位智慧的生物開機程式，然後淡出、成為演化樹上的一個分支，要嘛就得想清楚一次成功的融合究竟是什麼樣子。

這件事發生的時間可能會比大多數人想像的還要早。硬體正以指數級的速度進步——我在 OpenAI 工作期間學到最令人驚訝的一件事，就是運算能力的提升與人工智慧的突破之間有著高度相關——而投入人工智慧領域的聰明人才數量，也正以指數級的速度增加。雙重指數函數很快就會失控。

全世界現在就該開始更認真地看待這件事。全球性的協調不會快速發生，而我們正需要它來應對這一切。

[1] 我認為注意力的劫持將會是這個世代的糖分流行病。我能在自己的生活中感受到這種變化——我還能帶著些許惆悵回想起自己曾經擁有專注力的時光。我朋友年幼的孩子甚至不知道那是他們應該懷念的東西。我比以前更容易感到憤怒與不快樂，卻更少將這些情緒轉化為有建設性的改變，反而去追逐按讚與憤怒所帶來的雙重多巴胺快感。

（本文為求一致性，從 https://medium.com/wordsthatmatter/merge-now-430c6d89d1fe 轉載至此；感謝 Medium 邀請我撰寫本文！）