我們已經跨過了事件視界；起飛已經開始。人類已接近打造出數位超級智慧，至少到目前為止，這一切遠比想像中來得不那麼詭異。

機器人還沒有走上街頭，我們大多數人也還沒有整天和 AI 對話。人們依然會因疾病而逝，我們依然無法輕易前往太空，對於宇宙仍有太多未知。

然而，我們最近已經打造出在許多方面比人類更聰明的系統，而且能夠大幅放大使用者的產出。最艱難、最難以實現的部分已經過去；讓我們得以打造出像 GPT-4 和 o3 這類系統的科學洞見得來不易，但將帶我們走得很遠。

AI 將以許多方式貢獻於世界，但由 AI 帶動更快的科學進展與生產力提升，所帶來的生活品質改善將是巨大的；未來可以比現在好得多。科學進展是推動整體進步的最大動力；想到我們還能擁有的更多可能，令人無比興奮。

在某種宏觀的意義上，ChatGPT 已經比有史以來任何人類都更強大。每天有數億人依賴它處理日益重要的任務；一項微小的新能力就能帶來巨大的正面影響；而一個微小的偏差，乘以數億人，也可能造成巨大的負面衝擊。

2025 年迎來了能夠執行真正認知工作的 AI 代理；寫程式這件事將從此不同。2026 年很可能會出現能夠發掘全新洞見的系統。2027 年則可能迎來能夠在現實世界中執行任務的機器人。

將會有更多人能夠創造軟體與藝術。但世界對兩者的需求遠不止於此，只要專家願意擁抱新工具，他們很可能依然會遠比新手出色。整體而言，一個人在 2030 年能完成的事情，將遠遠超過 2020 年的自己，這將是一個顯著的變化，也有許多人會懂得如何從中受益。

在最重要的層面上，2030 年代或許不會有天翻地覆的改變。人們依然會愛著家人、展現創造力、玩遊戲、在湖中游泳。

但在其他同樣非常重要的層面上，2030 年代很可能會與過去任何時代都截然不同。我們不知道人類層級的智慧之上還能走多遠，但我們即將找到答案。

到了 2030 年代，智慧與能源——也就是點子，以及讓點子實現的能力——將變得極度充沛。這兩者長期以來是限制人類進步的根本因素；有了充沛的智慧與能源（以及良好的治理），理論上我們就能擁有其他一切。

我們已經與不可思議的數位智慧共存，在最初的震驚過後，大多數人也已相當習慣。我們很快就從驚嘆 AI 能寫出優美的段落，轉為好奇它何時能寫出一部優美的小說；從驚嘆它能做出救命的醫療診斷，轉為好奇它何時能研發出解藥；從驚嘆它能寫出一個小程式，轉為好奇它何時能創立一整家新公司。奇點就是這樣發生的：奇蹟變成日常，然後成為基本門檻。

我們已經聽到科學家說，他們的生產力比使用 AI 之前提升了兩到三倍。先進的 AI 在許多方面都令人著迷，但或許沒有什麼比我們能用它來加速 AI 研究這件事更為重大。我們或許能發現新的運算基板、更好的演算法，誰知道還有什麼。如果我們能在一年或一個月內完成相當於十年的研究，那麼進步的速度顯然會截然不同。

從現在起，我們已經打造出的工具將幫助我們找到更多的科學洞見，並協助我們打造出更好的 AI 系統。當然，這與 AI 系統完全自主地更新自身程式碼並不相同，但無論如何，這已是遞迴自我改進的雛形。

還有其他自我強化的循環正在發揮作用。經濟價值的創造已經啟動了一個飛輪，推動基礎設施的複合式擴建，以運行這些日益強大的 AI 系統。而能夠製造其他機器人的機器人（在某種意義上，能夠建造其他資料中心的資料中心）也已不遠。

如果我們必須用傳統方式製造最初的一百萬台人形機器人，但之後它們就能運作整個供應鏈——開採與提煉礦物、駕駛卡車、營運工廠等等——來製造更多的機器人，進而建造更多的晶片製造廠、資料中心等等，那麼進步的速度顯然會截然不同。

隨著資料中心的生產自動化，智慧的成本最終應該會趨近於電力的成本。（人們常常好奇一次 ChatGPT 查詢要用掉多少能源；平均一次查詢約使用 0.34 瓦時，大約相當於烤箱運轉一秒多，或高效率燈泡使用幾分鐘的耗電量。同時也約消耗 0.000085 加侖的水；大約是一茶匙的十五分之一。）

科技進步的速度將持續加速，而人類能夠適應幾乎任何變化的情況仍會持續。過程中會有非常艱難的部分，例如整個類別的工作消失，但另一方面，世界將會如此迅速地變得富裕得多，讓我們得以認真考慮以往無法想像的新政策構想。我們很可能不會一夜之間就採用全新的社會契約，但幾十年後回頭看，這些漸進的變化將累積成巨大的轉變。

如果歷史可作為借鏡，我們會找到新的事情去做、新的事物去渴望，並迅速吸收新工具（工業革命後的工作轉型就是一個很好的近期例子）。期望會提高，但能力也會以同樣快的速度提升，我們都將擁有更好的事物。我們會為彼此打造出更美好的東西。人類相較於 AI 有一項長期、重要且奇特的優勢：我們天生就關心他人以及他們的想法與作為，而我們並不太在乎機器。

一位一千年前的自給自足農夫若看到我們許多人的工作，會說我們做的是虛假的工作，並認為我們只是在玩遊戲自娛，因為我們已擁有充足的食物與難以想像的奢華。我希望未來一千年後的人們回看我們現在的工作，也會覺得那些是非常虛假的工作，而我毫不懷疑，那些工作對從事其中的人們而言，將會感到無比重要且充滿成就感。

新奇蹟誕生的速度將會非常驚人。今天很難想像到 2035 年我們將會發現什麼；也許我們會在某一年解決高能物理問題，隔年就開始太空殖民；或是在某一年取得重大的材料科學突破，隔年就實現真正高頻寬的腦機介面。許多人會選擇以大致相同的方式過生活，但至少有些人可能會決定「接入」。

展望未來，這一切聽起來似乎難以理解。但實際經歷時，或許會感到震撼卻仍在可承受的範圍內。從相對的角度來看，奇點是一點一滴發生的，融合也是緩慢進行的。我們正攀爬在指數型科技進步的漫長弧線上；向前看時總覺得曲線近乎垂直，向後看時卻覺得平坦，但其實它是一條平滑的曲線。（回想一下 2020 年，若當時聽說 2025 年會出現接近通用人工智慧的東西，會覺得多麼不可思議，再對照過去五年的實際情況。）

除了巨大的好處之外，也有嚴峻的挑戰必須面對。我們確實需要在技術與社會層面解決安全問題，但接著，鑑於其經濟影響，廣泛分配超級智慧的近用權也至關重要。最佳的前進路徑或許類似這樣：

1. 解決對齊問題，也就是我們能穩健地確保 AI 系統學會並朝著我們長期以來集體真正想要的目標行動（社群媒體的動態消息就是對齊失敗的 AI 範例；驅動這些動態消息的演算法非常擅長讓你一直滑下去，清楚掌握你的短期偏好，卻是透過利用你大腦中會覆蓋長期偏好的機制來達成）。

2. 接著，致力於讓超級智慧變得便宜、普及，且不會過度集中在任何個人、企業或國家手中。社會具有韌性、創造力，且能快速適應。如果我們能匯聚人們的集體意志與智慧，那麼即使我們會犯下許多錯誤、有些事情會嚴重出錯，我們也能快速學習與調適，並運用這項科技來獲取最大的益處、最小的弊端。在社會必須共同決定的廣泛界限內，給予使用者充分的自由，似乎非常重要。世界越早開始討論這些廣泛界限應為何、以及如何定義集體對齊，就越好。

我們（指整個產業，而不僅是 OpenAI）正在為世界打造一個大腦。它將會高度個人化，且人人都能輕易使用；我們將只受限於好點子的多寡。長久以來，新創圈的技術人員總是嘲笑那些「點子王」——那些只有點子、卻想找團隊來實現的人。現在在我看來，他們的好日子就要來了。

OpenAI 如今涵蓋了許多面向，但首先，我們是一家超級智慧研究公司。我們面前還有許多工作要做，但前方的道路大多已被照亮，黑暗的區域正迅速退去。我們對於能夠從事現在的工作，感到無比感激。

智慧便宜到無需計量的時代已近在咫尺。這樣說或許聽起來很瘋狂，但如果我們在 2020 年就告訴你我們會走到今天這個地步，那聽起來恐怕比我們現在對 2030 年的預測還要瘋狂。

願我們能平順地、指數級地、波瀾不驚地擴展，邁向超級智慧。