省思
原文由 Sam Altman 于 發布,訂閱此部落格
ChatGPT 滿兩週年才過了一個多月,我們已經邁入了能夠進行複雜推理的下一代模型典範。新的一年總會讓人想回顧與反思,我想分享一下一路走來的心得,以及這段過程中學到的一些事。
隨著我們愈來愈接近 AGI,現在似乎是個回顧公司進展的重要時刻。還有太多需要理解,還有太多未知,一切都還在非常早期的階段。但比起剛起步時,我們已經懂得多了許多。
將近九年前,我們創立 OpenAI,是因為相信 AGI 有可能實現,而且它可能是人類歷史上影響最深遠的技術。我們想弄清楚如何打造它,並讓它能廣泛地造福人群;我們很興奮能試著在歷史上留下自己的印記。我們的抱負極其遠大,也同樣深信這份工作能為社會帶來同等非凡的益處。
當時,幾乎沒有人在意,就算有人在意,多半也是覺得我們根本不可能成功。
2022 年時,OpenAI 還是一間安靜的研究實驗室,當時正在做一個暫時叫做「Chat With GPT-3.5」的東西。(我們顯然更擅長做研究,而不是取名字。)我們觀察到人們在使用 API 裡的 Playground 功能,發現開發者真的很喜歡跟模型對話。我們想,圍繞這個體驗做一個展示,應該能讓大家看見關於未來的重要可能性,也能幫助我們把模型做得更好、更安全。
還好我們最後把它取名為 ChatGPT,並在 2022 年 11 月 30 日發布了它。
我們一直都知道,抽象來說,總有一天會來到引爆點,AI 革命將會就此展開。但我們不知道那個時刻會是什麼。出乎我們意料,結果就是這一刻。
ChatGPT 的發布開啟了一條我們前所未見的成長曲線——不只在我們公司,在整個產業,乃至全世界都是如此。我們終於看到了長久以來期待 AI 能帶來的巨大正面效益,也能預見不久的將來還會有更多。
這一路並不容易。道路並不平順,正確的選擇也並不明朗。
在過去兩年裡,我們幾乎得從零開始,圍繞這項新技術打造一整間公司。這種事除了親身實踐,沒有任何訓練方式;而當技術類別是全新的,根本沒有人能確切告訴你該怎麼做。
在缺乏訓練的情況下以如此高速建立一間公司,過程必然是一團混亂。常常是前進兩步、後退一步(有時甚至是前進一步、後退兩步)。錯誤會在過程中逐漸修正,但當你在做開創性的工作時,根本沒有什麼手冊或路標可循。在未知的水域中高速前行是無比精彩的體驗,但對所有參與者來說,也帶來極大的壓力。衝突與誤解層出不窮。
這些年是我至今人生中最有收穫、最有趣、最棒、最有意思,同時也是最讓人精疲力竭、最有壓力——尤其是過去這兩年——最不好受的幾年。最強烈的感受是感激;我知道,總有一天我會在牧場退休,看著植物生長,有點無聊,然後回想起自己竟然有幸做著從小就夢想的工作,那是多麼酷的一件事。每當在某個星期五下午一點前就接連出了七件差錯時,我就會試著提醒自己這一點。
一年多前,在某個星期五,當天出差錯的主要事情,就是我在視訊會議上毫無預警地被解雇,然後就在我們掛斷電話後,董事會立刻發布了一篇關於此事的部落格文章。當時我在拉斯維加斯的一間飯店房間裡。那種感覺,幾乎無法用言語形容,就像一場美夢變調走樣。
在毫無預警的情況下被公開解雇,開啟了瘋狂的幾個小時,以及相當瘋狂的幾天。其中最奇怪的部分是那種「戰爭迷霧」。我們所有人都無法對到底發生了什麼、為什麼會發生,得到令人滿意的答案。
在我看來,整起事件是出於善意的人們——包括我自己——在治理上的重大失敗。回頭看,我當然希望當時能用不同方式處理,也願意相信今天的我比一年前是更好、更深思熟慮的領導者。
我也學到,董事會擁有多元觀點與處理複雜挑戰的豐富經驗是多麼重要。良好的治理需要大量的信任與公信力。我很感激有這麼多人齊心協力,為 OpenAI 建立起更強健的治理體系,讓我們能夠繼續追求確保 AGI 造福全人類的使命。
我最大的體悟是,我有多麼值得感恩,又虧欠了多少人的恩情:感謝在 OpenAI 工作的每一位,選擇投入時間與心力追尋這個夢想;感謝在危機時刻幫助我們度過難關的朋友;感謝支持我們、信任我們、讓我們得以協助他們成功的合作夥伴與客戶;也感謝生命中那些讓我感受到他們關懷的人們。[1]
我們都以更團結、更正向的方式回到了工作崗位,我為此後大家的專注感到非常驕傲。我們完成了堪稱有史以來最出色的一些研究。每週活躍用戶從約一億成長到超過三億。最重要的是,我們持續將人們真心喜愛、能解決實際問題的技術推向世界。
九年前,我們真的完全不知道自己最終會變成什麼樣子;即使是現在,也只算是略知一二。AI 的發展經歷了許多曲折轉變,我們預期未來還會有更多。
有些轉折令人欣喜,有些則充滿艱辛。看著研究上的奇蹟接連發生很有趣,許多原本的質疑者也成了真正的信徒。我們也看到一些同事離開,成為了競爭對手。團隊在擴張過程中本就會有流動,而 OpenAI 的擴張速度極快。我認為其中有些是無可避免的——新創公司通常在每一次規模躍升時都會經歷大量人員異動,而在 OpenAI,規模每隔幾個月就以數量級的速度成長。過去兩年宛如一般公司裡的十年。當任何一間公司以如此快的速度成長與演變,利益自然會分歧。而當任何一間處於重要產業領先地位的公司,總會因為各種理由遭到許多人的攻擊,尤其當他們試圖與之競爭時。
我們的願景不會改變;戰術則會持續演進。舉例來說,創立之初我們根本沒想到會需要建立一間產品公司;我們以為只要做好研究就好。我們也完全沒想到會需要如此龐大的資金。現在有些必須去打造的東西,是幾年前我們還無法理解的,而未來也會有現在幾乎無法想像的新事物等著我們去建造。
我們為迄今在研究與部署上的成績感到自豪,並致力於持續深化對安全與利益共享的思考。我們始終相信,讓 AI 系統更安全的最佳方式,是以反覆、漸進的方式將其發布到世界上,給予社會時間去適應並與技術共同演化,從經驗中學習,並持續讓技術變得更安全。我們相信,成為安全與對齊研究領域的世界領導者至關重要,並以來自真實世界應用的回饋來引導這些研究。
我們現在有信心,已經知道如何打造傳統意義上的 AGI。我們相信,在 2025 年,我們可能會看到第一批 AI 代理人「加入職場」,並實質性地改變企業的產出。我們依然相信,不斷地將強大的工具交到人們手中,會帶來美好且廣泛分布的成果。
我們正開始將目標轉向更遠方,也就是真正意義上的超級智慧。我們喜愛現有的產品,但我們是為輝煌的未來而來。有了超級智慧,我們就能實現其他一切。超級智慧工具能夠大幅加速科學發現與創新,遠遠超越我們單憑自身所能達到的程度,進而大幅提升豐裕與繁榮。
這聽起來現在像是科幻小說,甚至光是談論它都有點瘋狂。沒關係——我們以前就經歷過這種情況,也樂於再次身處其中。我們相當有信心,在未來幾年內,每個人都會看到我們所看到的,也會明白以極度謹慎的態度行動,同時最大化廣泛的利益與賦能,是多麼重要。鑑於我們工作的可能性,OpenAI 不可能是一間普通的公司。
能夠在這份工作中扮演一個角色,是多麼幸運、又多麼令人謙卑。
(感謝 Josh Tyrangiel 某種程度上促成了這篇文章。真希望我們能有更多時間。)
[1]
在那幾天裡,有很多人為幫助 OpenAI,以及幫助我個人,付出了難以置信的巨大努力,但有兩個人特別突出。
Ron Conway 和 Brian Chesky 的付出遠遠超出了職責所要求的程度,我甚至不知該如何形容。多年來,我當然聽過許多關於 Ron 能力與堅毅的故事,而過去幾年我也花了很多時間與 Brian 相處,從他那裡獲得了大量的幫助與建議。
但沒有什麼比得上與人一同在戰壕裡並肩作戰,更能看清一個人的真本事。我相當確信,若沒有他們的幫助,OpenAI 可能早已分崩離析;他們日以繼夜地工作了好幾天,直到事情塵埃落定。
儘管他們付出了難以置信的努力,卻始終保持冷靜,思路清晰,戰略清楚,並在過程中提供了極佳的建議。他們阻止我犯下好幾個錯誤,自己卻一個錯也沒犯。他們動用了廣大的人脈來處理一切所需,並能駕馭許多複雜的局面。我確信他們還做了許多我所不知道的事。
不過,我最會記得的,還是他們的關懷、同理與支持。
我以為我知道支持一位創辦人與一間公司是什麼樣子,在某種小小的程度上,我也的確知道。但我從未見過、甚至從未聽過像他們兩位所做的那樣的事,現在我也更能完全理解為何他們擁有那樣的傳奇地位。他們兩人截然不同,也各自完全配得上其獨一無二的聲譽,但他們相似之處在於那種能夠移山倒海、助人成事的非凡能力,以及在需要之時的堅定不移。科技產業因為有他們兩位的存在而變得更好。
還有其他像他們這樣的人;這是我們這個產業中一件極其特別的事,其對讓一切得以運轉的貢獻,遠比人們意識到的還要多。我期待能將這份善意傳遞下去。
更私人的部分,要特別感謝 Ollie 在那個週末以及一直以來的支持;他在各方面都令人讚嘆,沒有人能期盼比他更好的伴侶。
隨機一篇部落格
留言
登入後參與討論