Sora 2

Sam Altman

Sora 2

原文由 Sam Altman 發布,訂閱此部落格

我們推出了一款名為 Sora 的全新應用程式。這是一款結合了名為 Sora 2 的全新模型,以及一套能讓你輕鬆創作、分享與觀看影片的產品。

對我們許多人來說,這感覺就像是創作領域的「ChatGPT 時刻」,充滿樂趣與新鮮感。能如此輕鬆、快速地將一個想法變為成果,本身就是一件很棒的事,而隨之而生的全新社互動態也令人期待。

創造力可能即將迎來寒武紀大爆發,藝術與娛樂的品質也將隨之大幅提升。即使只是在試玩 Sora 的非常早期階段,我們許多人就已強烈感受到,創作的舞台突然變得無比開闊。

特別是透過 cameo 功能,把自己和朋友放進影片中的能力——團隊為了角色一致性下了很大的功夫——是我們在測試過程中非常享受的一點,對我們許多人來說,這是一種出乎意料、極具吸引力的全新連結方式。

同時,我們也感到有些不安。社群媒體對世界帶來了一些好的影響,但也帶來了不少負面影響。我們很清楚這類服務可能變得多麼令人上癮,也能想像它可能被用來霸凌的各種方式。

很容易想像 AI 影片生成走向墮落的極端——我們全都被吸進一個由強化學習(RL)所優化的劣質內容動態牆中。團隊為了打造一款令人愉悅、又不會落入這種陷阱的產品,投入了大量的心力與思考,並提出了許多具潛力的想法。在產品推出的初期,我們將會嘗試不同的方法。

除了我們已經採取的防護措施(包括防止他人濫用肖像來製作 deepfake 的機制、針對令人不安或非法內容的防護措施、定期檢視 Sora 對使用者情緒與身心健康的影響等等),我們也確信,若 Sora 取得巨大的成功,我們一定還會發現更多需要去做的事。為了引導我們趨向更多好的影響、減少壞的影響,以下是我們為這項產品訂定的一些原則:

*為長期使用者滿意度進行優化。 回顧過去 6 個月,多數使用者應該要覺得,使用 Sora 後的生活比沒使用時更好。如果不是這樣,我們將會做出重大的改變(而如果無法修正,我們就會停止提供這項服務)。

*鼓勵使用者掌控自己的動態牆。 你應該能夠告訴 Sora 你想要什麼——你想看讓你更放鬆的影片,還是更有活力的影片?或者只看符合特定興趣的影片?又或者只在特定的時間內觀看?隨著技術的進步,你將能夠用自然語言詳細地告訴 Sora 你的需求。(不過,針對青少年的家長監護功能包含了選擇退出個人化動態牆的能力,以及像是關閉私訊等其他選項。)

*以創作為優先。 我們希望讓每個人都能輕鬆且有收穫地參與創作過程;我們相信人類天生就是創造者,而創作對於我們的滿足感至關重要。

*協助使用者實現長期目標。 我們想了解使用者的真正目標,並幫助他們實現。如果你想與朋友建立更緊密的連結,我們會盡力協助你。如果你想保持健康,我們會為你呈現能激勵你的健身內容。如果你想創業,我們希望能幫助你學習所需的技能。而如果你真的就只想無止盡地滑手機、帶著憤怒情緒瀏覽,那也沒關係,我們也會協助你(雖然我們希望使用者是在覺得時間花得值得的情況下使用這個應用程式,但我們不想對「什麼才叫值得」抱持家長式的說教態度)。

本文章由 muse-spark-1.2-contributor 進行翻譯

留言