Sora라는 새로운 앱을 출시합니다. 이 앱은 Sora 2라는 새로운 모델과 영상을 손쉽게 만들고, 공유하고, 감상할 수 있게 해주는 새로운 프로덕트를 결합한 것입니다.

우리 중 많은 이에게 이번 순간은 “창의성을 위한 ChatGPT” 모먼트처럼 느껴지며, 새롭고 즐겁게 다가옵니다. 아이디어를 결과물로 정말 쉽고 빠르게 구현할 수 있다는 점, 그리고 그 과정에서 생겨나는 새로운 사회적 역동성에는 뭔가 대단한 지점이 있습니다.

창의성은 곧 캄브리아기 대폭발을 맞이하려 하고 있으며, 그와 함께 예술과 엔터테인먼트의 질도 비약적으로 높아질 수 있습니다. Sora를 가지고 놀아본 아주 초기 단계에서도, 활동 무대가 얼마나 갑자기 넓어졌는지 우리 많은 이가 놀랍게 느꼈습니다.

특히 카메오 기능을 통해 자신과 친구를 영상 속에 등장시키는 경험 — 팀은 캐릭터 일관성을 위해 정말 많은 노력을 기울였습니다 — 은 테스트 기간 동안 우리가 가장 즐겼던 부분이며, 많은 이에게 놀라울 정도로 매력적인 새로운 연결 방식입니다.

한편으로는 약간의 우려도 느낍니다. 소셜 미디어는 세상에 긍정적인 영향을 주기도 했지만, 부정적인 영향도 끼쳤습니다. 우리는 이런 서비스가 얼마나 중독적일 수 있는지 잘 알고 있으며, 괴롭힘 등에 악용될 수 있는 여러 가능성을 충분히 상상할 수 있습니다.

AI 영상 생성이 타락한 방향으로 흘러 결국 우리 모두가 RL에 최적화된 저질 콘텐츠 피드에 빨려 들어가는 상황을 쉽게 상상할 수 있습니다. 팀은 이러한 함정에 빠지지 않으면서도 즐거운 제품을 만들기 위해 많은 고민과 노력을 기울였고, 여러 유망한 아이디어를 내놓았습니다. 제품 출시 초기에는 다양한 접근 방식을 실험해 볼 예정입니다.

우리는 이미 마련해 둔 여러 완화 조치(딥페이크에서 타인의 초상을 악용하는 것을 방지하기 위한 조치, 불쾌하거나 불법적인 콘텐츠에 대한 안전장치, Sora가 이용자의 기분과 웰빙에 미치는 영향에 대한 주기적인 점검 등)에 더해, Sora가 크게 성공할 경우 해야 할 새로운 과제들을 분명히 발견하게 되리라 확신합니다. 더 많은 긍정적인 영향을 이끌고 부정적인 영향을 줄이기 위해, 이 제품에 대해 우리가 세운 원칙은 다음과 같습니다:

*장기적인 사용자 만족을 최적화합니다. 대다수의 사용자가 지난 6개월을 되돌아봤을 때, Sora를 사용하지 않았을 때보다 Sora를 사용한 덕분에 삶이 더 나아졌다고 느껴야 합니다. 그렇지 않다면 우리는 중대한 변화를 단행할 것이며(그리고 문제를 해결할 수 없다면 서비스 제공을 중단할 것입니다).

*사용자가 피드를 직접 제어하도록 장려합니다. 사용자는 Sora에게 원하는 것을 말할 수 있어야 합니다 — 더 편안해지는 영상을 보고 싶은가요, 아니면 더 활력이 생기는 영상을 보고 싶은가요? 아니면 특정 관심사에 맞는 영상만 보고 싶은가요? 혹은 특정 시간 동안만 보고 싶은가요? 기술이 발전함에 따라 궁극적으로는 원하는 바를 자연어로 자세히 Sora에게 말할 수 있게 될 것입니다. (다만 청소년을 위한 보호자 제어 기능에는 개인화 피드를 비활성화하는 옵션과 DM 차단 등의 기능이 포함됩니다.)

*창작을 우선시합니다. 우리는 누구나 창작 과정에 쉽게 참여하고 보람을 느낄 수 있도록 만들고 싶습니다. 사람은 누구나 타고난 창작자이며, 무언가를 만드는 일은 우리의 만족감에 중요하다고 믿기 때문입니다.

*사용자가 장기적인 목표를 달성하도록 돕습니다. 우리는 사용자의 진정한 목표를 이해하고, 그 달성을 돕고 싶습니다. 친구들과 더 긴밀하게 연결되고 싶다면, 그것을 도와드리고자 합니다. 몸을 단련하고 싶다면, 동기를 부여하는 피트니스 콘텐츠를 보여드릴 수 있습니다. 사업을 시작하고 싶다면, 필요한 기술을 배울 수 있도록 돕고 싶습니다. 그리고 정말로 그저 둠스크롤을 하며 분노하고 싶다면, 물론 그것도 도와드리겠습니다(사용자가 앱을 사용하는 시간을 의미 있게 보냈다고 느낄 때 사용하길 바라지만, 그것이 무엇을 의미하는지에 대해 가부장적으로 판단하고 싶지는 않습니다).