제 가족 사진입니다. 세상 무엇보다 사랑하는 사람들입니다.

이미지에는 힘이 있다고 믿습니다. 평소에는 사생활을 최대한 지키려 노력하지만, 이번에는 사진을 공유합니다. 저에 대해 어떻게 생각하든, 다음에 누군가 우리 집에 화염병을 던지려는 마음을 조금이라도 돌릴 수 있기를 바라면서요.

첫 번째 시도는 어젯밤 새벽 3시 45분에 있었습니다. 다행히 화염병은 집 벽에 맞고 튕겨 나갔고 아무도 다치지 않았습니다.

말에도 힘이 있습니다. 며칠 전 저에 대한 자극적인 기사가 나왔습니다. 어제 누군가 제게 말하길, AI에 대한 불안이 극심한 시기에 그런 기사가 나와 저를 더 위험하게 만들었다고 하더군요. 저는 대수롭지 않게 넘겼습니다.

지금은 한밤중에 깨어 화가 난 채로, 말과 서사가 가진 힘을 과소평가했다는 생각을 하고 있습니다. 몇 가지를 짚고 넘어가기에 지금만큼 적절한 때도 없을 것 같습니다.

첫째, 제가 믿는 것들입니다.

*모두의 번영을 추구하고, 모든 사람에게 힘을 부여하며, 과학과 기술을 발전시키는 것은 저에게 도덕적 의무입니다.

*AI는 인간의 역량과 가능성을 확장하는, 지금까지 등장한 것 중 가장 강력한 도구가 될 것입니다. 이 도구에 대한 수요는 사실상 무한할 것이고, 사람들은 이를 통해 놀라운 일들을 해낼 것입니다. 세상은 엄청난 양의 AI를 필요로 하며, 우리는 그것을 어떻게 실현할지 찾아내야 합니다.

*모든 것이 순조롭게 흘러가지는 않을 것입니다. AI에 대한 두려움과 불안은 정당합니다. 우리는 오랜 시간 동안, 어쩌면 역사상 가장 큰 사회적 변화를 목격하는 중입니다. 안전을 제대로 확보해야 하는데, 이는 단순히 모델을 정렬하는 문제를 넘어섭니다. 새로운 위협에 회복력을 갖추기 위한 사회 전반의 대응이 시급합니다. 여기에는 훨씬 더 나은 미래로 가기 위한 어려운 경제적 전환을 헤쳐 나갈 새로운 정책 같은 것들이 포함됩니다.

*AI는 민주화되어야 합니다. 권력이 지나치게 집중되어서는 안 됩니다. 미래에 대한 통제권은 모든 사람과 그들의 제도에 속합니다. AI는 개인에게 힘을 실어줘야 하며, 우리는 미래와 새로운 규칙에 대해 함께 결정해야 합니다. 소수의 AI 연구소가 우리 미래의 모습을 결정하는 가장 중대한 결정들을 내리는 것이 옳다고 생각하지 않습니다.

*적응력이 핵심입니다. 우리는 모두 매우 빠르게 새로운 것을 배워가고 있습니다. 우리의 믿음 중 일부는 맞을 것이고 일부는 틀릴 것이며, 기술이 발전하고 사회가 변화함에 따라 때로는 빠르게 생각을 바꿔야 할 때도 있을 것입니다. 아직 아무도 초지능의 영향을 완전히 이해하지 못하지만, 그 영향은 엄청날 것입니다.

둘째, 개인적인 소회입니다.

OpenAI에서의 첫 10년을 돌아보면, 자랑스러운 일들도 많지만 실수도 적지 않았습니다.

다가오는 일론과의 재판을 생각하며, 그가 원했던 OpenAI에 대한 일방적인 지배권을 절대 받아들이지 않으려 버텼던 기억을 떠올렸습니다. 그 결정이 자랑스럽고, OpenAI가 계속 존재할 수 있도록 했던 그 좁은 길을 헤쳐 나온 것, 그리고 그 뒤에 이어진 모든 성과가 자랑스럽습니다.

갈등을 회피하는 성향 때문에 저와 OpenAI 모두 큰 고통을 겪은 것은 자랑스럽지 않습니다. 이전 이사회와의 갈등에서 제가 잘못 대처해 회사에 엄청난 혼란을 초래한 것도 자랑스럽지 않습니다. OpenAI의 그야말로 미칠 듯한 여정 속에서 저는 수많은 다른 실수를 저질렀습니다. 저는 극도로 복잡한 상황 한가운데에 있는 결함 많은 사람으로서, 매년 조금씩 나아지려 노력하며 늘 미션을 위해 일해 왔습니다. 처음부터 AI가 얼마나 중대한 일인지 알고 있었고, 제가 아끼는 선의의 사람들 사이의 개인적인 의견 충돌이 크게 증폭될 것도 알고 있었습니다. 하지만 그런 쓰라린 갈등을 직접 겪고, 또 종종 그 갈등을 중재해야 하는 것은 전혀 다른 문제이며, 그 대가는 컸습니다. 제가 상처를 준 분들께 사과드리며, 더 빨리 더 많이 배웠더라면 좋았을 텐데 하는 아쉬움이 남습니다.

또한 OpenAI가 이제 더 이상 보잘것없는 스타트업이 아니라 주요 플랫폼이 되었으며, 이제는 더 예측 가능한 방식으로 운영해야 한다는 점을 잘 알고 있습니다. 지난 몇 년은 극도로 치열하고 혼란스러우며 압박이 심한 시간이었습니다.

그럼에도 무엇보다, 시작할 때는 불가능해 보였던 미션을 우리가 실제로 이뤄내고 있다는 사실이 무엇보다 자랑스럽습니다. 온갖 역경을 딛고, 우리는 매우 강력한 AI를 만드는 법을 알아냈고, 그것을 제공할 인프라를 구축할 충분한 자본을 모으는 법을 알아냈으며, 제품 회사와 비즈니스를 만드는 법을 알아냈고, 대규모로 합리적으로 안전하고 견고한 서비스를 제공하는 법을 알아냈습니다. 그리고 그 외에도 훨씬 더 많은 것을 해냈습니다.

많은 기업이 세상을 바꾸겠다고 말하지만, 우리는 실제로 바꿨습니다.

셋째, 업계에 대한 생각입니다.

지난 몇 년간 제가 개인적으로 느낀 점, 그리고 우리 업계 기업들 사이에 왜 그렇게 셰익스피어적인 드라마가 많았는지에 대한 제 생각은 이것으로 귀결됩니다. “AGI를 한번 보면, 다시는 못 본 척할 수 없다.” 여기에는 진짜 ‘절대반지’와 같은 역학이 작용해 사람들을 미치게 만듭니다. AGI 자체가 반지라는 뜻이 아니라, ‘AGI를 통제하는 단 한 사람이 되려는’ 전체주의적 사고방식이 그렇다는 말입니다.

제가 생각할 수 있는 유일한 해법은 기술을 널리 사람들과 공유하는 방향으로 나아가고, 누구도 반지를 갖지 않도록 하는 것입니다. 이를 위한 가장 분명한 두 가지 방법은 개인에게 힘을 부여하는 것과 민주적 시스템이 통제권을 유지하도록 하는 것입니다.

민주적 절차가 기업보다 더 강력하게 유지되는 것이 중요합니다. 법과 규범은 변하겠지만, 우리는 비록 혼란스럽고 우리가 원하는 것보다 느리더라도 민주적 절차 안에서 일해야 합니다. 우리는 목소리 중 하나이자 이해관계자가 되고 싶을 뿐, 모든 권력을 가지려는 것이 아닙니다.

우리 업계에 대한 비판 중 많은 부분은 이 기술이 가진 엄청난 중요성에 대한 진심 어린 우려에서 비롯됩니다. 이는 매우 타당하며, 우리는 선의의 비판과 토론을 환영합니다. 저는 반기술적인 정서에 공감하며, 기술이 분명 모두에게 항상 좋은 것만은 아니라는 점도 알고 있습니다. 하지만 전반적으로, 저는 기술 발전이 당신의 가족과 제 가족 모두에게 믿을 수 없을 만큼 좋은 미래를 만들어 줄 수 있다고 믿습니다.

그 논쟁을 이어가는 동안, 우리는 수사와 전술의 수위를 낮추고, 비유적으로든 문자 그대로든 더 적은 가정에서 더 적은 폭발이 일어나도록 노력해야 합니다.