우리는 이미 사건의 지평선을 넘었고, 이륙은 시작되었다. 인류는 디지털 초지능 구축에 가까워졌는데, 적어도 지금까지는 생각했던 것만큼 기묘하지는 않다.

로봇이 거리를 활보하는 것도 아니고, 대부분의 사람들이 하루 종일 AI와 대화하는 것도 아니다. 사람들은 여전히 질병으로 죽고, 여전히 우주로 쉽게 나갈 수 없으며, 우리가 이해하지 못하는 우주의 비밀이 여전히 많다.

그럼에도 우리는 최근 여러 면에서 사람보다 더 똑똑하고, 이를 사용하는 사람의 성과를 크게 증폭시킬 수 있는 시스템들을 만들어냈다. 가장 가능성이 낮아 보였던 작업은 이미 우리 뒤에 있다. GPT-4나 o3 같은 시스템에 이르게 한 과학적 통찰은 어렵게 얻어낸 것이지만, 우리를 아주 멀리까지 데려다줄 것이다.

AI는 여러 방식으로 세상에 기여하겠지만, AI가 더 빠른 과학적 진보와 생산성 향상을 이끌어 삶의 질을 높이는 효과는 엄청날 것이다. 미래는 현재보다 훨씬 더 좋아질 수 있다. 과학적 진보는 전체 진보를 이끄는 가장 큰 동력이다. 우리가 앞으로 얼마나 더 많은 것을 가질 수 있을지 생각하면 굉장히 흥미진진하다.

어떤 큰 의미에서 ChatGPT는 이미 역사상 그 어떤 인간보다 더 강력하다. 수억 명의 사람들이 매일, 점점 더 중요한 일들에 ChatGPT에 의존하고 있다. 작은 새로운 기능 하나가 엄청나게 긍정적인 영향을 만들 수 있고, 작은 정렬 실패 하나가 수억 명에게 증폭되면 엄청난 부정적 영향을 초래할 수도 있다.

2025년에는 진짜 인지적 작업을 수행할 수 있는 에이전트가 등장했다. 컴퓨터 코드를 작성하는 일은 더 이상 예전과 같지 않을 것이다. 2026년에는 새로운 통찰을 스스로 찾아내는 시스템이 등장할 가능성이 높다. 2027년에는 현실 세계에서 작업을 수행할 수 있는 로봇이 등장할지도 모른다.

훨씬 더 많은 사람들이 소프트웨어와 예술을 만들 수 있게 될 것이다. 하지만 세상은 그 둘을 훨씬 더 많이 원하고, 새로운 도구를 받아들이기만 한다면 전문가들은 여전히 초보자보다 훨씬 뛰어날 것이다. 일반적으로 말해, 한 사람이 2030년에 해낼 수 있는 일이 2020년에 할 수 있었던 것보다 훨씬 많아진다는 점은 놀라운 변화가 될 것이며, 많은 사람들이 그 혜택을 누리는 방법을 찾아낼 것이다.

가장 중요한 면에서 2030년대는 그리 크게 달라지지 않을 수도 있다. 사람들은 여전히 가족을 사랑하고, 창의성을 표현하며, 게임을 하고, 호수에서 수영할 것이다.

하지만 여전히 매우 중요한 면에서 2030년대는 이전의 그 어떤 시대와도 확연히 달라질 가능성이 높다. 우리가 인간 수준의 지능을 얼마나 넘어설 수 있을지는 아직 모르지만, 곧 알게 될 것이다.

2030년대에는 지능과 에너지 — 즉 아이디어와 그 아이디어를 실현하는 능력 — 이 엄청나게 풍부해질 것이다. 이 두 가지는 오랫동안 인간 진보의 근본적인 제약이었다. 풍부한 지능과 에너지(그리고 훌륭한 거버넌스)가 있다면 이론적으로 다른 무엇이든 가질 수 있다.

이미 우리는 놀라운 디지털 지능과 함께 살고 있으며, 처음의 충격이 지나자 대부분은 이에 꽤 익숙해졌다. 우리는 AI가 아름답게 쓰인 문단 하나를 생성하는 데 감탄하다가도 금세 언제 아름답게 쓰인 소설 한 권을 써낼 수 있을지 궁금해하고, 생명을 구하는 의료 진단을 내리는 데 감탄하다가도 언제 치료법을 개발할 수 있을지 궁금해하며, 작은 컴퓨터 프로그램을 만드는 데 감탄하다가도 언제 온전한 회사 하나를 만들어낼 수 있을지 궁금해한다. 특이점은 이렇게 진행된다. 경이가 일상이 되고, 이어서 당연한 기준이 된다.

이미 과학자들에게서 AI 이전보다 생산성이 두세 배 높아졌다는 이야기를 듣고 있다. 고도화된 AI가 흥미로운 이유는 많지만, 아마도 AI 연구 자체를 더 빠르게 하는 데 AI를 활용할 수 있다는 사실만큼 중요한 것은 없을 것이다. 우리는 새로운 컴퓨팅 기판, 더 나은 알고리즘, 그리고 그 밖에 무엇이 있을지 모를 것들을 발견할 수 있을지도 모른다. 10년 치 연구를 1년, 혹은 한 달 만에 해낼 수 있다면 진보의 속도는 분명 완전히 달라질 것이다.

지금부터는 우리가 이미 만든 도구들이 더 많은 과학적 통찰을 찾는 데 도움을 주고, 더 나은 AI 시스템을 만드는 데 기여할 것이다. 물론 이것이 AI 시스템이 완전히 자율적으로 자신의 코드를 업데이트하는 것과 같은 것은 아니지만, 그럼에도 이는 재귀적 자기 개선의 유충 단계라 할 수 있다.

다른 자기 강화 루프들도 작동하고 있다. 경제적 가치 창출은 점점 더 강력해지는 AI 시스템을 구동하기 위한 인프라 구축이 복리로 불어나는 플라이휠을 돌리기 시작했다. 그리고 다른 로봇을 만들 수 있는 로봇(그리고 어떤 의미에서는 다른 데이터센터를 짓는 데이터센터)도 그리 멀지 않았다.

만약 첫 100만 대의 휴머노이드 로봇은 기존 방식으로 만들어야 하더라도, 그 로봇들이 광물을 채굴하고 정제하며, 트럭을 운전하고, 공장을 운영하는 등 전체 공급망을 운영해 더 많은 로봇을 만들고, 그 로봇들이 다시 더 많은 칩 제조 시설과 데이터센터 등을 짓게 된다면, 진보의 속도는 분명 완전히 달라질 것이다.

데이터센터 생산이 자동화되면 지능의 비용은 결국 전기 비용에 가깝게 수렴할 것이다. (사람들은 종종 ChatGPT 쿼리 하나에 얼마나 많은 에너지가 드는지 궁금해한다. 평균 쿼리 하나는 약 0.34와트시를 사용하며, 이는 오븐을 1초 남짓 사용하는 정도, 혹은 고효율 전구를 몇 분간 켜는 정도에 해당한다. 또한 약 0.000085갤런의 물을 사용하는데, 이는 찻숟가락으로 약 15분의 1 정도에 해당한다.)

기술 진보의 속도는 계속 가속될 것이며, 사람들은 거의 모든 것에 적응할 수 있다는 사실은 앞으로도 변함없을 것이다. 직업군 전체가 사라지는 등 매우 힘든 부분도 있겠지만, 다른 한편으로 세상은 너무나 빠르게 훨씬 더 풍요로워질 것이기에 이전에는 상상조차 할 수 없었던 새로운 정책 아이디어들을 진지하게 고려할 수 있게 될 것이다. 아마 우리는 새로운 사회 계약을 한 번에 받아들이지는 않을 것이다. 하지만 수십 년 뒤 돌아보면 점진적인 변화들이 모여 큰 무언가를 이루었음을 알게 될 것이다.

역사가 길잡이가 되어준다면, 우리는 할 일과 원할 것을 새롭게 찾아내고 새로운 도구를 빠르게 받아들일 것이다(산업혁명 이후의 직업 변화가 좋은 최근 사례다). 기대치는 높아지겠지만 능력 역시 그만큼 빠르게 높아질 것이고, 우리 모두 더 좋은 것들을 갖게 될 것이다. 우리는 서로를 위해 점점 더 멋진 것들을 만들어낼 것이다. 인간은 AI에 대해 장기적으로 중요하고도 흥미로운 이점을 가지고 있다. 우리는 다른 사람과 그들이 생각하고 행동하는 것에 관심을 갖도록 타고났고, 기계에는 별로 관심이 없다는 점이다.

천 년 전의 자급자족 농부가 오늘날 우리 중 많은 이들이 하는 일을 본다면 가짜 직업이라고 말하며, 먹을 것도 충분하고 상상할 수 없는 사치를 누리면서 그저 스스로를 즐겁게 하려고 게임을 하고 있다고 생각할 것이다. 천 년 뒤 미래의 직업을 보며 우리도 그것이 매우 가짜 직업이라고 생각하게 되기를 바라며, 그 일을 하는 사람들에게는 그 직업이 엄청나게 중요하고 만족스럽게 느껴질 것임을 의심하지 않는다.

새로운 경이가 달성되는 속도는 엄청날 것이다. 2035년까지 우리가 무엇을 발견하게 될지 오늘 상상하기조차 어렵다. 어쩌면 한 해에는 고에너지 물리학을 해결하고 다음 해에는 우주 식민화를 시작할지도 모른다. 혹은 한 해에는 재료과학의 중대한 돌파구를 마련하고 다음 해에는 진정한 고대역폭 뇌-컴퓨터 인터페이스를 구현할지도 모른다. 많은 사람들은 예전과 크게 다르지 않게 삶을 살아가기로 선택하겠지만, 적어도 일부는 ‘플러그인’하기로 결정할 것이다.

앞을 내다보면 이 모든 것이 머릿속으로 이해하기 어려워 보인다. 하지만 실제로 그 시간을 살아갈 때는 인상적이면서도 감당할 만하게 느껴질 것이다. 상대적인 관점에서 보면 특이점은 조금씩 일어나고, 융합은 천천히 진행된다. 우리는 지수적 기술 진보의 긴 호를 따라 오르고 있다. 앞을 보면 항상 수직으로 보이고 뒤를 돌아보면 평평해 보이지만, 사실은 하나의 부드러운 곡선이다. (2020년을 떠올려 보라. 2025년까지 AGI에 가까운 무언가를 갖게 될 것이라는 말이 당시에는 어떻게 들렸을지, 그리고 지난 5년이 실제로 어땠는지 비교해 보라.)

엄청난 장점과 함께 마주해야 할 심각한 과제들도 있다. 우리는 기술적으로나 사회적으로 안전 문제를 해결해야 하며, 경제적 함의를 고려할 때 초지능에 대한 접근을 널리 분배하는 것이 대단히 중요하다. 앞으로 나아갈 최선의 길은 아마도 다음과 같은 모습일 것이다.

1. 정렬 문제를 해결하는 것이다. 즉, AI 시스템이 우리가 장기적으로 집단적으로 진정으로 원하는 바를 학습하고 그에 따라 행동하도록 견고하게 보장할 수 있어야 한다(소셜 미디어 피드는 정렬에 실패한 AI의 예다. 그 피드를 구동하는 알고리즘은 당신이 계속 스크롤하게 만드는 데 놀랍도록 뛰어나고 당신의 단기적 선호를 명확히 이해하지만, 그렇게 하는 방식은 당신의 장기적 선호를 압도하는 뇌 속 무언가를 이용하는 것이다).

2. 그 다음 초지능을 저렴하고 널리 이용 가능하게 만들며, 특정 개인이나 기업, 국가에 지나치게 집중되지 않도록 하는 데 집중하는 것이다. 사회는 회복력이 있고 창의적이며 빠르게 적응한다. 사람들의 집단적 의지와 지혜를 활용할 수 있다면, 많은 실수를 하고 어떤 것들은 크게 잘못되더라도 우리는 빠르게 배우고 적응하여 이 기술을 통해 최대의 이익을 얻고 최소의 피해를 볼 수 있을 것이다. 사회가 정해야 할 넓은 범위 안에서 사용자에게 많은 자유를 주는 것이 매우 중요해 보인다. 이러한 넓은 범위가 무엇이며 집단적 정렬을 어떻게 정의할지에 대해 세상이 대화를 시작하는 시점이 빠르면 빠를수록 좋다.

우리( OpenAI뿐만 아니라 업계 전체)는 세상을 위한 뇌를 만들고 있다. 그것은 극도로 개인화되고 누구나 쉽게 사용할 수 있게 될 것이며, 우리는 좋은 아이디어에 의해서만 제한될 것이다. 오랫동안 스타트업 업계의 기술자들은 ‘아이디어만 있는 사람들’을 비웃어 왔다. 아이디어는 있지만 그것을 만들어줄 팀을 찾고 있는 사람들 말이다. 이제 그들이 햇빛을 볼 날이 다가온 것처럼 보인다.

OpenAI는 이제 많은 것을 의미하지만, 무엇보다도 우리는 초지능 연구 회사다. 우리 앞에는 할 일이 많이 남아 있지만, 앞으로의 길은 대부분 이제 밝혀졌고 어두운 영역은 빠르게 사라지고 있다. 우리가 하는 일을 할 수 있다는 사실에 엄청난 감사를 느낀다.

계량할 필요도 없을 만큼 저렴한 지능은 충분히 손에 잡힐 곳에 있다. 이렇게 말하면 미친 소리처럼 들릴지 모르지만, 2020년에 우리가 오늘의 위치에 있게 될 것이라고 말했다면 아마 지금 2030년에 대한 우리의 예측보다 더 미친 소리처럼 들렸을 것이다.

우리가 초지능을 향해 부드럽게, 기하급수적으로, 그리고 별일 없이 스케일해 나가기를.