우리의 미션은 AGI(인공일반지능)가 모든 인류에게 혜택이 되도록 하는 것이다.

AGI를 향해 가고 있음을 가리키는 시스템들이 모습을 드러내기 시작했고, 그렇기에 지금 우리가 어떤 순간에 서 있는지 이해하는 것이 중요하다고 생각한다. AGI는 정의가 느슨한 용어이지만, 일반적으로 우리는 여러 분야에서 점점 더 복잡한 문제를 인간 수준에서 해결할 수 있는 시스템을 의미한다.

인간은 본질적으로 이해하고 창조하려는 욕구를 가진 도구의 제작자이며, 이는 우리 모두에게 더 나은 세상을 만든다. 각 세대는 이전 세대의 발견을 토대로 더욱 강력한 도구를 만들어 왔다 — 전기, 트랜지스터, 컴퓨터, 인터넷, 그리고 곧 AGI까지.

시간이 흐르면서 때로는 더디게 때로는 급격하게, 인간 혁신의 꾸준한 행진은 이전에는 상상할 수 없었던 수준의 번영과 삶의 거의 모든 측면에서의 개선을 가져왔다.

어떤 의미에서 AGI는 우리가 함께 쌓아 올리고 있는 인간 진보라는 점점 더 높아지는 비계 위의 또 하나의 도구에 불과하다. 다른 의미에서는 “이번에는 다르다”고 말하지 않을 수 없는 무언가의 시작이기도 하다. 눈앞의 경제 성장은 놀라워 보이며, 이제 우리는 모든 질병을 치료하고, 가족과 함께할 시간이 훨씬 더 많아지며, 창의적 잠재력을 온전히 실현하는 세상을 상상할 수 있다.

10년 안에는 어쩌면 지구상의 모든 사람이 오늘날 가장 영향력 있는 사람이 할 수 있는 것보다 더 많은 것을 해낼 수 있게 될지도 모른다.

우리는 AI 개발이 계속해서 빠르게 진전되는 것을 보고 있다. AI의 경제학에 대한 세 가지 관찰은 다음과 같다.

1. AI 모델의 지능은 모델을 훈련하고 실행하는 데 사용된 자원의 로그(log)에 대략 비례한다. 이러한 자원은 주로 훈련 연산, 데이터, 그리고 추론 연산이다. 얼마를 투자하든 지속적이고 예측 가능한 성능 향상을 얻을 수 있는 것으로 보이며, 이를 예측하는 스케일링 법칙은 여러 자릿수에 걸쳐 정확하게 들어맞는다.

2. 특정 수준의 AI를 사용하는 비용은 약 12개월마다 10배씩 하락하며, 가격이 낮아질수록 사용량은 훨씬 더 늘어난다. 이는 2023년 초 GPT-4부터 2024년 중반 GPT-4o까지의 토큰 비용에서 확인할 수 있는데, 이 기간 동안 토큰당 가격은 약 150배 하락했다. 무어의 법칙이 18개월마다 2배씩 세상을 바꿨다면, 이는 믿기 어려울 정도로 더 강력한 변화다.

3. 지능이 선형적으로 증가할 때 그 사회경제적 가치는 초지수적(super-exponential)으로 증가한다. 그 결과, 기하급수적으로 늘어나는 투자가 가까운 미래에 멈출 이유가 없다고 본다.

이 세 가지 관찰이 계속 유효하다면, 사회에 미치는 영향은 막대할 것이다.

우리는 이제 AI 에이전트를 본격적으로 선보이기 시작했으며, 이들은 결국 가상 동료처럼 느껴지게 될 것이다.

특히 중요해질 것으로 예상되는 소프트웨어 엔지니어링 에이전트의 사례를 상상해 보자. 이 에이전트가 결국 정상급 기업의 경력 몇 년 차 소프트웨어 엔지니어가 할 수 있는 대부분의 일을, 길게는 며칠 정도 걸리는 작업까지 수행할 수 있게 된다고 상상해 보자. 가장 혁신적인 아이디어를 내지는 못할 것이고, 많은 인간의 감독과 지시가 필요할 것이며, 어떤 일에는 매우 뛰어나지만 다른 일에는 놀랍게도 서툴 것이다.

그럼에도 이를 실제 존재하지만 비교적 주니어급인 가상 동료라고 상상해 보자. 이제 그런 동료가 1,000명 있다고 상상해 보자. 혹은 100만 명이라고. 이제 지식 노동의 모든 분야에서 그런 에이전트가 존재한다고 상상해 보자.

어떤 면에서 AI는 경제적으로 트랜지스터와 비슷해질 수 있다 — 확장성이 뛰어나고 경제의 거의 모든 구석에 스며드는 위대한 과학적 발견이다. 우리는 트랜지스터나 트랜지스터 회사에 대해 깊이 생각하지 않지만, 그 혜택은 매우 광범위하게 분배된다. 대신 우리는 컴퓨터, TV, 자동차, 장난감 등이 기적 같은 성능을 보여주기를 기대한다.

세상은 한 번에 바뀌지 않는다. 언제나 그래왔다. 단기적으로 삶은 대체로 예전과 비슷하게 이어질 것이고, 2025년의 사람들도 2024년과 크게 다르지 않게 시간을 보낼 것이다. 우리는 여전히 사랑에 빠지고, 가정을 이루고, 온라인에서 다투고, 자연 속에서 하이킹을 하는 등 일상을 이어갈 것이다.

하지만 미래는 무시할 수 없는 속도로 우리에게 다가올 것이며, 사회와 경제의 장기적인 변화는 엄청날 것이다. 우리는 새로운 할 일, 서로에게 유용해지는 새로운 방법, 그리고 새로운 경쟁 방식을 찾아낼 것이지만, 그것들은 오늘날의 일자리와는 매우 다른 모습일 수 있다.

주체성, 의지, 그리고 결단력은 앞으로 극도로 귀중한 가치가 될 가능성이 높다. 무엇을 해야 할지 올바르게 결정하고 끊임없이 변화하는 세상을 헤쳐 나가는 방법을 찾아내는 것이 큰 가치를 가질 것이며, 회복탄력성과 적응력은 길러두면 도움이 되는 기술이 될 것이다. AGI는 인간의 의지에 작용하는 지금까지 가장 큰 지렛대가 될 것이며, 개인이 이전보다 더 큰 영향력을 발휘하도록 만들 것이다. 그 반대가 아니다.

AGI의 영향은 고르지 않을 것으로 예상한다. 일부 산업은 거의 변화하지 않겠지만, 과학적 진보는 오늘날보다 훨씬 더 빨라질 가능성이 높다. AGI가 가져올 이러한 영향은 다른 모든 것을 능가할 수도 있다.

많은 상품의 가격은 결국 극적으로 하락할 것이다(현재는 지능의 비용과 에너지 비용이 많은 것을 제약하고 있다). 반면 사치품이나 토지와 같이 본질적으로 한정된 일부 자원의 가격은 오히려 더욱 극적으로 상승할 수도 있다.

기술적인 관점에서 우리 앞길은 상당히 명확해 보인다. 하지만 AGI를 사회에 어떻게 통합해야 하는지에 대한 공공 정책과 집단적 의견이 매우 중요하다. 우리가 제품을 일찍, 그리고 자주 출시하는 이유 중 하나는 사회와 기술이 함께 공진화할 시간을 주기 위해서다.

AI는 경제와 사회의 모든 영역에 스며들 것이며, 우리는 모든 것이 스마트해지기를 기대하게 될 것이다. 우리 중 많은 이들은 역사적으로 그래왔던 것보다 사람들에게 기술에 대한 더 많은 통제권을 주어야 할 필요가 있다고 본다. 더 많은 오픈소스화를 포함해서 말이다. 그리고 안전성과 개인의 권한 강화 사이에는 상충 관계가 존재하며 균형이 필요하다는 점을 받아들여야 한다.

우리는 결코 무모해지고 싶지 않으며, AGI 안전과 관련해 인기가 없을 수 있는 중대한 결정과 제한이 있을 가능성이 있지만, 방향성 측면에서 AGI 달성에 가까워질수록 개인의 권한 강화를 향해 나아가는 것이 중요하다고 믿는다. 우리가 예상할 수 있는 다른 경로는 권위주의 정부가 대규모 감시와 자율성 박탈을 통해 국민을 통제하는 데 AI를 사용하는 것이다.

AGI의 혜택이 널리 공유되도록 하는 것이 매우 중요하다. 기술 진보가 미친 역사적 영향을 보면 우리가 중요하게 여기는 대부분의 지표(건강 성과, 경제적 번영 등)는 평균적으로 그리고 장기적으로 개선되지만, 평등의 증진은 기술만으로 결정되는 것 같지 않으며, 이를 제대로 이루려면 새로운 아이디어가 필요할 수 있다.

특히 자본과 노동 사이의 힘의 균형이 쉽게 무너질 수 있어 보이며, 이는 조기에 개입해야 할 수도 있다. 우리는 지구상의 모든 사람이 많은 AI를 사용할 수 있도록 일종의 “컴퓨트 예산”을 제공하는 것과 같은 다소 낯설게 들리는 아이디어에도 열려 있다. 하지만 지능의 비용을 가능한 한 끊임없이 낮게 끌어내리는 것만으로도 원하는 효과를 얻을 수 있는 방법도 많이 보인다고 생각한다.

2035년의 누구든 2025년의 모든 사람에 필적하는 지적 역량을 동원할 수 있어야 한다. 모든 사람이 자신이 상상하는 대로 이끌 수 있는 무한한 천재성에 접근할 수 있어야 한다. 현재 재능은 많지만 그것을 온전히 발휘할 자원이 부족한 경우가 많으며, 이를 바꾼다면 세상이 만들어낼 창의적 성과는 우리 모두에게 엄청난 혜택을 가져다줄 것이다.

특히 이 글의 초안을 검토해 준 Josh Achiam, Boaz Barak, Aleksander Madry에게 감사드린다.

*여기서 AGI라는 용어를 사용하는 것은 명확한 소통을 위한 것이며, Microsoft와의 관계를 정의하는 정의와 절차를 변경하거나 해석하려는 의도가 아니다. 우리는 장기적으로 Microsoft와 파트너십을 유지할 것으로 기대한다. 이 각주는 다소 우스꽝스러워 보일 수 있지만, 한편으로는 일부 기자들이 클릭을 유도하기 위해 엉뚱한 기사를 쓸 것을 알기에 미리 그런 소동을 차단하려는 것이다…