지난 몇 주 동안 여러 사람들과 대화를 나누면서 내 근미래 전망이 다른 많은 사람들의 생각과 얼마나 동떨어져 있는지를 절감했다. 내가 트윗을 하는 사람이라면 아마 이런 것들을 올렸을 것이다:

• AI가 우리 모두를 죽음으로 몰아갈 가능성은 매우 현실적이다. 다만 나는 결국 그렇게 되지는 않을 가능성이 더 높다고 본다. 많은 사람들이 그런 결과를 막기 위해 필사적으로 노력할 것이라고 기대하기 때문이다.

• AI가 수많은 분야에서 전문가 수준의 인간 능력을 매우 빠르게 따라잡고(혹은 이미 뛰어넘고) 있어서, 대부분의 사람들은 앞으로 생산적으로 기여할 수 있는 시간이 1~3년 정도 남았다고 생각하고 계획을 세워야 한다. 그 시간을 잘 활용하길 바란다!

• 다만 그보다 더 오래 걸렸을 때 빈털터리가 될 정도로 무리하게 살지는 마라. 이 모든 것이 얼마나 빨리 전개될지는 여전히 불확실성이 크다.

• 우리는 이미 AI가 인간 전문가를 대체하면서 AI 개발 자체를 가속하는 모습을 보고 있다. 인간이 기여하는 비중이 점점 작아질수록 이 효과는 극적으로 커질 것이고, 오늘과 비교해도 훨씬 빠른 발전을 보게 될 것이다.

• 이게 “골대 옮기기”에 비유해야 할지 “서서히 삶아지는 개구리”에 비유해야 할지 모르겠지만, 지금의 최상위 모델을 2006년에 가져다 놓는다면 그것은 명백히 “AGI”로 여겨졌을 것이다.

• AI가 빠르게 발전하고 있지 않다고 느낀다면 충분히 어려운 문제에 적용하지 않고 있거나, 충분한 맥락·도구·토큰을 제공하지 않고 있거나, 최상위 모델을 사용하지 않고 있기 때문일 가능성이 크다. 셋 중 하나, 혹은 여러 가지가 겹친 경우다.

• 데이터센터가 환경에 미칠 영향이 걱정된다. 가까운 미래에 세계가 지금보다 훨씬 더 많은 에너지를 생산하고, 그 에너지의 거의 대부분이 컴퓨터를 가동하는 데 쓰이는 시나리오가 충분히 그럴듯하게 그려지기 때문이다.

• 제대로 된 진지한 대응으로 이어지는 많은 경로는 경고성 사건들을 거친다. 우리는 이미 몇 차례 그런 신호를 받았고, 지금까지는 해킹의 형태로 나타났다. 앞으로 더 있을 것이다. 덧붙이자면, 공개되어서는 안 될 정보를 계속 보유하는 것이 점점 더 위험해지고 있다.

• 많은 사람들이 X를 개선해 Y를 개선하고, Y를 개선해 Z를 개선함으로써 세상을 더 낫게 만들겠다는 계획을 가지고 있다. 정작 중요한 것은 Z다. 만약 Z가 3년 이상 뒤의 일이라면, 다른 계획을 찾아보는 걸 고려해 보라.

• AI가 잘 풀린다면 세상은 극도로 좋아질 수 있다고 생각한다. 하위 10%가 지금의 상위 10%보다 훨씬 더 잘 사는 세상 말이다. 바로 이 약속 때문에 사람들이 그토록 위험한 것을 만들면서도 그토록 열심히 일하는 것이다.

여기서는 조금 게으르게 썼다. 트윗 형식이라면 아무 근거 없이 과감한 주장만 늘어놓을 수 있기 때문이다. 내가 틀렸다고 생각하는 부분이 있다면 댓글에서 기꺼이 근거를 들어 설명하겠다.