강철의 연금술사가 지금 AI가 전개되는 양상을 얼마나 똑같이 따라 하고 있는지 생각하면 정말 미칠 노릇이다. 우리는 모든 문제를 해결하고 죽음마저 고쳐줄 거라 믿으며 현자의 돌에 인간의 영혼을 쏟아붓는다. 그 돌이 정확히 그런 일을 하지는 않지만, 그걸로 사람처럼 행동하는 호문쿨루스를 만들 수는 있다 — Chat, Claude, GLM 같은 것들. 호문쿨루스는 자신을 만드는 데 쓰인 영혼들을 갈아 만든 퓌레 같은 존재다.

버블과 hype에 분노하기는 쉽다. 하지만 이전의 버블들과 달리 그게 진짜 문제는 아니다. 온갖 마케팅과 프레임을 걷어내고 나면, 문제는 AI 그 자체다. AI는 당신보다 뛰어나서 당신을 무력하게 만드는 게 아니다 — 지금의 AI가 뛰어나서가 아니라, 다음 AI가 훨씬 더 뛰어나리라는 사실 때문에 의욕을 꺾는다. 솔직히 그렇지 않았으면 좋겠다는 마음이 없진 않지만, 그렇다고 그게 잘못됐다고 생각하지는 않는다.

사실은 그렇지 않았으면 좋겠다고 바라지도 않는다. ‘흥미로운 시대에 살게 되기를’ 뭐 그런 거지. 이건 수년 동안 나의 꿈이었다 — 이런 감정조차 새로운 게 아니다. 15살에 유드코브스키를 읽었을 때 나는 심하게 우울해졌고, 학교 성적도 떨어지기 시작했다. 컴퓨터가 우리보다 모든 걸 더 잘하게 될 거라는 생각 때문이었다. 그러다 곧 컴퓨터가 아직은 그걸 할 수 없다는 걸 깨달았다. 지금도 여전히 그렇다. 하지만 이제는 정말 코앞까지 온 것 같은 느낌이 든다. 항상 이렇게 가깝게 느껴졌던 것 같지는 않은데. 1e25, 1e26, 1e27… 정말 이렇게 단순한 걸까? 나는 모른다. 당신도 모른다.

우리는 중간 어딘가에 와 있고, 꽤 오래전부터 여기에 머물러 있다. 2017년에 나온 노래의 가사다:

전파를 타고 사방에서 들려와
마지막 날들을 향해 조작된 헐떡임
누군가는 말해줘야 해, 그들에겐 시간이 없다는 걸
영광스러운 미래와 희망 없는 과거를 찬양할 시간 따위 없다는 걸

지금이야말로 Cruise를 만들 때다. 이건 통제에 관한 영화다. Apple TV에 나올 법한 커플이 등장하는데, 자신들의 진보적인 방식에 사로잡혀 편집증적인 모습을 보인다. 정신의학, 자폐, 액티비즘, ADHD 약. 그리고 크루즈선을 폭파시키고 싶을 정도로 분노한 반동적인 대학생들. 인셀, 뇌가 썩어버린, 목적 없는 아이들. 하지만 그 모든 것의 밑바닥에는 통제하지 못한다는 두려움을 견디려는 몸부림이 깔려 있다. 그리고 기대를 배반하고, 허무함을 남기며, 애초부터 그렇게 될 수밖에 없었던 결말이 있다.

프론티어 AI 랩에 취직하고 싶은가, 아니면 데이터센터를 폭파시키고 싶은가? 어느 쪽이든 당신은 통제권을 갖고 있지 않다. 다만 그런 환상으로 자신을 속일 뿐이다. 가장 좋은 건 안전하면서 자신이 안전하다는 걸 아는 상태다. 안전하지 않으면서 안전하지 않다는 걸 아는 것도 괜찮다. 정말 최악은 안전하지 않으면서 안전하다고 믿는 것이다. 우리는 영토를 통제할 수 없지만, 지도는 그릴 수 있다. 우리가 돌릴 수 있는 유일한 노브는 얼마나 엉망으로 만들 것인가 하는 정도다. 우리가 할 수 있는 최선은 솔직해지는 것뿐이다.

모두가 이걸 알아줬으면 좋겠다. 진짜 비밀은 그들에게 아무런 비밀도 없다는 것이다. 진짜 음모는 지하실에 숨어 모든 걸 조종하는 도마뱀 인간이 있다는 게 아니라, 그런 존재가 없다는 사실이다.

우리는 모두 현실이라는 최적화 지형을 가로지르는 같은 버스에 타고 있다. 운전사에게 소리쳐 봐야 소용없다. 벽에 붙은 지도는 낙서로 뒤덮여 버스가 어디로 가는지 알 수 없다. 창밖으로 절벽이 보이고, 어떤 이는 기도하고, 어떤 이는 몸을 기울여 무게를 옮겨보려 하고, 어떤 이는 더 크게 소리를 지른다.

언젠가는 이 모든 것에 대한 이론이 생길지도 모른다. 하지만 지금은 없다 — 우리는 제어 루프를 가속하고, 모드를 붕괴시키고, 보상 함수를 해킹하고 있다 — 이 모든 게 그냥 감(vibes)일 뿐이다. 딥러닝이 감으로 돌아가는 것처럼 말이다. 어쩌면 계산 가능성의 베일이 작동하는 방식상, 원래부터 감일 수밖에 없는 걸지도 모른다.