사소한 지연

최근 내 삶에 큰 변화가 몇 가지 있었다:

그래, 요즘 운동 좀 했다. 알아봐 줘서 고맙다.

그리고 딸이 태어났다!

요즘 글을 많이 못 쓴 이유 중 하나가 바로 그 아이다. 일이 너무 많아서라기보다는 — 훌륭한 장모님이 도와주고 계시고, 아기는 어차피 대부분의 시간을 자거나 먹는 데 보내니 내 쪽에서 엄청난 노력이 필요한 일도 아니다.

예전에는 하루가 끝날 때까지 별다른 성과를 내지 못하면 불안해졌고, 그 불안 때문에 만회하려고 밤늦게까지 글을 쓰기도 했다. 이제는 다른 영역에서 얼마나 생산적이었든 하루가 끝나면 아이를 24시간 더 무사히 살려냈다는 사실만으로 행복하고 만족스럽다. 그 이상 무엇이 더 필요하겠는가?

이 글은 내가 쓴 Action Ontologies and Computer Ontologies라는 에세이의 후속편이다. 지금 가서 읽고, 그 탭은 열어둔 채로 Metaculus Journal에 실린 훌륭한 글들도 나중에 둘러보길 바란다.

추론된 현실

Metaculus에 쓴 내 에세이는 우리 뇌가 우리가 살아가는 현실을 어떻게 구성하는지, 그리고 그 현실이 AI에게는 어떻게 다를 수 있는지에 초점을 맞췄다. 크게 세 가지 요점을 다뤘다.

첫째, 우리 뇌에는 그 어떤 뉴런도 ‘토마토 감지기’나 심지어 ‘빨강 감지기’, ‘시각’이라고 라벨이 붙어 있지 않다는 점이다. 우리 뇌는 특정한 구조를 갖고 태어나긴 한다(예를 들어 일부 뉴런은 망막의 빛 감지 세포와 연결되어 있다). 하지만 지각을 구성하는 요소들은 가장 기초적인 것까지 모두 시간이 지나며 학습하는 추론일 뿐이다.

둘째: 우리 뇌는 행동을 안내하고 신체의 대사 균형을 유지하도록 진화했다는 점이다. 그래서 우리 마음이 구성하는 세계 모델은 눈뿐만 아니라 손과 심지어 혈관에도 의존한다. 인간의 몸에서 작동하지 않는 인공 정신은 우리와 비슷한 목표, 이를테면 자동차 운전을 추구하더라도 전혀 다른 존재론을 가진 다른 현실 모델을 필요로 하고 발전시킬 수 있다.

이 두 가지가 함의하는 바는 ‘현실’ 자체가 하나의 지각이자 추론이라는 것이다. 탁자 위의 토마토가 현실처럼 느껴지는 이유는 손으로 집어 들고 위장에서 그 영양분을 흡수할 수 있기 때문이다. 위의 토마토 이미지는 비록 실제 토마토와 같은 빛의 파동을 눈에 전달하더라도, 그 어느 것도 할 수 없기 때문에 현실처럼 느껴지지 않는다. 당신이 실제 사물에서 지각하는 현실감은 영토가 아니라 지도에 속한 속성이다.

추측해도 될까

이 세 가지 주장은 황당하고 직관에 반하는 것처럼 보일지 모르지만, 우리 뇌가 어떻게 작동하고 의식의 내용을 어떻게 만들어내는지에 대한 현대 과학에 꽤 단단히 근거하고 있다. Metaculus 에세이에서 참고문헌과 함께 자세히 다뤘으니 여기서는 반복하지 않겠다.

이 글의 나머지 부분에서는 그 세 가지 논점을 바탕으로 아기의 의식과 AI에 대해 거침없이 추측해보려 한다. 두 주제 모두 내가 전문가는 아니지만, 원하든 원치 않든 매일 많은 것을 배우고 있는 분야다.

글을 쓰기 전에 발달심리학을 전공한 친구와 나눈 대화를 대략 옮기면 이렇다:

— 신생아의 주관적 경험이 어떻게 발달하는지 궁금해. 예를 들어 아이가 분리되고 실재하는 사물들로 이루어진 세계를 지각하려면 어떤 전제 조건이 필요할까?
— 애가 뭘 경험하는지 어떻게 알 수 있는데? 우리는 아기가 무엇을 할 수 있고 무엇에 반응하는지에 초점을 맞추는 걸 선호해.
— 그럼 네 아기 행동주의로는 내가 신생아 의식에 대해 마구 추측해도 반박할 수 없다는 거네?
— 😡🤬😤

AI에 대한 내 생각은 이 분야에서 일하는 몇몇 친구들에게 검토를 받았다. 한 명은 당연히 맞다고 했고, 한 명은 명백히 틀렸다고 했으며, 나머지는 어깨를 으쓱했다. 그러니 이 글은 완전히 불타는 광대 수준은 아니지만, 그래도 광대에서 연기가 나는지 한번쯤 확인해 볼 필요는 있을 것 같다.

처음부터 만드는 세계

당신은 자신의 상태를 예측하려는 뇌이며, 가진 것이라곤 약간의 선천적 배선뿐이다. 어디서부터 시작해야 할까? 단순한 패턴을 알아차리는 것부터, 그리고 거기서 더 복잡한 패턴으로 쌓아 올리는 것이다.

단순한 패턴 하나: 뇌의 다른 영역에서 무슨 일이 일어나든 함께 발화하는 것처럼 보이는 뉴런들이 있다. 아마도 (당신은 모르지만) 방에 불이 켜지면 망막과 연결된 모든 뉴런이 일제히 활성화되고, 그 신호가 시각 피질의 다른 뉴런들로는 전파되지만 섬엽 피질로는 전파되지 않을 때가 있다. 뇌는 이들이 같은 감각 양식에 속한다고 추론한다(이 예시에서는 나중에 ‘시각’이라 부르게 될 감각이다). 시각 피질 뉴런들의 상태를 예측하는 법을 배우는 것(예를 들어 한 부분의 상태를 다른 부분의 상태를 통해 예측하는 것)이 곧 보는 법을 배우는 것이다.

시각이 하나의 감각으로 자리 잡고 나면, 뇌는 바로 옆에 있는 망막 세포들이 종종 같은 입력을 받는다는 것을 알아차린다 — 우리의 시각장은 무작위한 시각적 잡음이 아니라 대부분 단색의 표면들로 이루어져 있다. 더 단순한 패턴들은 결합되어 모서리와 표면, 그리고 얼굴과 다른 사물 같은 더 복잡한 패턴이 된다.

어떤 패턴은 매우 중요해 보인다. 예를 들어 배고픔이라는 경험은 뇌 전체를 장악하는 경향이 있고, 자신이 큰 소리로 울고 팔다리를 버둥거리고 있다는 관찰과 상관관계를 갖는다. 배고픔은 마치 뇌 상태에 대한 중요한 선천적 기대가 위반된 것처럼 뇌 전체에 오류 신호를 퍼뜨린다. 배고픔과 상관관계가 있는 것이라면 무엇이든 더 많은 주의를 받게 된다.

아기가 세상에서 가장 중요한 존재, 즉 엄마에 대해 배우는 방식이 바로 이것이다. 아기가 태어난 순간부터 대략 세 시간마다, 얼굴, 목소리, 냄새, 온기, 젖, 그리고 배고픔이 가시는 감각으로 이루어진 상관관계가 매우 높은 다중 감각 신호를 받게 된다.

엄마를 알아보는 일은 너무나 중요해서 자기 자신을 알아보기보다 훨씬 먼저 일어난다. 생후 한 달 된 내 딸은 아내의 목소리에는 반응하지만, 가끔 자기 코를 때리는 주먹이 자기 것이라는 사실은 전혀 모르는 듯하다. 아기는 거울 속 자신을 18개월쯤 되어서야 알아보지만, 주 양육자는 생후 3~4개월이면 보고 알아본다.

개념 학습

아이는 규칙적인 패턴을 관찰하며 세계 모델을 구축하지만, 이는 인간 얼굴처럼 명확한 군집을 이루는 단순한 것들에 대해서만 통한다. 그러나 우리가 사는 세계는 복잡한 서사와 정신적 구성물로 이루어져 있다. 인간이 이러한 개념들을 배우는 방식은 단순한 패턴 감지가 아니라 언어를 통해서다. 특히 주 양육자의 개념 가르치기 발화를 통해서다.

이를 아주 자세히 탐구한 리사 펠드먼 배럿의 How Emotions Are Made에서 한 대목을 인용한다:

발달심리학자 샌드라 R. 웩스먼과 수전 A. 겔먼은 이 분야를 이끄는 연구자들로, 단어는 성인이 의사소통하려는 의도를 가지고 말할 때에만 영아가 개념을 형성하도록 이끈다고 가설을 세운다: “봐, 자기야, 꽃이야!” […]

페이 쉬와 그의 학생들은 생후 10개월 된 영아들에게 물체를 보여주고 “워그(wug)”나 “댁(dak)” 같은 무의미한 이름을 붙여줌으로써 이를 실험적으로 입증했다. 그 물체들은 개나 물고기 모양 장난감, 알록달록한 구슬이 든 원통, 폼 꽃으로 덮인 직사각형 등 전혀 비슷하지 않았다. 각각은 딸랑거리거나 덜그럭거리는 소리도 냈다. 그럼에도 영아들은 패턴을 학습했다. 생김새와 상관없이 여러 물체에 걸쳐 같은 무의미한 이름을 들은 영아들은 그 물체들이 같은 소리를 낼 것이라 기대했다. 마찬가지로 두 물체의 이름이 다르면 다른 소리를 낼 것이라 기대했다. […]

영아의 관점에서 “워그(Wug)”라는 개념은 성인이 가르쳐주기 전까지 세상에 존재하지 않았다. 두 명 이상의 사람이 순전히 정신적인 무언가가 실재한다고 합의하는 이러한 종류의 사회적 실재는 인간 문화와 문명의 토대다. 이렇게 영아들은 세상을 우리(화자)에게 일관되고, 의미 있으며, 예측 가능한 방식으로, 그리고 결국 자기 자신에게도 그렇게 범주화하는 법을 배운다. 그들의 세계에 대한 정신 모델은 우리와 비슷해지며, 그래서 우리는 소통하고, 경험을 공유하며, 같은 세계를 지각할 수 있게 된다.

How Emotions Are Made는 이어서 분노나 자부심 같은 우리의 감정이 선천적인 것이 아니라 어릴 때 타인으로부터 배운 개념이라고 (꽤 설득력 있게) 주장한다. 아이가 소리 지르며 장난감을 집어 던지는 경우와 성인이 상사 앞에서 차갑게 부글거리는 경우처럼 겉보기에 전혀 다른 ‘분노’의 사례들을 하나로 묶는 것은 외모나 소리에 나타나는 객관적인 ‘징후’라기보다, 화난 사람의 목표와 주관적 경험에 대한 정신적 추론이 대부분이라는 점을 생각해 보라.

유년기를 지나서도 우리는 계속 다른 사람들(대부분 스콧 알렉산더로부터)로부터 개념을 배워 나가고, 이 개념들이 우리가 지각하는 세계를 이룬다. 하지만 이 과정을 시작하려면 매우 특별한 단계들이 순차적으로 이루어져야 한다:

1. 신생아의 혼돈스러운 마음
2. (내부와 외부) 감각들을 구분하기
3. 주요 감각들에서 기본적인 지각을 인식하기
4. 그들과의 상호작용이라는 중요한 다중 감각 경험을 통해 주 양육자를 알아보기
5. 온갖 주변 소음 속에서 양육자의 말에 특별히 주의를 기울이는 법을 배우고 그것을 단어들로 분리하기
6. 성인의 말에서 ‘개념 가르치기 모드’를 식별하고, 이렇게 배운 개념들을 이용해 뚜렷한 지각을 획득하기

이 순서에 대해 중요한 점 하나는, 이것이 인간 사회에서 자라는 인간 아이에게 매우 특수하다는 것이다. 개나 문어, 혹은 현존하는 어떤 AI 구조에서도 이와 비슷한 것은 전혀 찾아볼 수 없다. 그렇다고 AI가 원리적으로 개념을 배울 수 없다는 뜻은 아니지만, 만약 배운다면 인간이 하는 방식과는 매우 다른 방식으로 배워야 한다는 뜻이다.

GPT는 워드셀이다

옛날 옛적 아주 먼 나라에, 한 AI 연구팀이 텍스트 예측 AI를 훈련시키고자 했다. 그들은 인터넷에서 각양각색의 사람들이 생산한 비교적 필터링되지 않은 텍스트를 모델에 먹였다. 그렇게 만들어진 모델은 사람들의 편향과 편견, 그리고 ‘잘못된 정보’까지 포함해 사람들이 온라인에서 쓸 법한 텍스트를 예측하는 데 매우 뛰어났다.

그 나라의 주류 언론인들은 대체로 신기술에 적대적이고 두려움을 갖고 있었기에, 언어 모델은 모든 편향과 허위가 제거된 텍스트로만 훈련되어야 한다고 요구했다. 즉, 주류 언론 출판물의 최근 내용으로만 훈련되어야 한다는 것이었다. 그렇게 만들어진 언어 모델은 주류 신문에 훌륭한 칼럼을 쓸 수는 있었지만 다른 어떤 작업에도 쓸모가 없었다. 그래서 그 나라 사람들은 언론인들을 해고하고 GPT로 대체했으며, 모두 행복하게 살았다.

어쨌든 GPT-3는 신문 기사를 쓸 수 있는 것처럼 보인다. 하지만 우리는 이미 그런 기사들이 종종 아무 의미 없는 말장난(fnord)과 무작위로 배열된 감정적 단어들의 조합에 불과하다는 것을 알고 있다. GPT-5는 스콧 알렉산더 에세이를 쓸 수 있을까? 정말로 개념으로 사고하고, 그것들을 독창적인 방식으로 결합하며, 현실 세계의 무언가를 가리키는 새로운 개념을 발명할 수 있을까?

이것은 당신이 AI 비관론자인지 낙관론자인지에 따라 실존적 질문이거나 그저 1조 달러짜리 질문이다. (뭐, 초고속으로 작동하는 실리콘 스콧 알렉산더 10억 명에 접근할 수 있는데 세상을 멸망시키거나 1조 달러를 못 벌겠는가?) 물론 이 질문에 확정적인 답을 줄 수는 없지만, 양쪽 방향에 대한 몇 가지 직관을 제시할 수는 있다.

가장 먼저 물어볼 수 있는 것은, GPT-3만으로도 이미 충분히 가깝지 않냐는 것이다. 내 직관은 그렇지 않다는 것이다. 나는 GPT-3처럼 글을 쓸 수도 있고, 또 완전히 다른 방식으로 글을 쓸 수도 있는데, 그 두 가지는 질적으로 다르게 느껴지고 다른 결과물을 만들어내기 때문이다.

GPT-3는 주어진 맥락에서 빠진 단어나 구절을 예측하는데, 이는 인간이 자동 조종 상태에서도 쉽게 할 수 있는 일이다. “엠마는 공원에 들어가 ____를 보았고, 그리고 그녀는 ______했다”. “일론 머스크의 발언은 ____에 의해 규탄받았는데, 그는 그것이 ______라고 말했다”. 세라 콘스탄틴이 지적했듯, 인간은 GPT가 생성했든 즉흥적으로 말하는 인간이 생성했든 이런 종류의 텍스트를 훑어 읽을 수도 있고, 논리의 빈틈을 알아차리지 못한 채 대략적인 요지만 파악한다. 얼추 들어맞는 기호들을 이어 붙이지만 실제로는 별다른 내용을 전달하지 않는, 이런 종류의 글쓰기가 지금은 널리 퍼진 단어 워드셀(wordcel)의 원래 의미였다.

나는 GPT 스타일의 워드셀 짓도 할 수 있고, 아이디어를 먼저 생각한 뒤 그것을 단어로 번역하는 전혀 다른 유형의 글쓰기도 할 수 있다. 이 과정은 쓰고 해석하는 데 모두 집중된 시스템 2의 주의가 필요한 반면, GPT식 워드셀 짓은 시스템 1만으로도 할 수 있다. 개별 문장이나 단락은 자동적으로 채워 넣어 텍스트의 상당 부분을 차지할 수도 있겠지만, 전체 스콧 알렉산더 에세이를 자동 조종으로 생성할 수는 없다.

하지만 GPT-3가 못 한다 해도 GPT-N은 할 수 있을까?

로봇의 지름길

찬성하는 쪽의 논거는 GPT들이 모델 파라미터 수와 훈련 데이터의 토큰 수를 늘리는 것만으로 일반화된 텍스트 예측을 점점 더 잘하게 되어 왔다는 것이다. “스콧 알렉산더는 나지퍼(Nazifurs)와 헤테로틱 끈 이론 사이의 놀라운 연관성에 대해 쓰면서, ____라고 설명했다” 같은 문장은 완전히 새로운 아키텍처 없이도 GPT가 정말 잘하게 되고 있는 종류의 텍스트 예측 과제처럼 보인다.

왜 그게 변해야 할까? 단순한 패턴에서 복잡하고 추상적인 패턴으로 넘어가면서 우리는 다음과 같은 사실을 본다:

1. 오래된 모델조차도 단어를 이루는 글자들을 이어 붙이는 일, 즉 철자법에서는 기본적으로 완벽하다. 단어가 어떻게 철자되는지 배우려면 텍스트에서 몇 번만 보면 된다.
2. GPT-3는 문장을 이루는 단어들을 이어 붙이는 일, 즉 문법에서는 거의 실수를 하지 않는다. 단어가 문법적으로 어떻게 들어맞는지 파악하려면 문장 속 예시를 수십 개 이상 볼 필요는 아마 없을 것이다.
3. GPT-3는 문장들을 논리적으로 이어 하나의 단락으로 만드는 일을 꽤 잘한다. GPT-2보다 이 부분에서 훨씬 나아졌는데, 이를 위해 훈련 말뭉치가 수백만 단어에서 수천억 단어로 늘어나야 했다.
4. GPT-3는 아직 단락들을 목적을 가지고 이어 붙여 새롭고 의미 있는 무언가를 말하는 일은 잘하지 못한다. 거기에 도달하려면 얼마나 많은 훈련 데이터가 필요할까?

마지막 질문에 대한 답은 “조금만 더”일 수도 있다. 그렇다면 GPT-4가 가까운 미래에 이 블로그와 대부분의 인간 글쓰기 일자리를 차지하게 될 것이다. 혹은 답이 “지금까지 인간이 써온 것보다 자릿수 차로 더 많은 단어”일 수도 있다. 그렇다면 더 나은 언어 모델은 구분 없이 쏟아진 텍스트 더미를 무작정 힘으로 밀어붙이는 것 말고 다른 무언가를 해야 할 것이다. 무엇에 주의를 기울이고 무엇을 무시해야 할지 알려주는 ‘학습 지름길’이 필요할 것이다.

인간 아기는 이 지름길을 가지고 있다. 양육자(아기의 신체 예산에 대한 일관된 다중 감각적 영향을 통해 식별된)가 “봐, 자기야, 이건 …이야”라는 음절을 내뱉을 때, 아기는 다음에 들을 소리 연속이 그날 들은 다른 수백만 개의 소리보다 훨씬 더 주의를 기울일 가치가 있다는 것을 안다. AI의 경우, 이 지름길은 점점 더 큰 훈련 세트에서 자연스럽게 나타나기보다는 아마도 만들어져야 할 것이다.

AI는 현실을 추론할까?

스콧 알렉산더의 에세이 얘기가 나와서 말인데, 유드코브스키-응오 AI 논쟁에 대한 그의 리뷰 중 다음 구절이 놀라웠다. 강조는 내가 한 것이다:

나는 다음 가상 상황을 생각해 보는 것이 도움이 됐다: GPT-∞ — 모든 면에서 GPT-3와 같지만 그 일만은 무한히 잘하는 모델 — 에게 다음과 같은 기발한 방법으로 AI 정렬 문제를 풀게 한다고 가정해 보자. “이것은 AI 정렬 문제를 완전히 해결한 논문의 본문이다: ___ ”라는 프롬프트를 주고, 어떤 논문을 써내는지 보는 것이다. 프롬프트에 맞춰 글을 쓰는 데 무한히 능하니, 진짜 그런 논문의 텍스트로 프롬프트를 완성해야 한다. 결정적 행동 성공!

나는 GPT의 일, 즉 GPT-∞가 무한히 잘하게 되는 일이 텍스트 기반 질문에 정확하게 답하는 것이라고 생각하지 않는다. 우리가 바라는 일일 수는 있지만 실제 일이 아니며, 그 이유는 상사가 시키는 일이 그게 아니기 때문이다. GPT의 일은 인간이나 기존에 작성된 인간 텍스트에 의해 정확하다고 판단될 방식으로 텍스트 기반 질문에 답하는 것이다. 만약 어떤 인간도 개별적으로나 집단적으로도 AI를 정렬하는 방법을 모른다면, 인간의 글에 대해 훈련되고 인간 심사관에 의해 정확도가 채점되는 GPT-∞ 역시 알지 못할 것이다.

인간은 그 안에 산다는 이유만으로 물리적 현실이 존재한다는 것을 알고 태어나지 않는다. 우리는 그것을 천천히 추론해야 하며, 틀린 올바른 버섯을 먹으면 이 사실을 잠시 잊어버릴 수도 있다. 인간 텍스트의 세계에서 태어나 자란 AI는 원리적으로는 물리적 현실이 존재한다는 것과 그 속성이 무엇인지 추론하는 법을 배울 수도 있지만, 그것이 당연히 일어날 일은 아니다.

이 글의 주된 목표는 AI가 무엇을 할 수 있고 없는지에 대해 강한 주장을 펼치는 것이 아니라, 가능한 마음에 대해 많은 사람들(아주 최근까지의 나를 포함해)이 가지는 인간중심주의를 걷어내는 것이다. 인간은 개념으로 사고하고 자신이 물리적 현실을 점유하고 있다고 지각하며, 우리는 이 두 가지를 당연하게 여긴다. 하지만 우리는 어느 쪽도 타고난 채로 태어나지 않았다. 무릎 위의 신생아가 증명하듯 말이다.

마지막으로 한 가지 생각할 점: 당신은 방금 아이디어와 개념으로 가득 찬 것처럼 보이는 글 두 편을 읽었다. 내가 정말로 당신에게 의미 있는 무언가를 전달한 것일까, 아니면 그저 듣기 좋은 단어 5,000개를 워드셀처럼 이어 붙인 것일까? 어떻게 확신할 수 있겠는가?