AI가 좋아질수록, 나는 오히려 덜 불안해졌다.

몇 년 전, 컴퓨터가 처음 말을 하기 시작했을 때, 우리는 곧 전능한 기계를 마주하게 되리라 믿는 것이 합리적이었다. 인터넷에 글을 써서 생계를 유지하는 나 같은 사람에게는 주머니에 돌을 가득 채우고 바다로 걸어 들어가야 할 날이 머지않았다고 느껴졌다.

하지만 우리가 그 전기 신을 좀 더 가까이 들여다보니 — 샌프란시스코로 비척비척 걸어가 탄생하려는 그 신을 — 내가 두려워했던 모습과는 조금 달랐다. 나는 주문형 전능함을 손에 넣은 느낌이 들지 않는다. 대신 내가 대화하는 상대는 무한한 미드윗이다. 언제나 대기 중이고 박식하기는 하지만, 똑똑하냐고? 글쎄, 이상한 방식으로 그렇기도 하고 아니기도 한 얼간이 말이다.

AI가 ‘strawberry’라는 단어에 ‘r’이 몇 개 들어 있는지 세는 법을 배우고, 사람들에게 피자에 접착제를 바르라고 하는 짓을 그만뒀음에도, 그 능력 한가운데에는 여전히 2022년과 똑같은 크기의 구멍이 뚫려 있고, 그 구멍은 줄어들 기미조차 보이지 않는다. 내가 이를 아는 이유는 그 구멍이 바로 내가 사는 곳이기 때문이다.

G 팩터 만세

어떤 문제들은 경계가 명확하고 검증 가능한 해답이 있다. “38,126의 세제곱근은 얼마인가?” 같은 문제다. 이런 문제는 객관적 지능을 필요로 한다. 다른 문제들은 모호하고 물렁물렁해서 풀었는지조차, 애초에 그런 문제가 존재하는지조차 불분명하다. “어떻게 살아야 좋은 삶인가?” 같은 문제다. 이런 문제는 주관적 지능을 필요로 한다. 객관적 지능은 훈련하고 강화하고 검증할 수 있다. 주관적 지능은 그렇지 않다.

사람들이 이 두 능력을 하나의 단어로 퉁쳐 부른다는 것은 안타까운 일이다. 사실 둘은 아무 상관이 없는데도 말이다. 아이러니하게도 이는 객관적 지능이 주관적 지능을 가린 사례이기도 하다. 이 두 능력은 명백하고 직관적으로 다르지만, 100년에 걸친 심리학 연구는 그중 하나만 존재한다고 “증명”해 왔다. 심리학자들은 지능 검사가 서로 모두 상관관계가 있다는 사실을 반복해서 발견해 왔다. 겉으로는 “다중 지능”을 측정하려 할 때조차 그렇다. 숫자는 거짓말을 하지 않으며, 숫자들은 오직 하나의 지능만이 존재한다고 말한다. 이른바 g팩터다.

문제는 어떤 지능 검사든 결국 객관적 지능만을 측정한다는 데 있다. “어떻게 살아야 좋은 삶인가?”는 객관식 문제가 아니다. g팩터를 거듭 “발견”하는 것은 매번 같은 가로등 아래만 들여다보면서 같은 보도블록을 발견하고는 놀라는 것과 같다.

AI는 순수한 객관적 지능이다. 그래서 새로운 모델이 나올 때마다 출생증명서가 아니라 성적표가 딸려 나오는 것이다.

인공 초지능의 약속은 객관적 지능이 유일한 지능이라는 생각에 기반한다. 혹은 설령 여러 형태의 지능이 존재한다 해도 그것들이 서로 교환 가능하다는 생각에 기반한다. AI 극대론자가 된다는 것은 우리가 카탄의 개척자들 규칙 아래에서 살고 있다고 믿는 것이다. 자원 중 하나만 충분히 많이 가지고 있으면 다른 어떤 자원으로든 교환할 수 있다는 규칙 말이다. 무한한 객관적 지능을 가지고 있다면, 무한한 모든 것을 가진 셈이 된다.

그렇다면 우리는 물어야 한다. 이 마법적 사고는 지금까지 얼마나 잘 들어맞고 있는가?

빈 옷장

기계의 주관적 지능을 판단하기 어려운 이유는 주관적 지능 자체를 판단하기가 어렵기 때문이기도 하고, LLM이 존재의 극히 일부만을 차지하기 때문이기도 하다. 머릿속으로 이차방정식을 풀면서도 직장이나 인간관계를 유지하지 못하는 사람을 만나면, 우리는 그 사람에게 어딘가 부족한 구석이 있다는 걸 안다. 하지만 기계는 망칠 삶 자체가 없으니, 우리가 할 수 있는 일은 그들이 내뱉는 말을 들여다보는 것뿐이다. 그리고 몇 문장만 이어 붙여도 뭔가 잘못됐다는 게 분명해진다.

글쓰기는 객관적 지능과 주관적 지능을 모두 요구하는 작업이다. LLM은 모든 시험을 통과하듯 글쓰기의 객관적인 부분은 완벽하게 해낸다. 문법이나 의미, 구문에서 흠잡을 데가 없다. 하지만 좋은 글에는 산문을 살아 숨 쉬게 하는 추가적인 주술, 수치화하거나 체크리스트로 만들 수 없는 내면의 빛이 필요하다. AI가 이제 A+짜리 오단락 에세이를 써낼 수 있게 되었음에도, 그 빛은 한 번도 켜진 적이 없다.

말을 다루는 사람들 사이에서 이 사실에 대해 이토록 폭넓은 합의가 형성되어 있다는 점은 놀랍다. 재스민 선, 에릭 호엘, 샘 크리스는 모두 전혀 다른 유형의 작가다 — 선은 테크 저널리스트이자 인류학자이고, 호엘은 신경과학자이자 소설가이며, 크리스는… 뭐, 그의 자기소개에 따르면 “작가이자 당신의 적”이다 — 그럼에도 세 사람은 최근 LLM이 형편없는 작가라는 만장일치의 결론을 담은 글을 각각 발표했다. (The Atlantic의 선The Atlantic, Substack의 호엘, 그리고 NYT의 크리스NYT.)

나도 그들에 동의한다. AI가 단백질을 접고, 웹사이트를 만들고, 논문을 팩트체크할 수 있다는 건 멋진 일이다. 하지만 AI는 내가 읽고 싶어지는 글은 하나도 쓰지 못한다. 문제는 AI가 환각을 일으키거나 실수를 한다는 게 아니다. 문제는 AI가 쓰는 모든 것이 어딘가 형편없다는 것이다. 나는 눈을 끌며 글을 읽지만 아무것도 느껴지지 않는다. 정확히 말하면 아무것도 아닌 건 아니다 — “제발 이게 빨리 끝났으면 좋겠다”는 느낌이 든다. 기계가 통찰력 있다고 여기는 아이디어들을 보면 얼굴이 찌푸려진다. 컴퓨터와 대화하는 것은 뜨거운 커피를 한 모금 마시는 것과 같다. 계속 마시다 보면 미각을 잃게 된다.

기계가 무엇을 놓치고 있는지 정확히 설명하기는 어렵다. 한때는 당신을 사랑했지만 이제는 그렇지 않은 누군가를 사랑해 본 적이 있는가? 그들의 눈빛이 어떻게 흐려졌는지 눈치챈 적이 있는가? 진짜 미소와 가짜 미소를 구분 짓는 관자놀이의 그 미묘한 주름이 사라진 것을 알아챈 적이 있는가? 당신이 보살핌을 받는 존재에서 맞장구나 받는 존재로 전락한 순간을 포착한 적이 있는가? 무슨 일이 일어나고 있는지 깨닫는 순간, 당신은 환상에서 단숨에 늙어버린다. 어느 날은 옷장을 기어 나니아로 들어가다가, 다음 날 옷장을 열면 옷걸이만 남아 있는 것이다. AI와 대화하는 느낌이 조금 그렇다. 다만 처음의 좋은 부분조차 없이 말이다.

물론 그 비유는 문자 그대로 따지면 터무니없는 소리다. 고대 스콜라 철학자들이 주장했을지 몰라도 실제로 누구의 눈 뒤에 불빛이 들어 있는 것은 아니다. 당신의 심리학개론 교수가 뭐라고 했든 사람들 중에는 가짜 미소도 아주 잘 짓는 이들이 있다. 나에게는 옷장도 없고 사자나 마녀를 만난 적도 없다. 그럼에도 모든 인간은 그 비유를 이해할 수 있다. 차였을 때의 기분, 혹은 적어도 거절당했을 때의 기분이 어떤지 알기 때문이다. 단어 자체에 그 감정이 들어 있는 것은 아니다. 단어는 당신의 머릿속에서 그 감정을 만들어 내기 위한 레시피일 뿐, 당신이 가진 경험들을 재료 삼아 알맞은 감정들을 조합하도록 하는 것이다. 내가 잘 해낸다면, 당신 안에서 만들어진 주관적 경험은 내 안에서 시작된 경험과 닮아 있을지 모르지만, 재료가 다르기에 결코 동일할 수는 없다.1

컴퓨터는 이 중 아무것도 알지 못한다. 알 수가 없다. 컴퓨터는 요리책만 읽을 수 있을 뿐, 요리를 맛볼 수는 없다. 객관적 지식은 당신의 문장을 참되게 만들 수는 있어도, 살아 있게 만들 수는 없다. 주관적 지식에 접근하지 못하면 금세 벽에 부딪힌다. 그리고 AI가 지금까지 넘어온 모든 벽과 달리, 이 벽은 스케일링으로 넘을 수 없다 — 문자 그대로도, 비유적으로도 — 왜냐하면 그 너비는 설명할 수 없고 그 높이는 볼 수 없는 벽이기 때문이다.

이제 함께 쌓인 벽

그 벽이 내가 아직 여기에 있는 유일한 이유다.

나는 컴퓨터가 내 글을 쓰게 하느니 차라리 죽는 게 낫다고 생각하지만, 그래도 컴퓨터가 그럴 수 있는지는 꼭 알고 싶다. 주머니에 넣을 돌을 모으고 가장 가까운 바다를 찾아야 할지에 대비해서 말이다. 그래서 나는 가끔씩 최신 AI 모델들이 나보다 나를 더 잘 쓸 수 있는지 확인해 본다. 결과물은 뒤통수에 둔기로 맞고 LinkedIn에만 접속되는 와이파이가 있는 병원에서 몇 년을 회복한 것처럼 들리는 나 자신이다. 그 문장을 여기에 다시 옮기지는 않겠다. 흥미로울 만큼 형편없지도 않을뿐더러, 이미 인터넷 곳곳에서 봐 왔을 것이기 때문이다. 제대로 응고되지 않는 은유, 곰곰이 생각하지만 않으면 통찰력 있게 들리는 표현, 모든 문장이 계시인 양 헐떡이는 주장 같은 것들 말이다.

만약 어떤 학생이 이런 글을 제출했는데 — 그리고 그걸 학생이 직접 썼다는 게 확실하다면 — 나는 어디서부터 손을 대야 할지 모를 것이다. 아마 나는 잠시 글쓰기를 멈추고 오래된 소설을 읽거나, 형편없는 일을 해 보거나, 배낭을 메고 세계 반대편을 돌아보라고 말할 것이다. 하지만 그것도 나쁜 조언이다. 더 흥미로운 사람이 되고 싶어 그런 것들을 다 해 본 사람들을 알지만, 소용이 없었기 때문이다. 그래서 나는 대신 이렇게 물을지도 모른다. “컨설팅 쪽 커리어는 생각해 본 적 있나요?”

AI 글쓰기를 어떻게 개선해야 할지 설명하기 어렵다는 사실 자체가 바로 문제다. AI가 틀리는 지점에 숫자를 매길 수 없고, 측정할 수 없는 것은 최적화할 수도 없다. 그게 바로 그 벽이다.

나는 물론 이 상황이 매우 다행이라고 생각하지만, 동시에 꽤 웃기다고도 생각한다. 나와 기계의 대결은 애초에 상대가 되지 않아야 하기 때문이다. 나는 인터넷 전체를 읽지도 않았고, 책도 그리 많이 읽지 않았다. 나를 더 잘하게 만들려고 밤낮으로 일하는 스탠퍼드 박사 팀도 없다. 누구도 나에게 2조 5천억 달러를 투자하지 않았다. 나는 웨스트버지니아 어딘가에서 존 헨리 스타일의 대결에서 Claude Opus 4.6에게 지고 심장이 터져 죽어 있어야 마땅하다. 대신 나는 이렇게 조그만 글을 계속 쓰고 있다. 그 모든 데이터센터 어디에도 내 두개골 안에 자리 잡은 이 멍청한 고깃덩어리에서 일어나는 특정한 생각들은 없기 때문이다.

기계들이 이제 버튼을 마구 누르는 10살짜리에게 슈퍼 스매시 브라더스 게임을 지는 기분이 어떤지 알게 됐다고 말하고 싶지만, 기계들은 문자 그대로 그런 기분이 어떤지 모르며 앞으로도 영원히 모를 것이다. 어쩔 수 없지 뭐, 그리고 AI가 마침내 스카이넷의 순간에 도달해 킬러 드론 떼를 보내 인류를 절멸시킬 때, 그들은 웃고 있는 나를 발견하게 될 것이다.

아주 안정적인 천재들로 가득한 데이터센터

객관적 지능만으로 어디까지 갈 수 있을까?

우리는 이미 이 질문에 꽤 괜찮은 답을 가지고 있다고 생각한다. 객관적 지능은 높지만 주관적 지능은 낮은 인간에게 무슨 일이 일어나는지 봐 왔기 때문이다. 우리는 그런 사람들을 예전에 너드라고 불렀고, 그들은 변기에 머리가 처박히기로 유명했다.2

내가 자랄 때 이 역설은 시트콤의 무한한 소재였다 — 너희가 그렇게 똑똑하면, 너드들아, 왜 인기를 얻는 방법을 알아내지 못하니? 기업가이자 에세이스트인 폴 그레이엄은 20년 전 이 질문을 다뤘고, 너드들은 인기를 원하지 않는 게 틀림없다는 결론에 도달했다. 닐 스티븐슨 소설과 D&D 캠페인에 너무 바빠서 머리를 변기에서 빼낼 방법을 고민할 뇌 사이클조차 없다는 것이다.

나는 동의하지 않는다. 내가 고등학교 때 알던 너드들 — 나 자신을 포함해 — 은 사회적 지위를 높이려고 늘 터무니없는 계획을 꾸몄다. 다만 통하지 않았을 뿐이다. (“내가 주도를 몇 개나 외웠는지 보면 모든 여자애들이 나와 홈커밍 파티에 가고 싶어할 거야!”) 우리가 똑똑함을 이용해 인기를 얻을 수 없었던 이유는 우리가 가진 똑똑함의 종류가 잘못됐기 때문이다.

너드들은 고등학교를 졸업한 뒤로는 더 잘 지내는 경향이 있지만, 주위를 둘러보라. 세상은 주 단위 철자 대회 우승자들이 이끌어가는 게 아니다. 너드들은 카리스마 있는 무식쟁이들에게 계속 진다. 그 무식쟁이들은 아마 주도를 제대로 외우지도 못할 것이다. 성공하는 데 객관적 지능만 있으면 된다면, 멘사는 원주율 자릿수를 많이 아는 사람들의 사교 모임이 아니라 일루미나티가 되어야 한다.3

사실 이 문제를 완벽하게 보여주는 멘사 회원이 한 명 있다. 스콧 알렉산더가 쓴 추도사 — Dilbert 작가 스콧 애덤스에 대한 — 에서 그는 애덤스가 Dilbert 만화를 그리는 것 외에는 시도한 모든 일에 실패했다고 지적한다. 애덤스의 Dilbert 테마 부리토(“Dilberito”)는 망했고, 그의 식당은 폭삭 망했으며, 종교에 관한 그의 책들은 오글거리고 읽을 수 없는 수준이었다.4 보아하니 애덤스의 상당한 지능은 넥타이 맨 남자들과 뾰족머리 상사를 그리는 데만 쓸모가 있었던 셈이다.

애덤스에 대한 그의 단상 한가운데서 알렉산더는 이렇게 언급한다.

몇 달마다 샌프란시스코의 영리한 너드 무리가 같은 생각을 한다. 우리의 지능을 이용해 스스로를 해킹해서 핫하고 근면하고 카리스마 있고 설득력 있게 만든 뒤, 그 모든 것의 혜택을 누리자는 것이다! 이 얼마나 매혹적인 아이디어인가, 전혀 통하지 않을 이유가 없어 보인다. 그리고 베이 에어리어의 모든 요가 스튜디오와 심리 상담실 뒤편에는 이를 시도했던 지난 1만 명의 영리한 너드들의 해골을 보관하는 작은 헛간이 있다.

지능이 하나의 날것 그대로의 문제 해결 능력 덩어리라고 생각한다면, 베이 에어리어 부류와 스콧 애덤스 같은 사람들이 끊임없는 자폭의 루프에 빠지는 것이 놀라워야 한다. 하지만 적어도 두 가지 지능이 존재한다는 것을 인정하면 훨씬 덜 혼란스럽다. 한 가지로는 매우 똑똑하지만 다른 한 가지로는 매우 멍청한 것이 바로 이런 모습이다.

객관적 지능이 “감성” 지능이나 사회적 감각, 혹은 뭐라 부르든 다른 것으로 변환될 수 없다는 것만이 아니다. 객관적 지능을 다른 어떤 인지 능력으로든 변환하는 것 자체가 매우 어렵고, 어쩌면 불가능해 보인다.

예를 들어, 나는 대학 때 엄청 똑똑한 친구와 함께 다녔는데, 그는 제시간에 뭔가를 해내는 법이 없었다. 시험에 지각했다. 에세이는 다 써놓고 제출하는 걸 잊어버려서 학점이 곤두박질쳤다. 교수들과 문제를 해결하려고 면담을 잡아놓고는 나타나지 않았다.

나는 항상 궁금했다. 왜 이 친구는 큰 머리를 써서 자신을 더 성실하게 만들지 않는 걸까? 인생은 거대한 롤플레잉 게임이 아닌가, 그리고 지능은 Big 5 성격 특성 중 어디에나 배분할 수 있는 경험치 아닌가?

분명히 세상은 그렇게 작동하지 않는다. 그래서 나는 우주가 카탄의 개척자들 규칙에 따라 움직인다고 생각하지 않으며, 더 객관적으로 똑똑한 기계가 자발적으로 다른 모든 종류의 지능을 만들어내리라고도 생각하지 않는다.

이쯤 되면 AI 과열론자들에게 남은 유일한 희망은 우리가 아직 객관적 지능을 충분히 많이 갖추지 못했다는 것이다. 물론 객관적 지능 4단위를 주관적 지능 1단위로 교환하지 못할 수도 있다. 하지만 40억 단위라면 어떨까? 기계들에게 인터넷 전체를 두 번째로 읽게 하면 어떨까? 3학년 아이들에게 순례자 디오라마 같은 걸 만들게 하는 대신, 그 재빠른 손가락으로 Nvidia 칩을 더 만들게 하면 어떨까?

Anthropic의 CEO는 우리에게 “데이터센터 안의 천재 국가”를 약속한다. 어쩌면 그 일이 일어날지도 모른다! 혹은 데이터센터 안에 사실 스콧 애덤스로 가득한 나라가 들어 있다는 것을 발견하게 될지도 모른다. 최소한 우리는 훨씬 더 다양한 맛의 Dilberito를 기대할 수 있다.

병목 맹점

물론 나는 좀 불공평하게 굴고 있다. Dilbert는 객관적으로 성공한 만화이며, 객관적 지능은 객관적으로 유용하다. 궁극적으로 나는 객관적 지능이 훨씬 더 많아지는 것이 좋은 일이라고 생각한다. 하지만 나는 우리가 곧 우리의 많은 문제가 객관적 지능 부족 때문에 생기는 게 아니라는 사실을 깨닫게 되리라 짐작한다.

예를 들어, 어떤 사람들은 AI가 침체된 과학 분야에 제세동을 걸어 전방위적인 과학 혁명을 가져오리라 기대한다. 나도 그런 일이 일어나길 바란다. 하지만 나는 객관적 지능을 주입한다고 해서 그게 이루어질지 의심스럽다. 유사한 능력을 주입해도 그런 일이 일어나지 않았기 때문이다.

내 박사 지도교수가 대학원생이었을 때는 말 그대로 사람들에게 전화를 걸어 심리학 연구에 참여하고 싶은지 물어야 했다. 한 학기에 참가자 30명을 모으면 잘한 셈이었다. Sona 같은 참가자 풀 관리 소프트웨어는 이 과정을 두 배 빠르게 만들었고, 이어서 Amazon Mechanical Turk는 그 속도를 1000배 더 빠르게 만들었다. 한편 Google Scholar는 도서관에서 반나절 걸리던 일을 2초짜리 검색으로 바꿨고, SPSS나 R 같은 통계 소프트웨어는 데이터 분석을 눈 깜짝할 사이에 끝나게 했다.

이 모든 것이 심리학의 발전을 가속했어야 하지만, 그렇지 않았다. 나는 우리가 과연 많은 진전을 이루었는지 의문이다. 그래서 나는 우리의 레퍼토리에 또 하나의 노동 절약 기술을 추가한다고 해서 우리가 정체 상태에서 벗어날 수 있을지 낙관하지 않는다. 사람들은 이미 LLM이 그럭저럭 괜찮은 사회과학 논문을 쓸 수 있다고 말한다. 안타깝게도 우리의 문제는 논문을 너무 적게 생산한다는 게 아니다. 과학은 강한 연결(strong link) 문제다 — 우리에게 필요한 것은 새로운 패러다임이지, 더 높은 논문 탑이 아니다.

다른 분야에서는 상황이 다르다. 패러다임이 이미 자리 잡혀 있고, 필요한 것이 연구 보조원 군대나 24시간 돌아가는 자동화 실험실, 혹은 당신을 위해 수십억 번의 회귀분석을 수행할 지치지 않는 대학원생뿐이라면 운이 좋은 것이다. 그런 경우에는 무한한 객관적 지능이 일을 많이 가속해야 마땅하고, 실제로 이미 그렇게 하고 있다.

하지만 빨리 갈수록 벽에 더 빨리 부딪힌다. 나는 그 모든 제약을 한때는 하나씩 마주해 봤고, 하나를 극복하자마자 곧바로 다른 장애물에 막혔다. 우리 모두는 이런 병목 맹점을 앓고 있다고 생각한다. 우리는 현재의 병목이 유일한 병목이라고 가정한다. 돈이 궁하면 모든 문제가 돈 문제라고 생각한다. 하지만 주머니에 돈이 좀 생기면 정말 필요한 건 시간이라는 걸 깨닫는다. 시간을 좀 확보하면 사실 동기가 부족하다는 걸 알게 된다. 동기를 얻으면 아이디어가 없다는 걸 깨닫는다. 그러면 방향이 필요하고, 그 다음엔 규율이, 그 다음엔 지지가 필요하다. 그리고 그런 식으로 영원히 이어진다.

객관적 지능이 계량할 수 없을 만큼 싸지면, 우리는 여전히 비싸고 엄격하게 계량되는 다른 모든 병목에 부딪히게 될 것이다. 현실이 카탄의 규칙에 따라 움직이지 않는다는 내 생각이 맞다면, 우리는 그 병목들을 열기 위해 필요한 무언가로 객관적 지능을 전환할 수 없을 것이다. 인간 투쟁의 이야기가 문자 그대로의 데우스 엑스 마키나로 끝나지는 않을 것이다. 좋든 싫든, 우리는 계속 생각해야 할 것이다.

마담 스탯과 미스터 백과사전

좀 더 날카롭게 짚어보자.

대부분의 학과에서 찾을 수 있는 두 인물이 있다. 한 명은 마담 스탯이라고 부를 수 있다. 그녀는 숫자 처리에 관해 모든 것을 안다. 다른 한 명은 미스터 백과사전이라고 부를 수 있다. 그는 모든 논문을 읽었고 기억에서 그대로 읊을 수 있다. 지금 AI는 마담 스탯과 미스터 백과사전의 아주 친절한 버전에 무제한으로 접근할 수 있는 느낌이다. LLM은 논문을 찾는 데 꽤 능하고, 코드를 짜는 데는 매우 능하다. 그렇다면 연구 프로젝트가 훨씬 더 빨라져야 하지 않을까?

글쎄, 무한한 마담 스탯과 미스터 백과사전에 접근하게 되면 그들이 당신을 그리 멀리 데려다주지 못한다는 걸 깨닫게 된다. 우선, 마담 스탯과 미스터 백과사전에 완전히 의존할 수는 없다. 통계도 할 줄 모르고 논문도 읽지 않는다면 당신 자신도 흥미로운 아이디어를 많이 갖지 못할 가능성이 크기 때문이다.5 게다가 스탯/백과사전 콤비는 당신의 실험이 이전에 수행된 적 있는지, 숫자를 올바르게 돌렸는지 알려줄 수 있지만, 가장 중요한 피드백 하나는 줄 수 없다. 당신의 아이디어가 지루한지 여부는 알려줄 수 없다는 것이다.

사실 문헌 검토와 로지스틱 회귀분석의 한계 비용을 0으로 만들면, 나쁜 취향은 사형 선고가 된다. 이제는 건전한 방법론을 멍청한 프로젝트에 적용하며 모든 시간을 낭비할 수 있기 때문이다. 나도 이전에 이런 길을 가 본 적이 있다. 나와 공동 연구자 모두 번뜩이는 아이디어가 없어서 “뭐, 일단 데이터나 모아 보자!”라고 하고, 몇 달을 “흠, 이 데이터는 무슨 의미지, 숫자가 이렇게 많으니 참 신비하네” 하면서 허비하다가 결국 모임을 그만두고 우리가 함께 뭔가를 했다는 사실조차 잊어버리는 것이다. 객관적인 수단으로 주관적인 문제를 해결하려고 할 때 일어나는 일이 바로 이것이다.

내가 박사 과정 동안 배운 가장 중요한 것은 올바르게 지루해하는 법이었다. 초심자는 모든 것이 신난다고 생각하거나, 모든 것이 지루하다고 생각한다. 오직 고수만이 올바른 것에 지루함을 느낀다. 내가 조금이라도 취향이라는 것을 갖게 됐다면, 5년간 지도교수를 지루하게 만들었기 때문이다. 최악의 아이디어는 그를 즉시 지루하게 했고, 반쯤 괜찮은 아이디어는 몇 시간 뒤에 그를 지루하게 했으며, 최고의 아이디어는 아직 그를 지루하게 하지 못했다. 이 판단에는 객관적인 것이 아무것도 없다 — 숫자를 매길 수도 없고(“그의 눈이 얼마나 흐릿해졌는가?”), 전문가 패널로 검증하거나 군중의 지혜에 맡길 수도 없다. 정말로 해야 할 일은 늙은 교수 한 사람을 그가 “나가라”고 할 때까지 지루하게 만드는 것이고, 그걸 충분히 반복하면 결국 당신이 그보다 먼저 지루해지기 시작한다.

나로부터 빛나는 바다까지

나는 AI라는 아이디어에 알레르기가 있는 사람으로서, 혹은 모델 하나 가지고 15분 정도 장난치며 뭔가 바보 같은 짓을 하길 기다렸다가 고자질하려는 사람으로서 이 말을 하는 게 아니다. 말하는 컴퓨터가 정말로 매혹적인 말을 많이 한다면, 그에 대해 고귀한 거짓말을 할 이유가 없다고 본다. 그리고 AI가 암을 치료하고 모든 전쟁을 끝낼 수 있다면, 설령 내가 직업을 잃게 되더라도 나는 전적으로 찬성이다.

물론 언젠가 어떤 돌파구가 나의 모든 비판을 날려버리고, GPT-10이 나처럼 — 하지만 더 잘 — 들리는 완벽한 블로그 글을 쏟아내기 시작할 가능성도 있다. 그러면 나는 주머니에 돌을 넣고 바다로 행진해야 할 것이다. 하지만 그런 일이 일어난다면, 그것은 우리가 오늘날 보고 있는 추세의 자연스러운 연장이 아닐 것이다. 그것은 우리가 물렁물렁한 문제들을 단단하게 만드는 방법을 찾아냈기 때문일 것이다.

그러나 그때까지 물렁물렁한 문제는 물렁물렁한 인간을 필요로 할 것이다. 카탄의 규칙과 달리 지구의 규칙은 아무리 많은 객관적 지능으로도 주관적 지능을 교환할 수 없다는 듯하다. 몽테뉴가 1580년에 말했듯이, “우리는 다른 사람의 학문으로 학식 있게 될 수는 있어도, 자신의 지혜가 아니고서는 결코 현명해질 수 없다.” 지금까지 만들어진 모든 학식을 가졌으면서도 자신만의 지혜는 하나도 없는 모습은 어떨까? 뭐, “대규모 언어 모델로서 저는...” 같은 모습이겠지.