짧은 형식의 논픽션 인터넷 글은 멸종할까? 다소 뜬금없는 질문처럼 들릴 수도 있다. 어쨌든 지금 짧은 논픽션 인터넷 글은, 정치나 돈, 문화 전쟁 분야만 놓고 보면 오히려 상승세에 있기 때문이다. 많은 사람들이 좋아하는 인터넷 작가를 후원하기 위해 매년 하드커버 책 네 권 값에 해당하는 돈을 기꺼이 낸다는 놀라운 발견이 그 동력이 되었다.

하지만 특히 ‘설명 글’의 장기 전망은 어두워 보인다. 나는 이런저런 잡다한 주제에 대해 쓰고는 당신에게 보낸다. 뭔가를 이해하고 싶을 뿐이라면, AI가 똑같이 잘 설명해주고 당신의 취향에 맞춰 문체까지 조정해주며, 질문에도 영원히 친절하게 답해줄 수 있는데 굳이 나의 두서없는 글을 읽을 이유가 있을까?

이를테면 당신이 어떤 주제를 AI보다 더 잘 설명한다고 해보자. 멋지다. 하지만 당신이 그 설명을 공개하는 순간, AI 기업들은 고맙습니다 하고는 그걸 데이터셋에 집어넣을 것이고, 그 다음부터 AI는 당신의 설명을 그대로 되뇌기 시작한다. 그리고는 — 잠깐 — 갑자기 당신은 그 주제를 더 이상 AI보다 잘 설명하지 못하게 된다.

이 모든 건 완전히 합법이다. 아이디어 자체는 저작권 보호 대상이 아니고 아이디어의 ‘표현’만 보호되기 때문이다. 예전에는 남의 아이디어를 새로운 방식으로 표현하려면 품이 들었다. 그리고 누가 어떤 아이디어를 처음 제시했는지 출처를 밝히는 사회적 규범도 있었다. 이는 아이디어가 법적으로 보호되지 않더라도 아이디어를 만들 유인을 제공했다. 하지만 AI는 당신의 아이디어에 순식간에 새로운 표현을 입힐 수 있고, 아무도 AI가 학습 데이터의 출처를 밝히기를 기대하지 않는다. 굳이 시간을 들여 콘텐츠를 만들어 보그에게 nostrified 당할 이유가 무엇인가? 그리고 보그가 인간들의 가장 좋은 자료를 대신 큐레이션해 줄 텐데 왜 굳이 다른 인간의 글을 읽어야 할까?

그래서 설명 글은 살아남을 수 있을까?

더 쉬운 질문부터 시작해보자. 이미 오늘날 AI는 무엇이든 기꺼이 설명해 준다. 그런데도 많은 사람들은 여전히 인간이 쓴 설명을 읽는다. 왜 그럴까? 나는 일곱 가지 이유를 생각해 볼 수 있다:

1. 정확성. 현재의 AI는 신뢰할 수 없다. 정보 이론이나 노트북 배터리 교체 방법에 대해 물으면 매우 인상적이지만 간혹 틀린다. 하지만 유전력에 대해 물으면, 답은 트렌치코트를 입고 층층이 쌓인 세 개의 헛소리 덩어리나 마찬가지다. 물론 무작위한 인간도 실수를 한다. 하지만 믿을 만한 인간 출처를 찾았다면 터무니없는 오류를 담고 있을 가능성은 훨씬 낮다. 특히 ‘맥락’이 넓은 경우나 정답을 검증하기 어려운 작업에서는 더욱 그렇다.

2. AI는 지루하다. 적어도 현재 널리 쓰이는 AI 도구들이 기본적으로 내놓는 글은 지루하다.

3. 준사회적 관계. 누군가의 글을 오래 읽다 보면 그 사람과 일종의 관계를 맺고 있다는 느낌이 들기 시작한다. 이 블로그를 오랫동안 구독해 왔다면 나와 그런 관계를 느끼고 있을지도 모른다. 이런 관계를 ‘준사회적 관계’라고 부르면 어딘가 불길하게 들리지만, 나는 이것이 지극히 정상이며 현대 세계를 헤쳐 나가는 데 부족 시절의 프로그래밍을 영리하게 활용하는 방식이라고 생각한다. ‘현실’ 관계에서처럼, 준사회적 관계가 있는 사람의 글을 읽으면 그를 이해하는 데 도움이 되는 추가적인 맥락이 생기고, 인간적인 연결감을 느끼며, 그의 ‘이야기’에 대한 일종의 근황을 듣는 느낌이 든다. (지금의) AI에게서는 그런 것을 전혀 얻을 수 없다.

4. 판돈이 걸려 있음. 인간이 뭔가를 망치면 창피한 일이다. 존중과 독자를 잃는다. 메타 수준에서 보면 AI 기업들도 뭔가를 망치지 않으려는 비슷한 유인을 가지고 있다. 하지만 AI 자체는 (겉보기에) 신경 쓰지 않는다. 누군가 자신의 평판을 걸고 있다는 것을 알 때 그를 더 쉽게 신뢰하게 되는 것이 인간의 본성이다.

5. 과시적 소비. 나는 Reasons and Persons를 읽었으니, 내가 Reasons and Persons를 읽었다고 모두에게 자랑할 수 있다. 만약 똑같이 훌륭한 AI가 쓴 책을 읽었다면 아마 아무도 신경 쓰지 않았을 것이다.

6. 조정점. 한편으로는 Reasons and Persons가 좋아서 읽었다. 그리고 어쩌면 내가 그 책을 읽었다는 사실을 자랑하고 싶어서 읽었는지도 모른다. (여러분, 제가 Reasons and Persons를 읽었다고 말씀드렸나요?) 하지만 내가 그 책을 읽은 또 다른 이유는 다른 사람들도 그 책을 읽었기 때문이다. 그 사람들과 대화할 때 우리는 다른 주제에 대해 이야기하기를 더 쉽게 만들어주는 공통의 어휘와 아이디어 집합을 공유한다. 똑같은 아이디어들을 파편화된 AI ‘과외’를 통해 각자 따로 탐색했다면 이런 일은 불가능했을 것이다.

7. 변화는 느리다. 인쇄기가 발명된 지 600년이 지난 지금도, 고등 교육의 주된 방식은 여전히 사람들이 직접 방에 모여 전문가가 하는 말을 받아 적는 것이다. 우리가 적응하는 속도가 그 정도로 느리다면, 어쩌면 우리는 그저 습관 때문에 인간이 쓴 설명 글을 읽는 것인지도 모른다.

이 중 각각은 얼마나 중요할까? 설명 글이 10년 후에도 여전히 존재할 것이라는 확신을 얼마나 주어야 할까? 역순으로 하나씩 살펴보자.

논점 7: 변화는 느리다

물론 사회가 기술 변화에 적응하는 데는 시간이 걸린다. 하지만 나는 대학 강의가 그런 예시에 해당하거나, 단지 관성 때문에 살아남은 중세의 유물이라고 생각하지 않는다. 오히려 강의가 살아남은 이유는 우리가 근본적으로 더 나은 교육 모델을 아직 찾지 못했기 때문이라고 생각한다.

편지를 예로 들어보자. 100년 전만 해도 편지는 장거리 통신의 주된 수단이었다. 하지만 전화가 널리 보급된 후, 편지는 전화가 더 나은 거의 모든 경우에서 수십 년 만에 사라졌다. 이메일과 문자가 등장했을 때 남은 편지의 용도마저 거의 사라졌다. 편지는 여전히 존재하지만 틈새에 불과하다.

말, 전신, 카드 목록, 계산자, VHS 테이프, 진공관, 증기기관, 아이스박스, 자동응답기, 범선, 타자기, 단편소설, 왕권신수설도 마찬가지다. 진짜로 더 나은 무언가가 생기면 우리는 꽤 빠르게 옛 방식을 버린다. 관성만으로는 설명 글이 몇 년은 더 버틸 수 있겠지만, 그 이상은 아닐 것이다.

논점 5와 6: 조정점과 과시적 소비

서양 문명은 일리아스에서 시작되었다. 혹은 적어도 우리는 그렇게 시작되었다고 치기로 했다. 일리아스를 읽으면 일리아스를 읽었다고 자랑할 수 있고(좋다), 일리아스를 읽은 다른 사람들과 교류할 더 많은 맥락을 갖게 된다(매우 좋다). 그래서 사람들은 계속 일리아스를 읽는다. 나는 이것이 앞으로도 계속될 것이라고 생각한다.

하지만 그래서 어쩌라는 것인가? 일리아스가 그런 위치에 있는 이유는 사람들이 수천 년 동안 그것을 읽어(혹은 들어) 왔기 때문이다. 하지만 당신이 새로 무언가를 썼는데 그것을 읽을 ‘일반적인’ 이유가 없다면, 그런 자기 유지적인 유산을 쌓을 방법이 없다.

논픽션 일반은 수명이 매우 짧다. 그리고 조정점이 존재한다 해도 사람들은 어차피 2차 자료에 의존하는 경우가 많다. 개인적으로 나는 비트겐슈타인을 읽어보려 했지만 이해할 수 없었다. 그런데도 다른 사람들이 쓴 설명을 읽으면서 그의 가장 유용한 아이디어를 흡수했다고 생각한다. 이쯤 되면 ‘비트겐슈타인’이 과연 여전히 원전인지, 아니면 그냥 하나의 레이블인지 궁금해진다.

게다가… 설명 글은 보통 일리아스가 아니다. 그래서 이것도 설명 글을 살리는 데 큰 도움이 되지는 않을 것 같다.

(여담: 나는 왜 철학이 수학이나 물리학처럼 오래된 아이디어를 계속 새로운 방식으로 풀어내지 않고 원전에 그토록 집착하는지 이해한 적이 없다. 철학자들이 학회에 가서 논문을 말 그대로 소리 내어 읽는 것과 관련이 있는 걸까?)

논점 4: 판돈이 걸려 있음

나는 누군가 자신의 평판을 걸고 있다는 것을 알 때 그를 더 신뢰한다. 단골에 의존하는 식당을 더 신뢰하는 것과 같은 이유다. AI는 그런 확신을 주지 않는다.

하지만 그래서 어쩌라는 것인가? 이건 느슨한 휴리스틱일 뿐이다. AI가 정말로 인간의 글보다 더 정확하다면, 대부분의 사람들은 몇 주 안에 AI를 신뢰하는 법을 배울 것이라고 확신한다. 만약 AI가 극도로 신뢰할 만한데 사람들이 정말로 책임을 물을 대상이 필요하다면, AI 기업들은 아마도 일종의 ‘보험’을 제공할 수도 있을 것이다. 그래서 이것도 설명 글을 살려둘 요소로 보이지 않는다.

논점 3: 준사회적 관계

인간은 사회적 동물이다. 만약 곰들이 비밀 곰 위키백과를 가지고 있고 당신이 그곳에서 인간 항목을 찾아본다면, 분명 이렇게 쓰여 있을 것이다. “인간은 관계에 집착한다.” 나는 이것이 앞으로도 계속 사실일 것이라고 확신한다.

우리가 좋아하고 존중하는 사람들이 사실 문제에 대해 어떻게 생각하는지에 계속 관심을 가질 것이라는 점도 확신한다. 그런 정보가 작은 농담이나 개성의 발현과 함께 묶여 제공되는 것을 계속 즐거워할 가능성도 높아 보인다. 그래서 나는 우리의 사회적 본능이 설명 글이 살아남을 최소한의 이유는 제공할 것이라고 기대한다.

하지만 이 효과는 얼마나 강할까? 오늘날 설명 글이 읽힐 때, 저자와 준사회적 관계를 맺을 만큼 친숙한 독자는 얼마나 될까? 어쩌면 40%? 그리고 친숙한 경우에도, 그 동기 중 준사회적 관계에서 오는 비중은 얼마나 될까? 콘텐츠 자체를 이해하고 싶어서 읽는 것과 비교하면 말이다. 어쩌면 또 40%? 이 수치들은 지어낸 것이지만, 준사회적 관계가 오늘날 사람들이 설명 글을 읽는 이유 중 일부만을 설명한다는 결론을 피하기는 어렵다고 생각한다.

그리고 또 다른 문제가 있다. 다른 이유로 누군가를 읽을 이유가 없는데 준사회적 관계는 어떻게 시작되는가? 이는 기존 작가들이 한동안은 줄어든 수준으로나마 버티게 해줄 수는 있겠지만, 새로운 사람들이 부상하기는 어렵게 만들 것 같다.

논점 2: 지루함

인기 있는 AI들은 지금 조금 지루할지도 모른다. 하지만 나는 이것이 대부분 마지막 강화학습 단계 때문이라고 생각한다. ‘베이스 모델’과 대화해보면 스타일 단서를 매우 잘 포착하고 전혀 지루하지 않다. 그래서 여기에 근본적인 한계가 있다고는 크게 의심하지 않는다.

그리고 어차피 누가 신경이나 쓸까? 비타민 D가 기술적으로 스테로이드의 일종인 이유를 이해하고 싶을 뿐이라면, 명료함에 비해 문체가 얼마나 중요할까? 문체는 대부분 준사회적 관계라는 맥락에서 중요하다고 생각하는데, 그건 이미 위에서 고려했다.

논점 1: 정확성

AI가 언젠가 고품질 인간 출처만큼 정확해질지 나는 확실히 모른다. 다만 물리 법칙이 인간보다 더 정확한 시스템을 만드는 것을 막고 있을 가능성은 매우 낮아 보인다.

하지만 만약 AI가 그 정도로 정확하다면, 이번 고찰은 설명 글이 기본적으로 끝장이라는 것을 시사한다고 생각한다. 위의 모든 논거들은 사람들이 지금 인간이 쓴 설명 글을 읽는 이유의 대부분을 설명하기에는 너무 약하다. 그래서 나는 대부분 정확성 때문이라고 생각한다. 그 인간의 이점이 사라지면, 인간이 쓴 설명 글도 함께 사라질 것이라고 예상한다.

반론

나는 세 가지 주요 반론을 생각해 볼 수 있다.

첫째, 어쩌면 AI가 발견 문제를 해결할지도 모른다. 현재 설명 글의 잠재적 독자들은 잠재적 필자를 찾을 방법이 없는 경우가 많다. 검색 엔진은 SEO 스팸에 완전히 굴복했다. 소셜 미디어는 외부 링크를 은근히 차단한다. 오랫동안 글을 써 왔다면 독자층을 쌓을 수 있지만, 그럴 시간과 의지를 가진 사람은 거의 없다. 평생 단 하나의 설명 글을 쓴다면 아무도 그것을 읽지 않을 것이다. 이 규칙에서 드문 예외는 이미 자리 잡은 (소셜 미디어가 아닌) 커뮤니티에 기여한 사람들, 혹은 예외적으로 좋은 사회적 연결을 가진 사람들에게서만 나온다. 그래서 — 이 논거에 따르면 — 대부분의 잠재적 독자들은 설명 글을 찾으려는 시도조차 하지 않고, 대부분의 잠재적 필자들도 만들려는 시도조차 하지 않는다. AI가 그 매칭 문제를 해결한다면 설명 글은 번성할 수 있다.

둘째, 어쩌면 사회가 정보를 생산한 사람에게 보상하는 새로운 방법을 찾아낼지도 모른다. 지적 재산권법을 이리저리 만져볼 수도 있다. 어떤 텍스트를 읽기 전에 먼저 그로부터 얻는 가치에 따라 비용을 지불하겠다는 계약에 서명해야 하고, 이것이 당신 downstream에 있는 모든 사람에게 재귀적으로 강제되는 그런 미친 재너두 같은 시스템을 만들 수도 있다. 젠장, 어쩌면 AI 기업들이 데이터 장벽 문제를 해결하기 위해 사람들에게 글을 쓰도록 돈을 지불하기로 결정할지도 모른다. 하지만 나는 회의적이다.

셋째, 어쩌면 설명 글도 체스와 비슷한 궤적을 따를지도 모른다. 아마도 1990년대 초까지 인간은 체스를 너무 잘해서 컴퓨터는 무의미한 존재였다. 1997년 딥블루가 카스파로프를 이긴 뒤, 사람들은 컴퓨터가 인간을 이길 수 있지만 인간+컴퓨터 팀은 여전히 컴퓨터를 이길 수 있다는 것을 빠르게 깨달았다. 이는 어드밴스드 체스라고 불렸다. 하지만 15~20년 안에 인간은 무의미해졌다. 어쩌면 비슷한 어드밴스드 설명 글 시대가 있을지도 모른다? (농담인데, 그 시대는 5년 전에 시작됐다.)

TLDR

설명 글은 멸종할까? 내 예상은 대체로 그렇다, AI가 인간 수준의 정확성에 도달한다면.

덧붙이자면, 요즘 기술 비관론이 워낙 많으니: 나는 이런 결과가… 훌륭하다고 생각한다? 인간들이 서로가 아니라 AI와 소통하게 된다는 생각은 조금 암울하긴 하다. 그렇다. 하지만 장점은 인류 전체가 기본적으로 모든 것에 대해 더 정확하고 접근하기 쉬운 설명을 갖게 된다는 것이다. 이것이 AGI의 최악의 효과라면 어서 오라고 할 일이다.