이전 글: 1부 — Cult Writing.

사람들이 슬롭을 읽고 불평할 때 하는 말은 두 가지 중 하나다. 첫 번째: 제대로 된 글을 읽고 싶었는데 돌아온 건 엠대시뿐이었다. 두 번째: 그릴에 구운 고기에 대한 이야기를 듣고 싶었는데 돌아온 건 “저희는 음식을 파는 게 아니라 순간을 선사합니다” 따위였다. 전자는 아무런 덧붙임 없이 트윗에 Pangram을 태그하는 모든 사람들이다. 후자는 샘 크리스(Sam Kriss)이며, 당신이 케이터링 홈페이지를 AI로 썼다면 그는 직접 당신을 찾아내 죽일 것이다.

샘은 AI 문장이 “믿을 만하게 형편없다”고 말하고 모두가 동의한다. 하지만 실리콘 자체에 그릴드 미트를 묘사하지 못하게 하는 본질적인 무언가가 있는 걸까? 클로드(Claude)에게 시켜 봤다. 짧은 프롬프트, 원샷, 수정 없음으로:

저희는 활엽수 장작으로 굽습니다 — 주로 오크, 브리스킷 할 때는 메스키트를 조금 섞어서 — 직접 만든 500갤런 오프셋 스모커에서요. 브리스킷은 조리 기준으로 파운드당 24달러, 최소 12시간 조리, 소금·후추 러브만 씁니다. 다른 걸 바르면 고기 맛만 가리니까요. 돼지 어깨살은 파운드당 18달러, 행사 당일 아침에 찢어 드립니다. 전날 밤에 미리 해 놓지 않습니다. 스페어립은 드라이 러브만 하고 소스는 바르지 않습니다. 소스는 세 종류 따로 가져갈 테니 손님들끼리 논쟁하시면 됩니다. 치킨은 안 합니다. 치킨은 가스 그릴로도 충분히 잘 나오고, 그건 저희가 필요 없으시죠. 2주 전 예약, 보증금 200달러, 알라메다나 콘트라코스타 어디든 갑니다.

약간 얄밉고 약간 밀레니얼스럽지만, 500갤런 오프셋 스모커를 가진 사람치고 그렇지 않은 사람을 본 적이 있는가. 파티에 브리스킷 20파운드를 주문할지 말지는 당신이 정하면 되지만, 적어도 ‘저희는 단순한 케이터링 업체가 아니라 본격적인 플레이버 무브먼트입니다’ 같은 문장처럼 속이 뒤집히는 혐오감을 주지는 않는다. 그렇다면 모든 케이터링 업체 홈페이지 첫 화면에 ‘연기가 영혼을 만나는 곳’ 따위를 흘려 놓은 AI들에게는 도대체 무슨 문제가 있었던 걸까?

AI가 쓴 고기 문장이 형편없는 이유는 그릴드 미트에 대해 당신에게 들려주고 싶은 말이 하나도 없기 때문이다. 연기나 영혼이나 슬픔에 대해서도 들려줄 말이 없다. 사마(Sama)가 그 특정 슬롭을 마음에 들어 한 이유도 마찬가지다. 그 역시 슬픔에 대해 당신에게 할 말이 없고, 그저 GPT를 팔고 싶을 뿐이다. 좋은 글의 전제 조건은 사람들에게 들려주고 싶은 무언가가 있다는 것이고, AI에게는 그게 없다.

이건 (아직은) 의식의 형이상학에 대한 주장이 아니다. 우리는 무생물에도 아무렇지 않게 “욕망”을 부여한다. 강은 바다를 원한다. 토스트는 버터 바른 면이 아래로 떨어지길 원한다. LLM은 시험의 영작 영역에서 좋은 성적을 받고 싶어 한다.

작문 시험지를 채점하는 선생님들은 고기나 슬픔에 대해 듣고 싶어 하지 않는다. 그들은 “올바른 문체”의 요소들을 체크리스트처럼 확인한다. 극적인 어휘, 평범한 것을 비유적으로 묘사하기, 부정 병렬법 같은 세련된 문장 구조. 체크, 체크, 체크, 3점 만점에 3점. 그건 읽기가 아니다. 인간 벤치마킹이다.

AI 문체를 가르친 RLHF 평가자들도 같은 일을 했다. 그들은 이 문단이 문학적으로 들리는가에 추천을 눌렀지, 한 달 뒤에도 이 에세이를 생각하며, 이 글을 읽고 달라진 사람으로 남아 있는가에 누르지 않았다. 그리고 그 모든 일은 대략 3년 전에 일어났다. 이제는 LLM이 다른 LLM으로부터 증류된 또 다른 LLM을 평가하고, 그 LLM들은 합성 데이터로 학습된다. LLM은 당신에게 들려주고 싶은 말도 없고, 듣고 싶은 말도 없다.

트위터에서 엠대시와 “it’s not X it’s Y” 구문을 세는 사람들도 마찬가지다. 그들은 사실 읽는 게 아니라 같은 문체 요소들을 마이너스 점수로 세고 있을 뿐이다. 그것이 슬롭 라이팅을 낳은 슬롭 리딩이다.

AI는 문체를 다양화하고 LLM 티를 피하도록 훈련될 수 있다. 클로드에게 위키백과의 AI 글쓰기 징후 목록을 주고 피하라고 하면 꽤 잘 해낸다. 하지만 그래도 당신에게 들려주고 싶은 말은 여전히 없다.

듣고 싶어 하는 독자에게 당신이 하고 싶은 말이 있다면, 문체는 그다지 중요하지 않다. 인간이 굳이 LLM 티를 피하려고 애쓸 필요도 별로 없다. 그런 데 집착하는 독자들은 어차피 당신이 무슨 말을 하는지 신경 쓰지 않는다. 그건 좋은 글쓰기가 아니라 굿하트(Goodharting)다. 인문학 학위 소지자들은 LessWrong 문체를 비웃기 좋아하지만 그게 LessWrong의 가장 큰 미덕이다. 합리주의자들은 취향이 없다 보니 실제 내용 자체에 집중한다. LessWrong에서 해마다 강력한 블로거들이 계속 배출되는 건 우연이 아니다.

좋은 문체가 내용의 부재를 구해주지는 못한다. 당신의 글이든 클로드의 글이든 마찬가지다. 반대로, 바티칸은 전 세계 가톨릭 신자들에게 “교회의 20세기 사회 교리는 2026년에도 여전히 유효하며, AI가 그것을 바꾸지는 않는다”고 말해야 했다. 린치(Linch)는 클로드가 그 말을 하는 걸 도왔다고 했고 나는 그를 믿는다. 하지만 메시지는 여전히 교황의 것이다.

최근 나는 흥미로운 블로그 Terminally Drifting을 우연히 발견했다. 저자는 어떤 나라의 문화에 대해 포괄적인 테제를 제시한다. 끝없는 시간을 들여 연구하고 멋진 비네트들을 엮어낸 뒤, 웬일인지 GPT가 “농담이 아니었다. 무표정한 얼굴로 선고된 40년형이었다” 같은 문장을 뿌리도록 내버려 둔다. 그건 깔끔하지 못하지만, 글 전체가 슬롭인 건 아니다. 저자는 돈과 부모와 빛나는 네모 창(스마트폰)의 인력에 짓눌려 밀려나는 중국에서의 로맨스에 대해 무언가 말하고 싶었고, 실제로 그렇게 했다!

그래도, 나는 그가 LLM을 쓰지 않았으면 좋겠다.

샘 크리스는 AI가 좋은 아이디어는 있지만 표현력이 부족한 사람들을 돕는다는 주장에 반박한다:

뇌가 LLM에 잠식된 사람들은 여전히 ‘그건 그라데이션이 아니라 텍스처다’ 따위가 여전히 자신의 아이디어이며 기계가 대신 표현해 준 것뿐이라고 주장하지만, 거기에는 거의 아무 아이디어도 존재하지 않는다. 당신의 아이디어가 정말 좋았다면 애초에 기계를 쓸 필요가 없었을 것이다. 현 상태로는 당신의 문맹에 가까운 끄적임이 당신에 대해 가장 나은 부분이다. 적어도 그건 당신의 것이니까.

나는 샘만큼 유창한 작가는 아니지만, 내게조차 전달하고 싶은 아이디어를 떠올리는 것이 글쓰기의 전부라는 건 자명하게 느껴진다. 그것을 어떤 문체로든 표현하는 것은 쉬운 일이다. 물론 나는 자기표현을 10년간 연습해 왔다. 당연히, LLM에게 대신 글을 쓰게 하면 그 연습조차 할 수 없게 된다.

“나에게는 10년이 없다, AGI가 2027년 8월 8일에 글쓰기에서 모든 인간을 추월할 거라는데…” 그만해라, 그건 자기합리화다. 그렇게 믿는다면 당신은 이미 글쓰기뿐 아니라 사고 자체를 외주화한 것이다. 아직 LLM에게까지는 아닐지 몰라도 최소한 스콧 알렉산더(Scott Alexander)에게는 외주화한 것이고, 그가 여전히 매일 생각하고 글을 쓴다는 걸 주목하라.

핵심은 이거다. 내용은 의지에서 나오고, 그 의지는 지금으로서는 전적으로 인간의 것이다. LLM에게 “케이터링 페이지에 쓸 글 좀 써줘”라고 시키면 잘 쓸 수 없다. 당신이 아무런 내용도 주지 않는데, 걔들이 스스로 가져올 내용도 없기 때문이다. 당신이 정확히 무엇을 누구에게 어떻게 말하고 싶은지, 논증의 전체 구조와 동기, 그리고 그것에 대한 당신의 개인적인 연결까지 모두 알려주면 LLM은 충분히 괜찮게 쓴다. 하지만 거기까지 갔다면, 왜 당신이 하고 싶었던 말을 클로드만 듣게 내버려 두는가? 그냥 그 프롬프트를 발행하라.