내가 본 AI 회의론자 중 가장 널리 인용되는 인물인 에드 지트론의 예측이 얼마나 들어맞았는지 궁금해서, 그의 예측들이 실제로 어떻게 됐는지 살펴봤다. 내 편향을 먼저 밝혀두자면, 나는 AI 발전에 대해 특별히 강한 찬성이나 반대 입장을 가져본 적이 없다. 예를 들어, 2022년에는 커즈와일 같은 존경받는 인물들을 포함해 미래학자들이 내놓은 예측을 종합적으로 검토한 적이 있는데 결과와 논리 모두 대체로 틀렸다는 걸 알게 됐다. 반대로 2015년에는 사람들이 AI가 일자리를 대체할 능력을 과소평가하고 있다고 썼고 이후로도 많은 사람들이 AI의 일자리 대체 능력을 과소평가하고 있다고 여러 차례 공개적으로 말해왔다. AI에 대한 내 입장은 지극히 평범하다. 요컨대 “지금 실제로 일어나고 있는 일에 대해 ‘절대로 일어날 수 없다’고 말하는 사람들은 아마 틀렸을 것”이라는 것이다.

AI 회의론자에게 반박하는 사람이 나오면 회의론자들이 흔히 하는 말 중 하나는, AI가 가짜가 아니라고 말하는 사람들은 모두 사리사욕에 눈이 먼 거짓말쟁이라는 것이다. 개인적으로(내게는 분명 손해가 되겠지만) 나는 AI 기업에 특별한 금전적 이해관계가 없다. 지루한 인덱스 펀드를 통해 가지고 있는 정도의 지분만 있을 뿐이다. 시드 단계 투자도 일부 있지만, 시기와 무엇이 커졌는지를 보면 내 포트폴리오에서 AI 비중은 오히려 낮다. 나는 AI 랩이나 AI 랩에 납품하는 회사에서 일하지 않는다. 예전에 면접을 끔찍하게 못 본다고 말한 적이 있는데, 몇 년 전 AI 랩에 면접을 본 적이 있고 전화 스크리닝에서 떨어졌다. 그때의 퍼포먼스는 제프 애트우드가 쓴 유명한 Why Can’t Programmers... Program?에서 ‘코딩 면접에서 저렇게까지 못할 리가 없는데 어떻게 프로그래밍을 안다고 할 수 있나, 그러니 가짜 프로그래머가 많음에 틀림없다’고 결론 내리게 만들었을 법한 그런 퍼포먼스였다. AI가 잘된다고 해서 내가 특별히 이득을 볼 일은 없다. 광범위한 인덱스 펀드를 가진 사람이라면 누구나 얻는 정도의 이득 외에는. 다만 나는 정확성이 중요하다고 생각한다.

2024년: Meta, Google, Microsoft는 죽어가고 있다

다뤄야 할 예측 결과가 꽤 많으므로, 전체 목록을 보기 전에 하나를 자세히 살펴보면서 지트론이 어떤 식으로 논리를 전개하는지 감을 잡아보자. 임의로 2024년 11월 지트론이 Meta와 Google 같은 대형 테크 기업들이 죽어가고 있으며, 성장 방법을 몰라 AI에 매달리고 있다고 말한 강연을 보자.

지트론은 특히 Meta를 죽어가는 회사로 지목했다(“죽어가는 제품이고, 어떻게 보면 죽어가는 회사다”). Meta의 매출과 이익(GAAP 영업이익)은 다음과 같았다.

기업들이 어떻게 성장해야 할지 모른다고 얘기하면서(“이제 이 회사들 중 어느 곳도 어떻게 성장해야 할지 정말 모른다 … 죽어가는 생태계에서 성장을 다시 불붙여보려는 필사적인 시도로 테크 업계는 이 [AI] 쓰레기를 모든 곳에 밀어 넣을 것이다”), 그는 Google과 이어서 Microsoft를 언급했다. Alphabet(Google의 모회사)의 매출과 이익 수치는 다음과 같다.

그리고 Microsoft의 수치는 다음과 같았다(일관성을 위해 모든 수치는 회계연도가 아닌 역년 기준이다).

지트론의 발언 취지에는 맞지 않겠지만, Meta가 실제로는 죽어가고 있는데 아직 죽지 않았을 뿐이라고 주장할 수도 있다. 하지만 지트론 주장의 논리는 여기에서 틀렸다. Meta, Google, Microsoft 생태계는 죽어가고 있지 않다. 이들 기업이 얼마나 빠르게 성장하고 있는지를 보면(매출과 이익 기준으로), AI가 지트론이 암시한 것처럼 “성장 방법을 몰라” 아이디어가 바닥나 필사적으로 매달리는 무언가처럼 보이지 않는다. 각 예측마다 이 정도 분량을 할애할 가치는 없다고 생각하지만, 지트론이 여기에서 쓴 패턴은 잘 보여준다.

이들이 죽어가고 있다는 주장을 뒷받침하기 위해 그는 매우 큰 변화를 일으킬 만한 위치에 있지 않은 사소한 문제들을 끌어온다. Meta의 경우, Facebook의 MAU가 어떻게든 감소했다는 주장을 들었다. Meta 자체의 MAU 수치나 어떤 종류의 매출·이익 수치를 쓰는 대신, 그는 Similarweb의 수치를 쓴 것으로 보인다. 이런 제3자 트래킹 수치는 내 경험상 매우 부정확하고 대략적인 규모 비교 외에는 대체로 쓸모가 없어서, 지트론이 인용한 감소세는 사실상 무의미하다. Facebook은 2023년 12월부터 MAU를 공개적으로 발표하지 않았지만, 대부분의 추정치는 Facebook MAU가 시간이 지남에 따라 증가하고 있다고 보고 있으며, Meta가 실제로 공개하는 수치들도 자사 제품들의 사용량이 대체로 증가하고 있음을 보여준다. 지트론은 자신의 주장을 위해 유독 낮은 이상치 추정치를 골라 쓴 것이다.

Google의 경우, 그는 프라바카르 라그하완을 인용하는데, 그를 진정으로 사악하며 “경영 컨설팅 분파에 붙은 컴퓨터 과학자 계급 배신자”라고 부르면서, 그가 Google 검색에 어떤 심각한 피해를 입혔다고 주장한다. 라그하완에 대한 그의 장광설에서 그는 라그하완이 Google 검색에 심각한 해를 끼치고 있다는 점을 믿을 만하게 입증한 적이 없으며, 그의 장광설에 댓글을 단 Google 검색 엔지니어들도 라그하완이 검색 문제의 유일한 혹은 주요 원인이라는 가설에 동의하지 않는 것으로 보인다.¹

하지만 지트론이 옳고 악당 프라바카르 라그하완이 영웅 벤 고메스를 물리쳐 Google 검색에 어떤 문제를 일으켰다고 가정해보자. 그래도 이는 Google이 전반적으로 매출 성장에 문제가 있다는 주장까지 입증하지는 못한다. Google에는 검색이 성장하지 않더라도 성장을 견인할 수 있는 다른 대형 제품들(YouTube나 Google Cloud 같은)이 많이 있기 때문이다.

여기서 논리 사슬의 모든 중요한 부분은 틀렸을 뿐 아니라, Google이나 대기업에 대해 조금이라도 안다면 그럴듯하지도 않다. 나는 Google 검색 품질에 심각한 문제가 있다고 가장 먼저 말할 사람이고, Google이 시간이 지나면서 사용자 경험보다 매출의 우선순위를 점점 더 높여왔다는 점도 인정한다. 이는 내가 2013년에 Google에 있을 때 사용자 중심 엔지니어들 사이에서 우려를 낳았던 부분이기도 하다.

지트론이 지적한 문제 중 하나인 광고가 사용자에게 혼란을 준다는 점을 예로 들면, 2013년에 나는 검색 엔지니어에게 Google이 광고 배경색을 검색 결과와 더 비슷하게 바꾼 것에 대해 물은 적이 있다. 이전 연구에서 광고가 검색 결과처럼 보일수록 사용자가 그 결과가 광고인지 진짜 검색 결과인지 헷갈려 한다는 결과가 있었고, 나는 Google이 사용자 혼란을 피하기 위해 의도적으로 광고를 검색 결과처럼 보이지 않게 했다고 들었기 때문이었다. 그 검색 엔지니어는 일부 사람들이 사용자가 헷갈리는 것을 원하지 않았기 때문에, 광고를 검색 결과와 거의 동일하게 만드는 것을 한 번에 바꾸는 것은 무슨 일이 일어나고 있는지 너무 티가 나므로 불가능했다고 말했다.

이 일이 일어나게 된 방식은 광고를 검색 결과에 조금 더 가깝게 보이도록 살짝 조정하는 A/B 테스트를 할 때마다 돈을 훨씬 더 많이 벌게 되므로, 그 변화는 여러 해에 걸쳐 여러 단계로 나눠 일어났고, 각 단계는 이런 종류의 일에 맞서 싸우고 싶어 하는 사람들이 문제를 제기하기 어려울 정도로 작았다는 것이다. 이는 그 엔지니어가 예측한 대로 정확히 일어났지만, 라그하완이 결국 검색을 맡게 됐든 아니든 어차피 일어날 일이었다. 그리고 물론 그런 일이 일어난다고 해서 Google이 성장할 여지가 바닥나 죽어가는 생태계에서 성장을 다시 살리기 위해 필사적이 된다는 것도 아니다. Google이 해야 한다고 생각하든 아니든, 그것은 Google에게 더 많은 돈을 벌어다 주는 일이다.

사람들은 지트론을 어떻게 인용하는가

내가 보기엔 사람들이 지트론을 인용하는 방식은, 그를 권위자로 내세워 ‘이 사람이 숫자를 들여다보고 이런 주장을 했으니 내 주장도 숫자로 뒷받침된다’고 말하는 것이다. 실제로 지트론의 주장을 들여다보고 그 주제에 대해 조금이라도 알면 그 주장은 말이 안 된다는 걸 알게 되지만, 나는 그게 요점이 아니라고 생각한다. 요점은 ‘누군가 숫자를 들여다봤다’고 말할 수 있다는 것이다. 다른 요점은 이 사람이 화가 나 있다는 것²으로, 이는 관심을 끌기에 좋은 방법이다.

하지만 사람들이 그를 언급할 때, 물론 그의 분노를 인용하는 것은 아니다. 그들은 ‘여기 숫자를 들여다본 사람이 있고, 당신이 AI에 대해 화가 나 있다면 그는 당신과 함께 AI에 대해 화를 내고 있으며, 그의 편에는 숫자가 있다’고 말하는 것이다.³ 위에서 말했듯 각 주장마다 이 정도 수준으로 자세히 들어가고 싶지는 않다. 이는 단지 아래 주장들이 어떻게 보이는지를 보여주는 예시일 뿐이다. 내가 읽은 그의 글 중 어떤 것이든 숫자가 많이 등장하지만, 그 숫자들은 실제로 일관된 논증으로 연결되지 않는다. 많은 경우 위에서 본 것처럼 숫자들이 그의 주장을 실제로 뒷받침하지도 않는다(예컨대 Facebook MAU 하락이 Meta의 재무 문제를 일으키고, 그 때문에 Meta가 엉뚱한 곳에 AI를 끼워 넣게 된다는 식). 나는 그가 사람들이 숫자를 보면 눈이 흐려져 그 숫자가 무슨 의미인지 생각하지 않을 거라는 데 기대고 있는 것 같다.

아래 예측들을 보면, 누군가 정확히 같은 예측 기록을 가지고 있으면서도 완전히 합리적인 근거를 댔는데 단지 결과가 들어맞지 않았을 수도 있다. 혹은 모든 경우에 맞혔으면서도 근거가 모두 틀렸기 때문에 틀린 사람일 수도 있다. 그런 사람은 자신이 명확히 설명하지 못하는 어떤 직관을 가진 사람이거나, 그냥 운이 좋았던 사람일 수도 있다. 다행히 우리는 이런 어려운 판단을 할 필요가 없다. 지트론은 예측도 틀렸고 논리도 틀렸기 때문이다.

꼼꼼한 사람들이 본 지트론

나는 몇 년 동안 세상 돌아가는 걸 모르고 살다가 이제 막 AI 담론을 따라잡고 있는 중이라 지트론이나 다른 유명한 AI 논평가들의 글을 실제로 읽거나 영상을 본 적이 없었지만, 판단력이 좋은 사람들이 뭐라고 하는지 찾아보니 그들 역시 지트론의 숫자 사용은 그저 눈속임에 불과하다고 보고 있었다. 예컨대 유호 스넬만의 이런 댓글처럼 말이다:

그의 글은 분명 화려하지만, 공격성과 욕설은 이미 그의 글을 믿는 사람들을 더 열광시키는 데 맞춰져 있지, 사람들의 마음을 바꾸는 데 맞춰져 있지 않다. 그는 반(反)테크 사기라는 틈새를 찾아냈고, 이제 그 틈새를 최대한 착취하고 있다. 하지만 그가 당신을 설득한 것들 중 몇 가지는 실제로 팩트 체크를 해보는 게 좋을 것이다. 적어도 그의 글로 쓴 글들에 대해서는 기본적으로 모든 것이 지어냈거나 왜곡된 것이기 때문이다. 물론 출처 링크는 많이 있지만, 그걸 따라가 1차 출처까지 가보면 그 출처가 말하는 내용은 지트론이 암시하는 것과 매우 다르다

어떤 이유에서인지 지트론의 분석이 훌륭하다고 가정하는 댓글에 유호 스넬만이 답한 예시는 다음과 같다: > 핵심 문제는 그의 경제 분석이 완전히 쓰레기라는 것이다. 예전에는 그가 그냥 그 분야에서 완전히 무능한 줄 알았는데, 오류의 편향을 보면 꽤 분명히 의도적인 기만이다. 하지만 그걸 지적하기가 꽤 어려운 경우가 많다. 그가 쓰는 글 하나하나가 1만 단어짜리 궤변 폭격(gish gallop)이기 때문이다. 내가 HN 댓글에서 그가 의도적으로 저지른 실수 중 단 하나에 대해서만 핵심을 반박해보려고 한 적이 있는데, 사람들이 답글이 너무 길다고 불평한다.

예를 들어, 티모시 B. 리가 지트론이 Anthropic의 매출을 전망하는 데 사용한 스프레드시트를 살펴봤을 때, 그는 이렇게 발견했다

그는 2월 1~10일을 계산에 넣지 않았고, 3월 1~10일을 두 번 계산했으며, 8월 21일~10월 21일을 두 달이 아니라 한 달로 계산했고, 10월 21일~11월 1일을 계산에 넣지 않았다. [다른 댓글 작성자는 그의 스프레드시트에 2월 30일도 들어 있다고 지적한다] … 에드는 2025년 Anthropic 매출을 계산하려고 시도해 36억 달러라는 숫자를 내놓으며 뭔가 수상한 일이 있다고 시사하지만 [오류를 고치면 숫자는 맞아떨어진다]

지트론의 예측 몇 가지

• 2024년 2월: “생성형 AI가 할 수 있는 일과 그 출력의 정확도에는 상한에 도달하고 있다고 믿는다.”
  • 틀림⁴
• 2024년 3월: “우리는 AI의 정점에 도달했는가?”; 환각이 AI 발전이 당시 수준에 제한된다는 것을 의미한다는 또 다른 예측
  • 틀림
• 2024년 4월: “내가 이전에 경고했듯이, 인공지능 기업들은 데이터가 바닥나고 있다 …”; 더 이상 데이터가 없어 모델이 개선될 수 없다는 또 다른 예측
  • 틀림⁵
• 2024년 6월: OpenAI의 성장이 정체되고 있으며(앞으로도 계속 정체될 것이라는 함의) 이는 OpenAI의 어떤 붕괴로 이어질 것이라는 예측
  • 틀림 (OpenAI가 붕괴할 수도 있지만, 그렇다 해도 2024년의 성장 정체 때문은 아닐 것이다)
• 2024년 7월: “생성형 AI는 내가 3월에 말했듯이 정점에 도달하고 있다. 이미 정점에 도달했는지도 모른다. 지금 하고 있는 것보다 더 많은 것을 할 수는 없고, 다만 새로운 입력을 받아 더 빠르게 더 많이 할 뿐이다”
  • 틀림
• 2024년 7월: “생성형 AI 모델은 더 에너지 효율적이 되고 있지도 않고, 기능을 늘릴 만큼 더 ‘강력’해지고 있지도 않다”
  • 틀림 (모델은 계속 더 강력해졌다)⁶
• 2024년 8월: “생성형 AI는 정점에 도달한 막다른 기술이다”
  • 틀림
• 2024년 8월: AI 버블이 스스로 증명할 시간이 3분기 남았다는 주장(2024년 3월 기준)을 반복, 그렇지 않으면 붕괴할 것이라는 예측
  • 틀림 (Bartek Ogryczak의 지적처럼, AI가 스스로 증명했으므로 맞았다고도 볼 수 있지만, 지트론은 개선이 없다고도 주장하므로 지트론 기준으로 보면 틀림)⁷
• 2024년 9월: “o1은 OpenAI가 필사적이며 아이디어가 바닥났음을 보여준다”, 모델이 데이터 부족으로 개선될 수 없다는 아이디어를 반복
  • 틀림
• 2024년 10월: OpenAI의 2024년 매출 37억 달러, 2025년 116억 달러, 2029년 1,000억 달러 전망은 터무니없다, “너무나 터무니없는 진술이라 입 밖으로 내는 것 자체가 금융 범죄가 아닌 게 놀랍다”
  • 틀림 (2025년 목표는 초과 달성했고, 2029년은 아직 판정 전이지만 터무니없는 금융 범죄 수준의 비현실적인 수치는 아니다)
• 2024년 10월: “[OpenAI 매출] 성장은 이미 둔화되고 있으며, 새해에 접어들면 극적으로 둔화될 것이다”
  • 틀림 (OpenAI는 전망을 초과 달성하며 빠르게 계속 성장했다)
• 2024년 12월: “나는 3월에 생성형 AI가 이미 정점에 도달했다고 경고한 바 있다.”
  • 틀림 (게다가 기이하게도 2024년 3월 이후 진전이 없었다는 함의)
• 2025년 1월: “우리는 AI의 정점에 있다고 믿는다”
  • 틀림
• 2025년 1월: “DeepSeek이 [LLM]을 상품화했다”
  • 틀림 (OpenAI와 Anthropic은 여전히 상당한 가격 결정력을 가지고 있으며 DeepSeek보다 훨씬 높은 가격을 유지할 수 있다)
• 2025년 2월: Anthropic이 2027년에 매출 345억 달러를 올린다는 것은 “여러 면에서 웃기는 일인데, 가장 큰 이유는 2024년에 Anthropic보다 두 배 정도 더 많은 매출을 올린 OpenAI가 같은 해에 API 호출로 겨우 10억 달러를 벌었다는 점이다.”
  • 틀림 (2027년에 그 매출을 올릴지 여부와 별개로, 2026년 ARR이 그 추정치를 크게 초과하므로 2027년 추정치는 웃기는 수치가 아니다)
• 2025년 2월: “순다르 피차이가 Gemini를 ‘2025년 말까지 5억 명이 사용하게’ 하고 싶어 하는데, ‘너무나 비현실적인 숫자라 Google의 누군가는 해고됐어야 하며, 그 누군가는 순다르 피차이다.’”
  • 틀림 (Gemini는 7억 5천만 명을 달성했다)
• 2025년 2월: “샘 올트먼이 Orion을 GPT-5에서 GPT-4.5로 격하시킨 것은 OpenAI가 다음 모델을 만드는 데 벽에 부딪혀 기대치를 낮춰야 했음을 시사한다”;
  • 틀림 (GPT-5는 GPT-4.5보다 상당한 개선이었다)
• 2025년 2월: “나는 틀렸다는 것이 증명될 때까지 계속 이런 글을 쓸 것이다.”
  • 틀림 (지트론은 반복적으로 틀렸음이 증명됐음에도 계속 글을 쓰고 있다)
• 2025년 3월: “이 뉴스레터를 쓰면서 CoreWeave만큼 썩은 회사는 거의 본 적이 없다 …” 지트론은 이어서 그 회사가 자금 조달 없이는 6개월을 버티지 못할 것이며, 40억 달러를 조달해야 1년을 버틸 수 있다고 말한다
  • 틀림 (CoreWeave는 여전히 존재하며 작성 시점 기준으로 IPO 가격의 두 배 이상이다. CoreWeave는 IPO 때 15억 달러만 조달했다)
• 2025년 4월: 지트론이 다시 버블을 외치며 “내가 맞는지 곧 알게 될 것이다.”라고 말한다
  • 틀림 (지트론이 자신을 증명할 중대한 사건이 곧 일어날 것임을 암시했지만 그런 일은 일어나지 않았다)
• 2025년 4월: “또한, 이 시점에서 생성형 AI가 오늘 하는 것보다 더 많은 일을 하게 되지는 않을 것이라는 점은 꽤 명백하다.”
  • 틀림
• 2025년 5월: “이 이야기를 보고 Cohere가 망할 것이라고 생각하지 않을 수 있는 방법을 모르겠다. 그들의 전망은 현실과 너무나 동떨어져 있다.”
  • 종료 시점이 없어 기술적으로는 반증 불가능하지만, 암시된 주장은 틀림
• 2025년 7월: “과장하려는 건 아니지만, Cursor가 망할 것이라는 결론에 도달하는 건 꽤 쉽다”
  • 틀림 (Cursor는 600억 달러에 엑시트했다)
• 2025년 8월: “이 모델들은 훈련이 수확 체감에 부딪히는 벽에 분명히 도달했다”
  • 틀림
• 2025년 8월: 지트론은 Cursor가 죽어가고 있으며 헐값에 팔릴 것이라고 예상한다. 100억 달러라는 가격조차 그럴듯하지 않다고 한다. “Cursor가 100억 달러의 가치가 있는가? 아니다! 그 제품이 아무리 좋을지 몰라도, 끝없이 수억 달러를 태우지 않고서는 그 가격에 팔릴 만큼 좋지 않다.”
  • 틀림
• 2025년 10월: “AI 버블이 터지는 시점을 추측해야 한다면 언제라고 보나?”라는 질문에 지트론은 “늦어도 2026년 2분기”라고 답한다
  • 틀림
• 2025년 11월: “고품질 훈련 데이터가 바닥나고 있고 스케일링 법칙의 벽에 부딪히고 있다는 사실 때문에, 훈련 패러다임에서 이 모델들은 더 좋아지지 않고 있다. 우리가 오늘 보고 있는 것이 앞으로도 계속 그 모습일 것이다”
  • 틀림

이 시점 이후 내가 본 대부분의 추가 예측은 반증 불가능하거나 미래에 판정이 나는 것들이었다. 나는 지트론이 했던 비상식적이거나 단순히 당시 기준으로 사실과 다른 진술들을 목록화하려 하지는 않았다는 점을 밝혀둔다. 예를 들어 2024년 12월 주장인 “생성형 AI 제품들은 1년 넘게 사실상 호박 속에 갇혀 있다”나 2026년 1월 주장인 “[모델들은] 1년 전과 기본적으로 동일하다. 효능이 같다” 같은 것들이다. 지트론은 AI 역량이 앞으로 개선되지 않을 것이라는 전망을 내놓았을 뿐 아니라, 역량이 개선되지 않았다는 과거 회고적 진술도 일관되게 해왔는데, 이는 당시에도 명백히 거짓이었음에도 그의 지지층에는 잘 먹히는 것으로 보인다(그의 다른 거짓 진술들과 함께). 그의 모든 진술을 연결해보면, AI가 2023년 12월에 가졌던 역량과 2026년 1월에 가지는 역량이 동일하다는 얘기가 된다(그리고 이후 진술까지 연결하면 실제로는 2026년 8월의 역량이 2023년 12월과 동일하다는 얘기가 되는데, 공정하게 말하자면 지트론은 자주 자기모순을 일으키며 2026년 중반에는 제한적인 개선을 인정하기도 했다).

공정하게 말하자면, 지트론이 구어체로 말하고 있다고 볼 수도 있다. 그래서 그가 “1년 넘게 사실상 호박 속에 갇혀 있다” 같은 말을 할 때, 실제로는 2023년 12월부터 아무 변화도 없었다는 뜻이 아니므로 그 진술들은 이행적으로 이어지지 않는다고 볼 수 있다. 구어체의 느슨함을 가정한다고 해도, 진술들의 모음은 여전히 2023년 12월부터 2026년 8월까지 개선이 미미했다는 것을 함의한다(위에서 언급했듯 그가 자기모순을 일으켜 일부 영역에서는 제한적인 개선이 있었다고 인정한 경우를 제외하면).

존경받는 미래학자들과의 비교

미래학자들을 분석한 글과 비교해보면, 스타일 면에서 지트론은 우리가 살펴본 어떤 미래학자보다 분노에 훨씬 더 크게 의존한다. 논리의 질 측면에서는 미래학자들에 비해 아마 평균 정도였다. 거의 모든 것을 틀렸음에도 그는 원자도 주파수가 있고 전파도 주파수가 있으니 우리의 모든 주파수를 포착해 전파로 보낼 수 있어 사람을 전파로 보낼 수 있게 될 것이라고 제안한 버크민스터 풀러 같은 사람보다는 더 비합리적이지 않다.

추론 스타일 면에서는, 검토한 미래학자들 중에서는 아마 커즈와일에 가장 가깝다. 숫자를 이용해 신뢰성의 아우라를 만들지만, 그가 논하는 주제에 대해 뭔가 알고 있거나 숫자를 들여다보면 논리는 무너진다는 점에서 그렇다. 지트론의 추론이 커즈와일보다 나쁘지는 않다. 커즈와일은 (예를 들어) 2001년에 2011년까지 무한한 수명을 예측하는 등 극도로 빠른 발전에 대한 새로운 예측을 계속해서 내놓았지만 들어맞지 않았다. 계속해서 진보가 멈출 것이라는 이유로 틀린 예측을 내놓는 것은 진보에 대한 베팅의 반대편에 서는 것일 뿐이다. 무한한 진보 대신 전혀 진보가 없을 것이라는 예측을 하는 것이다. 그 예측이 틀렸다는 것이 증명될 때마다 그냥 비슷한 예측을 또 내놓고 날짜를 조금 뒤로 미루면 된다. 미하우 잘레프스키(lcamtuf)는 왜 이런 일이 일어나는지에 대해 이런 생각을 밝혔다.

인기 있는 추종자를 만드는 가장 확실한 방법은 명확하고 강력하며 의심의 여지를 남기지 않는 입장을 명확히 밝히는 것이다. “글쎄, 시장은 어느 쪽으로든 갈 수 있다”, “양당 모두 일리 있는 지점이 있다”, “AI에는 장점도 있고 과장도 좀 있다” 같은 말로는 팟캐스트나 TV 출연을 많이 얻어낼 수 없다. 혹은 글에 나온 예를 들자면 “해리 포터는 괜찮은 책이다” 같은 말로는 말이다.

사실 거기에는 긍정적 피드백 루프가 있다. 도발적이고 자극적인 입장을 취하면 더 많은 관심과 좋아요를 받으니, 일종의… 자기 급진화가 일어난다? 어느 순간 그것은 더 이상 바꿀 수 있는 의견이 아니다. 그것은 정체성이자 개인 브랜드다.

이게 … 왜 에드 지트론이 모든 것이 하나의 거대한 사기라는 식의 대박 블로그를 가지고 있는지에 대한 이유다. 좀 더 미묘한 관점을 취하면 운이 좋아야 반응이 없고, 운이 나쁘면 양쪽 모두로부터 경멸을 받게 될 뿐이다.⁸

제대로 된 반(反)AI 견해를 찾는 사람이라면, 나는 whitequark가 꽤 훌륭하다고 생각한다(동의하지는 않지만 논리는 타당하며, 내가 가진 것과 약간 다른 전제를 가졌다면 어떻게 동의할 수 있을지 이해가 간다). 하지만 물론 whitequark는 지트론 같은 큰 관객을 끌지는 못한다.

틀린 입장을 얼마나 오래 유지할 수 있을까

나는 이렇게 진보에 대한 일련의 실패한 예측의 잘못된 편에 선 뒤 사람들은 어떻게 하는지 궁금하다. 미래학자들의 경우, 거의 완전히 틀렸던 사람들(여기서 검토한 모든 사람이 그랬다)조차도 여전히 “내가 말한 것 중 4분의 1은 일어났다, 다만 내가 예상한 것보다 2배에서 20배 더 오래 걸렸을 뿐이다”라고 주장할 수 있고, 정확성에 크게 연연하지 않는다면 이를 “내가 말한 것들이 일어났다”로 반올림할 수 있는데, 실제로 그들이 종종 그렇게 해왔다. 그게 그들에게는 잘 통했던 것 같다. 어차피 아무도 자세히 들여다보려 하지 않으니까.

하지만 폴 얼릭처럼, 명백히 일어나지 않고 있는 일이 임박한 재앙이라고 예측하고 그 예측이 일어나지 않았을 때처럼, 그런 상황에서는 어떻게 될까? 얼릭의 위키백과 페이지만 봐도 다음과 같은 내용이 있다.

흔한 비판은 얼릭의 예측이 일상적으로 빗나갔다는 것이다. 예를 들어 Reason지의 로널드 베일리는 그를 “내가 아는 한, 임박한 재앙에 대한 예측 중 단 하나도 맞은 적이 없는 … 억누를 수 없는 파멸론자”라고 불렀다.[41] 1970년 첫 지구의 날에 그는 “[10년 안에 바다의 모든 중요한 동물 생명이 멸종될 것이다. 죽은 물고기 냄새 때문에 해안선의 넓은 지역을 대피시켜야 할 것이다.]”라고 경고했다.[41][42]

1971년 연설에서 그는 이렇게 예측했다. “[2000년까지 영국은 7천만 명의 굶주린 사람들이 사는 가난한 섬들의 작은 무리에 불과할 것이다.]” “[내가 도박꾼이라면,]” 얼릭 교수는 비행기를 타기 전에 이렇게 결론지었다. “[영국은 2000년에 존재하지 않을 것에 돈을 걸겠다.]”[41][42]

이 시나리오가 일어나지 않자 그는 이렇게 답했다. “[미래를 예측할 때 틀리는 법이다. 얼마나 틀렸는가는 또 다른 문제다. 내가 그 내기를 했다면 졌을 것이다. 하지만 영국을 자세히 들여다보면, 내가 뭐라고 말할 수 있겠나? 그들은 다른 모든 사람과 마찬가지로 온갖 문제를 겪고 있다.]”[41]

얼릭은 《인구 폭탄》에서 “[인도는 1980년까지 2억 명 더 많은 사람을 먹여 살릴 수 없을 것이다.]”라고 썼다.[27] 1967년 얼릭은 인도가 “가망이 없다”며 긴급 식량 원조를 끊어야 한다고 주장했다.[43] 이 입장은 이후 비판받았는데, 인도의 식량 생산이 이후 녹색 혁명을 통해 급증했고, 인구가 두 배가 되었음에도 1인당 칼로리 섭취량이 이후 수십 년 동안 크게 증가했기 때문이다.[44]

1960년대 이후 세계 식량 생산의 대폭 증가와 인구 증가 둔화는, 재생 불가능한 자원의 지속적인 고갈이라는 현재 맥락 속에서도, 얼릭 부부가 예견한 규모의 식량 부족, 기근, 재앙을 막았다.

캐나다 언론인 댄 가드너는 2010년 저서 《퓨처 배블》[45]에서 얼릭이 자신이 저지른 오류를 인정하는 데 충분히 솔직하지 못했으며, 자신이 “맞혔다”고 주장하는 것에 대해서는 지적으로 부정직하거나 회피적이라고 주장한다. 예를 들어, 그는 물질 부족, (《풍요의 시대》라는 출판물에서 최대 10억 명에 이르는) 기아로 인한 대규모 사망, 혹은 특정 국가에 대한 재앙적 영향에 대한 예측에서 저지른 실수를 거의 인정하지 않는다. 한편, 그는 에이즈나 지구 온난화의 증가를 “예측”한 공을 기꺼이 가져간다.[13]

질병의 경우, 얼릭은 과밀화나 굶주린 사람들의 약화된 면역 체계에 기반해 질병 증가를 예측했으므로, 이를 1980년대 에이즈의 출현을 예측한 것으로 보는 것은 “무리다.” 마찬가지로 지구 온난화는 얼릭이 묘사한 시나리오 중 하나였으므로, 실패한 시나리오에 대해서는 책임을 부정하면서 그것에 대해 공을 주장하는 것은 이중 잣대다. 가드너는 얼릭이 고전적인 인지 부조화의 징후를 보이고 있으며, 자신의 판단에서 명백한 오류를 인정하지 못하는 것이 그의 현재 사고를 의심스럽게 만든다고 믿는다.[13]

배리 커머너는 얼릭의 1970년 발언인 “[더 이상의 노력이 헛될 것이라는 점을 깨닫는 지점에 도달하면, 자기 자신과 친구들을 돌보고 남은 짧은 시간을 즐기는 편이 낫다. 나에게 그 시점은 1972년이다.]”를 비판했다.[46] 가드너는 얼릭이 윌리엄과 폴 패독이 저서 《1975년의 기근》에서 제안한 전략을 지지한 것을 비판했다. 그들은 인도와 이집트 같은 “가망 없는” 국가들에 대한 식량 원조를 중단하는 “트리아지” 시스템을 제안했다. 《인구 폭탄》에서 얼릭은 “[식량 분배에 관해서는 패독 부부의 전략 중 일부 형태를 채택하는 것 외에는 합리적인 선택이 없다.]”고 제안한다. 만약 이 전략이 당시 식량 원조에 의존하던 인도와 이집트 같은 국가들에 실행됐다면, 그들은 거의 확실히 기근을 겪었을 것이다.[13] 대신 이집트와 인도 모두 식량 생산을 크게 늘렸고 이제는 식량 원조에 의존하지 않고 훨씬 더 많은 인구를 먹여 살리고 있다

놀랍게도, 1968년에 《인구 폭탄》을 쓰고 그 이후 일련의 틀린 예측을 내놓은 뒤, 그는 1990년에 《인구 폭발》로 그 뒤를 이었고, 우리가 세계 인구를 줄이지 않으면 끔찍한 위기를 초래하거나 초래할 세계적인 인구 과잉 상태에 있다고 계속 말해왔다. 그는 이번 세기, 심지어 이번 10년에도 같은 말을 해왔다. 그가 오늘날 그렇게 말하지 않는 유일한 이유는 그가 올해 초에 사망했기 때문인 것으로 보인다.

내가 찾아보지 않았다면, 그의 최근 입장은 something like “글쎄, 몇 가지는 틀렸지만, 내 작업에서 영감을 받은 행동들 덕분에 위기가 모면됐다”거나 “위기는 모면됐지만, 운 좋게 주사위가 잘 굴러간 것이고, 대부분의 우주에서는 내가 예측했던 대규모 기아 사망을 막은 농업 발전이 일어나지 않았을 것이다” 같은 것일 거라고 추측했을 것이다. “그냥 기다려 봐라, 위기는 지금 일어나고 있고 나는 곧 옳다는 것이 증명될 것이다”가 아니라. 2015년에 틀렸던 1968년 저서에 대해 그는 “[내 표현은 오늘날이라면 훨씬 더 종말론적일 것이다]”라고 말했다. 이는 우리가 지트론에게서 본 패턴이지만, 내가 찾아본 단 한 사람이 50년 더 그렇게 유지했을 거라고는 예상하지 못했다. 어쩌면 우리는 지트론이 AI 발전의 끝을 예측하는 모습을 50년 더 보게 될지도 모른다.

지트론에 대한 몇 가지 반응

위에서 인용한 유호 스넬만의 말 중 하나에서, 스넬만은 그가 대량의 궤변 폭격(gish gallop)을 쓴다고 말한다. 이는 누군가 반박하기 귀찮을 정도로 값싼(생산 비용이 저렴한) 헛소리를 홍수처럼 쏟아내는 것을 일컫는 말이다. 지트론 강연의 아주 작은 부분을 자세히 논하는 데 우리는 지트론이 기업이 어떻게 작동하는지 잘못 이해하고 있으며 어떻게 논리를 잘못 짰는지 설명하는 데만 1,000단어 넘게 썼다. 누군가는 그걸 읽고 “하지만 당신은 강연의 X는 다루지 않았잖아”라고 말할 수 있다. 그건 사실이다. 내가 처음 그 강연을 봤을 때, 90초 만에 탭을 닫았다. 헛소리가 너무 많아 더 진행할 가치가 없어 보였기 때문이다. 나는 그 영상의 처음 90초만으로도 5,000단어를 쓸 수 있다. 지트론은 그냥 헛소리를 늘어놓는 것이기 때문에 아주 저렴하게 할 수 있고, 내가 모든 사실을 손에 쥐고 있다 해도 그 90초짜리 헛소리를 반박하는 데는 30~60분이 걸릴 것이다. 정확한 정보를 찾아볼 시간을 가지면 아마 두세 배의 시간이 걸릴 것이다. 판단력이 좋은 사람이 이런 것을 보면 그 사람을 즉시 괴짜로 치부하는 경향이 있다. 예를 들어, 내가 이 글을 쓰고 있다고 친구에게 말했더니 그는 이렇게 말했다.

그 사람 나오는 팟캐스트를 듣고 있었는데 끝까지 들을 수가 없더라. 심박수가 올라가는 게, 걔가 그냥 거짓말을 늘어놓고 합리적인 인터뷰어가 그에 대해 물어보면 “X는 어때요?”라고 하면 또 다른 거짓말로 넘어가더라 …

… 내가 중간에 나오기 전에, 걔가 LLM이 지난 1년 동안 별로 좋아지지 않았다고 얘기하고, 인터뷰어가 사람들은 써보고 있고 지난 1년 동안 확실히 좋아졌다고 말하니까 지트론이 그걸 부정하면서 ‘그래요?’라고 하더라. 인터뷰어는 그냥 “네…”라고 하고. 그 시점에서 난 그냥 ‘내가 왜 이 대화를 듣고 있지?’ 싶더라.

우리는 대부분 예측을 논했지 과거·현재에 대한 틀린 진술을 논하지는 않았지만, 내가 읽거나 본 지트론의 모든 것은 이런 것들로 가득하다. 많은 사람들은 이런 것을 보고 그 사람을 괴짜라고 판단하고 관심을 끊을 것이다. 하지만 다른 많은 사람들은 이런 것을 보고, 누군가 일련의 것들을 반박한 것을 보면서 “하지만 당신은 X는 반박하지 않았잖아”라고 말할 것이다. 그리고 일반적으로 반박하는 사람이 몇 가지에는 답하겠지만 결국 포기하게 된다. 궤변 폭격 방식이 증폭 DoS 공격과 같은 속성을 가지고 있기 때문이다. 새로운 헛소리를 만들어내는 것은 매우 저렴하지만, 그것을 반박하는 데는 노력이 든다.

참고로, 이 인터뷰가 무엇인지 궁금해서 위 인용문을 ChatGPT에 넣고 인터뷰를 찾아달라고 했다. ChatGPT는 해당 교환이 있는 인터뷰를 식별할 수 있었고(실제로는 여러 개를 식별했는데, 이는 지트론의 흔한 질문-답변 패턴으로 보인다) 인터뷰에서 각 관련 발언의 타임스탬프도 찾아줬다(일반적인 논쟁의 시작은 여기다 그리고 “그래요?”라는 답변은 여기다. “그래요?”라는 코멘트 이전에 인터뷰어는 에이전트의 역량이 향상됐다는 기준선을 세우려 한다. 지트론은 그런 일이 없었다고 부정하고, 인터뷰어가 이런 것들을 직업에 활용하는 사람들이 있다고 지적하자 지트론은 “그래요?”라는 코멘트로 이를 부정한다(그는 실제로 그 연속 구간에서 여러 모순된 진술을 한다).

여기서 또 주목할 점은 지트론의 극도로 높은 확신 수준이다. 우리가 언급한 것 중 일부는 OpenAI의 전망이 “너무나 터무니없는 진술이라 입 밖으로 내는 것 자체가 금융 범죄가 아닌 게 놀랍다”(그들은 지금까지 달성했다)거나, Google의 Gemini 사용자 수 전망이 “너무나 비현실적인 숫자라 Google의 누군가는 해고됐어야 하며, 그 누군가는 순다르 피차이다”(그들은 전망을 50% 초과 달성했을 때 지트론의 주장은 그 수치에 도달하는 것 자체가 완전히 터무니없다는 것이었다)라는 주장이다.

나는 꽤 많은 예측을 해왔고, 그 중 꽤 많은 예측이 틀렸다. 내가 정말로 예측을 할 때는 나중에 되돌아봐서 예측이 얼마나 잘 보정됐는지 볼 수 있도록 스스로 확신 수준을 붙인다. 나는 지트론이 일부 예측에 부여한 확신 수준에 anywhere near한 수준에서 틀린 적이 한 번도 없다. 그 정도 확신 수준으로 표현된 예측이라면 단 하나의 틀린 예측만으로도 극도로 과신하고 있다는 신호다. 사실상 그 정도 확신 수준으로 전달된 예측에 대해서는 틀려서는 안 되는데 지트론은 수사적으로 거의 최고 수준의 확신으로 한 예측들에 대해 일상적으로 틀린다.

참고로, Gemini가 5억 명을 달성하는 것이 “너무나 비현실적이라 Google의 누군가는 해고됐어야 하며, 그 누군가는 순다르 피차이다”라는 것에 대한 재미있는 점은, 지트론이 또한 (틀리게도) Google이 어떻게 성장해야 할지 모른다고 말했고, 그 결과 그들이 AI를 모든 곳에 밀어 넣고 있다고 말했다는 것이다. 데니스 스넬이 지적했듯이, 지트론이 자신의 진술을 진지하게 받아들인다면 Google은 지트론이 말한 바로 그 일, 즉 AI를 모든 곳에 박아 넣는 일을 함으로써 Gemini 사용자 수를 원하는 어떤 숫자로든 만들 수 있다.

당신은 실제로 Google의 성장 부족이 AI에 대한 필사적인 시도로 이어진다는 지트론의 진술을 진지하게 받아들이면서, 동시에 그가 순다르가 5억 명 같은 숫자를 언급한 것이 중대한 직무유기라고 말하는 것을 진지하게 받아들일 수는 없다. 이는 그의 강연이나 글을 보면 즉시 분명해지는 또 다른 점이다. AI 기업과 AI를 사용하는 사람 및 기업이 사악하고 나쁘다는 진술들을 제외하면 서로 들어맞지 않는 단절된 진술들이 잔뜩 있다. 실제 숫자와 논리는 모순된다. 떠오르는 대로 악당들을 사악하게 묘사하는 데 쓸 수 있는 것이면 무엇이든 가져다 쓰는 것으로 보인다. 그리고 재미있게도 Gemini가 달성한 7억 5천만 명이라는 숫자는 지트론의 두 진술 모두 틀렸음을 보여준다. Google이 지트론이 주장한 만큼 숫자를 부풀리는 데 필사적이었다면 Gemini를 모든 곳에 박아 넣어 쉽게 10억 명 이상을 만들 수 있었을 것이고, 물론 7억 5천만 명 > 5억 명이다.

참고로, 내가 처음으로 강연을 멈춘 지점은 다음과 같다.

매년 전년 대비 매출 성장에 집착하는 시장. 그리고 이 진행은 자연스러웠다. 끔찍했다. 마크 앤드리슨을 비난할 수 있다. 그는 끔찍한 사람이다. 비난할 수 있는 끔찍한 남자들이 많다. 요즘 화낼 대상이 너무 많다.

마지막 문장이 지트론의 입장을 정말 잘 요약한다. “요즘 화낼 대상이 너무 많다”. 이 강연에서 그는 앤드리슨에 대한 이런 비난을 끼워 넣고 Meta, Google, Microsoft가 성장을 추구하는 것을 앤드리슨 탓으로 돌린다. 실제로는 마크 앤드리슨이 존재한 적이 없더라도 Meta, Google, Microsoft는 거의 확실히 여전히 성장을 추구했을 것이므로 우리는 물론 앤드리슨에게 이 기업들이 성장하려는 것을 비난할 수 없다. 그냥 그가 나쁘다고 말하는 무언가가 있고, 그는 평소 스타일대로 어떤 사람을 끌어와 그가 이 일에 대해 비난받아야 할 사악한 악당이라고 말하고는 다음 비약으로 넘어간다.

사람들이 어떻게 이걸 진지하게 받아들일 수 있을까

나는 자학적인 취미로 실제로 지트론 토론을 잔뜩 읽었다(HN과 Lobsters의 모든 주요 토론과 다른 것들도 많이 읽었다고 생각한다). 지트론을 진지하게 받아들이는 사람들이 뭐라고 하는지 보기 위해서다. 흔한 방어 중 하나는 위에서 말한 것, 즉 물론 몇 가지 지적은 반박했지만 X는 다루지 않았다는 것이다. 더 흔한 방어는 그냥 일반적으로 사람들이 지트론을 공격하는 것은 Y 때문(보통은 그의 스타일)이며 그의 요점은 절대 다루지 않는다고 말하는 것이다, “그것만 봐도 다 알 수 있다”(또는 그와 비슷한 말)고 하면서. 메시지 타임스탬프만 봐도, 논의되고 있는 스토리들에 한정해도 이미 지트론의 실제 오류를 논하는 댓글이 있었지만, 지트론 옹호자들은 이를 무시하고 그냥 사람들이 지트론이 저지른 실수를 지적할 수 없었다고 주장한다. 이는 매우 지트론적인 수법이며 그의 스타일을 좋아하는 사람들이 같은 수법을 쓰는 것도 이해가 간다. 결국 누가 지트론을 설득력 있다고 느낄까? 이런 종류의 것을 타당한 논리라고 생각하는 사람이다.

다음으로 흔한 “수법”은 단순히 지트론이 반박된 무언가를 말했다는 것을 부정하는 것이었다. 사람들이 지트론이 2024년과 2025년에 LLM이 근본적인 이유로 더 이상 개선될 수 없다고 반복해서 말했다고 언급하면, 지트론 옹호자들은 그가 그런 말을 한 적이 없다고 말한다. 이전 예측이나 사실과 다른 진술에 대해서도 마찬가지다.

또 다른 부류의 방어는 “하지만 AI를 과장하는 사람들은 틀린 게 얼마나 많은데?” 같은 댓글이다. 앞서 말했듯이, 나는 가장 존경받는 미래학자 다수가 틀렸을 뿐 아니라 그들의 방법과 논리가 틀렸다는 것에 대해 3만 4천 단어짜리 글을 쓴 바 있다. 하지만 미래를 과장하는 많은 사람들이 틀렸다고 해서 에드 지트론이나 폴 얼릭이 덜 틀린 게 되지는 않는다. 지트론과 얼릭은 그 미래학자들이 존재하지 않았더라도 지금만큼 정확히 틀렸다.

내 친구는 또한 지트론이 2023년부터 2026년까지 모델이 개선되지 않았다는 점에서 틀렸다는 지적에 대한 댓글에 대해서도 이렇게 언급했다(그리고 네, 이는 특히 지트론의 역량이 개선되지 않았다는 반증된 진술을 논하는 스토리나 댓글에서의 일이다).

“지트론이 틀린 게 아니라 아직 이른 거다!”라고 말하는 사람들이 너무 많은 걸 보니 놀랍다. 그 함의는 결국 우리가 2026년에 가진 모델이 실제로는 2024년에 가졌던 것과 별로 다르지 않다는 걸 깨닫게 될 거라는 건가, 아니면 ??

향후 예측

지트론의 과거 예측들은 대체로 틀렸지만, 어쩌면 그는 미래에 뭔가 맞힐지도 모른다. 어쩌면 이 기업들 중 일부는 어떤 이유로든 가치 평가가 하락할 수도 있다. 하지만 설령 대규모 AI 폭락이 일어나 OpenAI와 Anthropic이 0이 된다 해도, 사회적 영향 측면에서 그 위에 더해 어떤 다른 사건이 일어나 현재 AI 랩들이 내부적으로 가지고 있는 것 이상으로 모델의 추가 진전을 막는다 해도, 여전히 상당한 변화가 일어날 것이다. 어떤 기업이 성공하느냐는 누가 부자가 되느냐를 바꿀 뿐, 특정 기업들이 실패한다고 해서 현재 혹은 차세대 모델 역량에서 비롯되는 변화가 일어나지 않는 것은 아니다. 그건 그저 누가 가장 큰 이득을 보느냐를 옮길 뿐이다.

개인적으로 한 기업의 사람들이 부자가 되든 다른 기업의 사람들이 부자가 되든 나에게는 중요하지 않다. 한 기업이 다른 기업보다 (어떤 추상적인 의미에서) 더 잘한다면 그건 내게 어느 정도 흥미가 있지만, 특정 기업이 다른 기업보다 더 “옳은 일”을 할 것이라는 주장에 대해서는 어느 정도 회의적이다(설득될 수도 있지만, 내가 아는 공개적인 주장들은 별로 설득력이 없다).

지트론이 결국 어떤 기업이 붕괴하는 것에 대해 맞힌다 해도, 그것은 지금까지 틀려온 역량 발전이 어떻게 이뤄졌고 앞으로 어떻게 이뤄질지에 비하면 내게는 꽤 흥미롭지 않다. 마침 포함은 했지만 그가 지금까지 한 재무 예측들이 틀렸다는 것도 마찬가지다. 하지만 그건 나를 별로 흥미롭게 하지 않는다. 비록 완전성을 위해 재무 예측들을 많이 포함했지만.

Yossi Kreinin, Juho Snellman, Dennis Snell, Nick Bergson-Shilcock, Bartek Ogryczak, Jamie Brandon, Shriram Krishnamurthi에게 의견/교정/토론에 감사드린다.

부록: 에드 지트론이 말하는 사람들이 에드 지트론을 좋아하지 않는 이유

지트론의 작업에 대한 토론을 찾던 중, reddit에서 두 번째로 많이 나온 결과는 지트론의 이 댓글이었다.

… 어떤 남자들은 내가 싫은데, 그건 감정적 솔직함과 자기 성찰이 그들에게는 어렵기 때문이다. 감정은 남자들이 억누르거나 압축하라고 교육받는 것이다. 나는 거부하고, 누군가 나에게 그렇게 하라고 할 때 역겹다고 느낀다 …

… 감정부터 시작해보자. 가장 명백한 것이기 때문이다. 사람들은 내가 지금과 같은 모습인 것이 정말 마음에 들지 않고, 내가 “쇼로 화를 내는 것”이라고 생각하거나, 심지어 나를 정신병자, 통제 불능 등으로 묘사하기까지 한다. 이는 특히 자신의 작업에서 감정적으로 억압된 사람들에게서 흔히 볼 수 있는 반응이다. 감정적이면서 제대로 된 의견을 갖는다는 것은 어렵다 …

… 나는 또한 여기까지 오는 데 “가야 하는 길”을 따라오지 않았다. 당신은 대형 매체의 기성 작가나 분석가, 혹은 금융계 등에 있어야 “가야 하는” 것으로 되어 있다. 혹은 “자격”이 있다고 여겨지는 다른 “올바른 길”이 있다. 나는 전통적인 의미에서 “경력을 쌓지” 않았고, 그렇게 한 사람들은 내가 내 노력으로 여기까지 오지 않았다고 믿는다 …

… 내 작업은 또한 철저해서, 철저한 작업을 하지 않는 사람들에게는 짜증이 난다. 나는 내가 가진 모든 지점을 깊이 고민했고, 주제를 잘 알기 위해 큰 노력을 기울인다. 얼마나 많은 사람들이 여전히 “Uber랑 똑같다”거나 “닷컴 버블이랑 똑같다”고 주장하는지 보라. 사실인지 확인하지 않고 그냥 대충 가정하는 게 훨씬 쉽다! 열정을 가지고 철저하게 나타나는 어떤 멍청이가 있으면 짜증이 난다. 그것은 당신의 작업을 나쁘게 비치게 한다 …

… 나는 사진 촬영도 잘하고 인터뷰도 잘하며 이벤트를 활용하고, 그렇게 하면서도 비열하게 하지 않는다. 보통은 어떤 것에 대해 수천 단어 분량의 생각이나 에피소드를 들고 나타나기 때문이다. 나는 이 정도의 관심이나 명성을 원하지만 그것을 얻기 위한 노력을 하고 싶지 않은 사람들이 있다고 믿고, 그게 그들을 불편하게 한다 …

… 나는 크게 사랑하고, 열렬히 사랑하며, 나는 나 자신이다. 나는 어떤 “인” 그룹으로부터도 환영받는다고 느낀 적이 없다. 나는 엉덩이가 닳도록 일하고, 누구보다 많이 쓰며, 모습을 드러낸다. 내가 만드는 어떤 공간이든 나는 “인” 그룹이나 파벌에 맞서 싸울 것이다. 나는 그들을 증오하고, 그들도 나를 증오한다. 그리고 나는 내가 왜 내가 믿는 것을 믿는지 근본적으로 알고 있다. 그것은 자신이 믿는 것을 왜 믿는지 모르는 사람들을 화나게 한다.

그가 그 말들 중 어느 것이라도 진심으로 믿는지 나는 모른다(이 Wired 프로필이 정확하다면 그렇지 않다고 봐야 할 것이다). 하지만 지트론은 자신의 청중이 듣고 싶어 하는 말을 하는 데 매우 능숙한 것으로 보이므로, 이는 최소한 그의 청중에 대해 어떤 통찰을 제공한다.

파벌과 “인” 그룹에 대한 부분에 대해 한 가지 주목할 점은, reddit에서 그의 이름을 검색해보면 그의 서브레딧에 AI가 발전했다는 것을 시사하는 어떤 것(예컨대 벤치마크 링크)이라도 올리면 차단된다는 댓글이 보인다는 것이다. 그 결과 고도로 파벌적인 에코 챔버가 만들어진다. 나는 METR의 진전 벤치마크는 의미가 없다고 말한 바 있고 오해를 부르는 분석에 기대는 것보다 그냥 느낌에 의존하는 편이 낫다고 했으며, 널리 인용되는 AI 평가가 자주 결함이 있다고 말해왔으므로, 내가 벤치마크가 대체로 좋다고 생각하는 것은 아니지만, 댓글들을 통해 받은 인상은 당 노선을 따르지 않으면 꽤 빨리 차단된다는 것이었고, 이는 위에서 그려진 그림과는 정반대다. 이는 지트론에게만 특별한 것이 아니다. 얼마 전 다른 인플루언서를 찾아볼 때도, 그들의 reddit에서 그 인플루언서에 동의하지 않으면 그들은 당신의 댓글에 고맙다고 답하며 사람들의 피드백을 받는 것이 얼마나 좋고 세상이 얼마나 위대한 평화와 사랑의 축제인지, 우리가 모두 서로를 사랑해야 한다고 말하면서 동시에 당신을 reddit에서 차단했다.

나는 또한 사람들이 그의 작업이 철저하기 때문에 싫어한다는 지트론의 언급이 두 가지 이유로 흥미롭다고 생각했다.

하나는 내 작업이 종종 엄밀하고 철저하다고 긍정적으로 인용된다는 점이다. 내 작업을 싫어하는 사람들도 많이 있지만, 내 작업이 철저해서 싫다는 사람을 본 적이 없을 뿐 아니라, 몰래 철저해서 싫어하는 사람이 있다고 해도 놀랄 것이다. 일반적으로 그건 사람들이 뭔가를 싫어하는 이유처럼 보이지 않는다.

두 번째는 나는 개인적으로 내 작업이 철저하다고 생각하지 않는다는 점이다. 여기서 내 작업이 좋다고 느끼지 않는다고 언급한 것과 같은 맥락으로 내 작업이 철저하다고도 느끼지 않는다. 나는 내 작업을 어느 정도 검증한다. 시간 투입 면에서 남들보다 더 많이 한다고 할 수는 없을지 모르지만, 효과성 측면에서는 방법과 시간 투입의 조합이 평균보다 더 잘 작동한다고 생각한다. 하지만 나는 글을 발행할 때 항상 불만족스럽다. 더 철저하게 계속 검증하다 보면 영원히 아무것도 발행하지 못할 것이기 때문에, 나는 평균 이상이지만 철저함에는 한참 못 미치는 수준에서 스스로를 밀어붙여 발행한다. 내 작업을 철저하다고 생각하는 사람, 예컨대 Gary Bernhardt 같은 사람과 비교하면 내 작업을 철저하다고 부를 수 있을지 모르겠다. Bernhardt 수준의 작업을 하는 친구들이 몇 명 있는데 나는 훨씬 더 많이, 하지만 더 낮은 품질의 작업을 하기로 선택한다. 나는 이것이 품질-속도 트레이드오프 공간에서 괜찮은 위치라고 생각하지만, 그렇다고 해서 내 작업이 철저해지는 것은 아니다. 이는 올해 7월에 다시 공개적으로 글을 쓰기 시작한 이후 발행한 모든 것에 대해 두 배로 해당하는데, 나는 평소보다 훨씬 적은 검증과 편집으로 빠르게 밀어내는 실험을 하고 있기 때문이다. 그런데도 내 사실 확인 과정이 지트론보다 훨씬 더 철저한 것으로 보인다.

부록: 왜 이 글을 쓰는가

사실 별다른 이유는 없다. 나는 네 시간 잤고 머리가 별로 쓸모가 없었으며, 누군가 에드 지트론의 예측 기록을 신랄하게 비판한 reddit 게시물의 스크린샷을 올린 것을 봤다. 미래학자 예측 정확도에 대한 이 리뷰를 썼을 때 나는 검토하는 대상에 어떤 편향도 없도록 매우 신경을 썼다. 그 reddit 게시자가 예측을 편향 없이 가져왔는지, 아니면 어떤 식으로든 편향됐는지는 글만 봐서는 분명하지 않다(AI가 문화 전쟁 이슈가 되었으므로 누군가 편향된 예측을 가져왔다 해도 놀랍지 않을 것이다). 그래서 나는 에이전트를 건드리며 내가 시키고 싶었던 별개의 작업을 시키는 동안 spare time에 지트론 글을 좀 읽기로 했다. 미래학자 글의 경우, 나는 예측을 뽑기 위해 여러 권의 책 전체를 읽었고 일반적으로 누군가 반복적이고 같은 말을 계속할 때만 멈췄다. 이 경우 지트론이 하는 일은 반복뿐이므로, 미래학자 리뷰의 방법론을 따르면 몇 가지 예측을 검토하고 즉시 멈춰야 할 것이다. 이를 극복하기 위해 나는 ChatGPT에게 예측 목록을 달라고 했고(정확한 예측이나 틀린 예측 쪽으로 기울이려는 시도 없이) 그런 다음 ChatGPT가 링크한 글들을 훑어 읽었다. ChatGPT의 글 해석이 틀렸다고 생각한 경우가 몇 가지 있었는데(이들은 일반적으로 그 해석이 맞다면 틀릴 예측으로 표시됐지만 나는 그 해석에 동의하지 않았다) 그리고 (아래에서 더 논하듯) 나는 반증 불가능하거나 동어반복적이어서 무의미해 보이는 예측들을 제거했다(미래학자 글에서도 이와 비슷한 것을 언급한 바 있다).

정말 생각해봤다면 시간을 더 잘 쓸 방법을 찾았을 수도 있지만, 어쨌든 이렇게 됐다. 나는 때때로 너무 피곤해서 제대로 된 일을 못 할 때를 위한 할 일 목록을 가지고 있지만, 이번에는 그런 목록이 없었다. 나는 그들이 특별히 나쁜 예측을 골라 뽑았다고 생각하지는 않지만, 좀 더 터무니없게 들리는 것들 중 일부를 고른 것은 맞다. 하지만 “끼워 맞춘” 것처럼 보이지 않는 것들의 세부 사항을 들여다보면(예컨대 Gemini가 연말까지 사용자 5억 명을 달성하는 것이 너무나 터무니없어 순다르는 그 아이디어 때문에 해고돼야 한다는 말인데, 실제로 Gemini는 연말까지 7억 5천만 명을 달성했다), 이것들은 Cursor에 대해 100억 달러에도 팔리지 않을 것이라는 함의와 함께 현실적인 인수자가 없다고 말하는 주장과 마찬가지로 틀렸다. “모두가”(AI 엑시트에 관심 있는 사람들) 그들이 600억 달러에 팔렸다는 것을 알고 있을 때 말이다.

그 reddit 이용자는 눈에 띄는 실패한 예측들을 골랐지만, 지트론의 예측 전체에는 실패가 훨씬 더 많고, 위에서 언급했듯 더 큰 문제는 그의 논리다.

그 reddit 댓글에 대한 또 다른 점은, 그 댓글이 편향됐는지 여부와 별개로, r/accelerate에 r/accelerate 신봉자로 보이는 누군가가 올렸기 때문에 일종의 편향이라는 의심을 가질 수도 있다는 것이다. 실제 예측들을 보면 약간의 편향과 일관된다(정직한 실수와도 일관될 수 있는데, 기록만으로는 이를 구분할 방법이 없다). 예를 들어, “반박” 중 하나는 지트론이 OpenAI가 12~24개월 안에 붕괴할 것이라는 진술이다. OpenAI는 붕괴하지 않았으므로 표면적으로는 지트론이 틀렸음을 보여주는 좋은 방법처럼 보이지만, 지트론의 글을 읽어보면 지트론의 실제 주장은 OpenAI가 붕괴하거나 훨씬 더 많은 돈을 조달할 것이라는 것이었고 그들은 훨씬 더 많은 돈을 조달했다. 나는 지트론의 함의, 즉 이것이 불가피하게 나중의 붕괴로 이어진다는 것에는 동의하지 않지만, 그의 명시된 예측은 반증되지 않았다.

이 예측은 이 글에서 점수가 매겨진 예측 집합에 포함되지 않았다. 일부는 이 글에서 점수가 매겨져야 한다고 주장할 것이다. 이 예측이 점수에 포함되지 않은 이유는 이 예측이 지트론의 더 넓은 논점(OpenAI는 파멸했고 반드시 붕괴해야 한다)에 기여하는 것 외에는 무의미해 보이기 때문이다.

우리가 할 수 있는 예측을 생각해보면, 반드시 참일 수밖에 없는 동어반복적 예측(공간상 생략할 모든 예외 사항을 다 써놓는다면)은 OpenAI가 운영할 돈이 충분하거나 그렇지 않다는 것이고, 충분하지 않다면 어떻게든 돈을 조달해야 한다는 것이다. 나는 그런 동어반복적 예측을 백만 개도 만들 수 있지만, 누군가 내 예측 기록을 평가한다면 의미를 갖지 못하므로 이를 포함하는 것은 말이 되지 않는다. 일반적으로 살아 있는 기업은 비용을 충당할 것이다. 그렇지 못하다면 돈을 조달하려 할 것이다. 그것에 실패하면 문을 닫거나 인수될 것이다. 기업이 비용을 충당하거나 충당하지 못할 것이라는 예측은 아무 말도 하지 않는다.

OpenAI 자체의 전망은 아직 수익성이 없고 비용이 매출을 초과할 것이라는 것이었다. 그것은 거의 확실해 보였으므로, 이 거의 확실한 것이 사실이라고 가정하면, OpenAI가 붕괴하거나 비용을 충당하기 위해 돈을 조달할 것이라는 거의 동어반복적인 예측을 갖게 된다. 매우 높은 확신도(99.9% 이상)로 이런 예측을 하는 것은 합리적일 수 있다. Brier score 같은 예측 점수 측정 방법을 쓴다면, 지트론이 틀린 고확신도 예측이 많이 있는 한 이런 예측들은 틀렸을 때를 제외하고는 본질적으로 아무 기여도 하지 않는다.

그리고 위에서 언급했듯, 지트론은 자신의 표현으로 볼 때 나는 6 9s 이상으로 평가할 수 있는 것들에 대해 반복적으로 틀린다. 따라서 Brier score 같은 어떤 점수 체계에서도 지트론의 기록은 매우 저조하다. 그리고 이런 요약 지표는 이런 예측들이 얼마나 무의미한지를 실제로 과소평가한다. 가령, 지트론이 무한히 많은 99.99% 확신의 거의 동어반복적인 올바른 예측을 했다고 가정해보자. 그러면 그가 한 다른 유한한 수의 예측들로부터 오는 점수는 Brier score 같은 것에서는 무의미해질 것이다. 그럼에도 불구하고 그의 동어반복적이지 않은 예측들 중 어느 하나에 대해서도 확신을 가질 수 없게 될 것이고, 그것들은 사람들이 일반적으로 이야기하는 예측들이다(AI 발전은 끝났다, AI 기업들은 반드시 붕괴하고 이는 대형 테크 기업들도 끌어내릴 것이다 등).

다시 reddit 댓글 작성자의 잠재적 편향 vs. 내 편향이라는 주제로 돌아가면, 위에서 언급했듯 나는 빠른 발전이 불가피하다는 관점에 특별한 편향이 없고, 사람들이 지나치게 낙관적인 경우를 지적해왔다. 이는 미래학자 예측에 대한 글에서도 드러난다. 나는 또한 누군가 틀렸거나 나쁘다는 이유를 만들어내 관심을 끌어야 할 필요가 있거나 그런 욕구가 있는 사람도 아니며 모든 예측자를 일관되게 나쁘게 평가하지도 않는다. 예를 들어 스티브 예게의 예측 기록에 대한 이 리뷰에서는 그가 좋은 점수를 받았고, 정확한 예측이 틀렸더라도 예측이 대체로 잘 추론됐고 방향성 면에서 옳았기 때문에 실제 점수가 보여주는 것보다 훨씬 더 잘했다고 언급했다. 누군가 미래에 대해 좋은 통찰을 가지고 공개적으로 공유한다면 나는 정말 멋지다고 생각하므로, 그런 경우를 발견하면 기꺼이 지적한다. 다만 이 경우 지트론은 일종의 반(反)예게다. 즉, 예측 기록이 저조하고 그 기록만으로 보이는 것보다 실제로는 더 나쁜 사람이다.

부록: 이 글의 오류

나는 이 글에 여러 오류가 있을 것이 거의 확실하다고 생각한다. 일반적으로 나는 긴 부정확한 논리 흐름을 읽고 나서 그 안에서 오류를 찾을 때 느슨해지지 않기가 매우 어렵다고 느낀다. 미래학자 예측을 검토할 때도 정확히 같은 문제를 겪었다. 이는 버그투성이 컴파일러를 쓰는 시스템에서 프로그래밍할 때와 비슷하다. 하루 종일 컴파일러 버그를 마주하는 경우(적어도 LLM 이전에는 임베디드 시스템에서 작업할 때 흔한 일이었다. 이제는 비교적 쉽게 버그를 고칠 수 있다). 나는 “음, 이건 컴파일러 버그일지도 몰라”라고 생각하면서 느슨해지지 않기가 어렵다고 느끼는데, 가끔은 실제로는 컴파일러 버그가 아니라 내 버그일 때도 있기 때문이다. 여기서 논의된 텍스트 같은 예측들을 볼 때 문제는 훨씬 더 심하다. 컴파일러는 그래도 일반적으로 기본적으로는 작동하고 종종 옳지만, 여기서 논의된 텍스트를 읽을 때는 그냥 끊임없이 헛소리에 파묻히다가 가끔 좋고 정확한 지점이 끼어 있는 식이기 때문이다.

이를 잘하려면, 이런 것들을 헤쳐나가는 데 있어 매우 유별나게 높은 지구력을 가진 사람을 찾거나(내 말은 나보다 훨씬 더, 그리고 나는 이런 종류의 일에 대해 평균보다 다소 높은 지구력을 가진 것 같다) 독립적으로 평가하고 점수를 매기는 팀을 꾸려야 할 거라고 생각한다. 하지만 표면적인 읽기만으로도 이 사람들이 거의 완전히 틀렸다는 것을 보여주는 많은 것들이 즉시 드러나는데 누가 그런 노력을 들이고 싶어 하겠나?

나는 ChatGPT(웹 인터페이스, Pro)와 Claude(웹 인터페이스, Fable 5)에게 이 글을 팩트 체크해달라고 했다. 둘 다 출판 전에 수정된 사소한 오류 몇 가지를 찾아냈다.

1년 전에는 이런 팩트 체크가 거의 쓸모없다고 느꼈지만, 지금은 절반 정도는 괜찮고, 지트론과는 반대로 나는 그들이 계속 더 좋아질 것이라고 예상한다. 둘에 대해 궁금해하는 사람들을 위해 말하자면, 이번 경우 ChatGPT가 Claude보다 훨씬 더 철저했고 더 많은 오류를 찾았으며 Claude가 찾은 모든 오류도 찾았다. 하지만 지나치게 열심이어서 농담조의 언급이 틀렸다고 지적하는 등 실제로는 오류가 아닌 것들을 여러 건 지적했고, 일반적으로 옳은 여러 진술에 대해 더 문자 그대로의 방식으로 다시 쓰여야 한다고 제안했다(AI 스타일의 텍스트와 함께).

1. 하지만, 라그하완에 대한 비난이 사실이라고 하더라도(그게 애초에 어떻게 사실일 수 있을지 나는 모르겠다. 애초에 컴퓨터 과학자에 대한 계급 배신자가 어떻게 있을 수 있겠나. 하지만 그게 무슨 의미이든 사실이라고 가정해보자), 지트론의 주장은 “이 쓰레기 같은 놈[라그하완 이미지 가리킴]이 2020년에 Google 검색을 맡았다” 그리고 나서 검색 품질보다 특정 지표를 우선시했다는 것이다. 나는 왜 이 일에 대해 특정한 한 사람을 지목하는지 모르겠다. 이는 오랫동안 모든 쪽에 많은 사람들이 관여된 싸움이었기 때문이다. 하지만 이 모든 것이 사실이라고 가정하면, “경영 컨설팅 분파”가 검색 품질의 대가로 참여도 및/또는 매출을 증가시킬 지표를 움직일 것이라고 가정하는 것이다. 이는 지트론이 여기에서 주장하려는 바, 즉 Google 성장이 끝났고 성장에 너무 필사적이어서 AI를 모든 곳에 미친 듯이 밀어 넣어야 한다는 것과는 정반대의 효과를 낼 것이다. 어쩌면 이로 인해 결국 Google 검색이 하락할 것이라는 주장을 할 수도 있겠지만, 지트론의 주장은 2024년에 그들이 필사적이었다는 것이지, 사용자가 결국 Google 검색을 떠날 것이고 그것이 나중에 하락을 초래할 것이라는 게 아니었다.

   지트론을 많이 읽어본 사람이라면 그의 표준 “수법” 중 하나를 알아볼 것이다. 상황을 일종의 영웅-악당 서사로 만드는 것(검색의 경우, alleged 영웅은 벤 고메스고 악당은 프라바카르 라그하완이다). 마치 기업이 어떻게 작동하는지에 대한 그의 멘탈 모델이 기업에 관한 영화에서 나온 것 같다. 기업에 대해 allegedly 벌어진 일을 다룬 영화를 보고 나서 그 일에 대해 읽어보면, 일이 영웅-악당 서사로 과도하게 단순화되고 상황의 거의 모든 뉘앙스가 제거된다는 것을 알게 된다. 그리고 당신이 직접 어떤 일에 관여해본 적이 있거나 직접 관여한 사람들과 얘기해보고 그 일에 대해 쓰인 책과 비교해보면, 같은 일이 또 일어난다. 일반적으로 주요 원인들은 테크에서 일어난 일에 대한 책에서 제대로 식별되지 않고, 핵심 결정 중 일부에 가장 중요한 역할을 한 사람들 중 많은 이들의 이름조차 거론되지 않는다. 기자들이 무슨 일이 일어났는지에 대해 사람들에게 물어봐도, 근본적인 메커니즘을 이해하고 좋은 정보를 가진 사람이 보기에 그럴듯하게 올바른 이야기를 짜맞추지 못하기 때문이다. 어쨌든, 상황을 전혀 모르는 상태에서 누군가 지트론이 좋아하는 종류의 영웅-악당 서사를 들려준다면, 이미 조금은 회의적일 수 있다.

   ^{[돌아가기]}

2. 참고로, 나는 그의 분노가 영상에서는 실제로 잘 전달된다고 생각하지 않는다. 내 말은, 그는 글에서처럼 명시적으로 화가 났다고 말하고 욕을 하며 사람들을 모욕하지만, 나에게는 실제로 화가 난 것처럼 읽히지 않는다. 이는 최근 여러 사람들과 함께 본 감정 인식 테스트를 떠올리게 한다.

   나는 그 테스트가 꽤 어렵다고 느꼈고 첫 번째 질문에 아마 5분 정도 썼다. 그 사람이 얼굴에 과장된 가짜 미소를 짓고 있으면서도 약간 불편하고 불안해 보였기 때문이다. 그 사람이 행복한 것인지 불편한/불안한 것인지 구분할 수 없었다. 이게 매우 쉬운 테스트여야 하는 건지 아니면 약간의 미묘함이 있는 테스트여야 하는 건지. 테스트가 어떻게 생겼는지를 보고 한참 고민한 끝에 나는 “행복”이라고 골랐다. 다행히 테스트는 실제로 질문을 맞혔는지 틀렸는지 알려줘서, 테스트가 만들어진 과장된 표정에 관한 것이지 사람의 실제 표정에 관한 것이 아니라는 걸 깨달았고 나머지 질문 대부분은 쉬웠다. 하나는 어려웠는데, 교과서에 나오는 전형적인 표시처럼 특정한 감정을 가짜로 꾸미고 있었기 때문이다. 말하자면 교과서에서 보는 종류의 것이지만, 다른 교과서적 표시들보다 덜 완전하고 덜 현실적인 매우 특정한 방식으로 말이다. 마치 누군가가 경멸적인 비웃음이 무엇인지에 대한 설명을 읽고, 그 텍스트 설명을 바탕으로 얼굴 표정을 지으려고 하는 것 같았다. 나는 정답을 맞히기 위해 그 질문에 대해 몇 분간 고민해야 했다.

   어쨌든, 나에게 지트론은 화를 연기하는 사람처럼 보이지 실제로 화가 난 사람처럼 보이지 않는다. 목소리 톤, 얼굴 표정, 몸짓, 움직임 스타일 등이 나에게는 화난 것으로 보이지 않는다. 나는 이 분노 포지셔닝이 그의 연설보다 글에서 더 잘 먹힌다고 생각한다. 그가 쓰는 단서(욕설, 화가 났다고 말하기, 많은 경멸 보이기, 사람 모욕하기 등)는 글에서는 분노 단서로서는 최선에 가깝기 때문이다. 오디오와 비디오가 있을 때 이것들은 꽤 약한 단서다. 더 강한 단서들이 실제로 분노를 나타내지 않는다면, 그 사람은 그냥 화가 난 것처럼 보이지 않는다. 그가 비표준적인 방식으로 분노를 표현하는 것일 수도 있고 내가 그냥 충분히 주의를 기울이지 않은 것일 수도 있지만, 그가 글에서처럼 말하는 영상 몇 개를 보고 나서 화난 것처럼 보이지 않자, 글도 더 이상 화난 것처럼 느껴지지 않는다.

   ^{[돌아가기]}

3. 누군가 숫자를 논하려고 할 때 어떤 모습인지 보고 싶다면, 유호 스넬만이 사람들이 계산을 다 했다고 우기는 사람에게 반박하는 이 스레드가 있다. AI 담론을 따라잡으면서 나는 한쪽에는 실제로 숫자를 들여다본 사람이 있고 다른 쪽은 숫자를 들여다봤다는 막연한 주장을 휘두르는 식의 토론을 많이 봤다. 이는 결코 어디로 가지 않는다. 한쪽에게는 요점이 숫자에서 무언가를 이해할 수 있다는 것이 아니라, 누군가 숫자를 들여다봤기 때문에 휘두를 수 있는 증거 조각을 가지고 있다는 것이기 때문이다.

   ^{[돌아가기]}

4. 당시 지트론의 주장은 환각이 지금 상태에서 최선이며, 이는 AI 성능이 2024년 수준에 묶여 있다는 것을 의미한다는 것이었다. 전체 예측과 메커니즘 모두 틀렸다. 이 예측은 당시에도 틀려 보였는데, 2024년에 여기서 언급했듯이 그냥 루프에 넣고 코드가 컴파일되고 테스트를 통과할 때까지 실행하게 하면 AI가 코드를 그럭저럭 괜찮게 짜게 만들 수 있다. 나는 당시 AI를 많이 쓰는 사람은 아니었지만, AI를 쓰는 사람이라면 누구나 환각률을 완화할 수 있는 방법들이 널리 적용되지 않고 있다는 것을 알 수 있었다(이는 codex나 Claude 같은 코딩 에이전트가 코드를 실행하고 테스트 통과 여부를 확인하기 전이었다).

   ^{[돌아가기]}

5. 이것도 당시에도 사실이 아닌 것처럼 보였던 또 다른 예측이다. 나는 ML 전문가는 아니지만, 누군가 RL 환경이 무엇인지 알려준 순간, 몇 분 안에 훈련 개선을 위해 합성 데이터를 생성할 수 있는 여러 방법을 떠올렸다. 이 중 어느 것도 새로운 것은 아닐 것이고 AI 랩들이 하고 있는 일일 거라고 확신한다. 내 요점은 인터넷에서 찾을 새로운 데이터가 더 이상 없더라도 몇 분만 생각해보면 모델을 개선할 수 있는 많은 방법을 누구나 떠올릴 수 있다는 것일 뿐이다(인터넷에서 가장 긁기 쉬운 콘텐츠가 무엇이든 간에, reddit 댓글이나 그런 것 말고 더 많은 노력을 들여 데이터를 얻을 수 있다는 점은 말할 것도 없고).

   ^{[돌아가기]}

6. 이 글은 판정이 난 예측만 점수를 매긴다는 점에 유의하라. 그 특정 글에서 지트론은 또한 AGI로의 진전은 절대 일어나지 않을 것이라고 말하는데, 이는 여전히 모호하고 판정하기 어려울 뿐 아니라 긍정적으로 판정될 수 없는 예측이다. 마찬가지로, 이전 글에서 어떤 회사가 구독을 추가해야 할 것이라는 예측은 기간이 정해져 있지 않고 부정적으로 판정하기도 어렵기 때문에 목록에 넣지 않았다(곧 일어나야 한다는 함의가 있어 틀렸다고 볼 수도 있지만, 빠져나가고 싶다면 미래에 일어날 것이라고 말할 수 있다).

   ^{[돌아가기]}

7. 여기서 지트론은 또한 “이제 나는 어떤 것에 시간을 붙이는 것이 별로 유용하지 않다는 것을 깨달았다(하지만 내 예측은 유지한다) 따라서 버블이 터진다는 것의 조건이 실제로 무엇인지 제시하는 것이 더 유용하다고 생각한다”고 말했다. 이 시점 이후 지트론은 날짜가 박힌 진술을 비교적 덜 하고 훨씬 더 많은 개방형 반증 불가능한 진술을 한다. 어쩌면 이전 예측들에서 너무 자주 틀린 것에 대한 반응일지도 모른다.

   ^{[돌아가기]}

8. 작은 낙관적인 얘기를 하자면, 이 블로그는 극단적인 입장에 기대지 않고 일반적으로 클릭베이트를 피하려고 노력하면서도 괜찮게 운영되고 있는 것 같다. 이는 종종 내가 데이터를 들여다볼 때 정말 흥미로운 바이럴 히트 기사가 될 것 같은 무언가를 보지만, 더 자세히 들여다보면 실제로는 지루한 부정적 결과라는 것을 알게 된다는 걸 의미한다. 이 빠르고 허술한 프로그래밍 언어 평가를 실행했을 때처럼 말이다. 원래는 매우 흥미로운 결과를 보여주는 것처럼 보였지만, 명백한 평가 버그를 고치자 사라졌다. 어쩌면 그렇다. 나는 사람들이 더 지루한 부정적 결과를 많이 발표하면 좋겠어서, 지루한 부정적 결과를 발표했다.

   이 블로그가 지트론의 서브스택과 비교해 트래픽이 한 자릿수 이내일 것이라고 해도 놀랍지 않을 것이다(서버 측 통계에 따르면 지난 한 달 동안 54만 명의 순 방문자가 있었지만, Cloudflare 봇 차단이 최소한으로 적용된 상태에서 그 중 몇 명이 봇인지는 누가 알겠나). 지트론이 나보다 훨씬 더 자주 글을 쓰고 모든 클릭베이트 기술을 동원하는 반면, 나는 그냥 가끔 쓰고 싶은 것이 있을 때 올릴 뿐인데도 말이다. 내 목표가 트래픽을 얻는 것은 obviously 아니지만, 시간이나 노력 수준으로 조정하면 이 블로그가 지트론에 비해 그리 나쁘게 하고 있다고 생각하지 않는다. 지트론이 월 540만 명의 순 방문자를 가질 수 있을까? 불가능하지는 않고 봇 트래픽 때문에 이 숫자들이 무엇을 의미하는지 알기 어렵지만, 참고로 The Economist는 약 130만 명의 구독자를, NYT는 약 1,300만 명의 디지털 구독자를 가지고 있다. 순 방문자의 4분의 3이 봇 트래픽이라고 가정하면, 이 블로그보다 한 자릿수 더 많은 트래픽을 갖는다는 것은 지트론을 The Economist와 같은 급에 놓는 것이 되는데, 이는 별로 그럴듯해 보이지 않는다.

   다른 조건이 같다면, 나는 잘레프스키가 인센티브에 대해 옳다고 생각하고, 많은 사람들이 가장 많은 관심을 끄는 것에 기대면서 자기 자신의 캐리커처가 되어가는 것을 봐왔다. 하지만 반대쪽을 하는 것도 괜찮게 통할 수 있다고 생각한다.

   예를 들어, 클릭베이트와는 정반대라고 할 수 있는 스타일로, Simon Willison은 지난 3~4년 동안 프로그래머들 사이에서 가장 널리 읽힌 블로그를 써왔다고 생각한다(과거 여러 시점에서 Joel Spolsky나 Jeff Atwood 혹은 Steve Yegge가 프로그래머들 사이에서 가장 널리 읽힌 프로그래머였던 것처럼). 프로그래머와 AI의 진지한 사용자들 사이에서는 Willison이 지트론보다 더 큰 독자를 가지고 있을 것이라고 추측한다.

   하지만 지트론이 Willison의 스타일로는 절대 얻을 수 없는 종류의 독자가 있는 것은 사실이다. 본문에서 우리는 AI를 사용하는 사람들이 있는 포럼에서 지트론을 옹호하는 흔한 논리를 살펴봤다. 그것은 AI를 사용하는 사람들이 있는 포럼에서 가져온 것이었다. 세상 전체를 보면 댓글은 꽤 다르게 보인다. 예를 들어, 내 친구가 언급한 영상에서 지트론이 반복적으로 현실을 부정하고 인터뷰어가 반박하는 부분에 대해, 현재 상위 댓글들은 모두 지트론을 지지하며 그들 역시 현실을 부정하고 인터뷰어가 현실 조각으로 반박하는 지점들이 인터뷰어가 편향됐거나 그냥 무슨 말을 하는지 모르기 때문이라고 주장한다. 상위 댓글들 중에서는 사실 관계에 대한 관여가 거의 또는 전혀 없다. 모두 무드 어필(mood affiliation)이다. 그 댓글들은 궤변 폭격 전략을 쓰고 온갖 터무니없는 헛소리를 늘어놓는 정치인에 대해 지지자들이 하는 말을 떠올리게 한다. 나는 지트론이 언젠가 현실 부정을 바탕으로 한 인기에 힘입어 공직에 출마하거나, 집권한 누군가의 오른팔이 되는 선동가가 될 수도 있겠다고 상상한다. 그래서 잘레프스키는 지트론의 매력이 AI에서 실제로 일어나고 있는 일을 정확히 묘사함으로써 얻을 수 있는 것이 아니라는 점에서는 옳다.

   하지만, 나는 Willison을 모르니 이게 완전히 틀릴 수도 있지만, 내 인상은 그도 나처럼 어차피 하고 싶은 일을 하고 있고 독자는 그가 독자를 최대화하려 하지 않았음에도 그냥 따라온 것이라는 점이다. 내가 괜찮게 통한다고 말할 때, 그가 후원 덕분에 풀타임 오픈소스 개발자로 일할 수 있는 것으로 보인다는 점을 의미한다(그 후원은 일반적으로 그가 그토록 큰 독자를 가지고 있기 때문일 것이라고 생각한다). 이는 지트론 같은 사람이 만들어낼 수 있는 대중적 인기를 만들지는 못하더라도 좋은 결과처럼 보인다.

   ^{[돌아가기]}