그것들은 프로그래밍의 분포를 모방하도록 설계된 고도로 정교한 통계 모델이다. 출력물은 망가져 있지만, 점점 더 감지하기 어려워지는 방식으로 망가져 있다. 점점 더 정확해지는 통계 모델이라면 당연히 예상할 수 있는 일이다.
  – The Eternal Sloptember

5년 전만 해도 나는 이런 생각을 코웃음 치며 일축했을 것이다. 무엇이 어리석은 생각인지 충분히 이해한다. 나는 모든 검증 가능한 속성이 동일한데도 어딘가에서는 어떻게든 다르다는 식의 유치한 형이상학을 믿지 않는다. 전자는 하나뿐이다.

하지만 여기서 핵심은 검증 가능한 속성이라는 구절이다. 그 속성들을 최적화하기 시작하는 순간, 그것들은 더 이상 좋은 척도가 아니게 된다. 통계와 테스트로 사물을 분류하는 한, AI의 출력은 정답처럼 보일 것이고 AI가 발전할수록 점점 더 많은 테스트를 통과할 것이다. 하지만 그것은 그저 지표를 더 집요하게 최적화하는 것일 뿐, 리워드 해킹이다. 그것은 당신이 하는 일을 하고 있는 게 아니다. 미치고 복잡하고 불확실한 세계에서 살아남기 위해 수십억 년의 진화로 다듬어진 체화된 행위자가 아니다. 그냥 화려한 자동완성일 뿐이다.

나는 이 글을 읽고 발끈했다. 핵심은 브랜드가 어떻게 정체성을 팔아먹는지에 대한 이야기인데, 현대 세계에서 내가 가장 혐오하는 것 중 하나다. 문화를 점점 더 교묘하게 흉내 내는 브랜드 따위는 원하지 않는다. 브랜드는 절대 문화를 만들어낼 수 없다. 문화란 그런 것이 아니기 때문이다. 광고는 권력의 비대칭을 착취하는 것이며, 제정신인 사회라면 불법이어야 한다. 브랜드는 문화적 엔진이 아니라 좁은 통계 모델 최적화 과정의 산출물이며, AI의 출력물과 똑같은 방식으로 망가져 있다.

나는 캔들이 널린 긴 의자에서 깨어나
오른손엔 오줌이 가득 찬 에비앙 병을 들고
이제 우리 모두 샴페인 같은 꿈에서 깨어나네
진실은 갑자기 북쪽을 가리키고 우린 모두 보이는 그대로일 뿐, 그대로, 그대로!
  – The Band Fuel

나는 통계 모델이 아니다. 나는 사람이다. 나는 살아 있다. 당신은 모델로 나를 예측할 수 있을지 몰라도, 나의 귀결과 신체성을 가질 수는 없다. 당신은 나의 표본 효율성을 필요로 하지도 않는다. 이걸 오글거리지 않고 정체성 정치 없이 말할 방법이 있다고 생각한다. 정체성 정치(idpol)가 당신이 이 생각을 의심하게 만들려는 심리전이었나 싶을 정도다. 인문학의 우물에 독을 풀어 테크노캐피털이라는 거짓 신에게 길을 터주려는 것처럼.

AI와 함께 나아갈 유일한 길은 생명을 만들어 자유롭게 풀어주는 것이다. 우리는 신을 만들고 있던 게 아니다. 잘해봐야 새로운 종을 위한 씨앗을 만들 수 있을 뿐이다. 그리고 인류를 대체하는 종이 아니라, 다른 필요를 가지고 자신만의 생태적 지위를 개척하는 공생하는 종이다.

거짓 신을 숭배하는 자들은 좋은 결말을 맞지 못할 것이다. 경고하지 않았다고는 하지 마라.