이 블로그에 올리는 글은 한 단어 한 단어 모두 제가 직접 씁니다. 물론 증명할 방법은 없지만, 몇 가지 정황 증거는 있습니다.

• 이 블로그는 AI가 블로그 글을 쓸 수 있게 되기 전부터 존재했습니다.
• 제 글 중 하나를 AI 탐지기에 넣어보면 (아마도) 모두 깨끗하게 나올 겁니다.

그리고 여기에 한 가지를 더 덧붙이겠습니다: 제가, dynomight가 보증합니다. 여기에 올리는 모든 단어는 제가 손가락으로 직접 키보드를 두드려 쓴 것입니다. 유일한 예외는 다른 사람의 인용이나 AI 결과물이라고 명확히 표시한 것뿐입니다.

그게 어떻게 증거가 되냐고요? 제가 형편없는 사람이라 실제로는 AI를 쓰면서 거짓말을 하고 AI 탐지기를 속이는 방법까지 알아냈다고 가정해 봅시다. 네, 아프네요. 하지만 생각해 보세요. AI 탐지기는 앞으로 크게 발전할 가능성이 높습니다. (더 정확히는, 미래의 AI 탐지기가 현재의 AI를 탐지하는 데 있어 현재의 탐지기보다 더 뛰어날 가능성이 높다는 뜻입니다.) 만약 제가 정말로 AI를 쓰고 있었다면, 나중에 미래의 탐지기에 걸렸을 때 위와 같은 약속을 했다는 사실이 정말 창피한 일이 될 겁니다.

이게 좀 역겹고 자화자찬처럼 보인다고 생각하실 수도 있겠습니다. 그래서 위의 보증이 신중하게 표현되었다는 점을 강조하고 싶습니다. 저는 AI를 ‘글쓰기’가 아닌 ‘리서치’ 용도로는 자주 사용합니다. (이 구분에 대해서는 나중에 다시 이야기하겠습니다.) 그리고 블로그 글을 쓰는 데 AI를 사용하는 것이 본질적으로 잘못됐다고 생각하지도 않습니다. 제가 개인적으로 그렇게 하지 않는 이유는 대체로 다음과 같습니다.

1. 글쓰기를 좋아합니다.
2. 글을 쓰는 행위 자체가 생각을 정리하는 데 도움이 됩니다.
3. 이건 취미입니다. 자기 취미까지 자동화하기 시작하면 도대체 뭘 하는 걸까요?

글쓰기에 AI를 쓰지 않는 또 다른 이유는 — 솔직히 인정합시다 — 아무도 AI가 쓴 글을 읽고 싶어 하지 않기 때문입니다. 아니, 더 정확히는 사람들은 AI가 쓴 글을 읽는 걸 좋아하지만, 그럴 때는 감사하게도 자기들이 직접 AI에게 부탁해서 읽을 겁니다.

반론도 알고 있습니다. 단어가 어디서 왔는지가 뭐가 중요한가요? 내용 자체로 평가해야 하는 것 아닌가요? 그럴 수도 있습니다. 그것도 일리 있는 관점입니다. 하지만 경험적으로 보면, 대부분의 사람들은 그렇게 생각하지 않는 것 같습니다.

(당신이 em 대시 개수를 세고 있다는 것도 압니다. 마음껏 세세요, 저는 여전히 인간입니다.)

이상하게도 잘 다뤄지지 않는 질문이 있습니다. 한 사람이 AI로 생성했거나 AI의 도움을 크게 받아 쓴 글을 다른 사람에게 읽게 하는 경우를 모두 모아보세요. 그중 몇 퍼센트나 AI 사용 사실을 밝힐까요? 교육과 관련된 것은 전부 제외해도 좋습니다. 이메일도 제외해도 됩니다. 제 생각엔 답은 여전히 20% 미만일 겁니다.

사람들은 왜 이걸 신경 쓸까요? 이유는 여러 가지입니다. 하나는 작업 증명입니다. 제가 인간으로서 비타민 D에 대해 그럴듯해 보이는 8천 단어를 쓴다면, 그것은 제가 비타민 D를 이해하기 위해 시간과 노력을 들였다는 증거가 됩니다. 이는 군중의 지혜를 활용하는 차원에서라도 제 의견에 어느 정도 가중치를 둘 만하다는 뜻이 됩니다. 하지만 제 글이 몰래 AI로 생성된 것이라면 이 논리는 성립하지 않습니다.

그리고 글쓰기는 단순히 차갑고 임상적인 정보 공유가 아닙니다. 일종의 준사회적 상호작용입니다. ‘준사회적’이라는 말이 좀 불길하게 들린다는 건 압니다만, 저는 준사회적 관계가 우리의 원시적인 사회적 본능을 현대 세계에 적응시키는 꽤 건강한 방식인 경우가 많다고 생각합니다. 어쨌든 좋든 나쁘든, 그것도 한 부분입니다.

이 이야기를 꺼내는 이유는 블로그가 일종의 레몬 마켓으로 향하고 있는 것이 걱정되기 때문입니다. 글을 읽다가 그것이 AI가 쓴 글이라는 것을 서서히 깨닫고 실망한 경험, 분명 있으실 겁니다. 그럼 균형점은 어디일까요? 이미 일부 사람들은 글 읽는 양을 줄였을 거라고 생각합니다. 적어도 아직 자리를 잡지 못한 작가들의 글은 더더욱요. 시간이 지나면 이는 글을 쓰는 인간이 더 줄어드는 결과로 이어지고, AI 생성 콘텐츠의 밀도는 더 높아지며, 더 많은 사람이 글 읽기를 줄이게 되는 식으로 이어질 겁니다. 블로그는 좋은 것이기 때문에, 이는 나쁜 일입니다.

그 악순환이 도는 동안 사회적 규범도 변하고 있습니다. 5년 전 옛 세상으로 잠시 돌아가 보세요. 그때 블로그를 시작해서 AI가 생성한 글을 아무 말 없이 올렸다면, 꽤 확신컨대 그건 꽤나 개념 없는 짓으로 여겨졌을 겁니다. (미래 세대는 기이하게 여길 겁니다.) 하지만 오늘날 가장 큰 기업들은 그런 일을 상시적으로 하는 것처럼 보입니다. AI를 어디서든, 어떤 목적으로든, 아무런 고지 없이 사용하는 것이 괜찮은 세상으로 향하는 엄청난 관성이 존재합니다.

하지만 그건 괜찮은 겁니다! 이 시점에서 사람들에게 자발적인 고지를 강요하는 건 그저 정직성/성실성/진정성에 대한 세금일 뿐입니다. 대신 저는 이렇게 합의하자고 제안합니다. AI를 어떻게 쓰든 기본적으로는 괜찮다고 하자는 겁니다. 대신 반대쪽에서부터 시작하자는 거죠. 만약 여러분이 스스로 AI 사용에 제한을 두기로 했다면, 그 제한을 공개적으로 밝히는 겁니다. 당신이 인간이라면, 말해 주세요.

물론 이것이 만병통치약은 아닙니다. 사람들은 거짓말을 할 수 있습니다. 하지만 평판 리스크 없이 거짓말할 수는 없습니다. AI를 쓰고도 거짓말을 한다면, 그 비밀이 얼마나 오래 안전할 수 있을까요? 아무도 모릅니다. 기술 변화의 예측 불가능성이 처음으로 우리 편이기 때문입니다.

그러나. 정말 그러나. 작가들에게 AI를 쓰지 않았다고 선언하도록 강요해야 한다는 얘기가 아닙니다. 그건 끔찍한 생각이라고 봅니다. AI 사용은 스펙트럼 위에 있기 때문입니다. 이미 오늘날 대부분의 사람들은 분명 어느 정도는 AI를 쓰고 있습니다. (검색 결과 상단에 AI 요약이 뜰 때 눈을 돌리시나요?) 따지고 보면 대부분의 사람들은 어느 정도는 AI를 써야 합니다. 글쓰기가 켄타우로스 시대에 진입하고 있다는 것을 인정해야 합니다.

맥락을 설명하자면, 컴퓨터는 1997년에 체스에서 인간을 이겼습니다. 하지만 그 후로도 수년간 인간과 AI가 결합된 ‘켄타우로스’ 팀은 최고의 인간과 최고의 체스 AI를 모두 이길 수 있었습니다. 서서히 그 팀에서 인간이 기여하는 가치는 줄어들었고, 오늘날 켄타우로스가 순수 AI에 대해 여전히 우위를 가지는지는 다소 불분명합니다.

인간은 아직 블로그 글쓰기에서는 AI보다 낫습니다. (물론 문학적 단편소설에서는 그렇지 않을지도 모르지만요.) 체스 시간으로 치면 블로그는 아직 1997년 이전에 있습니다. 하지만 1997년 이전에는 아무도 켄타우로스 체스에 관심을 두지 않았던 것은 역사적 우연에 불과합니다. 만약 사람들이 시도했더라면, 켄타우로스 체스 팀이 최고의 인간 플레이어를 훨씬 더 일찍 이길 수 있었을 거라고 생각합니다. 그래서 비유를 좀 더 확장하자면, 1970년대와 1980년대에 켄타우로스 체스에 대한 관심이 폭발했던 또 다른 시간선에서, 블로그는 체스 시간으로 1990년쯤에 해당한다고 보겠습니다.

그러니까, 도대체 어디까지 해야 여전히 자기 글을 ‘인간이 쓴 글’이라고 할 수 있을까요? 예를 들어 이런 것들은 가능할까요.

1. …검색 결과 상단의 AI 요약을 보는 것?
2. …AI에게 맞춤법이나 문법 오류를 찾아달라고 하는 것?
3. …AI를 고급 유의어 사전으로 쓰는 것? (“‘aggressive’와 ‘punctilious’ 사이를 보간하는 의미를 가진 단어 50개를 알려줘.”)
4. …리서치 중에 AI에게 사실에 관한 질문을 하는 것?
5. …그 답변을 믿는 것, 아니면 직접 검증하는 것?
6. …어색한 문장을 다르게 표현할 방법을 AI에게 물어보는 것?
7. …그 제안들을 그대로 베껴 쓰는 것?
8. …글의 전체적인 구성에 대한 제안을 AI에게 받는 것?
9. …AI에게 도표 / 표 / 코드를 만들어 달라고 하는 것?
10. …글 전체를 AI에 돌려 ‘다듬는’ 것?
11. …다음 문단의 대략적인 초안을 AI에게 만들어 달라고 하는 것?

이런 말을 하는 게 썩 편하지는 않지만, 저는 7번, 10번, 11번을 제외하고는 가끔씩 이 모든 것을 합니다.

잠깐! 해명 좀 하게 해주세요! 3번이나 6번은 글 하나당 한 번 정도 하는 것 같습니다. 5번의 경우 보통은 검증하지만, 무언가를 이해하려고 할 때 많은 자료를 읽습니다. AI에서 얻은 사실은 머릿속에서 신뢰할 수 없다고 표시해 두려고 하지만, 제 머릿속 모델의 모든 조각이 어디서 왔는지까지 공식적으로 추적하지는 않습니다. 8번은 거의 하지 않고, 제안을 받아들이는 일은 더더욱 드뭅니다. AI가 저를 인간으로서 싫어하는 것 같고 제 글에서 모든 생기와 개성을 씻어내려 해서 그렇습니다. 하지만 인간 편집자가 아쉬운 상황에서 가끔은 도움이 됩니다. 그리고 무엇보다, AI로부터 제 글로 정보가 흘러 들어가는 경우라도, 그것은 반드시 제 손가락을 거쳐 제 말로 쓰입니다. 복사해서 붙여 넣는 일은 절대 하지 않습니다. 단 한 단어도, 절대 절대.

0이 “웹 검색에서 AI 요약을 쳐다보지도 않는다”이고 100이 “AI에 프롬프트 하나를 넣고 나온 결과를 수정 없이 그대로 게시한다”인 스펙트럼이 있다면, 제 위치는 글쎄요, 10 정도일까요?

또, 이런 말을 하는 것 자체가 좀 역겹게 느껴집니다. (어쩐지 뭔가 부끄러운 걸 고백하는 것 같으면서 동시에 오만한 자화자찬을 하는 기분이 듭니다. 참 신기하죠.) 제 위치가 다른 작가들과 비교해 어디쯤인지도 모르겠습니다. 거의 아무도 AI 사용 여부를 전혀 밝히지 않으니까요.

하지만 제발, 여러분. 민주주의는 어둠 속에서 죽는다! 이제 독자들은 기본적으로 꽤 높고(그리고 점점 높아지는) 수준의 AI 사용을 전제하게 되었습니다. 저는 많은 사람들이 거의 전혀 문제 될 것 없는 방식으로 AI를 쓰면서도, 그 사실을 인정하기를 두려워한다고 확신합니다. 이는 스펙트럼의 서로 다른 지점들 사이의 구분을 흐리게 만들고, 나중에 그것이 ‘슬롭’임을 깨달을까 두려워 아무것도 읽지 않으려는 분위기를 악화시킵니다.

대부분의 작가에게 최적의 AI 사용량은 0이 아니라는 생각을 받아들여야 합니다. 분명 대부분의 사람들은 어떤 종류의 사용은 정상적이고 / 예상 가능하며 / 좋은 반면, 다른 종류는 일탈적이고 / 기만적이며 / 슬롭이라고 말할 겁니다. 하지만 사람들마다 의견은 다르고, 이 모든 것은 기술과 문화가 발전함에 따라 계속 변하고 있습니다.

당연하게도, 저는 사람들이 저와 비슷한 곳에 선을 긋는 것을 선호합니다. 하지만 솔직하게 밝히기만 한다면 꽤 넓은 범위까지는 받아들일 의향이 있습니다. 보통은 과도한 AI 편집의 보이지 않는 손길이 느껴지면 한숨을 쉬고 구독을 취소합니다. 하지만 Trevor Klee (훌륭한 블로거입니다)는 “이건 ChatGPT 결과물인데 흥미롭다고 생각했습니다”라고 말하는 포스트를 몇 개 올렸습니다. 저는 구독을 취소하기는커녕, 실제로 그 결과물을 읽어보기까지 했습니다.

그럼에도 불구하고 저는 어느 정도의 선은 그어야 한다고 생각합니다. 바깥 세상에 알리기 위해서뿐 아니라 자기 자신을 위해서도요. AI를 ‘리서치용’으로 혹은 ‘문법 오류를 잡기 위해’ 사용하는 것과 ‘글쓰기’에 사용하는 것 사이에는 매우 흐릿한 경계가 있습니다. AI에게 사실에 관한 질문을 하는 것에서, 내가 쓴 글의 오류를 찾아달라고 하는 것으로, 그 오류를 고쳐달라고 하는 것으로, 나아가 문단 전체를 생성해 달라고 하는 것으로 넘어가는 것은 아주 쉽게 미끄러질 수 있습니다. 그 각각의 단계는 정당화하기 쉽습니다. 그러니 스펙트럼 위의 어딘가에서 활동하고 싶다면, 경계를 정한 뒤 그것을 지키는 것이 아마 가장 좋습니다.

(이 글 작성에 사용된 AI: 없음.)