대형 플랫폼에서는 운영, 스팸, 사기, 성적 콘텐츠 같은 문제에 대해 모두가 동의할 수 있는 정책을 만드는 것이 불가능하다. 데이비드 터너는 이 문제가 사소한 사례에서조차 얼마나 어려운지를 보여주기 위해 No Vehicles in the Park라는 간단한 게임을 만들었다. 아직 해보지 않았다면, 이 글을 계속 읽기 전에 먼저 직접 해보길 권한다.

이 사이트의 취지는 플랫폼에 어떤 운영 규칙을 적용해야 하는지에 대해 사람들이 합의에 이르는 것이 얼마나 어려운지를 보여주는 것이다. 훨씬 더 단순한 예를 들어보자. 공원에 차량을 금지한다는 규칙과 그 규칙을 해석하는 방법이 주어졌을 때, 어떤 차량이 공원에 허용되어야 하는지를 묻는 몇 가지 질문만 던져도 사람들은 합의에 이르지 못한다. 내가 직접 설문을 해보니 처음 든 생각은 질문들이 일부러 까다롭게 골라진 것이 아니라는 점이었다. 데이브가 정말 어렵게 만들고 싶었다면 물어볼 수 있었을 엣지 케이스는 훨씬 더 많다. 그런데도 일부러 설문을 어렵게 만들지 않았음에도 질문들에 대한 폭넓은 합의는 없었다. 설문에 달린 댓글들은 규칙이 가진 또 다른 문제를 보여준다. 합의를 이루는 것이 사람들이 생각하는 것보다 훨씬 더 어렵다는 점이다. lobsters나 HN, reddit 등에서 규칙 해석이나 운영에 대한 댓글을 읽어보면, 해결책을 제시하는 사람들 중 대다수는 운영을 해보거나 운영이 어떻게 이루어지는지 조금이라도 지켜본 사람이라면 절대 통할 수 없다는 걸 알 만한 것을 제안한다. 이른바 운영판 “주말이면 만들 수 있다”¹에 해당하는 제안이다. 물론 데이브의 게임에서도 같은 현상을 볼 수 있다. HN에서 가장 많은 추천을 받은 댓글이자 다른 곳에서도 매우 흔하게 보이는 의견은 다음과 같다²:

저는 제 결론이 저자가 의도한 바와 정확히 반대라는 점이 흥미롭습니다.

제게는 모든 질문에 대한 답이 너무나 명백했습니다. 학술적으로 따지자면 궤도를 도는 우주 정거장이 차량인지, 그리고 그것이 공원 안에 있는 것인지 따져볼 수 있겠지만, 표지판의 명백한 의도는 더할 나위 없이 분명합니다. 자동차·트럭·오토바이는 허용되지 않으며, 당연히 임무를 수행 중인 경찰차나 구급차(그리고 소방차)는 표지판을 따를 필요가 없습니다.

그러니 이것이 콘텐츠 운영 규칙을 따르는 것이 얼마나 불명확한지를 보여주는 예시라면, 정반대의 효과를 내고 있는 셈입니다.

그리고 누군가 이에 동의하며 답글을 달았다:

정확합니다. 답변에는 분명한 다수가 존재합니다.

설문을 마치고 나면 각 질문에 대해 몇 명이 예, 아니오로 답했는지를 보여주는 그래프가 나오는데, ‘분명한 다수’라는 말이 나온 근거가 바로 그 그래프다. 우선, 분명한 다수가 존재한다는 말 자체가 옳지 않다고 생각한다. 설령 그렇다고 가정하더라도, 각 투표에서 다수 쪽 입장을 취한다고 해서 대부분의 사람들이 당신에게 동의한다는 뜻이 되는 것은 아니다. 사실 질문별 다수 그래프가 얼마나 ‘들쭉날쭉한’지를 보면, 각 질문에서 다수에 속한다는 것이 대부분의 사람들이 당신에게 동의한다거나 다수가 합의하는 어떤 입장 집합이 존재한다는 것을 의미한다면 그건 놀라운 일일 것이다. 그런 데이터셋을 인위적으로 만들 수는 있겠지만, 자연스러운 데이터셋에서 그런 일이 벌어진다면 매우 의외일 것이다.

데이터를 보면(사이트에서는 공개되지 않지만, 내가 요청했을 때 데이브가 기꺼이 공유해주었다), 내가 데이터를 추출한 시점 기준으로 다수 사용자가 합의한 답변 집합은 하나도 없었고, 그마저도 아슬아슬한 수준이 아니었다. 나는 이 링크를 HN에 올린 직후 데이터를 받았는데, 당시 응답의 압도적 다수는 HN 독자들이었고, 이들은 전체 인구보다 훨씬 동질적인 집단이다. 합의를 찾기 더 쉬운 이런 조건에서도 가장 인기 있는 답변 조합을 선택한 사람은 11.7%에 불과했다. 최상위 댓글 작성자가 ‘명백하다’고 말한 입장이 바로 그것인데, 이는 11.7%만 동의하고 88.3%는 반대한다는 의미에서의 소수 의견일 뿐만 아니라, 이 자칭 명백하다는 입장에서 아주 조금만 벗어난 입장을 가진 사람조차 거의 없다는 뜻이기도 하다. 각각 8.5%와 6.5%의 지지를 받은 두 번째와 세 번째로 흔한 입장은 서로 유사하며, 기념물의 일부인 작동하지 않는 2차 세계대전 당시 전차가 규칙을 위반하는지 여부에서만 의견이 갈린다. 그 다음으로는 4위, 5위, 6위, 7위로 인기 있는 입장들이 각각 약 1%의 지지를 받고, 그보다 덜 인기 있는 모든 입장은 1% 미만의 지지를 받으며, 이후로는 지지율이 꽤 빠르게 떨어진다. 즉, 27%의 사람들만이 다른 사용자 중 1%보다 유의미하게 많은 사람들과 의견을 같이하며(중앙값 사용자는 다른 사용자의 0.16%와만 의견을 같이한다). 아래 그래프가 그 모습을 보여준다. 의견은 가장 인기 있는 것부터 덜 인기 있는 순으로 정렬되어 있으며, 가장 인기 있는 것이 왼쪽에 있다. 의견 일치가 워낙 적기 때문에 로그 스케일을 사용했다. 선형 스케일로 그리면 0 바로 위에 점 몇 개가 찍히고 나머지는 전부 0처럼 보이기 때문이다.

이 데이터를 보는 또 다른 방법은 다음과 같다. 공원에서 무엇이 차량에 해당하는지에 대해 36,902명이 의견을 표명했고, 그 결과 9,432개의 서로 다른 의견이 나왔다. 서로 다른 의견 하나당 평균 약 3.9명이 같은 의견을 가진 셈이다. 즉, 평균적인 사용자 간 합의율은 약 0.01%다. 평균이라는 개념은 평균적으로 남용되곤 하지만, 합의 수준을 요약하는 데는 평균이 유용하다. 평균보다 훨씬 높은 0.01% 이상의 합의를 보이는 소수의 의견이 있긴 하지만, 그 평균을 ‘유지’하려면 다른 사용자들과 훨씬 더 낮은 합의를 보이는 어마어마하게 많은 사람들이 있어야 하기 때문이다. 실제 합의도가 높은데도 평균 합의도가 낮게 나올 방법은 그만큼 더 큰 불일치가 균형을 맞춰주지 않는 한 없으며, 그 반대도 마찬가지다.

HN에서는 같은 댓글에 대해 마이클 첨사이드가 합리적이지만 많은 추천을 받지는 못한 댓글을 남겼다.

> 제게는 모든 질문에 대한 답이 너무나 명백했습니다.

그게 딱히 놀랍지는 않습니다. 하지만 당신은 잘못된 질문을 하고 있을지도 모릅니다.

규칙이 명확한지 알고 싶다면, 물어야 할 질문은 “당신에게 답이 너무나 명백한가?”가 아니라 “서로 다른 사람들이 같은 답을 내놓을 것인가?”라고 생각합니다.

그래프 어딘가에서 급격한 하락이 나타난다면 대부분의 사람들이 같은 기준점을 공유한다는 뜻이겠지만, 실제로 우리가 보는 것은 매우 완만한 곡선입니다. 마치 사람들이 이 아주 단순하고 명확한 규칙을 읽고도 언제 적용되는지에 대해 여전히 합의하지 못하는 것처럼 말이죠.

많은 사람들(아마도 실제로는 대부분의 사람들)은 다른 사람들이 무엇이 자명하다고 생각할지를 예측할 때 지나치게 자신감을 보이며, 다른 사람들도 자신과 같은 생각을 하고 같은 것을 자명하다고 여길 것이라고 잘못 가정하곤 한다. 이는 단순한 “공원에 차량 금지” 예시보다 운영을 둘러싼 격렬한 논쟁을 낳는 매우 첨예한 이슈에서 더욱 두드러지지만, 이 단순한 예시조차도 합의를 이루는 것이 얼마나 어려운지뿐만 아니라, 그 어려움을 이해하는 것 자체가 얼마나 어려운지를 보여준다.

좀 더 첨예한 다른 맥락의 예를 들어보자. 어떤 스포츠에서든 선수가 페어플레이를 하고 있는지, 아니면 더티 플레이를 해서 징계를 받아야 하는지를 생각해보자. 여러 스포츠의 여러 선수들을 들여다볼 수 있겠지만, 여기서는 임의로 드레이먼드 그린을 꼽아보자. 워리어스 팬이 아닌 진지한 농구 팬에게 오늘날 NBA에서 가장 더티한 선수가 누구냐고 물으면, 대체로 드레이먼드 그린이라는 데 동의할 것이다(물론 딜런 브룩스를 꼽는 사람도 있으니, 거의 만장일치에 가까운 합의를 원한다면 가장 더티한 선수 두 명을 꼽아달라고 해야 할 것이다). 그런데 워리어스 팬에게 드레이먼드에 대해 물어보면, 대부분 그의 더티 플레이 하나하나를 문제없이 해명한다. 따라서 “공원에 차량 금지” 질문보다 훨씬 더 직접적인 질문, 예를 들어 “다른 선수의 가슴을 밟고 그를 발판 삼아 공중으로 뛰어오르는 것이 허용되는가? 게다가 그 외에도 백 가지가 넘는 더티 플레이가 더 있는데” 같은 질문에 대해 만장일치를 얻고 싶다고 해도, 겉보기에 그토록 자명한 질문들에 대해서도 상당수 사람들이 ‘자명한’ 답과 극도로 강하게 의견이 갈린다는 것을 알게 된다. ‘공원에 차량 금지’ 같은 인위적이고 추상적인 예시에서 사람들이 감정적으로 애착을 갖는 현실의 이슈로 넘어가면, 이해관계 없는 제3자라면 모두 동의할 만한 경우조차도 일반적으로 합의를 이루는 것이 불가능해진다. 우리는 이미 감정적 애착이 없을 때조차 합의가 불가능하다는 것을 관찰했다. 그리고 스포츠에서 사람들이 훨씬 더 강하게 관심을 갖는 정치 같은 이슈로 넘어가면, 의견 불일치는 더욱 심해진다.

사람들은 기념물의 일부인 작동하지 않는 2차 세계대전 당시 전차가 “공원에 차량 금지” 규칙을 위반하는지 여부에 대해서는 “동의하지 않는 것에 동의”할 수 있을지도 모른다(그 결과 투표의 15%를 차지하는 두 입장이 생긴다). 하지만 현실에서는 사람들은 외부인이 보기에 매우 사소한 의견 차이에 대해서도 ‘동의하지 않는 것에 동의’하는 것을 어려워하곤 한다. 첨예한 이슈는 종종 프랙탈처럼 논쟁적이어서, 거의 동일한 의견을 가진 사람들 사이에서도 불일치를 일으키며, 이는 “공원에 차량 금지” 예시보다 합의를 훨씬 더 어렵게 만든다.

현실의 예를 하나 들어보자. 페미니스트인 조 프리먼을 생각해보자. 그는 1976년에 아주 사소한 의견 차이 때문에 따돌림을 당한 경험과 그것이 운동권 내에서 불행하게도 얼마나 흔한 일이었는지에 대해 글을 썼다(당시에는 ‘취소(canceled)’라는 말이 널리 쓰이기 전이라 ‘trashed’라는 용어를 썼는데, 어차피 내 생각에도 ‘trashed’가 더 나은 표현이다). 조 프리먼이 “Trashing”을 쓴 지 거의 50년이 지났지만, 인간이 사소한 차이를 트집 잡아 자신과 완전히 동의하지 않는 사람을 파괴하려는 경향은 달라지지 않았다. 최근의 비슷한 사례로는 나탈리 윈의 유사한 경험을 들 수 있다.

흔히 볼 수 있는 의견들로부터 멀리 떨어진 공간에 있는 사람들의 눈으로 보면, 나탈리와 그녀의 플랫폼 퇴출을 요구한 사람들 사이의 의견 차이는 꽤 작다. 하지만 그 ‘작은’ 의견 차이 때문에 사람들은 나탈리의 플랫폼 퇴출을 요구했을 뿐만 아니라, 그녀에게 물리적 폭행을 가하고 신상을 털어야 한다고 주장했으며, 그녀의 친구와 동료, 심지어 그녀와 직접적인 관련은 없지만 비슷한 주제를 공개적으로 다루면서 그녀를 취소하지 않은 사람들에게도 같은 조치를 취해야 한다고 주장했다. 지금도, 수년이 지난 지금까지도 그녀는 여전히 플랫폼 퇴출 요구를 받고 있으며, 나는 이것이 내 생이 끝난 뒤에도 계속될 것이라고 생각한다(이 글을 쓸 당시, 나탈리가 영상에서 다룬 사건이 있은 지 수년이 지난 시점에 트위터에서 검색을 해보니, 10일 전에 올라온, 영상에서 다룬 문제 때문에 나탈리가 얼마나 끔찍한 인간인지 장황하게 비난하는 스레드를 발견했고, 이런 비난 글을 더 찾는 것은 어렵지 않다). 나는 입장 차이가 무엇인지 설명하려 하지 않을 것이다. 그 입장들이 워낙 가까워서 설명하려면 5천에서 1만 단어 정도가 필요하기 때문이다(반면, 예를 들어 좌파와 우파 정치인의 차이는 한두 문장으로 설명할 수 있을 만큼 명백하다). 전체 내용을 알고 싶다면 1시간 40분짜리 영상 중 그 주제에 할애된 1시간 분량을 보면 된다.

여기서 말하고자 하는 요점은 단순하다. 첨예한 이슈에 대해 공개적으로 의견을 가진 거의 모든 사람을 보면, 의견 공간은 프랙탈처럼 논쟁적이라는 것이다. 어떤 대형 플랫폼도 사용자 선호를 만족시킬 수 없다. 사용자들은 어떤 콘텐츠가 플랫폼에서 운영되어야 하고 어떤 콘텐츠가 허용되어야 하는지에 대해 의견이 갈리기 때문이다. 그리고 물론 이 문제는 플랫폼이 커질수록 더욱 커진다³.

피터 바트 하킨스, 댄 개클, 로렌스 트랫, 게리 번하트, 데이비드 터너, 케빈 버크, 소피아 위즈덤, 저스틴 블랭크, 버트 무탈랄리에게 코멘트/교정/토론에 감사드립니다.

1. 내가 참여했던 모든 포럼에서 반복적으로 본 것은, 결국 운영 따위는 필요 없고 이 지긋지긋한 검열만 그만두면 모든 문제가 해결될 것이라는 제안이다. 기본적으로 4chan 같은 작은 포럼을 원한다면 무운영으로도 잘 굴러갈 수 있지만, 4chan 같은 대형 플랫폼을 원한다면 무운영은 실제로 통하지 않는다. 트위터 수치를 다시 가져와 보자. 사용자 3억 명에 하루에 삭제되는 봇이 100만 개라면, 이런 ‘검열’을 중단하면 플랫폼은 빠르게 봇으로 가득 차 당신이 보는 모든 것이 스팸/사기/피싱 콘텐츠나 다른 곳의 콘텐츠를 베낀 계정, 혹은 LLM으로 생성된 스팸/사기/피싱 콘텐츠가 될 것이다. 대부분의 계정이 봇일 뿐만 아니라, 봇들은 모든 인간 콘텐츠를 압도할 대규모 인게이지먼트/투표 조작 네트워크의 일부가 될 것이다.

   그 다음으로 순진한 제안은 밈이나 유치한 농담 등의 노출을 낮추는 것을 그만두라는 것이다. 종종 “여기 사람들은 유머 감각이 없나?”라는 말과 함께 던져진다. 업보팅/랭킹이 있는 포럼들이 밈을 금지하는 이유를 보면, 대체로 포럼이 밈/만화로 완전히 점령된 뒤에 그러한 조치가 취해진다. 사람들이 약간의 뉘앙스가 있는 어떤 콘텐츠보다 그런 것들을 훨씬 더 높은 비율로 추천하기 때문이며, 모든 사람이 최저 공통분모 수준의 밈/만화로 가득 찬 포럼을 원하는 것은 아니기 때문이다. 그리고 댓글에서의 “유머 감각”에 대해 말하자면, 값싼 유머를 금지하지 않는 포럼을 보면 상위 댓글은 대체로 그런 것들로 점령된다. 예를 들어 대략 3~6개월 동안, 값싼 유머를 금지하지 않는 reddit 포럼에서 남자가 뭔가 영웅적인 일을 하는 이야기에 달린 상위 댓글 중 하나는 “900파운드짜리 고환을 달고 어떻게 걷는지가 놀랍다”는 식의 변형이었고, 종종 여러 사용자가 여러 번 반복했으며, 그 시기에 유행하던 다른 값싼 유머의 바다 속에서였다. 물론 어떤 사람들은 그런 유머가 댓글을 지배하는 것을 실제로 원하기도 한다. 하루에 150번씩 몇 달 동안 같은 댓글을 보는 것을 원하기도 한다. 하지만 값싼 유머가 플래그되었을 때 투덜거리며 “여기서는 아무도 유머를 모른다”고 주장하는 대부분의 사람들은 사실 다른 사람들의 값싼 유머로 가득 찬 포럼을 읽고 싶어 하지 않는다고 생각한다.

   [return]

2. 이 특정 댓글 작성자는 운영이 일반적으로 어려운 문제라는 점을 이해하고 있다. 다만 “공원에 차량 금지” 예시에 동의하지 않을 뿐이며, 다른 많은 사람들은 공원 예시와 운영 모두 쉽다고 생각한다.

   [return]

3. 요즘에는 5년 전에 사람들이 “블록체인”을 만병통치약처럼 쓰던 것과 같은 방식으로 “연합(federation)”을 만병통치약으로 쓰는 것이 유행이지만, 연합은 일반 사용자의 이 문제를 해결해주지 못한다. 나는 소셜 미디어 프로필에 ActivityPub 스펙의 제작자 중 한 명이라고 적어 놓은 사람과 실제로 대화를 나눈 적이 있는데, 그는 연합이 이 문제를 해결해주며 Threads가 ActivityPub을 추가하면 일종의 연합 만병통치약이 만들어질 것이라고 주장했다. 나는 Mastodon에서 파편화가 이미 많은 사용자에게 문제가 되고 있으며 Threads를 차단할지 여부가 논쟁적이어서 파편화를 더 심화시킬 뿐이라고 지적했고, 그 ActivityPub 관계자는 “걱정하지 마라, 대부분의 사람들은 Threads를 차단하지 않을 것이고, 차단한다면 그건 그들 문제다”라는 식으로 답했다.

   내 기술에 익숙하지 않은 친구들이 Mastodon을 시도할 때 겪은 문제는 서버를 하나 고르면 서버 차단이나 금지 때문에 팔로우하고 싶은 사람을 팔로우할 수 없다는 것이었다. 그래서 그 한 사람을 팔로우하려고 다른 서버를 시도하면 이번에는 팔로우하고 싶었던 다른 사람이 차단되어 있는 경우였다. 근본적인 문제는 서로 다른 서버의 사용자들이 서로 다른 것이 허용되기를 원하고, 그 결과 어떤 서버도 당신이 보고 싶은 모든 것에 대한 접근을 제공하지 못한다는 점이다. 그 ActivityPub 관계자는 이에 대해 할 말이 없었고 댓글을 삭제했다.

   덧붙이자면, 운영/스팸/사기/선정적 콘텐츠 등의 정책보다 훨씬 쉬운 문제조차 페디버스는 해결하지 못한다. 바로 콘텐츠를 어떻게 표시할지다. 내가 Mastodon으로 “honk”를 사용하는 사람과 소통할 때마다 메시지가 망가진다. 예를 들어, Mastodon 메시지의 제목(그리고 내용 경고) 필드에 있는 "가 "로 변환되어 Mastodon 사용자가 honk 사용자의 답글을 보면, honk 사용자의 모든 답글이 논의를 다른 제목으로 분기시킨다. 모호함 없이 완전히 명세화할 수 있고, 사람들이 운영/스팸/사기/선정적 콘텐츠 등에 대해 갖는 것보다 훨씬 덜 감정적으로 얽혀 있는 문제조차 페디버스는 두 플랫폼 사이에서조차 해결하지 못하고 있다.

   [return]