何が許されるかについて合意できない理由
原文は Dan Luu により に公開されました。 このブログを購読する
大規模なプラットフォームでは、モデレーションやスパム、詐欺、性的コンテンツなどについて、誰もが納得するポリシーを作ることは不可能だ。デイヴィッド・ターナーは、たとえ些細なケースであってもそれがどれほど難しいかを示すためにシンプルなゲームを作った。No Vehicles in the Parkだ。まだプレイしていないなら、この先を読み進める前にぜひ一度やってみることをおすすめする。
このサイトの狙いは、プラットフォームにどのようなモデレーションルールを適用すべきかについて人々の合意を得ることがいかに難しいかを示すことにある。もっとずっと単純な例、すなわち、あるルールとその解釈方法についての指示が与えられたときに公園でどのような車両が許可されるべきか、という問いに置き換え、少数の質問を投げかけたとしても、人々は合意できない。自分でこのアンケートをやってみて最初に感じたのは、質問は別に意地悪に選ばれたわけではなく、デイヴが本気で難しくしようと思えば他にもいくらでも際どいエッジケースを出せたはずだということだった。それなのに、特に難しくしたわけでもないのに、質問に対する広範な合意は存在しない。アンケートへのコメントからも、ルールに関するもう一つの問題が見えてくる。合意を得るのは人々が思っているよりもはるかに難しいということだ。lobste.rsやHacker News、redditなどでルールの解釈やモデレーションについてのコメントを読んでいると、解決策を提案する人の大半が、モデレーションを経験した人やその仕組みをよく見てきた人なら「うまくいくはずがない」と分かるような案を出している。それはモデレーション版の「週末で作れるよ」1だ。もちろん、デイヴのゲームでも同じことが起きている。トップのHNコメント、最も多くの同意を得たコメント、そして他の場所でも非常によく見られる意見は次のようなものだ2：
面白いことに、私が得た結論は筆者の意図とは正反対だった。
私にとっては、すべての質問の答えは極めて明確だった。確かに、周回軌道上の宇宙ステーションが「車両」に当たるか、それが「公園内」にあると言えるかといったことを学術的に議論することはできる。しかし、看板の明白な意図はこれ以上ないほどはっきりしている。車やトラック、バイクは禁止。そしてもちろん、職務中の警察や救急車（そして消防車）は看板に従う必要はない。
だから、もしこれがコンテンツモデレーションのルールがいかに分かりにくいかを示す例だとしたら、まったく逆の効果を上げていることになる。
そして誰かが同意してこう返信している。
その通り。回答には明確な多数派がある。
アンケートを終えると、各質問に何人がイエス／ノーと答えたかを示すグラフが表示される。「明確な多数派」という主張はそこから来ている。まず第一に、「明確な多数派がある」と言うこと自体が正しくないと思う。しかし、仮にそうだったとしても、各投票で多数派の立場を取ったからといって、多くの人があなたに同意していることになると考える理由はない。実際、質問ごとの多数派を示すグラフがあれほどギザギザに揺れていることを考えれば、各質問で多数派に入ることが、多くの人があなたに同意していることや、多数派が合意する一連の立場が存在することを意味するとしたら、それは驚くべきことだ。作為的に作ったデータセットならそうなるようにできないこともないが、自然なデータセットでそうなるとしたら極めて不自然だろう。
データを見てみると（サイト上では公開されていないが、頼むとデイヴは快く渡してくれた）、私がデータを取得した時点で、過半数のユーザーが合意した回答セットは一つもなく、惜しいどころですらなかった。データを取得したのは、HNにリンクを投稿してすぐのことで、回答の大半はHNの読者によるものだった。HN読者は一般の人々よりも均質な集団だ。合意が得やすくなるはずのそうした条件が揃っていたにもかかわらず、最も人気のある回答セットを選んだ人はわずか11.7%だった。これはトップコメントの投稿者が「自明だ」と言う立場だが、11.7%しか同意せず88.3%が同意しないという意味で少数派であるだけでなく、この「自明」とされる立場とわずかな違いしかない立場を取る人もほとんどいない。2番目と3番目に多い立場はそれぞれ8.5%、6.5%を占めるが、これらは似通っており、記念碑の一部となっている動かない第二次世界大戦時の戦車がルールに違反するかどうかという点でのみ意見が分かれている。それ以下になると、4番目から7番目に人気の立場はそれぞれ約1%の人が支持しているだけで、それより人気のない立場はすべて1%未満で、そこから先はさらに急速に割合が下がっていく。つまり、1%を大きく上回る他者と意見が一致しているのは27%の人だけだ（中央値のユーザーは他のユーザーの0.16%としか一致していない）。これをプロットしたのが下のグラフだ。意見は人気順に並べられ、最も人気のあるものが左側に来る。意見の一致があまりにも少ないため、通常の線形スケールではグラフがゼロ付近の数点を除いてほぼゼロに張り付いて見えてしまうので、対数スケールが使われている。
このデータを別の角度から見ると、36902人が「公園における車両とは何か」について意見を表明し、出てきた意見は9432通りに分かれた。つまり、異なる意見1つあたり平均で約3.9人しかいない。言い換えれば、平均的なユーザーの一致率は約0.01%だ。平均という指標は、平均して、使われすぎではあるが、合意の度合いを要約するには有効だ。なぜなら、平均の0.01%を大きく上回る一致率を持つ意見が少数ある一方で、その平均を「維持」するためには、他者との一致がさらに極端に低い膨大な数の人々によって相殺されなければならないからだ。実際の一致度が高いのに平均の一致度が低いということは、その高い一致をさらに大きな不一致が相殺しない限りありえず、逆もまた同様だ。
HNでは、同じコメントに対してマイケル・チャームサイドが、もっともだがあまり高く評価されなかったコメントを残している。
＞私にとっては、すべての質問の答えは極めて明確だった。
それは特に驚くことではない。ただ、あなたは間違った問いを立てているのかもしれない。
ルールが明確かどうかを知りたいのであれば、「あなたにとって答えは極めて明確か？」ではなく、「異なる人々は同じ答えを出すか？」と問うべきだと思う。
もしグラフのある一点で急激な落ち込みがあれば、ほとんどの人が同じ境界線を持っていることを示唆するだろう。しかし実際には非常に滑らかな曲線が見られる。まるで、異なる人々がこの非常にシンプルで明確なルールを読んでも、それがいつ適用されるかについて合意できていないかのようにだ。
多くの人――おそらく実際には大半の人――は、他人が何を自明だと思うかを予測する際に過信しており、他人も自分と同じように考え、同じことを自明だと思うだろうと誤って思い込んでいる。これは、モデレーションをめぐる激しい論争を引き起こすような感情的な問題では、単純な「公園に車両侵入禁止」の例よりもさらに当てはまる。しかし、この単純な例でさえ、合意に至ることの難しさだけでなく、合意に至ることがいかに難しいかを理解すること自体の難しさをも示している。
より感情を揺さぶる別の文脈からの例を挙げよう。あらゆるスポーツにおいて、ある選手のプレーがフェアと見なされるか、ダーティープレーであり非難されるべきかという問題を考えてみる。さまざまな競技のさまざまな選手を挙げられるが、ここでは恣意的にドレイモンド・グリーンを取り上げよう。熱心なバスケットボールファンでウォリアーズファンではない人に、今日のNBAで最もダーティーな選手は誰かと尋ねれば、ドレイモンド・グリーンだという点で概ね合意が得られるだろう（ディロン・ブルックスを挙げる人もいるので、ほぼ全員一致の合意が欲しければ「最もダーティーな選手トップ2は誰か」と聞く必要がある）。それなのに、ウォリアーズファンにドレイモンドについて尋ねると、大半は何の問題もなく彼のダーティープレーのすべてを正当化してみせる。だから、「公園に車両侵入禁止」の問いよりもはるかに単純な問い、例えば「相手選手の胸を踏みつけ、さらにその体を踏み台にして宙に跳び上がってもよいか？」といった、他にも百に及ぶダーティープレーを含めた問いについて全員一致の合意を得ようとしても、一見自明に思えるそうした問いの多くについて、かなりの数の人々が「自明な」答えに対して極めて強い反対を示すことが分かる。「公園に車両侵入禁止」のような作為的で抽象的な例から、人々が感情的に肩入れする現実の問題へと移ると、利害関係のない第三者なら全員が同意するようなケースでさえ、一般に合意を得ることは不可能になる。感情的な肩入れがない場合ですらすでに不可能であることを我々は見てきたのだ。そしてスポーツから、政治のように人々がさらに強くこだわる問題へと移れば、不一致はさらに激しくなる。
動かない第二次世界大戦時の戦車で記念碑の一部となっているものが「公園に車両侵入禁止」のルールに違反するかどうか（この2つの立場を合わせると投票の15%を占める）については、人々は「意見の違いを認め合う」ことができるかもしれない。しかし現実には、部外者から見ればごくわずかな意見の違いについてでさえ、人々は意見の違いを認め合うことがなかなかできない。感情を伴う問題はしばしばフラクタルに論争的であり、ほぼ同一の意見を持つ人々の間でさえ不一致を引き起こすため、「公園に車両侵入禁止」の例よりも合意を得ることが著しく難しくなる。
現実の例を一つ挙げよう。Jo Freemanというフェミニストは、1976年に、わずかな意見の違いから攻撃され（trashed）、それが運動（ムーヴメント）の中でいかに残念ながらありふれていたかについて書いた（当時は「キャンセル」という言葉が一般的に使われていなかったため「trashed」という言葉を使っており、私見では「trashed」の方がより適切な表現だ）。ジョー・フリーマンが「Trashing」を書いてからほぼ50年が経つが、わずかな違いをあげつらい、自分に完全には同意しない者を破壊しようとする人間の傾向は変わっていない。最近の、同様の例としては、ナタリー・ウィンによる似たような経験がある。
一般的に持たれている意見の空間から遠く離れた人々から見れば、ナタリーと彼女の追放（デプラットフォーム化）を求める人々との意見の違いはかなり小さい。しかし、この「小さな」意見の違いは、ナタリーの追放を求める声を生んだだけでなく、彼女への身体的な暴行やドクシングなどを求める声にもつながり、彼女の友人や関係者、さらには彼女と特に関係があるわけではないが公に似たようなトピックについて語り、彼女をキャンセルしなかった人々に対しても同様の扱いを求める声が上がった。今でも、数年経った現在ですら、彼女は追放を求める声に晒され続けており、私はこれが私の人生が終わった後も続くだろうと思っている（これを書いたのは、ナタリーが動画で語った出来事から数年後のことだが、Twitterで検索すると、動画で論じられたとされる違反行為についてナタリーがどれほどひどい人間かを罵る長文のスレッドが、10日前の日付で見つかり、こうした罵倒は他にも簡単に見つかる）。立場の違いを説明しようとは思わない。なぜなら、両者の立場はあまりにも近いため、説明しようとすれば5,000〜10,000語ほどかかってしまうからだ（例えば左派と右派の政治家のように、違いが明白で1、2文で説明できる場合とは対照的だ）。詳細を知りたいなら、1時間40分の動画のうちこのトピックに割かれている1時間の部分を見てほしい。
ここで言いたいのは、感情を伴う問題について公に意見を持つほぼすべての人を見れば、意見の空間はフラクタルに論争的だということだ。どのコンテンツをプラットフォームからモデレートすべきか、どのコンテンツを許可すべきかについてユーザー間で意見が割れるため、大規模なプラットフォームがユーザーの好みを満たすことはできない。そしてもちろん、この問題はプラットフォームが大きくなるにつれて拡大する3。
Peter Bhat Harkins、Dan Gackle、Laurence Tratt、Gary Bernhardt、David Turner、Kevin Burke、Sophia Wisdom、Justin Blank、Bert Muthalalyの各氏に、コメント／修正／議論について感謝する。
私が参加してきたどのフォーラムでも繰り返し目にしてきたのは、結局モデレーションなんて必要なく、この厄介な検閲をやめさえすればすべての問題が解決するという提案だ。小規模で基本的に4chanのようなフォーラムが欲しいのであれば、モデレーションなしでも十分うまくいく。しかし、4chanのような大規模プラットフォームが欲しいのであっても、モデレーションなしは実際には機能しない。先ほどのTwitterの数字に戻れば、ユーザー数3億人で1日に100万のbotが削除されている状況で、この種の「検閲」をやめれば、プラットフォームはたちまちbotで溢れかえり、目にするものすべてがスパム／詐欺／フィッシングコンテンツか、どこかからコンテンツをコピーしたアカウントやLLMで生成されたコンテンツを使ってスパム／詐欺／フィッシングを投稿するコンテンツばかりになるだろう。アカウントの大半がbotになるだけでなく、botは大規模なエンゲージメント／投票リングの一員となり、すべての人間のコンテンツをかき消してしまうだろう。
次にありがちな安易な提案は、ミームやつまらないジョークなどのランク下げをやめろというもので、しばしば「ここにはユーモアの分かるやつは一人もいないのか？」といったコメントが添えられる。なぜアップヴォート／ランキングのあるフォーラムがミームを禁止するのかを見てみると、たいていはフォーラムが完全にミーム／コミックに支配されるようになった後だ。なぜなら人々は、多少ニュアンスのあるコンテンツよりもそうしたものをはるかに高い割合でアップヴォートするし、誰もが最低公分母的なミーム／コミックコンテンツで埋め尽くされたフォーラムを望んでいるわけではないからだ。そしてコメントにおける「ユーモアのセンス」について言えば、安っぽいユーモアを禁止していないフォーラムを見れば、トップコメントはたいていそうしたもので占められるようになる。例えば、3〜6か月ほどの間、そうした安っぽいユーモアを禁止していないredditのフォーラムでは、男性が何かしら漠然と英雄的なことをしたという類のストーリーに対するトップコメントの一つは、なんらかのバリエーションの「玉が900ポンドもあるのに歩けるのが不思議だ」であり、しばしば複数のユーザーによって何度も繰り返され、その時期に流行していた他の安っぽいユーモアの海の中に埋もれていた。もちろん、中にはそうしたユーモアがコメント欄を支配することを実際に望む人もいる。何か月もの間、1日に150回同じコメントを見ることを実際に望んでいるのだ。しかし、自分の安っぽいユーモアがフラグ付けされたときに不機嫌に「ここにはユーモアの分かるやつがいない」と主張する人の大半は、実際には他人の安っぽいユーモアで埋め尽くされたフォーラムを読みたいとは思っていないのだろう。
[return]この特定のコメント投稿者は、モデレーションは一般的に難しい問題であることを理解していると示している。ただ「公園に車両侵入禁止」の例には同意していないだけだが、他の多くの人々は公園の例もモデレーションも両方とも簡単だと思っている。
[return]今日では、「フェデレーション」を万能薬のように使うことが、5年前に「ブロックチェーン」を万能薬のように使っていたのと同じくらい流行しているが、フェデレーションは一般的なユーザーにとってこの問題を解決しない。私は実際に、ActivityPub仕様の作成者の一人であることをソーシャルメディアのプロフィールに書いている人物と会話したことがあるが、その人物はフェデレーションはこの問題を解決すると主張し、ThreadsがActivityPubに対応すれば何らかのフェデレーションによる万能薬が生まれると言っていた。私は、断片化はすでにMastodonの多くのユーザーにとって問題になっており、Threadsをブロックするかどうかが論争を呼び、断片化をさらに進めるだけだと指摘した。するとActivityPubの人物は「心配しなくても、大半の人はThreadsをブロックしないし、ブロックしたとしてもそれはその人たちの問題だ」といったことを返してきた。
私の技術に詳しくない友人たちがMastodonを試した際に抱えた問題の一つは、サーバーを選んで、フォローしたい相手をフォローできないことに気づくことだった。何らかのサーバーブロックやBANのためだ。そこでこの一人のために別のサーバーを試すと、今度は別のフォローしたい相手がブロックされていることに気づく。根本的な問題は、異なるサーバー上のユーザーが、許可されるべきものについて異なることを望んでおり、その結果、どのサーバーも自分が見たいものすべてへのアクセスを提供してくれないということだ。ActivityPubの人物はこれに返答できず、コメントを削除した。
ちなみに、モデレーション／スパム／詐欺／わいせつコンテンツなどのポリシーよりもはるかに簡単な問題で、Fediverseがすら解決できていないものがある。それはコンテンツをどう表示するかという問題だ。Mastodonを使って「honk」を使っている相手とやり取りするたびに、メッセージが文字化けする。例えば、Mastodonのメッセージの件名（および内容警告）フィールドにある
[return]"が、Mastodonユーザーがhonkユーザーからの返信を見ると"に変換されてしまうため、honkユーザーからの返信があるたびに議論が別の件名へと分岐してしまう。ここには曖昧さなく完全に仕様化できるものがあり、しかも人々はモデレーション／スパム／詐欺／わいせつコンテンツなどに関する主題ほど感情的にこだわっていないのに、Fediverseは2つのプラットフォーム間でこの問題すら解決できないのだ。
コメント
ログインしてコメントする