Blink if you’re human

Dynomight

人間ならまばたきして

原文は Dynomight により に公開されました。 このブログを購読する

このブログに投稿する文章は、すべて自分の手で書いている。もちろんそれを証明することはできないが、いくつか傍証はある。

  • このブログは、AIがブログ記事を書けるようになる前から存在していた。
  • 私の記事をAI検出器にかけても、(たぶん)真っ白な結果が返ってくるはずだ。

そこで、こう付け加えておきたい。私、dynomightは、ここに投稿するすべての言葉が、自分自身の指でキーを叩いて生み出されたものであることを保証する。例外は、他の人間の言葉を引用する場合か、AIの出力であることが明確に示されている場合のみだ。

それがどう証拠になるのか? たとえば、あなたが私を信用できない人間だと思っていて、実際はAIを使っているのに嘘をつき、AI検出器もうまくすり抜けていると考えたとする。はい、グサッとくるな。だが考えてみてほしい。AI検出器は将来、ほぼ確実に性能が上がる。(より正確に言えば、将来のAI検出器は、現在のAIを検出するという点で、現在の検出器より優れている可能性が高い。)もし私が実際にAIを使っていて、将来の検出器に捕まったら、上記のような保証をしていたことは相当恥ずかしいことになるだろう。

このあたり、気味が悪くて自己陶酔的に見えるかもしれない。だから強調しておきたいが、上記の保証は慎重に言葉を選んでいる。私はAIを「調べもののため」にはよく使うが、「文章を書くため」には使っていない。(この区別については後で触れる。)そして、ブログ記事を書くのにAIを使うこと自体が悪いとは思っていない。私が個人的にやらないのは、主にこういう理由からだ。

  1. 書くことが好きだから。
  2. 書くという行為自体が、物事を理解する助けになるから。
  3. これは趣味だ。自分の趣味まで自動化し始めたら、いったい何をやっているんだ?

文章を書くのにAIを使わないもう一つの理由は――はっきり認めてしまおう――誰もAIが生成したエッセイを読みたいとは思っていないからだ。いや、正確には、人はAIが生成したエッセイを読むのが大好きだ。ただ、読みたいときは自分でAIに頼むので、放っておいてほしいのだ。

反論があるのは承知している。言葉がどこから来たかなんて関係あるのか? 中身だけで判断すべきではないのか? もっともだ。それはそれで正当な見方だ。だが経験上、多くの人はそうは考えていないと思う。

(それと、ダッシュの数を数えているのもわかっている。どうぞ数えてくれ、それでも私は人間だ。)

奇妙なほど見過ごされている問いがある。ある人がAI生成ないしAIに大きく支援されて作った文章を、別の人に読ませる場合をすべて集めたとする。そのうち、最初の人がAIの使用を開示している割合はどれくらいか? 教育関係は除外してもいい。メールだって除外して構わない。それでも答えは20%未満だと私は見ている。

なぜ人々はこれを気にするのか? 理由はいくつかある。一つはプルーフ・オブ・ワーク(作業の証明)だ。もし私という人間が、ビタミンDについてもっともらしく聞こえる8000語を書いたとしたら、それは私がビタミンDを理解するために時間と労力を費やした証拠になる。たとえ群衆の英知を最大限活用するためだけだとしても、私の意見にある程度重みを置く根拠になる。だが、その文章がこっそりAIで生成されていたら、この理屈は成り立たない。

そして文章を書くことは、冷たく臨床的な情報共有だけではない。それは一種のパラソーシャルな交流でもある。「パラソーシャル」と聞くと不気味に感じるかもしれないが、私はパラソーシャルな関係というのは、私たちの原始的な社会的本能を現代世界に適応させるための、しばしば健全な方法だと思っている。いずれにせよ、良かれ悪しかれ、それも一部なのだ。

こんな話を持ち出すのは、ブログが一種のレモン市場に向かっているのではないかと心配だからだ。エッセイを読んでいて、だんだんそれがAIで書かれたものだと気づいてがっかりした経験は、誰にでもあるはずだ。均衡点はどこにあるのか? すでに、少なくとも無名の書き手の文章を読むのを控えるようになった人もいるだろう。時間が経てば、人間がエッセイを書く機会はさらに減り、AI生成コンテンツの密度はさらに高まり、ますます多くの人が読むのをやめる、といった具合だ。これは困る。なぜならブログは良いものだからだ。

そのサイクルが回るにつれて、社会規範も変わりつつある。5年前の昔の世界を思い出してみてほしい。当時、ブログを始めてAI生成の文章を何も言わずに投稿したら、それはかなり感じの悪い行為と見なされたはずだ。(未来の世代はこれを聞いて驚くだろう。)だが今や、大企業でさえそれを平然とやっているように見える。AIはどんな用途にも、どこででも、開示なしに使えて、それで問題ないという世界に向けて、ものすごい勢いが働いている。

でも、それでいいのだ! 今となっては、人々に自発的な開示を強要しようとするのは、正直さや良心や誠実さに対する課税でしかない。むしろ、任意の使い方はデフォルトで自由だということにしよう。その代わり、反対側から攻めるのだ。もしあなたが自分のAI使用に制限を課すことにしたのなら、その制限を公に表明すればいい。人間なら、教えてほしい。

もちろん、これが万能薬でないことは明らかだ。嘘をつく人はいる。だが、嘘をついても評判を落とすリスクなしには済まない。AIを使って嘘をついたら、その秘密がいつまで守られるだろうか? 誰にもわからない。なぜなら今回は、技術変化の予測不可能性が珍しくも私たちの味方をしてくれているからだ。


しかし。いや、しかしだ。だからといって、書き手に「AI不使用」を宣言するよう圧力をかけるべきだと言っているわけではない。それはひどい考えだと思う。なぜならAIの使い方はグラデーションだからだ。すでに今日、ほとんどの人が多少なりとも使っているはずだ。(検索結果の一番上に表示されるAI要約から目をそらしているだろうか?)むしろ、ほとんどの人は多少は使うべきなのかもしれない。文章を書くことがケンタウロス(人間+AI)の時代に入ったことを認める必要がある。

背景を説明しよう。コンピュータがチェスで人間に勝ったのは1997年のことだ。だがその後何年もの間、人間とAIの「ケンタウロス」チームは、最強の人間にも最強のチェスAIにも勝つことができた。ゆっくりと、そうしたチームにおける人間の貢献の価値は低下していき、今日ではケンタウロスが純粋なAIに対してまだ優位性を持っているのかどうかすらいまひとつはっきりしない

人間はまだ、ブログを書くことに関してはAIより優れている。(文学的な短編小説ではそうでもないかもしれないが。)チェスの時間軸で言えば、ブログはまだ1997年以前だ。だが、1997年以前に誰もケンタウロス・チェスに注目しなかったのは単なる歴史の偶然だ。もし当時から試みられていれば、ケンタウロス・チームはもっと早く最強の人間に勝てていたはずだと私は思う。だから、この比喩をもう少し引き延ばすなら、ブログはチェスでいう1990年あたりにいる。ただし、1970年代や80年代にケンタウロス・チェスへの関心が爆発していたという別のタイムラインでの話だ。

つまり、自分のエッセイを「人間が書いた」と言い張れる範囲で、実際どこまでやれるのだろう? たとえば、こんなことはできるだろうか。

  1. …検索結果の上部に表示されるAI要約を見ること?
  2. …AIにスペルや文法の誤りを探させること?
  3. …AIを高度な類語辞典として使うこと?(「『aggressive』と『punctilious』の間の意味を補間するような単語を50個挙げて」)
  4. …リサーチの際にAIに事実関係の質問をすること?
  5. …その答えを鵜呑みにすること、それとも自分で検証すること?
  6. …AIにぎこちない文の言い換え案を出させること?
  7. …その案をそのまま使うこと?
  8. …AIに文章全体の構成について助言を求めること?
  9. …AIに図や表やコードを作らせること?
  10. …エッセイ全体をAIに通して「きれいに」させること?
  11. …AIに次のセクションのラフな叩き台を作らせること?

あまり大きな声では言いにくいが、私は#7、#10、#11以外はときどきやっている。

待って! 言い訳させてほしい! #3や#6は1記事あたり1回くらいだ。#5については、たいてい自分で検証しているが、何かを理解しようとするときはたくさんの資料を読む。AI由来の事実は信頼性が低いものとして頭の中でマークするよう心がけているが、自分のメンタルモデルを構成するすべての情報の出所を厳密に追跡しているわけではない。#8はめったにやらないし、やっても提案を採用することはさらに稀だ。AIはどうも私のことが嫌いらしく、私の文章から生気や個性をことごとく取り除こうとするからだ。とはいえ、人間の編集者がいない身としては、たまに役に立つこともある。そして何にせよ、AIからの情報が私の文章に入り込むとしても、それは必ず自分の指を通して、自分の言葉で書き直されたものだ。コピペは一切しない。一語たりとも、絶対にだ。

0を「ウェブ検索のAI要約すら見ない」、100を「AIに一発プロンプトを投げて出力をそのまま投稿する」とするスケールで言えば、私は自分を、そうだな、10くらいのところに置いている。

繰り返しになるが、こんなことを言うのはやはり気分が悪い。(なぜか恥ずかしいことを告白しているようでもあり、同時に傲慢な自画自賛のようでもある。不思議なものだ。)自分がこのスケールのどこにいるのか、他の書き手と比べてどうなのかはわからない。なぜなら、ほとんど誰もAIの使用をまったく開示していないからだ。

でも、みんな頼むよ。民主主義は暗闇で死ぬ! 読者はすでに、かなり高く、しかも上がり続けている水準をデフォルトとして想定するようになっている。私は、多くの人がまったく問題のない方法でAIを使っているのに、怖くてそれを認められないでいると確信している。これではスケール上の異なる位置の区別が曖昧になり、「スラップ(粗悪なAI生成物)」かもしれないと思うと何も読むのが怖い、という力学がさらに悪化してしまう。

ほとんどの書き手にとって、最適なAI使用量はゼロではないという考えを受け入れる必要がある。多くの人が、ある種の使い方は普通/当然/良いことであり、別の種類は逸脱的/不誠実/スラップだと線引きするだろう。だが人によって意見は違うし、これらは技術や文化の発展とともに刻々と変わっていく。

言うまでもなく、私はみんなが私と同じあたりに線を引いてくれれば嬉しい。だが、前提として正直に開示してくれるなら、かなり幅広い範囲を受け入れるつもりだ。通常、濃いAI編集の見えざる手が感じられると、ため息をついて購読を解除する。だがTrevor Klee(素晴らしいブロガーだ)はいくつかの記事で「これはChatGPTの出力で面白いと思ったものだ」と書いている。私は購読を解除しなかったどころか、その出力を実際に読んでみようとした。

それでも、どこかに何らかの線を引くことは重要だと思う。それは外の世界に伝えるためだけでなく、自分自身のためにもだ。「調べもののため」や「文法ミスを見つけるため」にAIを使うことと、「文章を書くため」に使うことの間には、非常に曖昧な境界がある。AIに事実関係を尋ねることから、自分が書いたものの誤りを探させることへ、そしてその誤りを修正させることへ、さらには文章の段落全体を生成させることへと、簡単にずるずると流れてしまう。その一つひとつのステップは簡単に正当化できる。だから、もしスケール上のどこかでやっていきたいと思うなら、あらかじめ境界を決めて、それを守るのがおそらく最善だ。

(本記事の執筆におけるAIの使用:なし。)

この記事は「muse-spark-1.2-contributor」を使用して翻訳されました。

コメント