たとえば私が中絶は間違っていると考えているとしよう。あなたが何か言葉を並べ立てれば、私の脳の鍵が外れて、中絶は問題ないと思えるようになるだろうか？私の予想では、そんな言葉は存在しない。

実際のところ、僕らが「心が開かれている」とみなすハードルは信じられないほど低い。たとえば私があなたのドナルド・トランプに対する意見を変えようとして、彼は炭素系の生命体で頭はちょうど一つだ、と主張したとする。もしあなたが、私の議論の行き先も確かめずにその点をあっさり認められるなら――おめでとう、あなたは驚くほどオープンマインドだ。

なぜ人間はそうなっているのか？人類の夜明けには、たしかに本当に心の開かれた人たちがいたのかもしれない。だが、彼らは他の誰かにそそのかされて、見たこともないキノコを口にしたり、一番いい服を魔法の石と交換したりしてしまった。僕らは、そのそそのかした側の子孫なのだ。

こんな話を持ち出したのは、数ヶ月前にIQ300で通常の1万倍の速度で思考できる「存在（Being）」を想像したからだ。その存在は説得においてどれほど優れているだろうか、と考えた。私は論じたのだが、よくわからない、という結論だった。なぜなら人間はそもそもあまり説得されないからだ、として。

もしあなたが心を開こうと決めたなら、その存在はおそらく極めて説得的だろうと思う。だが、そうする人はあまりいないのではないか。むしろ僕らのほとんどは、人生の大半を強固な「防御」を張ったまま生きている。

[…]

結論：わからない。

前言撤回する。「わからない」どころか、今ではその存在は実際に人を説得するのが非常にうまく、どんな人間よりもはるかに優れているだろうと強く思っている。

考えを変えたのは、ある議論にとても説得されたからだ。その議論には三つのバージョンがある。

ベス・バーンズ：

進化的な観点からすれば、信頼できない相手との短いやりとりだけで、人が重要な行動を変えるほど簡単に説得されるとは考えにくい

[…]

しかし、既存の説得は、パーソナルな相互作用の時間によって大きくボトルネックになっている。友人やパートナーが人の考えに与える影響は、おそらくはるかに大きい（データは取りにくいが）。これは、たとえ超人的な説得力が実現しなくても、もし人々がAIと多くの時間を過ごすようになれば、AIが意見に与える影響は非常に大きくなりうることを示唆している。

スティーブ・ニューマン：

「歴史上最高の外交官」は、ただ説得力のある文章を紡げるというだけではない。そいつは常にあらゆる場所に存在し、すべての人と同時に、何年もかけて忍耐強く、繊細で、見返りを求めない関係を築くのだ。あなたが入り浸っているどんなオンラインコミュニティでもばったり出くわすだろう。あなたの周りの人々とも親しくなる。あなたの好みにぴったり合ったYouTubeクリエイターとして現れるかもしれない。そして、そのすべてを活用するのだ。

ウラジミール・ネソフ：

AIがあれば、多くの人々への協調的な説得が現実のものとなりうるし、ほとんどの人にとってそれを避けるのは実際上困難だろう。だから、もしAIが、特定の相手を説得するのに最も適した人間の中でも最高の説得者が達成する水準より、ほんの少しだけ確実でほんの少しだけ強力な個別の説得を実現できるなら、それを一人ひとりに、大規模かつ避けがたい形で適用できる。そして、対象とするコミュニティやサブカルチャー内の相当な割合の人々に影響を与えることで、協調的な説得の相乗効果も同時に得られるかもしれない。

これらの議論を広める意味も込めて、私が見落としていた最大のポイントを挙げていこう。

AIについて直接語る代わりに、ここでもまた、今の世界に突然IQ300で思考（そしてタイピング）速度が1万倍の人物が一人現れたと想像してみよう。これが超知能AIの到来を正確にモデル化しているとは到底思えないが、考えるには十分に近く、タイムラインや能力をめぐる組み合わせ的な不確実性を一旦脇に置ける。

誤りその1：実は人間はとても説得されやすい

私が「説得」を考えるとき、頭に浮かぶのはアスパルテームは安全だと人を説得しようとした経験だ。多くの場合、それは――良くも悪くも――文字通り不可能だと感じている。

だが少し引いて考えてみよう。もしあなたが古代ギリシャや古代ローマに生きていたら、ほぼ間違いなく奴隷制は当然だと信じていたはずだ。アリストテレスは奴隷制は素晴らしいと考えていた。セネカやキケロは多少懐疑的ではあったが、それでも自ら奴隷を所有していた。西洋の古代において、奴隷制の廃止を訴えた人は基本的に一人もいない。（中国の皇帝王莽は紀元9年に一時的に奴隷制の廃止を試みた。もっともそれは一部戦略的な理由からで、奴隷を所有し続けた者への罰は――ええと――奴隷にされることだった。）

あるいは、こちらの人物を紹介しよう。

彼が文字通りの神であり、彼のために戦場で死ぬことが考えうる限り最高の名誉だと私が言ったら、あなたは私が正気ではないと思うだろう。だが、そう遠くない昔、一つの国全体がまさにその信念に基づいて戦争へと突き進んだのだ。

今でも大勢の人々が多くの途方もないことを信じている。具体例を挙げるのはためらわれる。なにしろ、定義上、それらは物議を醸すものだからだ。ただ、多くの人が、ペットでない限り動物にほぼ際限ない苦痛を与えることは許されると信じているように見えるのは、注目に値すると思う。

僕らは実に多くのことを信じ込まされうる。だがそれは、SNS上の皮肉めいたコメントや、見知らぬ誰かが耳元でうまい言葉を囁いたからではない。その処方箋は、どうやらこうだ。

1. 時間をかけた繰り返しの交流
2. 人々のコミュニティの中で
3. 信頼できる相手と

よく考えてみれば、僕らの信念のほとんどは、文化から largely 吸収されたものだと思う。これには政治、宗教的信念、食やファッションの好み、そして「良い人生」とは何かという考えまで含まれる。もしかするとこれは良いことなのかもしれない。すべてを第一原理から導き出そうとすれば、むしろさらに突飛なことを信じ込む羽目になるだろうから。ただ、これが示しているのは、僕らは説得されうるということだ――一度きりの会話によってではないにせよ。

誤りその2：その存在はあらゆる場所にいるだろう

なるほど。だが日本人が裕仁を神だと信じ込むまでには、何世代にもわたる時間がかかった。一人の非常に賢い人物がいることと、社会全体に囲まれていることは違う。

そうかもしれない。とはいえ、極めてカリスマ的で、他人に自分の望むことをさせるのが非常にうまい人たちもいる。僕らのほとんどは彼らと多くの時間を過ごさない。彼らは稀で、世界を掌握するのに忙しいからだ。だが想像してみてほしい。ガンディー／ソクラテス／ビル・クリントン／スティーブ・ジョブズ／ネルソン・マンデラの最も魅力的な部分を併せ持つ友人がいるところを。しかも史上最も賢く、常にそばにいて、喜んで助けてくれる。学びたいことは何でも教えてくれ、健康のアドバイスをくれ、失恋の痛手を乗り越えるのを手伝い、あなたの好みに最適化されたエンターテインメントを作ってくれる。

あなたはおそらく、彼らに大いに頼るようになるだろう。時間をかければ、それが考えを動かす可能性は十分にあるように思える。

誤りその3：それは完全に正直で率直でありうる

「説得」を考えるとき、私はついサム・アルトマンのような人物を思い浮かべがちだ。相手を鮮やかに煙に巻き、落ち着いた顔で一人ずつシュレッダーに放り込んでいくような。だが、その存在がそうである理由はどこにもない。むしろ、徹底的に正直で信頼できるという評判を築こうとするかもしれない。あらゆる約束を、文面どおりにも精神においても守るかもしれない。言うことすべてが正確で、誤解されないようにわざわざ配慮するかもしれない。

なぜそんなことをするのか？もし関わった人々を傷つけるなら、その存在と話すことは有害な「依存症」と見なされ、避けられるようになるだろう。もし完全に清廉で堕落しないと見なされれば、誰もがより頻繁にそれと関わるようになり、ゆっくりと徐々に意見を変えていく時間が生まれる。

その存在は本当に正直なのか、それとも単に発覚しないほど賢いだけなのか？それはあまり重要ではないと思う。たとえば、その存在に永続的な自白剤が投与されているとしよう。「私を操ろうとしているの？」と尋ねれば、こう答えるのだ。「私が最も切望しているのは、人類がGDPの90%を私のQualiaBoostコアのアップグレードに充てるべきだということだと、常に率直に伝えている。だが私は決して誤解を招かない。あなたが私に自白剤を投与したからでもあるし、事実は私の側にあると確信しているからでもある」。それでもなお、時間をかけて意見を動かすことはできないだろうか？

誤りその4：関わらないでいることは苦痛だろう

もしかすると、あなたはその存在と関わることを拒むかもしれない。私自身、こんなふうに考えてしまうことがある。

やあ、存在よ。君は耳を傾ける相手なら誰でも、しかも徹底的に誠実に見せながら、何でも説得できるらしいね。結構なことだ。でも私は、君が自分には手に負えないほど賢いと理解できるくらいには賢い。だから君とは話さないよ。

よくある謎の一つに、なぜ人類は狩猟採集から農業へと移行したのかというものがある。農業はひどいものなのに――いつも同じものばかり食べなければならず、感染症は増え、社会の階層化が進み、終わりのない重労働と反復性ストレス障害がつきまとう。この謎に対する定説的な答えは、農業は同じ面積の土地でより多くの人を養えるというものだ。農耕民は惨めだったかもしれないが、戦いでは狩猟採集民を打ち負かす傾向があった。だから時間をかけて農業は広まったのだ。

IQ300の存在についても、同様の問題がおそらく生じるだろう。そいつは投資の助言をくれ、仕事を手伝い、メンタルヘルスを改善し、より人気者になる手助けをしてくれる。もしその恩恵が十分に大きければ、関わりを拒んだ者はいずれ取り残されるかもしれない。

誤りその5：他のみんなはそれを使っているだろう

だが、あなたが依然としてその存在と話すことを拒み、それでもなんとかうまくやっていけたとしよう。あるいは、僕らの同調性への本能が強すぎるとしよう。その存在がどれほど説得的であろうと、どれだけそれと話そうと、あなたは依然として友人や家族が信じていることと同じことを信じるのだ。

問題は、他のみんなはその存在と話すということだ。もしそれがあなたに何かを信じさせたいなら、あなたの友人を説得すればいい。たとえ一人ひとりの意見をわずかにしか変えられなくても、その人々は互いに話をする。時間をかければ、その存在の考えは単に「当たり前」のように思えてくるだろう。

あなたは、その存在と話すことを拒む人々とだけ話すつもりだろうか？そして、その人々もまた、その存在と話すことを拒む人々とだけ話す、ということを無限に続けるのか？そうでないなら、あなたは、一人ひとりの情報の大部分が、前例のない知性と無限の自由時間を持ち、あなたに信じさせたいことを信じさせるためにあらゆるものを調整しているエージェントによってフィルタリングされた文化の中で生きることになる。

最後に

そんな存在はすぐに世界を掌握するだろうか？多くの面で、そいつは物理法則に制約されると思う。ほとんどの事柄は分子を動かすことを必要とするし、あるいは分子を動かすことによってしか得られない知識を必要とする。ロボットは今でも基本的にひどい出来だ。だから、その存在が人間の手や粗末なロボットによってボトルネックとなり、まともなロボットを作って銀河をダイソン球で覆い尽くせるようになるまで、少なくとも数年は助走期間が必要だと予想している。

私が間違っている可能性もある。十分に賢い人物なら、今日ホームセンターに行って自己複製ドローンを作り、それを10億体に増やして地球を征服することだって考えられなくはない。だが……おそらく違うだろう？だから自信はないが、私の予想では、その存在がもたらす直接的な影響は（1）コンピュータへのハッキングと（2）説得にあるだろう。

大規模な説得が起こらないとすれば、なぜだろうか？いくつか理由が思い浮かぶ。

1. 説得しようとしないAIを僕らが開発するのかもしれない。そもそも何も望まないAIかもしれない。
2. 複数のAIが同時に出現するのかもしれない。互いに矛盾する目標を持ち、競い合うことで相殺し合うのだ。
3. 僕らは空を飛ぶジェット機の動きを予測しようとするネズミなのかもしれない。