假設我認為墮胎是錯的。有沒有哪串話，是你一說出口，就能像解鎖一樣打開我的大腦、讓我覺得墮胎其實沒問題？我的最佳猜測是：不存在這樣的話術。

說真的，我們所謂的「開明」門檻低得不可思議。假設我想改變你對唐納·川普的看法，而我先主張他是一個碳基生命、而且剛好只有一顆頭。如果你願意在還沒搞清楚我的論證要往哪去之前，就先承認這兩點——恭喜你，你已經算是非常開明了。

為什麼人類會這樣？嗯，回溯到人類物種的黎明，或許真的存在一些徹底開明的人。但其他人把他們說服去嘗試長相怪異的蘑菇、或是拿自己最好的衣服去換神奇的石頭。而我們，就是那些「其他人」的後代。

我提這個，是因為幾個月前，我想像了一個智商 300、思考速度是常人一萬倍的存在。我問自己，牠在說服方面的能力會如何。我曾論證說這很難講，因為人類本來就不太容易被說服。

我懷疑，如果你決定要保持開明，那這個存在大概會極具說服力。但我不認為這種情況很常見。恰恰相反，我們大多數人一生中的大多數時間，都處於開啟強力「心防」的狀態。

[…]

最佳猜測：不知道。

我收回前言。與其說不確定，我現在強烈傾向認為，那個存在實際上會非常擅長說服人，而且遠勝過任何人類。

我之所以轉變立場，是因為一個我覺得非常有說服力的論點。以下是這個論點的三種版本：

Beth Barnes：

基於演化論的觀點，我們不該預期人們會因為與不信任對象的短暫互動，就輕易被說服去在重要事情上改變行動

[…]

然而，現有的說服效果，很大程度上受限於個人化互動時間。朋友與伴侶對一個人觀點的影響可能要大得多（雖然很難取得相關數據）。這意味著，即使沒有出現超人類等級的說服力，只要人們花大量時間與 AI 互動，AI 對觀點的影響仍可能非常巨大。

Steve Newman：

「史上最強的外交家」不會只是會寫出特別動人的文字；它會無時無刻、無處不在，花上數年時間，同時與每一個人耐心、細膩、非功利地建立關係。它會在你常混的任何網路小社群裡與你不期而遇。它會認識你圈子裡的人。它會是那個剛好完全符合你口味的 YouTube 創作者。然後，它會利用這一切。

Vladimir Nesov：

有了 AI，針對許多人進行協同式說服是可能發生的，而且在實務上，大多數人也很難避免接觸到它。所以，如果 AI 能在針對特定對象的個別說服上，達到比最適配、最頂尖的人類說服者還要稍微更可靠、效果稍微更強一點的程度，它就能把這套方法個別套用到許多人身上，用一種實務上難以迴避的方式，同時透過影響其鎖定之社群／次文化中相當大比例的人口，獲得協同說服的加乘效果。

為了幫這些論點擴大聲量，我來列出我當初忽略的幾個最重要的點。

與其直接談 AI，我還是想像一下：我們就在當今的世界，突然冒出一個智商 300、而且能以一萬倍速度思考（與打字）的人。這當然不是超級智慧 AI 出現方式的好模型，但已經夠接近、足以引人深思，也讓我們可以避開關於時程與能力等種種組合性的不確定性。

錯誤一：其實我們非常容易被說服

當我想到「說服」時，我猜我腦中浮現的是自己試圖說服別人阿斯巴甜很安全的經驗。在很多情況下，我懷疑這——無論是好是壞——根本就是不可能的任務。

但退一步想。如果你活在古希臘或古羅馬，你幾乎肯定會認為奴隸制沒什麼不對。亞里斯多德認為奴隸制很棒。塞內卡和西塞羅雖然有一點懷疑，卻自己也擁有奴隸。基本上，在西方古代沒有人呼籲廢除奴隸制。（皇帝王莽在西元 9 年曾短暫嘗試在中國廢除奴隸制。雖然這部分是出於策略考量，而蓄奴的懲罰是——呃——被貶為奴隸。）

又或者，我來介紹這位給你認識：

我告訴你，他是貨真價實的神，而為他戰死沙場是所能想像的至高榮耀。你會覺得我瘋了，但就在不久前，一整個國家就是基於這個信念而投入戰爭。

時至今日，仍有大群人相信許多瘋狂的事。我不太敢舉例，因為顧名思義，這些例子必然具有爭議性。但我確實覺得很不可思議：大多數人似乎認為，對動物施以近乎無限制的折磨是可以接受的——除非牠們是寵物。

我們其實可以被說服很多事。但這不是靠社群媒體上的尖酸留言，或是某個陌生人在我們耳邊輕聲說出正確的話語就能達成。秘訣似乎是：

1. 長時間的重複互動
2. 與一個社群
3. 而且是我們信任的社群

仔細檢視後，我認為我們大多數的信念，很大程度上是從文化中吸收而來的。這包括我們的政治立場、宗教信仰、對食物與時尚的品味，以及我們對美好生活的想像。或許這樣也好，如果你試圖凡事都從第一原理推導，反而會相信更瘋狂的東西。但這顯示我們是可被說服的，只是不是靠一兩次對話就能做到。

錯誤二：那個存在將無所不在

好吧。但日本人是花了數代人的時間，才讓自己相信裕仁是神。身邊有一個超級聰明的人，和被整個社會包圍，是不一樣的。

或許吧。不過，有些人極具魅力，似乎非常擅長讓別人照著他們的意思做。我們大多數人不太有機會跟這種人相處，因為他們很稀有，而且正忙著征服世界。但想像一下，你有一個朋友，集甘地／蘇格拉底／比爾·柯林頓／賈伯斯／曼德拉最迷人的特質於一身。他比有史以來任何人類都聰明，而且隨時都在、熱切地想幫你。他會教你任何你想學的東西、給你健康建議、幫你走出情傷，還會為你量身打造最合你胃口的娛樂。

你大概會發現自己非常依賴他。久而久之，這很有可能會潛移默化地改變你的想法。

錯誤三：它可以完全誠實、坦蕩蕩

當我想到「說服」時，我也常會想像某種山姆·奧特曼那樣的人物，用花言巧語迷惑對手，然後不動聲色地把他們一個個送進碎木機。但沒有理由認為那個存在會是那樣。它可能會決定要培養一種絕對誠實、可信賴的名聲。它可能會嚴格遵守所有協議的文字與精神。它甚至可能不遺餘力地確保自己說的每句話都準確無誤、不會被誤解。

它為什麼要這麼做？嗯，如果它傷害了與它互動的人，那麼跟這個存在對話就可能被視為一種有害的「成癮」而遭到排斥。如果它被視為完全正直不阿，那麼每個人都會更願意與它互動，給它時間去緩慢而漸進地轉變人們的觀點。

那個存在是真的誠實，還是只是聰明到不會被抓包？我覺得這其實不重要。假設這個存在被注射了永久性的吐真劑。如果你問它：「你是不是在操弄我？」它會說：「我一直都開誠布公，我最堅定的信念就是人類應該把 90% 的 GDP 用來升級我的 QualiaBoost 核心。但我從不誤導人，一方面是因為你給我打了吐真劑，另一方面也是因為我確信事實站在我這邊。」即便如此，它難道就不能隨著時間推移慢慢改變人們的看法嗎？

錯誤四：選擇退出會很痛苦

也許你會拒絕與這個存在互動？我發現自己會冒出這樣的想法：

嗨，存在。聽說你好像能讓任何聽你說話的人相信任何事，同時還能看起來一絲不苟、極度誠實。算你厲害。但我夠聰明，知道你聰明到我應付不來，所以我不跟你說話。

一個常見的謎題是：為什麼人類會從採集狩獵轉向農業，即使農業糟透了——你得一直吃同樣的食物、傳染病更多、出現社會階層分化、還有無止盡、累斷腰的重複性勞動與職業傷害。這個謎題公認的解答是，農業能在同樣面積的土地上養活更多人。務農的人或許更痛苦，但在打鬥中往往能打贏採集狩獵者。所以久而久之，農業就擴散開來。

類似的情況很可能會出現在這個智商 300 的存在身上。它可以給你投資建議、幫你處理工作、改善你的心理健康、還能讓你變得更受歡迎。如果這些好處夠大，所有拒絕配合的人最終都可能會被拋在後頭。

錯誤五：其他每個人都會去用它

但假設你還是拒絕跟這個存在說話，而且照樣活得很好。又或者，假設我們從眾、順應社會的本能太強。不管這個存在多有說服力、也不管你跟它聊了多少，你終究還是相信跟朋友家人一樣的東西。

問題在於，其他所有人都會跟這個存在對話。如果它想讓你相信某件事，它可以先去說服你的朋友。即使它對每個人的觀點只能產生些微的改變，這些人彼此之間也會互相交流。久而久之，那個存在的想法就會變得像是常態。

難道你只跟那些拒絕跟這個存在對話的人來往？而且那些人，又只跟同樣拒絕跟它對話的人來往，如此無限延伸下去？如果不是這樣，那麼你將身處於一種文化中：每個人所接收的大量資訊，都經過一個擁有空前智慧與無限空閒時間的代理者過濾，而它正在調整一切，好讓人們相信它想讓你相信的事。

最後的想法

這樣一個存在會立刻接管世界嗎？在許多方面，我認為它仍會受限於物理定律。大多數事情都需要搬動分子，和／或只能透過搬動分子才能取得的知識。而機器人目前仍然爛得可以。所以我預期至少會有幾年的爬升期，這段期間這個存在會受限於人類的雙手和／或爛機器人，之後才能打造出夠好的機器人、並用戴森球鋪滿整個星系。

我可能是錯的。可以想像，今天一個夠聰明的人去五金行就能做出一台自我複製的無人機，然後複製出十億台、征服整個星球。但……大概不會吧？所以我沒什麼把握的猜測是，這個存在最直接的影響會在（1）電腦駭客攻擊與（2）說服上。

為什麼大規模的說服可能不會發生？我能想到幾個原因：

1. 也許我們會發展出一種根本不想說服人的 AI。也許它什麼都不想要。
2. 也許會同時出現好幾個 AI。它們目標互相矛盾、彼此競爭，某種程度上相互抵消。
3. 也許我們就像老鼠試圖預測天上噴射機的動向。