Blog Dice

Diseconomies of scale in fraud, spam, support, and moderation

Dan Luu

詐欺、垃圾訊息、客服與審核的規模不經濟

原文由 Dan Luu 于 發布，訂閱此部落格

如果我問自己一個問題，像是「我想買張 SD 卡，該相信誰會賣我真品而不是假貨，是 Amazon 還是我家附近的 Best Buy？」，答案當然是我比較信任家附近的 Best Buy1，而不是以販售假冒 SD 卡惡名昭彰的 Amazon。而如果我問我更信任誰，是我家附近口碑好的電子產品店（像是 Memory Express、B&H Photo 等），那我更信任這些在地名店。他們不只比較不可能 比 Best Buy 賣我假貨，就算真的賣了假貨，售後服務大概也會更好。

同樣地，假設我問自己一個問題，像是「在哪個平台上我遇到詐騙、垃圾訊息、造假內容等的機率比較高，是[較小的平台]還是[較大的平台]？」答案通常是[較大的平台]。當然，小平台總數更多、差異也更大，所以我刻意去找一個很爛的小平台，自然可能比大平台更糟，但如果我是在每個規模等級裡都挑好的選擇來比，一般來說較小的平台表現比較好。舉例來說，Signal 對上 WhatsApp，我從來沒在 Signal 上收過垃圾訊息，但在 WhatsApp 上卻會不時收到。或者比較我會去看科技內容的地方，如果把沒人聽過的超小型論壇拿來跟 lobste.rs 比，lobste.rs 的不良內容比例（指的是我看到的訊息中有多少是垃圾，而不是絕對數量）會稍微高一點，因為私人論壇是零，而 lobste.rs 是很低但不是零。接著如果把 lobste.rs 拿去跟稍微大一點的平台比，像是 Hacker News 或 mastodon.social，那些平台的詐騙／垃圾訊息／造假內容比例又會再稍微高一點。接著再跟中型社群平台比，像是 reddit，不良內容的比例就明顯高出許多，已經到了有感的程度。再把 reddit 拿去跟 YouTube、Facebook、Google 搜尋結果這種超大型平台比，這些更大平台的詐騙／垃圾訊息／造假內容比例又更高。而且跟買 SD 卡的例子一樣，平台越大，獲得像樣客服的機率就越低。萬一帳號被誤停權或封鎖，帳號能夠恢復的機率也會隨著平台變大而變差。

我覺得，說平台越大很多事情就越糟，應該不算什麼有爭議的說法。舉例來說，當我在 Twitter 上做了一次民調，想看看跟我有點關連的人怎麼想，只有 2.6% 的人認為大型企業的平台在內容審核與防垃圾／防詐騙的過濾上做得最好。作為對照，在另一份民調中，有 9% 的美國人說疫苗會植入晶片，有 12% 說登月是假的。雖然這是不同族群，但看起來隨機抽樣的美國人相信登月造假的比例，都比科技圈的人相信最大型企業的防詐／防垃圾／審核做得最好還要高。

不過，在過去五年裡，我注意到越來越多人主張完全相反的說法，認為只有大公司才能做好內容審核、垃圾訊息過濾、詐欺（與仿冒品）偵測等等。我們在檢視搜尋結果時就看過一個例子，當時一位 Google 工程師說：

有人試圖主張，如果搜尋市場競爭更激烈，有許多小型業者而不是只有三家大型業者，那麼它反而會 *更* 能抵抗基於機器學習的 SEO 濫用。

然後……拜託，如果連 *Google* 現在都跟不上，那只有 5% 市占率的小咖要怎麼做到？

而一位意見領袖回應道：

大概 95% 的情況下，當有人聲稱某家小型獨立公司能在某件困難的事上做得比市場龍頭更好，那只是在自我安慰。規模經濟可是很管用的！

但當我們實際去看結果，發現我們檢視的搜尋引擎中，市占率 0.0001% 先生對 SEO 濫用的抵抗力最強（而且表現相當不錯），0.001% 先生也有一點抵抗力，而 Google 和 Bing 則完全被 SEO 濫用淹沒，常常直接把人導向各種詐騙。電子郵件也有類似的情況，我常聽到有人說因為垃圾郵件負擔太重，自己架郵件伺服器是不可能的，但其實很多人一直在這麼做，而且效果常常跟 Gmail 差不多甚至更好，主要的問題反而是跟大公司的郵件伺服器互動時，對方會錯誤地封鎖他們的小伺服器。

我開始大量看到那種聲稱做審核、防垃圾、防詐騙等需要規模的言論，大約是在Zuckerberg 回應 Elizabeth Warren 主張拆分大型科技公司，聲稱拆分科技公司會讓內容審核問題大幅惡化時，說了這段話：

Zuckerberg 說：「問題在於，拆分這些公司，不管是 Facebook 還是 Google 或 Amazon，其實並不會解決問題。而且，你知道，這不會讓選舉干預變得比較不可能。反而會變得更可能，因為現在公司之間無法協調合作。這也不會讓仇恨言論或類似問題變得比較不可能。反而會變得更可能，因為現在……我們正在建立和投入的所有流程，現在會變得更零碎。」

「這就是為什麼 Twitter 沒辦法做得跟我們一樣好。我的意思是，他們面對的問題在本質上是同一類。但他們沒辦法投入那樣的資源。我們在安全上的投入比他們整家公司的營收還多。[笑聲] 而且沒錯，我們的規模更大，但並不是說他們面對的問題在本質上有所不同。他們遇到的所有類型的問題跟我們都一樣。」

這種論點是說，要做好審核需要大量資源，而較小的公司，像是 Twitter 這種規模的公司（當時市值約 300 億美元），無法調動足夠的資源來做好審核。我當時覺得這個說法很好笑，因為在 Twitter 被收購之前，我在 Facebook 上看到明顯詐騙內容的頻率遠高於 Twitter。舉例來說，在節慶購物季時我點開 Facebook 廣告，大多都是詐騙，雖然 Twitter 也有詐騙廣告，但根本無法跟 Facebook 相提並論。而且不只是我有這種感覺——設計過 Facebook 早期檢舉系統、並主導過多項信任與安全工作的 Arturo Bejar 也注意到了類似的情況（詳見註解）2。

Zuckerberg 似乎很喜歡上面這種論調，他也在其他地方提過類似的說法，例如這裡，那是同一年，而就在那一年 Meta 的內部文件顯示他們每天讓 10 萬名未成年人暴露於性虐待影像之中：

在某種程度上，當我還在宿舍房間創業時，我們顯然不可能有 1 萬人或 4 萬人在做內容審核，而且當時的人工智慧能力根本不存在，無法主動找出大量有害內容。在過程中，隨著我們變成一家更大的企業，某個時間點開始才變得有可能去做更多這方面的事。

這裡的修辭手法在於，假設 Facebook 在 Zuckerberg 的宿舍時期就需要 1 萬或 4 萬人來做內容審核。事實上，比宿舍時期的 Facebook 大一點的服務，用一位審核員——而且常常還是兼職——就能做到比現在的 Facebook 更好的審核。但隨著人們開始更認真討論對大型科技公司採取真正的反壟斷行動，科技大廠的創辦人和高層也加大了反反壟斷的論述，聲稱如果把最大的公司拆到 2015 年或 2010 年最大科技公司的規模，人類將會遭遇各種災難。這種推理似乎有點奏效，因為我看到越來越多大公司的員工也提出非常相似的說法。從 1979 年 IBM 訓練手冊上寫著

電腦永遠不能被追究責任

因此電腦絕不能做出管理決策

我們已經走了很長一段路。現在的論點是，對於許多關鍵決策，只有電腦才能做出大部分的決策，而缺乏究責似乎終究被視為一種特性，而非缺陷。

但不幸的是，對於 Zuckerberg 的論點來說3，至少有三個主要問題屬於規模不經濟主導的領域。其一是，對於那些幾乎所有人都能認定為不良的內容（例如比特幣詐騙、假藥品垃圾訊息、假天氣預報、成人傳送生殖器照片給兒童等），大型平台的表現比小型平台更差。其二是，對使用者而言，隨著公司變大，錯誤的代價更高、也更難修正，因為客服通常會變得更糟。其三是，隨著平台規模擴大，會有更大比例的使用者強烈反對平台應該允許什麼內容。

就第一點而言，雖然大公司確實擁有更多資源，但那種「雞尾酒會式想法」——認為他們因為資源最多所以審核一定最好——會被另一個同樣簡化的想法所抵銷：他們的審核最差是因為他們是最肥美的目標，或是因為隨著組織與問題領域擴大，標準的規模不經濟導致更嚴重的破碎化。究竟是資源更多還是其他因素占上風，太複雜而無法純粹從理論上推斷，但我們可以從實證結果來觀察。至少以大公司實際選擇投入在審核、垃圾訊息等方面上的資源水準來看，成為更大目標以及其他與規模相關的問題占了上風。

雖然這些公司獲利極高，完全有能力投入足夠資源來大幅減輕這個問題，但他們選擇不這麼做。舉例來說，在我寫下這句話的前一年，Meta 到 2023 年 12 月為止的稅前獲利是 470 億美元。如果 Meta 有像我一位朋友曾任職的電力公司那樣的內部願景宣言（「世代提供可靠、低價的能源。」），並像那家電力公司一樣運作，努力為使用者創造好的體驗，而不是極大化獲利加上打造元宇宙，他們大可把花在元宇宙上的 500 億美元拿去投入審核平台與技術，然後再用一年 3 萬美元（在現今大多數聘用審核員的國家，這已經算是非常好的收入，足以讓他們挑到想聘的人）聘請 160 萬名額外的全職人員來處理申訴與客服，平均每幾千名使用者就多一位審核或客服人員（當然，管理這麼多人同樣有規模不經濟的問題）。我並不是說 Meta 或 Google 應該這麼做，只是每當有大型科技公司的人說類似「這些系統必須完全自動化，因為沒有人負擔得起在我們這種規模下用人工系統來營運」這種話時，真正的意思比較接近「如果我們聘請足夠多有能力的人來人工審查那些系統應該標示為模稜兩可的案件，我們就無法一年賺那麼多幾十億美元的獲利，所以我們只能接受在不犧牲獲利的前提下能做到的程度」。4 你可以為這種選擇辯護，但它就是一種選擇。

同樣地，關於規模經濟優勢的說法也是如此。有些領域的規模經濟確實讓使用者體驗變得更好。舉例來說，當我們探討為什麼很難買到好用的東西時，我們提到 Amazon 的規模經濟讓他們得以打造自己的包裹配送服務，雖然有缺陷，但仍比其他可得的選擇更可靠（而且自從他們加入讓使用者為每一次配送評分的功能後——這是其他主要包裹配送業者都沒有的——這點只有變得更好）。同樣地，Apple 的規模與垂直整合讓他們得以打造出史上最強的效能團隊之一（以相對於同時代競爭對手的標準化效能來衡量），不只在跑分上輾壓對手，也在一些直到最近才有人真正去量測的面向提供更好的體驗，例如裝置延遲。再舉一個更日常的規模經濟例子，像餅乾這類易於運送的食物在 Amazon 上比在我家附近的超市還便宜。很容易就能舉出規模經濟對使用者有利的地方，但這不代表我們就該假定在所有領域都是規模經濟壓過規模不經濟。雖然這超出了本文的範圍，但如果要討論使用者在公司變大或變小時是否過得更好，我們應該去看當公司變大時，哪些東西變好了、哪些變糟了，而不是只因為有些東西變好了就假定所有東西都會變好（反之亦然）。

回到那個「大公司擁有最多資源來投入審核、垃圾訊息、防詐騙等」的論點，對照現實是他們選擇把資源花在別處，像是砸 500 億美元在元宇宙上，而不是去聘請他們本來負擔得起的 160 萬名審核與客服人員，這時去看實際投入了多少努力就很有意義。Meta 在緬甸的案例就是一個很好的個案研究，因為 Erin Kissane 寫了一份相當詳盡的長達 4 萬字的事件始末。整個事件非常龐大複雜（詳見附錄），但就本文的主題而言，關鍵在於這是一個大多數人普遍會同意應屬最高優先級的審核與客服問題，而且儘管 Meta 內部各層級（工程師、總監、副總、高層等）一再收到極為嚴重且緊急的警告，幾乎沒有資源被投入此事，內部文件顯示他們的系統只抓到了約定好屬於不良內容的一小部分（大約只有幾個百分點）。我認為這並非 Meta 獨有，這也符合我作為這些大型科技公司產品的使用者以及員工的經驗。

舉一個規模較小的例子，我有位認識的人 Facebook 帳號被盜，現在正被用來做比特幣詐騙。這位朋友叫 Samantha K.，但詐騙者做詐騙做到連她的名字都沒看清楚，一直在產生非常明顯造假的照片，照片裡有人舉著牌子說明「Kamantha」如何幫他們賺了數萬甚至數十萬美元。這是「駭客」常見的手法，而我在 FB 上認識的另一位朋友也回報過帳號被盜的情況，他們至今無法取回舊帳號，甚至無法讓那個不斷張貼明顯詐騙內容的帳號被停用。

相比之下，在 lobste.rs 上，我從來沒看過這種詐騙，而站長 Peter Bhat Harkins 說據他所知他們從來沒有發生過。在 Mastodon 上，我想我可能在動態、回覆或提及中看過一次。當然，Mastodon 規模已經大到如果你刻意去找，還是能找到一些詐騙，但以每則訊息和每位使用者的比例來看，已經低到一般使用者正常使用時不該會遇到。在 Twitter（被收購前）或 reddit 上，就比較常見，或許平均每幾週在我的正常動態中就會看到一次。在 Facebook 上，我則一直看到這類東西；每到購物季就會收到明顯的詐騙商品網站，而比特幣詐騙，無論是來自廣告還是帳號被盜，則是全年無休。許多人表示他們已經懶得再檢舉這類詐騙，因為他們發現 Facebook 對他們的檢舉根本不採取行動。同時，Reuven Lerner 卻因為開設 Python 和 Pandas 課程而被禁止在 Facebook 投放廣告，似乎是因為 Facebook 的系統「認為」Reuven 是在宣傳跟動物交易有關的東西（而不是程式設計）。這就是 Zuckerberg 所說沒有任何較小公司能匹敵的審核與垃圾訊息管控的精準度。順帶一提，我並不是要特別針對 Meta；如果你想要口味稍微不同的例子，可以看看附錄中的一百個 Google 自動化系統出包的例子。

之所以說這終究是個實證問題，原因在於，所有那些關於規模經濟如何讓大公司能投入更多資源來解決問題的說法，只有在公司真的選擇投入那些資源時才有意義。並沒有什麼理論上的力量會迫使公司把資源投入這些領域，所以我們無法從理論上推斷。但我們可以觀察到，實際投入的資源根本不足以應付問題，即使是在大家普遍會認為應該明顯列為最優先的問題上，例如 Meta 在緬甸的情況。當然，對於那些優先性比較不明顯的問題，資源同樣沒有投入。

第二個問題是客服，在科技圈裡有個哏，就是作為大型平台的使用者，唯一能獲得客服的辦法就是發一篇爆紅的社群貼文，或是剛好認識內部的人。這讓審核不佳、詐騙偵測、防詐騙等問題更加惡化，因為如果客服做得好，這些問題本來是可以被緩解的。

一般的客服管道根本是個笑話，你要嘛收到罐頭制式拒絕信，要嘛經歷一場卡夫卡式的惡夢，最後還是收到制式拒絕信。舉例來說，當Adrian Black 因為冒充 Adrian Black 而被 YouTube 停權時（說清楚一點，他是因為冒充他自己，而不是冒充同名的其他人而被停權），在申訴後，他收到的回覆是：

很抱歉，我們這邊能做的就到此為止。你的帳號停權與申訴已經經過非常仔細的審查，決定是最終的。

在另一個 Google 客服的故事中，Simon Weber 為了取得報稅所需的資料而被 Google 客服耍得團團轉

自 2018 年 4 月以來（這篇寫於 2020 年 9 月），擴充套件的會計資料匯出對我（我認為對所有擴充套件商家都是）一直是壞的。我必須請紐約州檢察長寫信給他們，他們才真的回覆我的客服請求，讓我得以正確報稅。

還有一次，YouTube 一直把 PointCrow 用筷子吃水的影片取消營利（他反覆用筷子沾水然後喝掉，非常緩慢地吃完一碗水）。

儘管對方回覆了像是：

對於那個錯誤以及來來回回的溝通，我們深感抱歉，我們已經跟團隊談過以確保不再發生

他還是會再次被取消營利，而申訴一開始總是會得到標準的客服回應策略，聲稱他們已經非常仔細地審查了相關違規，但很遺憾，使用者顯然違反了政策，因此無能為力：

我們已審查你的申訴……我們已仔細審查你的內容，並確認它違反了我們的暴力或血腥內容政策……我們的職責是確保 YouTube 對所有人來說都是安全的地方

這些是高知名度的例子，但當然，就算你沒什麼知名度，一樣會被封鎖並收到幾乎一樣的罐頭回覆，就像這位在 FB 市集上賣吸塵器就被封鎖的 HN 使用者。在多次申訴後，他被告知：

很遺憾，你的帳號因違反社群守則而無法恢復。此審查為最終決定。

當付費客服是可選的時候，人們常說付費就不會有這些問題，但使用 Google One 付費客服或 Facebook 與 Instagram 付費創作者客服的人通常回報說，付費客服跟免費客服一樣糟。那些實質上內建付費客服的產品也不一定比較好。我認識一些人，即使他們任職的公司一年在 Google Cloud 上花費高達八位數甚至九位數美元，得到的卻是跟免費 Google 客服一樣的推託。我知道的眾多例子之一是，使用者發現 Google 顯然在丟封包，而 Google 客服卻一直堅稱丟包是發生在客戶的資料中心，儘管封包追蹤顯示這根本不可能。據我最後聽到的消息，他們放棄了那個問題，但有時候當問題是完全阻斷性的，有人會打電話給他在 Google 的朋友來獲得支援，因為標準客服常常完全無效。而這並非 Google 獨有——在另一家雲端廠商，我的一位前同事曾在一場會議中，聽到一位非常資深的工程師被要求去調查一個客戶抱怨每小時有好幾次、每次持續數秒、100% 封包丟失的問題。該名工程師回應了類似「這就是雲端，他們應該自己處理」的話，之後才被告知不能像平常那樣置之不理，因為這個問題是來自[重要客戶]，而且正在中斷[全球最大型轉播的體育賽事之一]。那個問題後來修好了，但機率是，就算你一年付好幾億，你也沒那麼重要。

當然，這種客服並非雲端廠商獨有。舉例來說，有一次 Stripe 無故扣留客戶 40 萬美元超過一個月，而每次向客服詢問，得到的回覆都跟我們剛剛看到的一樣荒謬。該使用者用上了唯一可靠的 Stripe 客服機制——發文到 HN 並希望能衝上首頁第一名——這招奏效了，雖然許多留言者還是說了像是「已檢舉，因為我們在 HN 上看到很多這類貼文，感覺像是試圖詐騙式地操弄客服，而不是真實故事」之類的話，有好幾個人暗示或影射該使用者做了什麼非法或詐欺行為，但結果證明這是 Stripe 端的錯誤，加上 Stripe 大公司式客服所導致的 compounded 問題。該使用者在某個時間點提到：

在我寫 HN 貼文的同時，我也在跟 Stripe 線上客服聊了一個多小時。沒有任何新資訊。他們基本上就是想把我打發掉，直到我把 HN 的貼文傳給他們，讓他們看到已經有點熱度了。然後他們才又開始處理我的問題，並試著跟更多人聯繫。

然後問題在隔天就被修好了。

雖然原則上，隨著公司變大，他們可以利用規模經濟來提供更有效率的客服，但實際上，他們傾向利用規模經濟來提供更差、但更便宜、更有利可圖的客服。舉例來說，關於 Google Play 商店的審核客服，一位 Google 員工提到：

很多這類工作都被外包到海外，導致回應時間變慢很多。在美國這邊我們有很多指標要求快速回應。通常你的 App 當天就會被審查。不確定現在如何，但當時的管理階層就算在那時也很無能。

而一位前 FB 客服人員提到：

這裡最大的問題是分工。那些花最多時間在排隊處理案件的人，對政策的影響力卻最小。分析師可以把問題上報給 QA，QA 再上報給 Facebook 正職員工。問題要被處理可能要花上數月，就算有被處理的話。最糟的是，照常識去做、落實政策的精神而非字面，反而會對你的品質分數造成負面影響。我常常想到，在我任職期間的某幾個月裡，由於某個粗心措辭的政策「澄清」，大多數殘害動物的照片在沒有警告畫面的情況下就被允許出現在平台上，而我們對此無能為力。

如果你曾好奇為什麼你的客服人員回覆得牛頭不對馬嘴，有時候原因很明顯，就是客服被外包給時薪約 1 美元（當我去查某個承接大量外包的國家的標準費率時，一個相當常見的費率換算下來約為時薪 1 美元）、不太會說你的語言、照著流程圖照本宣科、對自己支援的系統一無所知的人，但另一個比較不明顯的原因是，客服人員如果照常識去做、而不是照著眼前那份荒謬的流程圖行事，反而可能會被懲處甚至被開除。

回到那則「他們似乎是試圖詐騙式地操弄客服，而不是真實故事」的留言，這是我在那些實施武斷、反覆無常封鎖的公司工程師身上常見到的心態。我能理解人們為何會變成這樣。如同我在加入 Twitter 之前，針對公開資訊所評論的

結果顯示 Twitter 每天移除約 100 萬個機器人帳號。Twitter 只有約 3 億月活躍用戶，使得容錯率非常低。這似乎是個非常困難的問題……Gmail 的垃圾郵件過濾器大概每正確分類 1000 封正常郵件會出現 1 次誤判……如果用同樣的比例定期清除同樣比例的真實使用者，那會很糟糕。

確實，如果你這位工程師深入去看某家巨頭公司的申訴佇列，看看那些對封鎖提出申訴的人，幾乎所有的申訴都應該被駁回。但是，根據我跟從事防詐騙系統等工作的工程師聊過的經驗，許多人，甚至可能是大多數人，會把「幾乎所有」四捨五入成「所有」，而這在量和質上都是截然不同的。讓負責這些系統的工程師相信「所有」而非「幾乎所有」的判斷都是正確的，會給使用者帶來很糟的體驗。

舉例來說，有一家社群媒體公司以錯誤封鎖使用者而惡名昭彰（我認識的人中至少有 10% 曾因錯誤封鎖而失去帳號，而且如果我隨機搜尋一個不認識的人，很有可能會找到他的多個帳號，其中最新的那個個人檔案上寫著「以前是 @[某個舊帳號]」，舊帳號到新帳號之間沒有任何轉址，因為舊帳號已經被封了）。當我遇到該團隊的一位資深工程師並問他為何那麼多正當使用者被封鎖時，他跟我說了類似「那不是問題，真正的問題是我們封得不夠多。每個被封的人都是罪有應得，不值得去聽申訴或思考申訴」的話。當然，在每個公開平台上，大多數內容確實都是不良內容、垃圾訊息等，所以如果你對某個東西是否為不良內容有任何一點訊號，當你去看它時，它很可能是不良內容。但這不代表反過來「幾乎沒有使用者是被錯誤封鎖的」就是對的。而如果負責判斷哪些內容屬於不良的團隊中的資深人員抱持著「我們不必擔心誤判，因為幾乎所有被標記的內容都是不良的」這種態度，最後就會產生一個誤判率很高的系統。我後來四處打聽，看看在降低詐騙偵測系統誤判方面做過什麼，結果發現根本沒有任何系統性的追蹤誤判的機制，也沒有辦法去計算員工提出內部工單來推翻錯誤封鎖的案例數等等；在後設層面上，有某種機制可以降低漏判率（例如有人看到不良內容沒被抓到，就加上某個規則來抓更多不良內容），但由於完全沒有對誤判的追蹤，實際上就沒有任何機制可以降低誤判率。難怪這個後設系統導致我認識的人中有超過 10% 被錯誤停權或封鎖。而如 Patrick McKenzie 所說，最佳的誤判率並不是零。但當你有一群工程師抱持著「我們已經做了足夠的功課，誤判是不可能的」這種態度時，幾乎可以保證誤判率會高於最佳水準。再加上一般大公司的客服水準，就成了使用者卡夫卡式體驗的配方。

另一次，我針對 Uber 宣布的一項審核政策變更發表評論，認為它似乎很可能會導致誤判封鎖。一位 Uber 的技術主管立刻出面糾正我，說我對封鎖機制做了無根據的假設，Uber 的工程師非常努力地確保不會有誤判封鎖，有廣泛的審查來確保封鎖是有效的，而且事實上，我所擔心的那種誤判封鎖絕不可能發生。然後我就因為詐騙偵測系統的誤判而實質上被封鎖了。當 Uber 錯誤封鎖一位司機，而該司機必須上法院才能取得為何被封鎖的資訊，此時 Uber 才終於真正去調查（而不是只用那種假稱已調查過的罐頭訊息來回覆申訴），讓我想起了那次事件。事後，Uber 對媒體詢問回應說：

我們很失望法院沒有認可我們所擁有的健全流程，包括在因涉嫌詐騙而停用司機帳號時所進行的有意義的人工審查。

當然，在那位司機的案例中，根本沒有什麼健全的審查流程，也沒有健全的申訴流程——就跟我的案例一樣。當我聯繫客服時，他們根本沒仔細讀我的訊息，還做了某個改動讓我的帳號比之前壞得更徹底。幸好我在 Twitter 上有足夠的追蹤者，一些 Uber 工程師看到了我關於此事的推文並幫我解除了封鎖，但這不是大多數人能有的選項，這也導致了各種怪事，例如這則針對 Google 員工投放的 Facebook 廣告，來自一位拚命想為自己的 Google 帳號尋求協助的人。

而且就算你在內部認識人，也不一定容易把問題修好，因為即使公司的效率沒有隨著規模變大而提升，系統的複雜度卻會增加。這方面一個很好的例子是Gergely Orosz 提到當支付團隊的主管離開 Uber 後，卻因為某個難以理解的機器學習防詐騙演算法判定這位前支付團隊主管涉及支付詐騙而被 Uber 封鎖的故事。他們花了六個月試圖解決問題才緩解狀況。而且，順帶一提，他們從來沒搞懂到底發生了什麼、也沒修好根本原因；相反地，他們把這位前支付團隊主管加入了特殊白名單，沒有為任何其他使用者解決問題，而且大概也大幅降低、甚至完全移除了該帳號的支付詐騙防護。

毫無疑問，如果修好根本原因很容易，他們早就修了，但隨著公司規模擴大，他們同時產生了技術上與非技術上的官僚體系，讓系統對員工而言也變得晦澀難懂。

另一個例子是，在一家擁有排序動態時報的公司，曾流傳一種說法：只要加入像是 timeline_injection:false、interstitial_ad_op_out 等過濾器，就能消除排序動態中你不想看到的東西。這招第一次爆紅時，許多工程師去研究並認為這些小技巧沒用。他們不是百分之百確定，而是依賴像是「沒人記得曾有系統會做這種事」、「如果你在程式碼庫中搜尋這些字串，根本找不到」、「我們看了那些我們認為可能會做這件事的系統，發現它們似乎沒這麼做」之類的想法。大家有中等程度的信心認為這招沒用，但沒有人敢斷言這招一定沒用，因為就像在所有大型公司一樣，系統的整體行為已經超出人類的理解範圍，甚至連那些可以被理解的部分也常常沒被理解，因為還有其他優先事項。

幾個月後，這招又再次爆紅，大家在被問到是否為真時，通常會引用上次的調查結果，除了有一個人真的去試了這招並回報說有用。他在 Slack 上發了一則訊息說這招對他確實有用，但幾乎沒人注意到那位唯一實際去重現的人發現它有用。之後當這招再次爆紅時，大家又會指向那些認為這招沒用的討論，而那則指出它似乎有用的訊息（幾乎可以肯定不是使用者以為的那種機制，而是因為有一長串過濾器導致某個東西逾時，或類似的原因）基本上就淹沒在資訊海中，因為資訊太多，根本沒人能全部看完。

在我的社交圈裡，很多人讀過 James Scott 的《Seeing Like a State》，副標題是《某些改善人類世界的計畫如何失敗》。書中一個關鍵概念是「可讀性」（legibility），也就是國家能看見什麼，以及這如何扭曲國家的作為。人們很容易就能寫一本高度類似的書，叫做《Seeing like a Tech Company》，談的是以現今公司的營運方式，規模化後有哪些東西對公司而言是不可讀的。一個簡單的例子是，在許多電玩遊戲中，包括那些隸屬於市值 3 兆美元公司的遊戲工作室所做的遊戲，只要有一群人檢舉某個帳號行為不當，就很容易讓該帳號被停權或封鎖。對遊戲公司而言可讀的是檢舉率，而不可讀的是玩家的實際行為（它本來可以是可讀的，但公司選擇不聘請足夠多或夠專業的人去檢視實際行為）；也有許多人回報在社群媒體公司遇到類似的封鎖情況。當涉及到像防詐騙系統這類東西時，對公司而言可讀的東西，往往對人類來說卻不可讀，甚至連在防詐騙系統上工作的工程師也一樣。

雖然他並不是特別在談防詐騙系統，但在特殊主事官制度（Special Master's System）中，身為 Facebook 董事的 Eugene Zarashaw 曾做出這番評論，說明了 Facebook 自家系統的不可讀性：

要追蹤資料流向究竟在哪裡，需要廣告那邊的多個團隊。我會很驚訝如果有任何一個人能對那個狹窄的問題給出確切的答案。

Facebook 因為這句話而被不公平且大多出於無知地嚴厲批評（我們會在附錄中討論），但一般來說，要理解像 Facebook 這種規模的系統如何運作確實很困難。

原則上，公司可以透過讓薪資合理的客服人員去調查那些可能是邊緣案例、後果嚴重、系統「誤解」實際情況的問題，來增強其晦澀系統的可讀性，但實際上，公司給這些客服人員極低的薪資，聘請那些真的不了解狀況的人，然後給他們一套確保他們通常無法解決可讀性問題的指示。

讓不可讀性的力量在規模化時占上風的一個因素是，作為這些巨頭公司的高薪員工，很容易把外面那數百萬或數十億的人（以及機器人）都看成數字。俗話說「一個人的死亡是悲劇，上百萬人的死亡是統計數字」，而如我們所提到的，工程師常常會把「幾乎所有 X 都是詐騙」這種想法轉成「所有 X 都是詐騙，所以乾脆把所有做 X 的人都封掉，不用看申訴」。現代科技公司那種不惜一切尋求可擴展解決方案的文化，讓這種情況比同等規模的其他產業更糟，而科技公司又擁有前所未有的規模。

舉例來說，回應有人指出 FB 廣告管理員聲稱可以在美國針對 18 至 34 歲族群投放觸及 1.01 億人的廣告，而美國人口普查顯示 18 至 34 歲的總人口只有 7600 萬人時，前廣告定向團隊的產品經理回應說：

要用 FB 的規模來思考

並解釋說，你不能期待像美國 18 至 34 歲這種人口統計的切片查詢在「FB 規模」下能正常運作。在 Google 內部有個被反諷使用的哏，在這種情況下人們會說「我沒辦法算那麼小的數字」。這裡，前 FB 廣告產品經理卻是非反諷地說，對於像 1 億這種數字，「FB 沒辦法算那麼小的數」。FB 不只不在乎任何個別使用者（除非他們是名人），這位產品經理聲稱他們甚至懶得在乎像 1 億人這種群體是否被準確追蹤。

回到糟糕客服的後果，常見的一種回應是，聽到有人被這些大型服務錯誤封鎖時會說：「活該！你幹嘛還要用 Uber／Amazon／什麼的？他們爛透了，根本沒人該用他們。」我不同意這種推理。首先，憑什麼由你來決定那個人該不該使用某個服務、或什麼對他才是好的？再者（這個主題大到應該另寫一篇，所以我只在此簡短提及，並附上 @whitequark 這篇較長的留言），大多數被人們輕描淡寫為「不過是不必要的方便，你乾脆別用就好」的服務，對於相當多的人來說，其實是嚴重的無障礙問題（以絕對數量而言，不一定是比例）。當我們談的是小商家時，那些人通常可以轉向另一家商家，但對於像 Uber 和 Amazon 這類服務，有時根本沒有或只有一個能提供類似便利性的替代方案，而當只有一個時，因為某個隨機系統誤判而被封鎖的情況，也可能發生在另一家服務上。舉例來說，針對許多人評論說遇到 DoorDash 未送達時就直接退單、被封鎖也無所謂，一位身障使用者回應道：

我有身心障礙。沒有駕照也沒有車。我公寓附近沒有公車站，我其實是靠復康巴士去上班，但那必須提前一天預約。Uber 也會搞同樣的爛事，所以我得在 Uber、DoorDash 和 GrubHub 之間輪流用，看誰有優惠券、最近誰又沒偷我的錢。不是每個人都能直接出門去取餐。

而且，當談到這類問題時，參與往往不是自願的，例如這個因 Fujitsu 的錯誤而讓人被錯誤關進監獄的案例。

第三個問題是，人們不可能對什麼構成垃圾訊息、詐騙和其他被禁止的內容達成一致，我們在此已詳細討論過。我們看到，即使在一個單一、無爭議、簡單的規則這種微不足道的案例中，人們也無法對什麼是被允許的達成一致。而隨著你加入更多規則、或加入有爭議的主題、或擴大使用者人數，要對什麼應該被允許達成一致就變得更加困難。

回顧一下，我們看了三個領域，其中規模不經濟讓審核、客服、防詐騙與防垃圾訊息隨著公司變大而變得更糟。第一個是，即使在大家普遍同意某事是不良的情況下，例如詐騙／釣魚網站與搜尋，擁有最精密機器學習的最大型公司，實際上無法跟上在小型搜尋引擎上單打獨鬥（儘管非常熟練）的一個人。對詐騙者而言，拿下最大平台的報酬要高得多，導致防垃圾／防詐騙等問題的難度呈現極度非線性的成長。

為了感受一下規模的差異，HN 會對垃圾訊息發文者以及發表某些惡毒言論的人進行「地獄封鎖」（hellban）。大多數被地獄封鎖的垃圾訊息發文者似乎沒意識到自己被封了，還會繼續發文，所以如果你在登入狀態下瀏覽「最新」（newest）投稿頁面，你會看到一股穩定的、來自這些被地獄封鎖使用者的被自動砍掉的故事。雖然數量不少，但比例通常遠低於一半。當我們看像 2017 年左右的 Twitter 這種「中型」大型科技公司時，根據公開數據，如果垃圾機器人是被地獄封鎖而不是被移除，那麼你所能看到的將全是垃圾訊息。而以大型公司來說，2017 年的 Twitter 還不算特別大。如我們也提到的，前 FB 廣告定向產品經理曾解釋，像 1 億這種數字已經屬於「我沒辦法算那麼小的數」的範圍，太小而不值得在乎；對他來說，基本上就是四捨五入的誤差。這種難度的非線性差異，對於像 FB 或 Google 這樣的公司來說更為嚴重。這種問題難度的非線性，顯然超過了 Zuckerberg 和其他科技高層想拿來吹噓的任何機器學習或人工智慧技術所能應付的程度。

在國會作證時，你會看到高層用像是「我們能以 95% 的準確率識別 X」這種說法來為這些系統在大規模下的有效性辯護，這句話在技術上可能是正確的，但似乎是刻意設計來誤導那些被假定為對數字不敏感的聽眾。如果你以個人規模的事物作為參照，95% 聽起來可能相當不錯。即使以 HN 的規模來看，95% 準確率的垃圾訊息偵測並立即封鎖或許還算過得去。反正，就算表現不夠好，被錯誤封鎖的人只要寫信給 Dan Gackle，他就會幫你解封。如我們在檢視數據時所提到的，在 Twitter 的規模下，95% 準確的偵測將會非常糟糕（而且，事實上，我收到的私訊大多都是明顯的垃圾訊息）。你要嘛必須退一步，只在非常有把握的情況下才封鎖使用者，要嘛很快就會把所有使用者都封掉，而正如大公司喜歡處理客服的方式，申訴意味著你會收到「你的案件已仔細審查，我們判定你已違反政策。這是最終決定」這種回覆，即使是只要稍微仔細看一下就會推翻封鎖的案例，例如當你因為冒充自己而封鎖使用者。然後在 FB 的規模下，情況更糟，你會更快地把所有使用者都封掉，所以你就退縮，結果就變成像每天有 10 萬名未成年人暴露於「成人性器官照片或其他性虐待內容」這種事。

我們檢視的第二個領域是客服，它往往隨著公司變大而變得更糟。從高層次來看，可以公平地說，公司根本不在乎提供像樣的客服（Amazon 在這方面算是個例外，尤其是 AWS，即使在消費端也是如此）。在體制內，有個別的人是在乎的，但如果你看投入在客服 vs. 成長、甚至是有趣／有面子的專案上的資源比例，客服只是個事後才想到的東西。回想 DeepMind 在訓練星海爭霸 AI 的時候，Alphabet 花在玩星海爭霸上的錢，很可能比花在客服人員上的還多（就算不是，只要再加上另外一兩個大型 AI 訓練專案就達到了，尤其是如果算上開發客製化硬體的攤提成本等）。

要看出大公司有多不在乎，其實很簡單。你只要聯繫客服，然後被接到一位時薪 1 美元、用他幾乎不懂的語言回覆你、試圖透過照著流程圖來解決一個他根本不理解的問題，或是去申訴一個問題然後被告知「經過仔細審查，我們判定你[做了與你實際所做完全相反的事]」。在某些情況下，你甚至不需要走到那一步，例如照著 Instagram 的客服指示操作結果卻陷入無限迴圈，又回到原點，以及「如果這不是你做的請點這裡」的連結回傳 404。我曾在 Verizon 遇到過一次類似的無限迴圈，而且持續了至少六個月。我之後沒再檢查，但我敢打賭它持續了好幾年。如果你有個註冊或登入頁面出現這種問題，那會被視為嚴重的錯誤，大家應該優先處理，因為那會影響成長。但對於像帳號因詐騙者接管而遺失這類問題，可能要過好幾個月或好幾年才會修。或者可能根本不會修。

如果你曾跟那些在真正重視客服的公司裡做客服的人聊過，你會立刻發現他們的運作方式跟典型的大型科技公司客服完全不同，無論是流程還是文化。另一個能看出大公司不在乎客服的方式是，大公司員工和高層中有多少人從未研究過客服是如何運作、或可以如何運作，就告訴你不可能做得更好。

當你跟那些在確實重視這件事的公司裡做客服的人聊時，很明顯可以做得好得多。我在寫這篇文章期間，其實就在一家客服做得相當不錯的公司做過客服（以科技公司而言，按規模調整後，我會說他們排在 99 百分位以上），包括經歷了客服人員的訓練與 onboarding 流程。要在規模化下把任何事情執行得好都是不簡單的，所以我並不是要淡化他們客服組織有多優秀，但最讓我印象深刻的是，組織的有效性有多少是自然地源於在乎為使用者提供好的客服體驗。完整討論這意味著什麼太長，無法在此納入，所以我們以後再更詳細地看，但一個例子是，當我們看到大公司客服如何回應時，往往是設計來勸退使用者不要再回覆（「此審查為最終決定」）或向使用者辯稱公司已經做得夠好（「這並非純自動化的流程，每個申訴都經過人類以健全的流程審查……」）。這家公司的訓練則指示你要做跟標準大公司「請你走開」式以及「我們做得很好、有健全流程，因此申訴無效」式回應完全相反的事。對於你在客服中常見的每一個反模式，訓練都會告訴你要做相反的事，並討論為何該反模式會導致糟糕的使用者體驗。此外，文化已經深刻內化了這些想法（或者說，這些想法本就源於文化），並且有流程來確保大家真的知道提供良好客服意味著什麼並確實執行，客服人員也有直接跟實作產品的開發者對話的管道等等。

如果人們在乎做好客服，他們大可去跟那些在擅長幫助使用者的客服組織工作的人聊聊，甚至在解釋為何不可能做得更好之前，先親自去那樣的組織試做客服，但這通常不會發生。他們公司的客服組織領導階層也可以這麼做，或像我一樣直接在一個有效的客服組織中擔任客服角色，但這並沒有發生。如果你是個憤世嫉俗的人，這一切就說得通了。就像憤世嫉俗者會告誡菜鳥「大公司的人資不是來幫你的；他們的工作是保護公司」一樣，憤世嫉俗者也可以有理有據地說「大公司的客服不是來幫使用者的；他們的工作是保護公司」，所以大公司當然不會試圖去理解那些擅長支援使用者的公司如何做客服，因為那根本不是大公司客服的用途。

我們檢視的第三個領域是，人們不可能對平台應該如何運作達成一致，以及人們的偏見如何讓大家不理解這個問題有多困難。對美國人來說，一個突出的例子是，每當某個臭蟲隨機導致任何形式的服務中斷或封鎖時，左右兩派都會冒出來的陰謀論。

在一則推文中，Ryan Greeberg 開玩笑說：

來 Twitter 工作吧，你今天的臭蟲，明天就能變成陰謀論！

在我的社交圈裡，大家喜歡嘲笑那些在某個臭蟲導致人們被錯誤封鎖、網站無法載入等情況後，或甚至在某個新的機器學習功能正確地拿下一大群詐騙／垃圾機器人、同時也讓某些使用者的追蹤數下降時，所流傳的各種荒謬右派陰謀論。但當然，這並非右派獨有，左派的意見領袖和政治人物也會炮製自己的陰謀論。

把這三者放在一起——更差的問題偵測、更差的客服，以及更難對政策達成共識——我們就得到了開頭提到的情況：在我對 Twitter 追蹤者的民調中，那些大多在科技業工作、普遍相當懂技術的人，只有2.6% 的人認為最大的公司最擅長審核與垃圾／詐騙過濾，所以花這麼多時間反覆強調這點似乎有點多餘。當你對全美國人口做抽樣時，有更大比例的人說他們相信像疫苗會植入晶片或我們從未登上月球這類陰謀論，而我也不會花時間去解釋為什麼疫苗其實不會植入晶片、或為什麼認為我們登上了月球是合理的。一個或許合理的理由是，我一直帶著擔憂在觀察「只有大公司才能處理這些問題」這種論調如何在非技術族群中蔓延，例如監管者、立法者以及那些常常聽信並複述胡說八道的高階政府顧問。也許下次當你遇到外行人告訴你只有最大型的公司才可能處理這些問題時，你可以禮貌地指出，在科技圈內對此有非常強烈的相反共識5。

感謝 Gary Bernhardt、Peter Bhat Harkins、Laurence Tratt、Dan Gackle、Sophia Wisdom、David Turner、Yossi Kreinin、Justin Blank、Ben Cox、Horace He、@borzhemsky、Kevin Burke、Bert Muthalaly、Sasuke、anonymous、Zach Manson、Joachim Schipper、Tony D'Souza 和 @GL1zdA 提供的意見／更正／討論。

附錄：只有在小規模下才有效的方法

本文主要聚焦於規模大所帶來的不利，但我們也可以反過來看小規模的優勢。

如前所述，我在平台上最棒的體驗，都是做那些無法規模化之事的副作用。一個有效的方法是讓一個人、抱持單一願景，來處理整個網站，或者當網站太大時，處理網站的一個關鍵功能。

我加入了好幾個討論品質很好、幾乎零詐騙、零垃圾訊息的小型 Discord 群組。策略很簡單：頻道擁有者會閱讀每一則訊息，並封鎖任何出現的詐騙者或垃圾訊息發文者。當你到了更大的網站，像是 lobste.rs，甚至更大如 HN，就已經大到無法讓一個人閱讀每一則訊息（嗯，lobste.rs 理論上可以，但考慮到它對擁有者而言只是業餘時間的投入以及訊息量，要求他在短時間內讀完每一則訊息並不合理），但仍然有一個人為應該發生什麼事提供願景，即使網站已經大到實際上不可能逐字閱讀每一則訊息。「公園裡不能有車輛」的問題在這裡並不適用，因為是由一個人來決定政策應該是什麼。你可能不喜歡那些政策，但歡迎你去找另一個小型論壇或自己開一個（而這正是 lobste.rs 誕生的原因——在 HN 先前的審核體制下，該體制以封鎖那些不同意他們的人而聞名，Joshua Stein 因公開反對 HN 的某項政策而被封鎖，所以 Joshua 創建了 lobsters（後來交給了 Peter Bhat Harkins）。

還有這個關於早期 craigslist 的故事，當時它才剛大到足以出現嚴重的詐騙與垃圾訊息問題

……我們在舊金山機場被困了大約四小時，能跟 Craig Newmark 坐在一起共度半個工作天真是太棒了。

我曾聽 Craig 在訪談中說他基本上只是 Craigslist 的「客服主管」，但我一直以為那只是自謙的玩笑話。就像如果你在 Google 遇到 Larry Page，他卻說自己只是打掃的或負責挑選免費麥片的人，而不是共同創辦人。但坐在他旁邊，我對他的工作有了全新的認識。他一直在回覆收件匣裡的電子郵件，然後在 craigslist 論壇上回答問題，大約每十分鐘就接一次手機。通話簡短扼要：「嗨，我是 craigslist.org 的 Craig Newmark。我們在房地產版上有個你們 ISP 客戶的問題，想跟你們討論如何處理他們的不當行為。」他真的在一個一個追蹤論壇上的垃圾訊息發文者，有時處理一個問題花五分鐘，有時似乎要花半小時才處理掉一個。他完全投入在工作裡，查詢 IP 位址，盡其所能回答問題，做著那種我從未見過有人能如此熱情地去做的吃力不討好的工作。等到我們登機時，他那堆積如山的工作似乎稍微變少了一點，但他很期待降落後再繼續處理。

在某個時間點，如果網站繼續成長，就會大到一個人無法真正擁有網站上的每個功能和每個審核動作，但網站仍然可以從讓一個人負責一件人們通常以為是自動化的事中獲得巨大價值。一個有名的例子是Digg 的「演算法」基本上就是一個人：

讓 Digg 真正運作的其實是一個人，他像機器一樣。他會審查所有故事，滲透到所有 SEO 網路裡，並基本上不斷瓦解他們，以保持 Digg 首頁的可用性。Digg 有演算法，但基本上只是一個幫助這個人把生產力提升 10 倍、維持品質的簡單演算法。

Google 曾想收購 Digg，但發現其實就只是一個人一天工作 22 小時在維持品質，所有那些關於演算法的說法都只是煙霧彈，用來騙那些想玩弄系統的 SEO 人，讓他們以為這是可以被操弄的東西（他們做不到，這就是為什麼首頁那麼多年來品質這麼高）。Google 就打退堂鼓了。

然後創辦人意識到，如果他們想從這東西中賺到任何像樣的錢，就必須解決這個問題。於是他們開發了「真正的演算法」，試圖獨立去做這個人原本在做的事，來呈現好／有趣的內容。

……

結果完全是一場災難……判斷什麼酷、什麼不酷的演算法根本比不上那個一天工作 22 小時的人，沒有他大量的投入，它基本上只是在重炒幾天前在別處已經流行過的爛東西……創辦人沒有建設性地接受這個巨大的打擊，反而加倍堅持。然後就變成現在這樣了。

……

我指的那個人叫 Amar（他的名字夠常見，我想不會洩露他的身分）。他是 SEO 低語者，也是那個「演算法」。他簡直像個間諜。他會滲透那些試圖操弄首頁的糟糕團體，假裝自己也像他們一樣是個 SEO 魯蛇，誘使他們透露足夠的資訊，讓他能及早識別他們的活動並將其扼殺。

據說 Etsy 也用了同樣的策略。

附錄：理論 vs. 實務

在正文中，我們提到大公司員工常說基於理論上的原因 X，不可能提供更好的客服，卻從未實際去研究客服是如何提供、或那些提供良好客服的公司是怎麼做的。當那些如今市值 1 兆美元的公司規模還小到許多公司都能提供良好客服時，這些公司同樣沒有提供良好的客服，所以這似乎並非來自規模的問題，因為這些巨頭公司當時和現在都沒有嘗試提供良好的客服。這個聽起來合理的理論原因在實務上其實站不住腳。

這對於關於大型科技公司規模不經濟的理論討論來說是普遍情況。另一個在本文開頭提到的想法是，成為更大的目標所帶來的影響，大於擁有更精密的機器學習所帶來的影響。我經常聽到這個想法的標準延伸說法是，大公司其實確實擁有最好的防垃圾與防詐騙能力，但他們也面臨最精密的攻擊。我看過有人用這來解釋為何大公司看起來在防垃圾與防詐騙上比像 HN 這樣的論壇更差。雖然大公司確實面臨最精密攻擊這點很可能是真的，但如果這個說法整體成立、而且他們的系統真的很強，那麼要在 reddit 和 Facebook 上對人發垃圾訊息或詐騙，在絕對難度上應該會比在 HN 上更難，但事實完全不是如此。

如果你真的試著去發垃圾訊息，會發現要在大型平台上做到極其容易，你能想到的最明顯的手法往往都會奏效。作為一個實驗，我開了一個新的 reddit 帳號並試圖把一些胡言亂語推上首頁，結果發現這完全不費吹灰之力。同樣地，要接管某人的 Facebook 帳號並連續數月到數年張貼明顯的詐騙內容也完全不費吹灰之力，這些詐騙有著極其明顯的詐騙跡象，許多人也在留言中關切地表示該帳號已被接管並正在進行詐騙（跟在客服中工作以及在 reddit 上發垃圾訊息不同，我沒有真的去接管別人的 Facebook 帳號，但考慮到人們的密碼習慣，要接管帳號非常容易，而且從朋友帳號被接管時 Facebook 的回應來看，我們可以看出那些做著最天真、毫無精密可言的攻擊也沒有被擋下），等等。就絕對難度而言，要在 HN 上讓垃圾或詐騙內容出現在人們眼前，實際上比在 reddit 或 Facebook 上更困難。

這裡的理論原因，如果大型公司有做到哪怕接近以他們所擁有的資源本可做到的程度，就會是個重要的因素，但我們離那個水準還差得遠。

附錄：我們該多相信記者對外洩文件的摘要？

整體而言，非常不該相信。如我們在檢視 Cruise 行人事故報告時所討論的，幾乎每次我閱讀記者對某件事的詮釋時（少數例外如 Zeynep），記者都有他想帶的風向，而你從報導中得到的印象跟你去看原始資料時得到的印象相當不同；報導內容與原始文件所說完全相反的情況相當常見。這是一個問題。

附錄：Erin Kissane 論 Meta 在緬甸的作為

Erin 是這樣開頭的：

但當我真正深入挖掘後，我所學到的比我原本假設的還要可怕、噁心、更具毀滅性。Meta 被動與主動助長的傷害，摧毀或結束了數十萬人的生命，那些生命本可能就是你或我的，只是因為出生的偶然。我說「數十萬」是因為「數百萬」聽起來難以置信，但到研究結束時，我開始相信實際數字非常、非常龐大。

附錄：延伸閱讀

附錄：審核與過濾失敗案例

自從我看到 Zuck 關於只有大型公司（而且越大越好）才可能做好審核、防詐騙、防垃圾訊息等說法後，我在平常上網瀏覽時，就開始收集大型公司失敗的連結。

Google

Facebook (Meta)

Amazon

Microsoft

Stripe

Uber

Cloudflare

附錄：Jeff Horwitz 的《Broken Code》

一開始就願意跟我談的前員工們說了一些令人不安的事。Facebook 的自動化執行系統根本無法像宣傳的那樣運作。

附錄：非本文主張

  • Facebook（或本文提及的任何其他公司，如 Uber）特別爛
  • Zuckerberg（或提及的任何其他人）特別爛
  • 大型科技公司的員工都是壞人
  • 沒有任何大型科技公司的員工在努力工作或認真嘗試
  • 大型科技公司應該被拆分或受到其他反壟斷處置
  • 同一產業中較大的公司一定比小公司更糟
  • 此處討論的規模大 vs. 規模小的取捨，在所有領域、所有產業都一體適用
  • 在大規模下做審核與客服是容易的
  • 平均而言，大型公司為使用者提供了更糟的體驗
  1. 在 Costco 規模還比較小的時候，我本來會在這裡寫 Costco 而不是 Best Buy，但隨著他們越做越大，我發現品質也跟著下滑。[返回]
  2. 當《華爾街日報》檢視外洩的 Meta 內部文件時，發現 Meta 估計每天有 10 萬名未成年人「收到成人性器官照片或其他性虐待內容」。[返回]
  3. 不過，對 Zuckerberg 來說幸運的是，他的目標聽眾似乎對科技業沒什麼理解，所以他的論點站不站得住腳其實也無所謂。[返回]
  4. 另一種比「提供真人客服太花錢」更少見的說法是，「客服做不到是因為它會成為社交工程的攻擊管道」。[返回]
  5. 另一個原因比較不那麼正當，但卻是寫這篇文章的真正動機：當 Zuckerberg 說只有全世界最大的那幾家公司才能處理像詐欺和垃圾訊息這類問題時，我覺得完全荒謬至極。[返回]

本文章由 muse-spark-1.2-contributor 進行翻譯

留言