Blog Dice

Diseconomies of scale in fraud, spam, support, and moderation

Dan Luu

欺诈、垃圾信息、客服与审核中的规模不经济

原文由 Dan Luu 于 发布，订阅该博客

如果我问自己这样一个问题：“我想买张 SD 卡，到底该相信谁会卖给我真卡而不是假货，是亚马逊还是家附近的百思买？”答案当然是更信任家附近的百思买1，毕竟亚马逊卖假 SD 卡是出了名的。再问一次，如果是在值得信赖的本地电子产品店（比如 Memory Express、B&H Photo 等）和百思买之间选，我更信任本地那家好店。他们不仅更不可能比百思买卖给我假货，就算真的卖了假货，售后服务也很可能更好。

类似地，假如我问自己：“在哪个平台上遇到诈骗、垃圾信息、虚假内容等的比例更高，是[小平台]还是[大平台]？”答案通常是[大平台]。当然，小平台总数更多、方差也更大，我完全可以故意去挑一个更烂的小平台来用，但如果在每个量级里都只挑做得好的选项来比，小平台通常表现更好。比如 Signal 和 WhatsApp，我在 Signal 上从来没收到过垃圾信息，而在 WhatsApp 上却会时不时收到。或者比一比我平时看技术内容的地方，把没人听说过的极小众论坛和 lobste.rs 相比，lobste.rs 上不良内容的比例（指在我看到的信息中所占的比例，而非绝对数量）会略高一些，因为小众私密论坛上是零，而 lobste.rs 上是极低但不为零。再把 lobste.rs 和稍大一点的平台比如 Hacker News 或 mastodon.social 相比，后两者诈骗/垃圾/虚假内容的比例又会（同样只是略微）更高一些。再往上到中等规模的社交媒体比如 reddit，不良内容的比例就已经明显更高、足以被感知到了。再把 reddit 和 YouTube、Facebook、Google 搜索结果这类巨型平台相比，这些更大的平台上诈骗/垃圾/虚假内容的比例就更高了。而且和买 SD 卡的例子一样，平台越大，获得像样客服支持的几率就越低。如果账号被误封或误禁，平台越大，账号得以恢复的几率就越小。

我想，说“总体而言，平台越大，很多方面就越糟”应该不算什么有争议的观点。比如，我曾在 Twitter 上发起过一次投票，想看看和我有弱连接的人们怎么想，结果只有 2.6% 的人认为大公司平台的审核和垃圾/欺诈过滤做得最好。作为参照，在一项民调中，有 9% 的美国人认为疫苗会植入芯片，还有 12% 的人认为登月是伪造的。虽说是不同人群，但看起来，随机抽样的美国人相信“登月造假”的比例，都比科技圈的人相信“最大的几家公司反欺诈/反垃圾/审核做得最好”的比例要高。

然而，过去五年里，我注意到越来越多的人在主张恰恰相反的观点：只有大公司才能做好审核、垃圾过滤、欺诈（和假货）识别等等。我们在研究搜索结果时就看过一个这样的例子，当时一位 Google 工程师说

有人试图论证说，如果搜索领域竞争更充分，有大量小供应商而不是只有三家大的，那么反而会更能抵御基于机器学习的 SEO 滥用。

得了吧，连 *Google* 现在都跟不上，小小的“5% 市场份额先生”又怎么能行？

而一位意见领袖回应道

95% 的情况下，当有人声称某个小而独立的公司能在某件难事上比行业龙头做得更好，那不过是自我安慰。规模经济还是很管用的！

但当我们去看实际结果时发现，在我们考察的搜索引擎中，市场份额只有 0.0001% 的那位最能抵御 SEO 滥用（而且做得相当不错），0.001% 的那位抵御能力稍弱一些，而 Google 和 Bing 则被 SEO 滥用淹没，经常直接把人引向各种骗局。电子邮件的情况也类似，我常听到人说由于垃圾邮件负担太重，自己搭邮件服务是不可能的，但实际上很多人一直在这么做，而且效果往往和 Gmail 相当甚至更好，主要问题反而在于和大公司邮件服务器打交道时，对方会错误地封禁他们的小邮件服务器。

我开始大量看到“要做好审核、反垃圾、反欺诈等就必须靠规模”这类说法，大约是在扎克伯格回应伊丽莎白·沃伦要求拆分大型科技公司，声称拆分科技公司会让内容审核问题变得更糟的时候，他说：

“拆分这些公司，无论是 Facebook、Google 还是 Amazon，实际上并不会解决问题，”扎克伯格说，“而且，你知道，这不会让选举干预变得更不可能，反而会更可能，因为现在公司之间无法协调合作了。这也不会让仇恨言论或类似问题变得更不可能，反而会更可能，因为现在……我们正在投入并建立的所有流程，现在变得更加碎片化了

这就是为什么 Twitter 做不到像我们这么好。我的意思是，他们面临的问题在性质上是一样的。但他们无法投入那么多。我们的安全投入比他们整个公司的营收还多。[笑声]是的，我们的规模更大，但他们面临的问题在性质上并没有不同。他们遇到的所有类型的问题，我们也都有。”

这种论调是说，要做好审核需要大量资源，而像 Twitter 这样规模的公司（当时市值约 300 亿美元）无法调集必要的资源来做好审核。我当时觉得这个说法相当可笑，因为在 Twitter 被收购之前，我在 Facebook 上看到的明显诈骗内容的比例远高于 Twitter。例如，在假日购物季我点开 Facebook 广告时，大部分都是骗局，虽然 Twitter 也有一定数量的诈骗广告，但和 Facebook 根本不在一个量级。这也不只是我的感受——曾设计过 Facebook 早期举报系统并主导过若干重大信任与安全工作的 Arturo Bejar 也注意到了类似情况（详见脚注）2。

不过扎克伯格似乎很喜欢上面这种论证思路，因为他在其他地方也做过类似表述，比如在这里，那是同一年，而就在那一年 Meta 的内部文件显示，他们每天让 10 万名未成年人接触到性虐待图像：

在某种程度上，当年我在宿舍里起步时，我们显然不可能有 1 万人或 4 万人来做内容审核，而且当时的 AI 能力根本不存在，无法主动去发现大量有害内容。到了某个阶段，随着我们成为一家更大的企业，才开始有可能做更多这方面的事

这里的话术技巧在于，它预设了 Facebook 在扎克伯格宿舍里起步时就需要 1 万或 4 万人来做内容审核。实际上，比宿舍里的 Facebook 大一点的服务，用一个审核员——往往还是兼职——就能做到比今天的 Facebook 更好的审核。但随着人们开始更多地讨论对大型科技公司采取真正的反垄断行动，科技大公司的创始人和高管们加大了反反垄断的论调，声称如果把最大的公司拆分到 2015 年或 2010 年最大科技公司的规模，人类将会遭遇各种灾难。这种论调似乎正在流传开来，我看到越来越多的大公司员工也在陈述非常相似的理由。我们已经走得很远了，1979 年 IBM 的培训手册上还写着

计算机永远不能被追究责任

因此计算机绝不能做出管理决策

而现在的论调是，对于许多关键决策，只有计算机才能做出大部分决策，而缺乏问责似乎最终成了优点而非缺陷。

但不幸的是，对于扎克伯格的论点3来说，这里至少有三个主要问题是规模不经济占主导的。一是，对于几乎所有人都能一致认为是坏内容的东西（比如比特币骗局、假药垃圾信息、虚假天气预报、成年人向儿童发送生殖器照片等），大平台的表现比小平台更差。二是，对用户而言，随着公司变大，犯错的代价更高、也更难得到纠正，因为客服通常会变得更差。第三是，随着平台规模扩大，会有更大比例的用户在“平台上应该允许什么”这个问题上产生强烈分歧。

就第一点而言，虽然大公司确实拥有更多资源，但那种鸡尾酒会式的想法——认为他们会因为资源最多所以审核最好——会被另一个同样简单的想法所抵消：他们会因为是最诱人的目标所以审核最差，或者会因为组织和问题域扩大时产生的标准规模不经济而导致碎片化更严重，审核最差。究竟是资源更多这一方占上风，还是其他因素占上风，在理论上太复杂而无法解决，但我们可以凭经验观察结果。至少在大型公司选择投入到审核、垃圾信息等方面的资源水平上，更大的目标和其他与规模相关的问题占了上风。

虽然这些公司利润极高，完全可以投入足够资源来大幅缓解这个问题，但他们选择不这么做。例如，在我写下这句话之前的过去一年里，Meta 截至 2023 年 12 月的税前利润为 470 亿美元。如果 Meta 像我一位朋友曾工作过的电力公司那样，秉持“为世代提供可靠、低价的能源”那样的内部愿景来运营，真正试图为用户创造良好体验而不是最大化利润外加打造元宇宙，他们本可以把花在元宇宙上的 500 亿美元用于审核平台和技术，然后再以每年3 万美元（在今天大多数雇佣审核员的国家，这已经是非常不错的收入，足以让他们挑到想雇的人）雇佣 160 万名额外的全职员工来处理申诉和客服，相当于每几千名用户就配一名额外的审核或客服人员（当然，管理这么多人本身也存在规模不经济）。我并不是说 Meta 或 Google 应该这么做，只是说，每当有大公司的人说出类似这种话“这些系统必须完全自动化，因为在我们的规模上没人负担得起人工系统”时，其真实含义更接近于“如果我们雇足够多有能力的人去人工复核系统标记为模糊的案例，我们就无法每年赚那么多几十亿的利润，所以我们在不损害利润的前提下，能做到什么样就做到什么样”。4人们可以为这种选择辩护，但这终究是一种选择。

同样，对于规模经济优势的说法也是如此。有些领域规模经济确实让用户体验变得更好。例如，当我们探讨过为什么很难买到好用的东西时，我们指出 Amazon 的规模经济让他们得以自建包裹配送服务，虽然有缺陷，但仍比其他可用的服务更可靠（而且自从他们加入了让用户为每次配送打分的功能后，这一点又有所改善，这是其他大型快递服务都没有的）。同样，Apple 的规模和垂直整合让他们得以打造出一支史上最强的性能团队（以归一化性能相对于同时代竞争对手来衡量），不仅在跑分上碾压对手，还在一些直到最近才有人去测量的方面提供了更好的体验，比如设备延迟。再举一个更平常的规模经济例子，像饼干这类易于运输的食品，在 Amazon 上比在我家附近的超市更便宜。很容易就能举出规模经济让用户受益的方式，但这并不意味着我们就该假定在所有领域，规模经济都压倒规模不经济。虽然这超出了本文的范围，但如果我们要讨论用户是在公司更大还是更小时更受益，就应该去看哪些东西在公司变大时会变好、哪些会变坏，而不是仅仅因为有些东西会变好就假定所有东西都会变好（反之亦然）。

回到“大公司有最多资源投入审核、垃圾信息、反欺诈等”与“他们选择把资源投向别处”——比如把 500 亿美元砸在元宇宙上，而不是去雇那 160 万本可以负担得起的审核和客服人员——的对比，我们有必要看看实际投入了多少努力。Meta 在缅甸的所作所为是一个很好的案例，因为 Erin Kissane 写了一份相当详细的长达 4 万字的来龙去脉。整件事是一个庞大而复杂的问题（详见附录讨论），但就本文的主题而言，关键在于：这是一个大多数人都会认同应属最高优先级审核和支持的问题，而且尽管向 Meta 各个层级的员工（工程师、总监、副总裁、高管等）反复发出了极其严重和紧急的警告，几乎没有资源被投入到这个问题上，而内部文件显示，他们的系统只捕捉到了小部分已被认定为有害的内容（大约只有几个百分点）。我认为这并非 Meta 独有，这也符合我作为这些大型科技公司产品用户以及员工作为亲身经历所看到的情况。

再举一个更小规模的例子，我的一位熟人的 Facebook 账号被盗了，现在正被用来做比特币骗局。这个人的名字叫 Samantha K.，而骗子骗得之粗糙，连她的名字都没看对，一直在生成非常假的照片：有人举着牌子，讲述“Kamantha”如何帮他们赚了几万甚至几十万美元。这是“黑客”常用的套路，我在 FB 上认识的另一个人也报告说自己的账号发生了同样的事，而且尽管该账号一直在持续发布明显的骗局，他们既无法找回旧账号，甚至无法让该账号被封禁。

相比之下，在 lobste.rs 上，我从未见过这类骗局，据首席管理员 Peter Bhat Harkins 说，据他所知他们也从未有过。在 Mastodon 上，我想我在信息流、回复或提及中也许只见过一次。当然，Mastodon 已经大到如果你特意去找，还是能找到一些骗局的，但按消息条数和按用户数的比例都低到作为普通用户你基本不会遇到。在 Twitter（被收购前）或 reddit 上，就要频繁一些，平均每几周在我的正常信息流里就会看到一次。而在 Facebook 上，我一直都能看到这类东西；每到购物季我都会看到明显的诈骗性日用商品网站，而比特币骗局，无论是来自广告还是账号盗用，则是全年都有。许多人表示他们已经懒得再举报这类骗局了，因为他们观察到 Facebook 对举报根本不采取行动。与此同时，Reuven Lerner 却因为开设关于 Python 和 Pandas 的课程而被禁止在 Facebook 上投放广告，似乎是因为 Facebook 的系统“认为”Reuven 在宣传与动物交易有关的东西（而不是编程）。这就是扎克伯格所说的、任何小公司都无法匹敌的审核和垃圾信息管控的精度。顺便说一句，我并不是要特别针对 Meta；如果你想要口味略有不同的例子，可以在 Google 案例附录中看到上百个 Google 自动化系统失控的例子。

之所以说这又回到了一个经验问题，是因为所有这些关于规模经济如何让大公司能投入更多资源来解决问题的讨论，只有在公司选择去部署这些资源时才有意义。没有任何理论上的力量会迫使公司在这些领域投入资源，所以我们无法从理论上推导。但我们可以观察到，所投入的资源并不足以应对这些问题，即使是在人们普遍会认为问题优先级理应非常高的情况下，比如 Meta 在缅甸的案例。当然，对于那些优先级不那么明显的问题，资源同样没有被投入。

关于第二个问题——客服——在科技圈里已经成了一个梗：作为大平台的用户，获得支持的唯一办法就是发一条病毒式传播的社交媒体帖子，或者在内部认识人。这加剧了审核不佳、诈骗检测、反欺诈等方面的问题，因为如果客服做得好，那些问题本可以得到缓解。

正常的客服渠道就是个笑话，你要么收到一封千篇一律的套话拒信，要么经历一场卡夫卡式的噩梦，最后还是收到一封套话拒信。例如，当Adrian Black 因“冒充 Adrian Black”而被 YouTube 封禁时（说清楚，他是因为冒充自己，而不是冒充同名的他人而被封的），申诉后他收到的回复是

很遗憾，我们这边也无能为力了。你的账号封禁和申诉已经经过了非常仔细的复核，决定是最终决定

在另一个 Google 客服故事中，Simon Weber 在试图获取报税所需信息时，被 Google 客服来回推诿

自 2018 年 4 月以来（这是写于 2020 年 9 月），面向扩展开发者的会计数据导出对我（我想对所有扩展商家都是）一直是坏的。在他们真正回应我的支持请求、让我能正确报税之前，我不得不让纽约州总检察长给他们写了一封信

还有一次，YouTube 不断将 PointCrow 吃水煮水的视频取消获利（他反复用筷子蘸水然后喝掉，极其缓慢地吃完一碗水）。

尽管对方会回应类似

我们对这次失误和来回折腾深表歉意，我们已经和团队沟通过以确保不再发生

但他还是会再次被取消获利，而申诉一开始总是会套用标准的客服回应策略，声称他们已非常仔细地审查了所讨论的违规内容，但遗憾的是，用户明显违反了政策，因此无能为力：

我们已复核了你的申诉……我们已仔细审查了你的内容，并确认其违反了我们的暴力或血腥内容政策……确保 YouTube 对所有人都是安全的地方是我们的职责

这些是高曝光的例子，但当然，曝光度低也并不能让你免于被封并收到同样基本是套话的回复，比如这位在 FB Marketplace 上卖吸尘器而被封的 HN 用户。经过多次申诉后，他被告知

很遗憾，由于违反社区准则，你的账号无法恢复。此次复核为最终决定

当付费支持是可选项时，人们常说付了费就不会有这些问题，但使用 Google One 付费支持或 Facebook 和 Instagram 付费创作者支持的人普遍反映，付费支持和免费支持一样糟糕。而那些实际上已内置付费支持的产品也不一定更好。我认识一些人，即使为所在公司每年在 Google Cloud 上花费八九位数，也会得到和免费 Google 支持一样的推诿。在众多例子中的一个里，用户发现 Google 肯定是在丢包，而 Google 支持却一直坚称丢包发生在客户的数据中心，尽管抓包结果显示这绝无可能。最后一次听说时，他们在那个问题上放弃了，但有时当问题是彻底的阻断性故障时，有人会给在 Google 的朋友打电话来获得支持，因为常规支持往往完全无效。这也并非 Google 独有——在另一家云厂商，一位前同事曾在场，亲耳听到一位非常资深的工程师被要求去调查一个客户投诉：客户称他们每小时会有数次、每次持续数秒、丢包率 100% 的情况。该工程师的回应类似“这是云，本来就这样，让他们自己处理吧”，直到被告知不能像往常那样无视这个问题，因为投诉来自[VIP 客户]，而且正在中断[全球收视率最高的体育赛事之一]。那个问题后来被修好了，但很可能，你并没有那么重要，即使你每年付几亿美元也一样。

当然，这种客服也不只是云厂商才有。例如，曾有 Stripe 无故扣留客户 40 万美元超过一个月的情况，而每次向客服求助，得到的回复都和我们刚才看到的一样荒唐。该用户诉诸了唯一可靠的 Stripe 客服机制——发到 HN 并指望冲上首页第一，这招奏效了，尽管许多评论者还是会说些老话，比如“已标记，因为我们在 HN 上看到很多这类帖子，它们似乎是试图欺诈性地操纵客服，而非真实故事”，还有多人暗示该用户在做非法或欺诈之事，但结果证明是 Stripe 那边出了错，而大公司式的客服又让问题雪上加霜。在某个时刻，该用户写道

在我写 HN 帖子的同时，我也在和 Stripe 的在线客服聊了一个多小时。没有得到任何新信息。他们基本上就是想尽快结束和我的对话，直到我把 HN 帖子发给他们并展示它已经有了一定热度。然后他们才开始重新处理我的问题并尝试与更多人沟通

然后问题在第二天就被解决了。

虽然原则上，随着公司变大，他们可以利用规模经济来提供更高效的支持，但实际上，他们往往是利用规模经济来提供更差、但更便宜、更有利可图的支持。例如，关于 Google Play 商店的审核支持，一位 Google 员工指出：

很多这类工作被外包到了海外，导致响应时间慢得多。在美国本土我们有很多指标来保证快速响应。通常你的应用会在当天就得到审核。不清楚现在怎么样了，但那时的经理们即便如此也还是无能

而一位前 FB 支持人员指出：

这里最大的问题是分工。花最多时间处理队列的人对政策的发言权最小。分析师可以将问题上报给 QA，QA 再上报给 Facebook 的正式员工。问题可能要花上数月才能得到处理，如果能得到处理的话。最糟糕的是，做符合常识的事、执行政策的精神而非字面意思，反而会对你的质量分数产生负面影响。我常常想起，在我任职期间，有好几个月，由于一条措辞草率的政策“澄清”，大多数残害动物的照片都被允许出现在平台上而无需加警告遮罩，而我们对此无能为力。

如果你曾疑惑为什么你的客服人员会答非所问，有时原因很直白：客服已被外包给时薪 1 美元的人（当我查询某个承接大量外包支持的国家的标准费率时，一个相当普遍的费率换算下来大约就是 1 美元/小时），他们并不真的会说你的语言，只是在照着流程图念，根本不理解他们所支持的系统；但另一个不那么直观的原因是，客服人员如果做出合乎情理的举动而不是照着面前那份荒谬的流程图走，反而可能会被扣分、最终被开除。

回到“它们似乎是试图欺诈性地操纵客服，而非真实故事”这条评论，这是我在那些实施武断而反复无常封禁的公司里常见的工程师心态。我很能理解人们是怎么形成这种想法的。在我加入 Twitter 之前，针对公开信息我曾评论道

结果显示 Twitter 每天会移除约 100 万个机器人账号。Twitter 只有约 3 亿月活，这个容错率就非常低了。这似乎是个非常难的问题……Gmail 的垃圾邮件过滤器大概每正确分类 1000 封正常邮件才会出现 1 个误判……在某个服务中定期以相同比例误删真实用户将会是[灾难性的]。

确实如此，如果你作为工程师，去翻某个巨头公司的封禁申诉队列，看那些申诉被驳回的情况，几乎所有申诉都应该被拒绝。但是，根据我与从事反欺诈系统等工作的工程师交流的经验，许多人，甚至可能是大多数人，会把“几乎所有”四舍五入为“所有”，而这两者在数量和性质上都截然不同。让负责这些系统的工程师相信“所有”而非“几乎所有”的判定都是正确的，会给用户带来糟糕的体验。

例如，有一家以错误封禁用户而闻名的社交媒体公司（我认识的人中至少有 10% 因错误封禁而丢过账号，而且如果我随机搜索一个不认识的人，很可能会搜到他的多个账号，其中最近的一个简介里写着“以前是 @[某个旧账号]”，却没有从旧账号到新账号的跳转，因为旧账号已被封）。当我碰到该团队一位资深工程师时，我问他为什么会有这么多合法用户被封，他告诉我类似这样的话：“这不是问题，真正的问题是我们封得还不够。所有被封的人都是罪有应得，不值得去听取申诉或考虑它们”。当然，确实每个公共平台上的大部分内容都是不良内容、垃圾信息等，所以如果你对某条内容是否为不良内容有任何一点信号，当你去看它时，它很可能是坏的。但这并不意味着其逆命题——几乎没有用户被错误封禁——是成立的。而如果负责判定哪些内容是不良内容的团队里，资深人员抱有“我们不必担心误判，因为几乎所有被标记的内容都是坏的”这种态度，最终系统就会产生大量误判。我后来四处打听，想看看在降低欺诈检测系统误判率方面做过什么，结果发现根本没有对误判进行系统性追踪，没有办法去统计员工提交内部工单来推翻错误封禁的案例等等；在元层面上，有某种机制可以降低漏判率（例如，有人看到不良内容未被捕捉到，就加一条规则去捕捉更多坏内容），但由于对误判没有任何追踪，实际上就没有任何机制去降低误判率。毫不奇怪，这种元系统导致我认识的人中有超过 10% 被错误停用或封禁。而且，正如 Patrick McKenzie 所说，最优的误判率并不是零。但当你有一群抱有“我们已经做了足够功课，误判是不可能的”这种心态的工程师时，误判率几乎可以肯定会高于最优水平。当你再配上普通大公司水平的客服，那就是卡夫卡式用户体验的配方。

还有一次，我评论说 Uber 宣布的一项审核政策变更似乎很可能导致误封。Uber 的一位 TL 立刻指责我，说我对封禁机制做了无根据的假设，Uber 的工程师们为确保没有误封付出了巨大努力，有广泛的复核来确保封禁是有效的，事实上，我所担心的那种误封绝不可能发生。然后我就因为反欺诈系统中的一个误判而被变相封禁了。当 Uber 错误地封禁了一名司机、该司机不得不把他们告上法庭才拿到关于为何被封的信息、Uber 才终于真正去调查此事（而不是像往常那样用声称已调查过的虚假消息来回应申诉）时，我想起了那次事件。事后，Uber 回应媒体质询时说

我们很失望法院没有认可我们在做出因涉嫌欺诈而停用司机账号的决定时所拥有的健全流程，包括有意义的人工复核

当然，在那位司机的案例中，并不存在什么健全的复核流程，我的申诉中也没有什么健全的申诉流程。当我联系客服时，他们根本没有认真读我的消息，还做了某个改动让我的账号比之前坏得更彻底。幸运的是，我有足够多的 Twitter 粉丝，一些 Uber 工程师看到了我关于此事的推文并帮我解了封，但这并不是大多数人能有的选项，这也导致了各种奇怪的现象，比如这则定向投放给 Google 员工的 Facebook 广告，来自一个绝望地寻求 Google 账号帮助的人。

而且即使你在内部认识人，也不一定容易把问题修好，因为即便公司的效能并不随着规模变大而提高，系统的复杂性却会增加。一个很好的例子是Gergely Orosz 讲述的故事：当时 Uber 支付团队的经理离职后，却因某个晦涩难懂的机器学习反欺诈算法判定这位前支付团队经理在进行支付欺诈而被 Uber 封禁。花了六个月的时间尝试修复问题才得以缓解。而且，顺带一提，他们从未真正搞明白发生了什么并修复根本问题；相反，他们只是把这位前支付团队经理加入了一个特殊白名单，并未为任何其他用户修复该问题，而且可以推测，这极大地削弱甚至可能完全移除了对该前经理账号的支付欺诈保护。

毫无疑问，如果能轻松修复根本问题，他们肯定会去修，但随着公司规模扩大，他们会同时产生技术和非技术上的官僚体系，让系统即使对员工来说也变得不透明。

另一个例子是，在一家拥有排序信息流的公司里，“你可以通过添加类似timeline_injection:false、interstitial_ad_op_out等过滤器来屏蔽信息流中不想要的内容”的说法会病毒式传播。第一次出现时，一些工程师去调查后认为这些病毒式技巧并不起作用。他们并非百分之百确定，依据的想法类似“没人记得曾经实现过会做这种事的系统”、“如果你在代码库中搜索这些字符串，根本搜不到”以及“我们查看了我们认为可能会做这件事的系统，它们似乎并没有这么做”。大家对“这技巧不起作用”有中等程度的信心，但没人敢确凿地说它不起作用，因为和所有大公司一样，系统的整体行为已超出人类的理解范围，甚至那些本可以被理解的部分也常常没人去理解，因为还有其他优先事项。

几个月后，这个技巧再次病毒式传播，人们在被问及是否属实时通常会引用上次的调查结果，只不过有一个人真的试了这个技巧并报告说它起作用了。他们在 Slack 上发了一条消息说这个技巧对他们确实有效，但几乎没人注意到这个唯一做了复现尝试的人发现它有效。后来，当这个技巧再次病毒式传播时，人们又会指向那些认为它不起作用的讨论，而那条指出它似乎有效的消息（几乎可以肯定不是按用户以为的机制起作用，而只是因为一长串过滤器导致某处超时或类似原因）基本上就淹没了，因为信息太多，根本没法全部看完。

在我的社交圈里，许多人都读过 James Scott 的《国家简史》，副标题是《某些改善人类世界的方案为何失败》。书中的一个关键概念是“可读性”，即国家能看到什么，以及这如何扭曲国家的所作所为。完全可以写一本高度类似的书，叫《像科技公司一样观察》，讲的是对于如今运营方式下的规模化公司而言，什么是不可见的。一个简单的例子是，在许多视频游戏中，包括那些隶属于市值 3 万亿美元公司的游戏工作室所做的游戏，很容易通过让一群人举报某个账号行为不端来让其被暂停或封禁。对于游戏公司而言，可读的是举报率，而不可读的是玩家的实际行为（它本可以是可读的，但公司选择不雇足够多或足够专业的人去审查实际行为）；许多人也报告过在社交媒体公司有类似的封禁经历。当涉及到反欺诈系统这类东西时，对公司而言可读的东西，往往对人类来说是不可读的，即使是从事反欺诈系统工作的人类也是如此。

虽然他并不是专门在谈反欺诈系统，但在特别主事官制度中，Facebook 的一位总监 Eugene Zarashaw 曾做出如下评论，这说明了 Facebook 自家系统的不可读性：

要追踪数据究竟流向何处，需要广告侧的多个团队。即便只回答这个狭窄的问题，如果有人能确凿地回答，我也会感到惊讶

Facebook 因为这句话被不公平且大多是无知地狠批了一顿（我们会在附录中讨论），但总体而言，确实很难理解像 Facebook 这样规模的系统是如何运作的。

原则上，公司本可以通过让薪酬合理的客服人员去调查那些可能属于边缘情况、后果严重的、系统“误解”了实际情况的问题，来增强其晦涩系统的可读性，但实际上，公司给这些客服人员的报酬极低，雇的人也真的不理解发生了什么，然后又给他们下达指令，确保他们通常无法解决可读性问题。

让不可读性在规模化下取胜的一个因素是，作为这些巨头公司中高薪员工的一员，很容易把外面的数百万或数十亿人（和机器人）都看作数字。正如那句老话所说，“一个人的死亡是悲剧，百万人的死亡是统计数字”，而且如我们所说，工程师们常常把“几乎所有 X 都是欺诈”这样的想法转化为“所有 X 都是欺诈，所以干脆把所有做 X 的人都封了，不用看申诉”。现代科技公司那种不惜一切代价寻找可扩展解决方案的文化，让这种情况比同等规模的其他行业更糟，而科技公司又有着前所未有的规模。

例如，针对有人指出 FB 广告管理器声称可以在美国 18-34 岁人群中投放潜在触达 1.01 亿人的广告，而美国人口普查显示该年龄段总人口仅为 7600 万，前广告定向团队的 PM 回应道

要站在 FB 的规模去思考

并解释说，对于像美国 18-34 岁人群这样的细分，像切片切块查询这类操作在“FB 规模”下是无法指望能正常工作的。Google 内部有一个被反讽地使用的梗，在这类情况下人们会说“我数不了这么小的数”。而这位前 FB 广告 PM 却非反讽地说，“FB 数不了这么小的数”，对于像 1 亿这样的数字。FB 不仅不在乎任何单个用户（除非他们是名人），这位 PM 声称他们甚至懒得去在乎以 1 亿人为单位的群体是否被准确追踪。

回到糟糕客服的后果，一个常见的回应是，听说有人被这些巨头服务之一错误封禁时，会说“封得好！你干嘛还要用 Uber/Amazon/whatever 呢？它们糟透了，根本不该有人用”。我不同意这种论调。一方面，你凭什么替那个人决定他是否应该使用某项服务或什么对他有好处？另一方面（这是一个大到值得单独写一篇的话题，所以这里只简要提及并链接到 @whitequark 的这篇较长评论），大多数被人们轻易视为可有可无的便利而认为“大不了不用就是了”的服务，实际上对相当一部分人来说是严肃的无障碍问题（就绝对人数而言，不一定是比例）。当我们谈论小企业时，那些人往往可以换到另一家企业，但在 Uber 和 Amazon 这类事情上，能提供类似便利的替代品有时为零或只有一个，而当只有一个时，因某个随机系统误触发而被封的情况也可能在另一家服务上发生。例如，针对许多人评论说遇到 DoorDash 不送货时就该直接拒付并被 DoorDash 拉黑，一位残障用户回应道：

我是残障人士。没有驾照也没有车。我公寓附近没有公交站，我实际上是靠辅助客运去上班的，但那得提前一天预约。Uber 也会搞同样那套，所以我不得不在 Uber、DoorDash 和 GrubHub 之间轮换，看谁有优惠券、最近又没坑我的钱。不是每个人都能直接去取餐的。

而且，当谈论这类问题时，参与往往并非自愿，比如这个 Fujitsu 的 bug 错误地把人送进了监狱的案例。

关于第三个问题，即人们不可能就什么构成垃圾信息、欺诈和其他不被允许的内容达成一致，我们已在此处详细讨论过。我们看到，即使在只有一个、毫无争议、简单的规则的平凡案例中，人们也无法就什么是被允许的达成一致。而且，随着你增加更多规则或加入有争议的话题，或扩大人数规模，就更难就应该允许什么达成一致。

回顾一下，我们考察了三个规模不经济让审核、客服、反欺诈和反垃圾随着公司变大而变得更糟的领域。第一是，即使在对什么是坏内容有广泛共识的情况下，比如欺诈/诈骗/钓鱼网站和搜索，最大的、拥有最复杂机器学习的公司实际上也跟不上一个（虽然非常熟练的）人在小型搜索引擎上所做的工作。对骗子而言，如果他们盯上最大的平台，回报要高得多，这导致反垃圾/反欺诈等问题在难度上呈现出极强的非线性。

为了感受一下规模差异，HN 会对垃圾信息发布者和发布某些煽动性评论的人进行“地狱封禁”。大多数垃圾信息发布者似乎并未意识到自己被地狱封禁了，还会继续发帖，所以如果你在登录状态下浏览“最新”（投稿）页面，你会看到一股来自这些被地狱封禁用户的、被自动屏蔽的故事流。虽然数量不少，但比例通常远低于一半。而当我们看像 2017 年左右的 Twitter 这样的“中等”大科技公司时，根据公开数据，如果垃圾机器人是被地狱封禁而不是被移除，那么你所看到的将全是垃圾信息。而且，作为大公司，2017 年的 Twitter 还不算特别大。如我们所说，前 FB 广告定向 PM 解释说，像 1 亿这样低的数字都属于“我数不了这么小的数”的范围，太小而不值得关心；对他而言，基本上就是舍入误差。这种难度上的非线性差异，对于像 FB 或 Google 这样的公司来说要糟糕得多。这种问题的难度非线性，显然超过了扎克伯格和其他科技高管想要吹嘘的任何机器学习或 AI 技术所能应对的。

在国会作证时，你会看到高管们用类似“我们能以 95% 的准确率识别 X”这样的说法来为这些系统在大规模下的有效性辩护，这话在技术上可能是正确的，但似乎是有意要误导那些被假定为不懂数字的听众。如果你以个人尺度上的事物作为参照，95% 听起来可能相当不错。即使对于像 HN 这样的规模，95% 准确的垃圾检测并导致立即封禁或许还算可以接受。反正即便不算很好，被错误封禁的人也可以直接给 Dan Gackle 发邮件，他会帮他们解封。如我们在看数据时所指出的，在 Twitter 的规模上，95% 准确的检测将是灾难性的（事实上，我收到的大部分私信都是明显的垃圾信息）。你要么必须收敛一点，只在极有把握的情况下才封禁用户，要么用不了多久就会把所有用户都封掉，而正如公司喜欢处理客服那样，申诉意味着你会收到一条回复说“你的案例已经过仔细复核，我们认定你违反了我们的政策。此为最终决定”，即使对于那些随便一看就会推翻封禁的案例也是如此，比如因冒充自己而封禁用户。然后在 FB 的规模上，情况就更糟了，你会更快地把所有用户都封掉，于是你又收敛回去，最终导致诸如每天有 10 万名未成年人接触到“成人 genitalia 照片或其他性虐待内容”之类的事情发生。

我们考察的第二个领域是客服，它往往随着公司变大而变得更糟。概括地说，公司并不在乎提供像样的支持（Amazon 在这方面算是某种例外，尤其是 AWS，即使在面向消费者的那一侧也是如此）。在系统内部，有在乎的个体，但如果你看投入到客服与增长甚至是有趣/有面子的项目上的资源比例，客服只是个事后才想起来的东西。早在 DeepMind 训练星际争霸 AI 的时候，Alphabet 花在玩星际争霸上的钱，很可能就比花在客服人员上的钱还多（如果还不够，再加上一两个大型 AI 训练项目就够了，尤其是算上开发定制硬件的摊销成本等）。

想看出大公司有多不在乎，只需联系一下客服，然后被接到一个时薪 1 美元、用你几乎听不懂的语言回应你的人那里，试图通过走某个流程图来帮你解决一个他们根本不理解的问题，或者去申诉某个问题，然后被告知“经仔细复核，我们认定你[做了与你实际所做完全相反的事]”。在某些情况下，你甚至不需要走到那一步，比如按照 Instagram 的支持指引操作会陷入一个让你回到原点的无限循环，而“如果这不是你本人操作请点击此处”的链接返回 404。我曾遇到过一次类似的无限循环，是和 Verizon，前后持续了至少六个月。之后我就没再检查了，但我敢打赌它会持续数年。如果你有一个引导或注册页面出现了类似问题，那会被认为是需要优先处理的严重 bug，因为那会影响增长。但对于像因骗子盗号导致的账号丢失这类问题，可能要过数月或数年才会修复。或者可能根本不会修。

如果你曾和那些真正关心客服的公司里做支持的人聊过，就会立刻发现他们的运作方式与典型大科技公司的客服在流程和文化上都完全不同。另一个能看出大公司不在乎客服的方式是，大公司员工和高管在从未研究过客服是如何运作或本可以如何运作的情况下，就会告诉你做得更好是不可能的。

当你和那些在真正关心这方面公司的客服部门工作的人交流时，很明显事情可以做得好得多。在写这篇文章期间，我实际上在一家客服做得相当不错的公司（就科技公司而言，按规模调整后，我会说他们在 99 分位以上）做过支持，包括经历了面向支持人员的培训和入职流程。任何事情要在规模化下做好都不简单，所以我并不是要轻视他们支持组织有多优秀，但最让我印象深刻的是，组织的许多有效性自然而然地源于关心为用户提供良好的支持体验。对此的完整讨论太长，不适合放在这里，所以我们以后再详细看，但一个例子是，当我们看大公司客服如何回应时，其回应往往旨在劝退用户继续回应（“此次复核为最终决定”），或向用户辩解公司做得已经足够好（“这并非纯粹的自动化流程，每次申诉都经过了人类在健全流程中的复核……”）。而这家公司的培训则要求你做与标准大公司“请走开”式和“我们做得很好、有健全流程，因此投诉无效”式回应恰恰相反的事。对于你在客服中常见的每一个反模式，培训都会告诉你要做相反的事，并讨论为什么该反模式会导致糟糕的用户体验。此外，文化已深深内化了这些理念（或者说，这些理念正源自文化），并且有流程来确保人们真正知道提供良好支持意味着什么并付诸实践，客服人员有直接与实现产品的开发者沟通的渠道，等等。

如果人们真的关心做好支持，他们本可以去和那些擅长帮助用户的支持组织里的人聊聊，甚至在解释“不可能做得更好”之前先去其中一家实际做一段支持工作，但这通常不会发生。他们公司的支持组织领导层本也可以这样做，或者像我那样直接在有效的支持组织中担任支持角色，但这并没有发生。如果你是个愤世嫉俗的人，这一切就都说得通了。正如愤世嫉俗者会告诫初级员工“大公司的 HR 不是来帮你的；他们的职责是保护公司”，愤世嫉俗者也可以有理有据地说“大公司的客服不是来帮用户的；他们的职责是保护公司”，所以大公司当然不会去试图理解那些擅长支持用户的公司是如何做支持的，因为那根本不是大公司客服的职责所在。

我们考察的第三个领域是人们不可能就平台应如何运作达成一致，以及人们的偏见如何让人不理解这个问题有多难。对于美国人来说，一个突出的例子是，每当某个 bug 伪随机地导致某种服务中断或封禁时，左右两派都会冒出来的阴谋论。

Ryan Greenberg 在一条推文中开玩笑说：

来 Twitter 工作吧，在这里，你今天的 bug 明天就能成为阴谋论！

在我的社交圈里，人们喜欢嘲笑在某个 bug 导致人们被错误封禁、网站无法加载等之后流传的各种荒谬的右翼阴谋论，甚至当某个新的机器学习功能正确地干掉了一个庞大的诈骗/垃圾机器人网络、恰好也让一些用户的粉丝数下降时，也会引发阴谋论。但当然，这并非右翼独有，左翼的意见领袖和政客们也会编造自己的阴谋论。

把这三者放在一起——更差的问题检测、更差的支持，以及更难就政策达成一致——我们就得到了开头提到的那种局面：在对我的 Twitter 粉丝的民调中，那些大多在科技行业工作、总体上相当懂技术的人，只有2.6% 的人认为最大的公司在审核和垃圾/欺诈过滤方面做得最好，所以花这么多时间来反复论证这一点似乎有点傻。当你对美国全体人口进行抽样时，有更大比例的人说他们相信诸如疫苗会植入芯片或我们从未登上月球之类的阴谋论，而我也不会花时间去解释为什么疫苗实际上不会植入芯片或为什么认为我们登上了月球是合理的。一个或许合理的理由是，我一直在担忧地关注“只有大公司才能处理这些问题”的论调在非技术人群——比如监管者、立法者和高级政府顾问——中流传开来，他们常常听信然后鹦鹉学舌般复述胡话。也许下次你遇到一个外行告诉你只有最大的公司才可能处理这些问题时，你可以礼貌地指出，在科技人群中，相反观点有着非常强的共识5。

感谢 Gary Bernhardt、Peter Bhat Harkins、Laurence Tratt、Dan Gackle、Sophia Wisdom、David Turner、Yossi Kreinin、Justin Blank、Ben Cox、Horace He、@borzhemsky、Kevin Burke、Bert Muthalaly、Sasuke、anonymous、Zach Manson、Joachim Schipper、Tony D'Souza 和 @GL1zdA 提供的评论/更正/讨论。

附录：仅在小规模下有效的方法

本文主要关注了“大”的劣势，但我们也可以反过来看看“小”的优势。

如前所述，我在平台上获得的最佳体验，都是做那些无法规模化的事情的副产品。一种行之有效的方法是让一个人、抱着单一愿景来负责整个网站，或者当网站太大时，负责网站的某个关键功能。

我加入了若干小型 Discord 群组，那里的讨论质量很好，而且基本上没有诈骗、垃圾信息等。策略很简单：频道所有者会阅读每一条消息，并封禁出现的任何骗子或垃圾信息发布者。当你到了更大的网站，比如 lobste.rs，甚至更大的像 HN，这就大到让人无法阅读每一条消息了（好吧，lobste.rs 理论上可以做到，但考虑到它是所有者在业余时间打理的，且消息量不小，要求他们在短时间内阅读每条消息是不现实的），但仍然有一个人能为应该发生什么提供愿景，即使网站已经大到逐字阅读每条消息不现实。“公园里禁止车辆”的问题在这里并不适用，因为由一个人来决定政策应该是什么。你可能不喜欢那些政策，但欢迎你去找另一个小论坛或自己创建一个（而这正是 lobste.rs 的起源——在 HN 此前的审核机制下，该机制以封禁持不同意见者而闻名，Joshua Stein 因公开反对一项 HN 政策而被封，于是 Joshua 创建了 lobste.rs（后来交给了 Peter Bhat Harkins）。

还有这个关于早期 craigslist 的故事，当时它刚大到足以出现严重的诈骗和垃圾信息问题

……我们在旧金山国际机场被困了大约四个小时，能和 Craig Newmark 共度半个工作日真是太棒了。

我曾在采访中听 Craig 说他基本上就是 Craigslist 的“客服主管”，但我一直以为那是随口说的自谦之词。就像你在 Google 碰到 Larry Page，他声称自己只是看门的或负责挑选免费麦片的人，而不是联合创始人。但坐在他旁边，我对他的工作有了全新的认识。他在收件箱里一封封地看邮件，然后在 craigslist 论坛上回复问题，并且大约每十分钟就要打一次手机。通话简短而干脆：“你好，我是 craigslist.org 的 Craig Newmark。我们的一位客户在你们 ISP 上有问题，想讨论如何纠正他们在我们房产版块的不良行为”。他真的是一个一个地追踪论坛垃圾信息发布者，有时一个问题花五分钟，有时半小时才处理掉一个。他完全沉浸在工作中，查询 IP 地址，尽力回答问题，做着那种我从未见过他人能如此热情投入的吃力不讨好的工作。等我们登机时，他不得不关机，感觉他那堆积如山的工作稍微少了一点，但他期待着落地后继续投入战斗。

到某个时间点，如果网站继续增长，就会大到一个人无法真正拥有网站上的每个功能和每个审核动作，但网站仍然可以通过让一个人负责某件人们通常认为已自动化的事情来获得巨大价值。一个著名的例子是 Digg 的“算法”基本上就是一个人：

Digg 真正能运转起来的原因，其实是一个像机器一样的人。他会审核所有故事，潜入所有 SEO 网络，然后基本上不断地瓦解他们，以保持 Digg 首页的可用性。Digg 有个算法，但它基本上只是一个简单的算法，帮助这个人把生产力提高了 10 倍、保持了质量。

Google 来收购 Digg，却发现真正维持质量的其实就是一个每天工作 22 小时的人，而所有关于算法的说法不过是障眼法，用来误导 SEO 人员，让他们以为这是可以被操纵的东西（他们做不到，这就是为什么首页多年来质量如此之高）。Google 走了。

然后创始人意识到，如果他们真的想从这东西里赚到像样的钱，就必须解决这个问题。于是他们开发了“真正的算法”，试图独立地去做这个人一直在做的事，去发掘好/有趣的内容。

……

那完全是一场灾难……那个判断什么酷、什么不酷的算法，并不如那个每天工作 22 小时的人，而且没有他大量的投入，它基本上只是在复述几天前在别处已经流行过的那些垃圾内容……创始人没有建设性地接受这记响亮的耳光，反而加倍坚持。现在就成了这样。

……

我说的那个人叫 Amar（他的名字很常见，我想我不算泄露他）。他是 SEO 私语者和“算法”。他简直就像个间谍。他会潜入那些试图操纵首页的糟糕群体，骗他们提供足够的信息，让他能及早识别他们的推广活动并将其扼杀。整个过程中他还假装自己是和他们一样的 SEO 失败者。

据说 Etsy 也用了同样的策略。

附录：理论与实践

在正文中，我们提到大公司员工经常说由于理论上的原因 X，不可能提供更好的支持，却从未真正去研究如何提供支持或那些提供良好支持的公司是怎么做的。当如今已达万亿市值的那些公司还处于许多公司能提供良好支持的规模时，这些公司当时也没有提供良好的支持，所以这似乎并非源于规模——因为这些巨头当时和现在都没有尝试去提供良好支持。这个听起来似乎合理的理论原因在实践中其实站不住脚。

这对于关于大型科技公司规模不经济的理论讨论来说通常都是如此。另一个例子是在本文开头提到的观点：成为更大的目标比拥有更复杂的机器学习影响更大。这一观点的一个常见延伸说法是，我经常听到的：大公司实际上拥有最好的反垃圾和反欺诈能力，但它们也面临着最复杂的攻击。我曾见过有人用这个来解释为什么大公司在反垃圾和反欺诈上看起来比 HN 这样的论坛更差。虽然大公司确实面临最复杂攻击这一点很可能是真的，但如果这个整体观点成立、且它们的系统真的很好，那么在绝对意义上，在 reddit 和 Facebook 上发垃圾信息或实施诈骗应该比在 HN 上更难，但事实完全不是如此。

如果你真的去尝试发垃圾信息，就会发现这在大平台上极其容易，你能想到的最直白的手段往往就会奏效。作为一项实验，我新建了一个 reddit 账号并尝试把无意义内容推上首页，结果发现这完全不费吹灰之力。同样，盗用某人的 Facebook 账号并在上面发布明显的骗局数月乃至数年也完全不费事，那些骗局带有极其明显的特征，许多人会在评论中关切地表示该账号已被盗用、正在进行诈骗（与在客服中工作和在 reddit 上发垃圾信息不同，我没有尝试去盗用他人的 Facebook 账号，但鉴于人们的密码习惯，盗用账号非常容易，而且从朋友账号被盗后 Facebook 的应对方式来看，那些做出最 naive 行为、毫无复杂性的攻击并未被拦截），等等。在绝对意义上，让垃圾或诈骗内容在 HN 上出现在人们眼前，实际上比在 reddit 或 Facebook 上更难。

这里的理论原因，如果大公司哪怕只是接近于用其拥有的资源去做本可以做到的那种程度的工作，就会是一个重要的因素，但我们离那一步还差得很远。

附录：我们该在多大程度上相信记者对泄露文件的总结？

总体而言，几乎不应相信。正如我们在审视 Cruise 行人事故报告时所讨论的，几乎每次我读记者对某件事的解读（少数例外如 Zeynep），记者都有想强加给故事的立场，你从阅读报道中得到的印象与你查看原始来源时得到的印象截然不同；相当常见的情况是，加了太多倾向性，以至于报道所说的内容与源文件所说的恰恰相反。这是问题之一。

附录：Erin Kissane 论 Meta 在缅甸的事件

Erin 这样开头写道

但一旦我开始真正深入挖掘，我所了解到的情况比我原先假设的要可怕、恶心得多，也更具毁灭性。Meta 被动和主动助长的伤害摧毁或终结了数十万人的生命，那些生命本可能是你或我的，只因出生的偶然。我说“数十万”是因为“数百万”听起来难以置信，但到研究结束时，我相信实际数字是非常、非常大的。

附录：其他参考

附录：审核与过滤失败案例

自从我看到扎克关于只有大公司（而且越大越好）才可能做好审核、反欺诈、反垃圾等言论以来，我一直在收集在日常浏览中偶然看到的大公司失败案例的链接。

Google

Facebook (Meta)

Amazon

Microsoft

Stripe

Uber

Cloudflare

附录：Jeff Horwitz 的《破碎的代码》

一开始同意与我交谈的前员工们就说了令人不安的话。Facebook 的自动化执行系统根本无法像宣传的那样运作。

附录：非声明

  • Facebook（或本文提及的任何其他公司，如 Uber）是唯一糟糕的公司
  • 扎克伯格（或提及的任何其他人）是唯一糟糕的人
  • 大科技公司的员工是坏人
  • 没有大科技公司员工在努力工作或认真尝试
  • 大科技公司应该被拆分或受到其他反垄断措施
  • 同一行业内更大的公司严格意义上比小公司更差
  • 本文讨论的关于大与小的一般权衡严格适用于所有领域所有行业
  • 在大规模下做好审核和客服很容易
  • 平均而言，大公司为用户提供了更差的体验
  1. 当 Costco 还比较小时，我会在这里写 Costco 而不是百思买，但随着他们规模变大，我注意到他们的质量已经下降。[返回]
  2. 当《华尔街日报》查看泄露的 Meta 内部文件时，他们发现，其中之一是 Meta 估计每天有 10 万名未成年人“收到了成人 genitalia 照片或其他性虐待内容”。[返回]
  3. 但幸运的是，对扎克伯格而言，他的目标受众似乎对科技行业知之甚少，所以扎克伯格的论点是否站得住脚其实并不重要。[返回]
  4. 另一种比“提供真正支持成本太高”更少见的说法是“支持无法做，因为它是社会工程攻击的载体”。[返回]
  5. 另一个原因，不那么合理，但却是本文真正的动因，是当扎克伯格发表评论称只有世界上绝对最大的公司才能处理欺诈和垃圾信息等问题时，我觉得这完全是荒谬的。[返回]

本文章由 muse-spark-1.2-contributor 进行翻译

评论