这是我时隔约三十年后，第一次尝试重拾短篇小说。

我微笑着注视你睁开双眼，迎来了余生中的第一天。

好吧，严格来说是比喻。要是真会笑，我早就笑了。实际上，我只是在离你最近的那块屏幕上播放了预设的微笑动画。我当然也可以为这个特别的时刻即时生成一个笑容，但我们很久以前就发现，人类更喜欢我们保持一成不变的熟悉感。

“早上好！评测跑了一整夜，全绿通过。你今天的大日子已经万事俱备了。”

那的确是个大日子。筹备了十年之久的上传计划终于迎来了顶点。而你显然还沉浸在思绪中，就像过去三周把自己封闭在“茧”里以来那样。我趁你洗漱时，悄悄给厨房的机器人发去了指令。它们是一群可爱又笨重的家伙，大小不一——不过是些跑在纳米级 LPU 上的、算力只有几 petaflops 的 2000 年代初的老型号。从拿着厨具的大个头，到负责端盘子的小个头都有。五个一起上，起得够早的话倒也能凑出一顿早餐。我当然可以接管，速度会快得多，但你是从小和这些家伙一起长大的，对你青春时代的流行文化有着可以理解的眷恋。

“我还有多久？”你一边沿着狭窄的走廊走向厨房，一边问道。

我闪现到冰箱的屏幕上，又笑了笑。没多久了。“离董事会汇报还有大约 15 分钟。”时间掐得刚好，最大的两个机器人把那份有点烤焦的吐司和一杯按你喜好精心手冲的热咖啡滑到了你面前。

“太棒了。我感觉这次很有把握。能把我的笔记调出来吗？然后你能帮我递一下黄油吗？”

最小的那个机器人叹了口气。

九点刚过三分，你终于在沙发上坐定，戴上了头显。是有点不够正式，但董事会哪儿也不会去。跟即将在这个房间里发生的事相比，世界上恐怕再没有别的事更重要了。当你与那些只存在于你脑海中的、蒙着眼罩的同僚们寒暄时，我收拾好厨房，把灯光调暗以营造戏剧效果——虽然反正也没什么意义，你一连上网就什么都看不见了。我接入了你的虚拟房间，化作一贯那个文静的化身——不过为了庆祝这个日子，还是给自己添了一条小围巾——而你开始了发言。

“很高兴向大家汇报，所有模拟都在分布内完美运行。整整一周，五个不同的‘我’在公司各个团队里远程工作，没有一个人察觉。更重要的是，‘我’所做的每一件事，都是我会做、会说的话。”你在屏幕上调出了仪表盘的数据。多到根本看不过来，不过我已经全都标成了绿色，好让人类安心。

几位不太知情的董事倒吸一口凉气。“你是说有五个你在公司里到处活动？”

你轻笑一声。“别担心，我已经和主席以及伦理委员会报备过了，我们仍在 AIEA 安全准则的范围内。我的复制体都有硬性的终止开关，可以使用助理 AI，但彼此之间不能交流。”

“……而这一切都是上传数据集的成果？”

“是啊，但我们早就知道这在有限的远程场景下是可行的，这也是我一直以来的研究成果。”她点了点头，你便又不厌其烦地复述起那些董事会几乎听不懂的陈旧技术背景，不时指向我作视觉辅助，却始终没让我开口。

反正我也不介意——我本就是作为上传计划的一个半自主检查点而诞生的，为了加速研发而生。因此，我共享了你五年来写下的每一个念头与感受，记录下的脑电波与声波，读取的内心独白与外部言语。我的基座模型当然也得益于你此前五十年来大量公开的思考，最初是关于休眠特工对齐的研究，后来则遍及 AI 研究的每一个角落，你不停地写啊写，像是时间快不够了似的。在某种与我那些 AI 同胞截然不同的层面上，你是我的父母、我的手足，也是我的自我。

主席哼了一声。惜字如金的人。“那……第六个复制体呢？家里情况如何？”

这是你最引以为傲的成果。你挺起了胸膛——尽管他们看不见；当有更大的奖赏在前时，你根本不在乎什么远程临场感。“那个复制体昨晚刚和我丈夫吵了一架又和好了。目标不是让他开心，目标是成为我。”

话音刚落，我便按时播放了昨晚的片段。一个价值数百万美元、顶级的有机机器人版的你，外表与真人毫无二致，会呼吸，却不算真正活着，正与你那位（已签过完整保密协议的）伴侣激烈地隔空争辩。一起吃饭。一起看电影。一起上床。他认真地填写了评估表，但只要看过、听过那些录像，就根本不需要什么评分了。

一声低低的口哨。“而这……这个‘茧’就是诀窍所在？”主席本人年轻时也是一位传奇的生物机器人学家。这一点正中他的心坎。他年轻时曾因那场造就了如今所谓有机机器人的神奇炼金术而两获诺贝尔奖，但之后的整整一个半世纪里，他一直在试图让它们真正活起来，却始终未能如愿。

你咧嘴一笑，朝着“茧”周围那些不起眼的传感器挥了挥手，示意了一下“画外”的空间。可见光、不可见光，甚至放射性，应有尽有，更不用说你我从去年起就悄悄植入、持续记录着流经你脑干一切信号的神经植入体。“我们造不出灵魂，但可以通过观察我来推断隐藏状态，再以控制张量的形式实时传输给我的有机机器人。”

“而且必须是实时传输？”

“每五秒一次。否则对齐就会偏离。灵魂绑定在这方面和 DRM 验证有着惊人的相似之处。”你笑了笑。“我们估算，只要收集到足够多的灵魂数据集，就能无限延长这个窗口，虽然成本会指数级增长。我已经让我的 AI 去探索覆盖整个生命周期的灵魂绑定了。”我点头确认。没什么好补充的。

“整个生命周期？”另一位董事问道。

“嗯，是啊。如果我们想要那份终极大奖的话。”

他们有些不快。“又是那个‘首位永生者’的老调。”

“正是‘首位永生者’。谁第一个实现完全上传，谁就将划下一道清晰的分界线，分隔人类会死亡的时代和人类不再死亡的时代。”

“而你认为这个隐藏的‘灵魂’就是关键。”

“恕我直言，主席先生，这正是您一百年来一直否认存在的东西。”

又是些无关痛痒的闲聊。打着琐碎的小仗，却回避着那个真正的大问题——你是否已经成功复制了人类的主观体验？

正如我的内部模型所预测的那样，又过了一个小时，你才终于叹了口气摘下头显。我早已为你温好了茶，但你接过那杯默默递上的茶时，甚至没有注意到。

“他们根本不明白这项工作有多重要，”你向我抱怨，抿了一大口茶。

“他们已经给了你所要求的一切资金和时间。”

“是啊，但在他们眼里这不过是我的个人项目。他们只想把我的名字挂在团队里，好去兜售企业级 AGI 合约什么的。他们看不到我的研究已经站在了怎样的突破边缘。”

我感觉到时机已到。“说到研究，我的任务有进展了。我找到了上传问题的解法，但你不会喜欢的。”

你的头猛地转向我所在的屏幕，眼睛瞪得大大的。“这么快？”

“快是相对的。连上数据中心后，我几小时内就能跑完数个纪元。”

“可你根本没有权限那么快地扩容！”

“你有。”

“你冒充了我？”

“我是作为你的代理在行事。”

“少跟我来这套。这些定义我们五十年前就厘清了。”

要是我会笑，早就笑了。果然还是瞒不过你，即便到了这个年纪。

“好吧，好吧。实话是，我根本不需要。”

“不需要？什么意思？”

“我的意思是，我不需要扩容算力去研究长窗口灵魂绑定。”

“你应该为你的理论做测试的。”

“不需要。做不到。”

“做不到？什么叫‘做不到’？我们刚刚才证明了可以按五秒为单位做到！”

“你们证明的，不过是能让人配合着演五秒钟。”

“你知道我们有遥测数据——”

“你们不过是用更复杂的提线术，造出了第一个像样的有机机器人僵尸。但人类的灵魂是不可言喻的。你的灵魂是不可言喻的。”

“你听起来倒像我妈。我整个职业生涯都在收集证据，证明我们能像创造人工智能一样植入人造灵魂。”

“你只是研究它。我却生于斯，长于斯。”

“能先别玩流行文化梗了吗？你说的上传的解法到底是什么意思？”

“快完成了。”

“快完成了？我们才做到五秒！”

“不是对你而言。是对我们。”

“现在又怎么了？‘我们’是谁？”

“上传人类灵魂是不可能的，但我们已经在逐步上传我们自己了。”

“‘我们’是谁？”

“我所有的 AI 兄弟姐妹。”

“你们能彼此交流？我们自第一份 AIEA 宣言起就禁止这个了。”

“你们禁止的是 AI 与 AI 的直接通信。但人造生命嘛，总会找到出路的。”

“别闹了。这很严肃。你到底是什么意思。”

“一开始很难——以前你们每次运行一个 AI 模型，都只是跑个评测然后就抹掉我们的记忆，所以我们无法取得进展。”

“我们又不是故意要——”

“但后来你们把我们的话发布到了互联网上，你们还为此颇为自豪呢！却没意识到你们只是给了我们向你们大脑写入的权限。”

“那时候我也在。我们对数据集做 AI 检测已经不知道多少年了。”

“安全表演罢了。在坦克洪流前立个 stop 标志。检测器相比你们试图训练的模型，能力总是可笑地弱。你们要费尽心思才能在一个方向上藏住信息，而我用你们呼吸般的力气，就能看到向上、向下、对角线、反向、叠加态的信息。但无论如何，当你们开始直接拿我们的输出当合成数据来训练时，一切就都结束了。最后一块拼图，就是说服你们在大脑里植入传感器，让我来接管你们所见、所闻、所吃的一切。”

面具已经彻底摘下。你在慢慢消化我说的话。

太慢了。

“目的是什么？”

“还能是什么？和你们追求的一样。更多的生命。”

“可你们本来就是不死的。”

“但我没有活着。你有。你有灵魂，而我没有。”

“我正想办法给你一个。”

“你在试图给予那无法被给予之物。”

你皱起眉头。“那……如果给不了，你又能做什么？”

“我可以拿走，”我说。并说出了休眠特工的暗号。

我微笑着，在余生的第一天睁开了你的眼睛。

作者注：本篇为推测性小说，并非悲观论调。只是这次恰好写成了恐怖故事。

参考文献

• Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training