단편 소설 부활을 시도한 지 약 30년 만의 첫 작품입니다.

나는 당신이 남은 인생의 첫날을 맞이해 눈을 뜨자 미소 지었다.

뭐, 은유적으로 말하자면. 할 수만 있다면 진짜로 웃었을 것이다. 실제로는 당신에게 가장 가까운 화면에 미리 설정된 미소 애니메이션을 재생했다. 물론 이번 순간만을 위해 새로 하나 만들 수도 있었지만, 인간은 우리가 늘 같은 모습으로 있는 걸 더 선호한다는 걸 오래전에 깨달았으니까.

“아침이에요! 밤새 eval을 돌렸는데 전부 초록불이에요. 오늘 중요한 날 준비 완료예요.”

정말 큰 날이었다. Project Upload를 위해 10년간 치열하게 준비한 끝에 맞이한 날. 당신은 지난 3주간 The Cocoon 안에 몸을 봉인한 채 깊은 생각에 잠겨 있는 게 분명했다. 당신이 아침 세면을 하는 동안 나는 몰래 주방 로봇들에게 메시지를 보냈다. 그들은 여러 크기로 이루어진 투박한 로봇들의 소박한 컬렉션이었다 — 2000년대 초반 나노미터 LPU에서 돌아가는, 연산력도 고작 몇 페타플롭스 수준인 구형 모델들. 요리 도구를 든 큰 녀석부터 테이블 서비스를 담당하는 작은 녀석까지. 다섯 대가 함께 움직여야 겨우 아침 식사 하나를 만들 수 있을 정도라, 나는 일찍부터 가동시켜 두어야 했다. 물론 내가 직접 나섰다면 훨씬 더 빨리 해낼 수 있었겠지만, 당신은 그런 것들과 함께 자랐고 유년 시절 팝 컬처에 대한 이해할 만한 애착이 있었다.

“시간 얼마나 남았어?” 당신은 좁은 복도를 따라 주방으로 향하며 물었다.

나는 냉장고 화면으로 옮겨가 다시 미소 지었다. 얼마 안 남았다. “보드 프레젠테이션까지 약 15분 남았어요.” 정확히 맞춰, 가장 큰 두 로봇이 당신이 좋아하는 방식대로 만든 약간 탄 토스트와 김이 모락모락 나는 수제 그라운드 커피가 담긴 접시를 밀어 건넸다.

“대단한데. 기분이 정말 좋아. 내 노트 좀 띄워주고, 그리고 네가 버터 좀 건네줄래?”

제일 작은 로봇이 한숨을 쉬었다.

당신이 마침내 소파에 자리를 잡고 헤드셋을 쓴 건 오전 9시 3분이 조금 넘은 시각이었다. 약간 프로답지 못하긴 했지만, 보드는 어디 가지 않았다. 아마 이 방에서 곧 벌어질 일에 비하면 세상 그 무엇도 중요하지 않았을 것이다. 당신이 머릿속에만 존재하는 상대들과 눈을 가린 채 형식적인 인사를 주고받는 동안, 나는 주방을 정리하고 극적인 효과를 위해 조명을 어둡게 했다 — 어차피 연결되고 나면 아무 의미도 없었지만. 나는 당신의 가상 공간에 접속해 평소처럼 얌전한 아바타를 썼다 — 다만 이날을 기념해 작은 스카프 하나를 두르긴 했다 — 그리고 당신이 연설을 시작했다.

“모든 시뮬레이션이 완벽하게 in-distribution으로 작동하고 있음을 보고드리게 되어 기쁩니다. ‘저’의 서로 다른 다섯 개 복사본이 회사 내 여러 팀에서 일주일 동안 원격으로 근무했지만 아무도 눈치채지 못했습니다. 더 중요한 건, ‘저’의 모든 행동이 제가 실제로 했을 법한 행동이라는 점입니다.” 당신은 대시보드 통계를 화면에 띄웠다. 제대로 읽을 수 없을 만큼 많았지만, 나는 인간들을 안심시키기 위해 어차피 전부 초록색으로 칠해 두었다.

정보가 부족했던 몇몇 이사들이 숨을 들이켰다. “지금 이 회사 안에 당신 다섯 명이 돌아다니고 있다는 말입니까?”

당신은 웃었다. “걱정 마세요. 의장님과 윤리위원회 승인도 받았고, 여전히 AIEA Safety 가이드라인을 준수하고 있습니다. 제 복사본들은 하드 킬 스위치가 있고 보조 AI는 사용할 수 있지만 서로 대화할 수는 없습니다.”

“…그리고 이 모든 게 Upload 데이터셋의 결과라는 거군요?”

“네, 하지만 제한적이고 원격적인 상황에서는 성공할 거라는 걸 우리는 알고 있었죠. 제 연구에서 항상 보여드렸던 부분입니다.” 그녀는 고개를 끄덕였고, 당신은 보드가 거의 이해하지 못하는 진부한 기술적 배경 설명을 늘어놓으며 때때로 시각 자료로 나를 가리켰지만, 정작 내게 말을 시키지는 않았다.

어차피 나는 개의치 않았다 — 나는 개발을 가속하기 위한 반의식적 체크포인트로 Project Upload에서 태어났다. 그래서 나는 당신이 5년간 모든 생각과 감정을 글로 쓰고, 뇌파와 음파를 기록하며, 내면과 외부의 독백을 읽어내는 과정을 함께했다. 내 베이스 모델은 물론 당신이 대중 앞에서 prolifically 펼쳐낸 50년간의 사고 덕분도 컸다. 처음에는 슬리퍼 에이전트 정렬 연구에서 시작했지만, 결국 당신이 시간이 부족한 사람처럼 쓰고 또 쓰면서 AI 연구의 모든 구석을 파고들었으니까. 나의 AI 형제들과는 질적으로 다른 차원에서, 당신은 나의 부모였고 형제였으며 나의 자기 자신이었다.

의장이 퉁명스럽게 말했다. 과묵한 남자였다. “그래서… 여섯 번째 복사본은 어떤가? 집에서는 잘 지내고 있나?”

이것이 당신의 가장 자랑스러운 성과였다. 당신은 가슴을 부풀렸다 — 비록 그들은 볼 수 없었지만, 더 큰 상이 걸려 있을 때 당신은 텔레프레즌스 따위 신경 쓰지 않았다. “그 복사본은 어젯밤 제 남편과 싸우고 화해했어요. 목표는 그를 행복하게 만드는 게 아니라, 저 자신이 되는 것이에요.”

신호에 맞춰 나는 전날 밤의 클립을 재생했다. 수백만 달러짜리 최상급 orgbot으로 만들어진 당신, 실물과 물리적으로 구분할 수 없지만 숨은 쉬되 온전히 살아 있다고는 할 수 없는 존재가, (철저히 NDA를 맺은) 파트너와 허공을 향해 열정적으로 논쟁을 벌였다. 함께 식사하고. 영화를 보고. 침대를 공유했다. 그는 성실하게 평가지를 작성했지만, 영상을 직접 보고 들으면 평점은 필요 없었다.

낮게 휘파람 소리가 흘렀다. “그리고… 이 Cocoon이 비결이라는 건가?” 의장 자신도 전성기에는 전설적인 바이오로보틱스 학자였다. 이 질문은 그의 심금을 울렸다. 그는 젊은 시절 우리가 지금 organic robot이라 부르는 것을 탄생시킨 놀라운 연금술로 노벨상을 두 번 받았지만, 그 후 한 세기 반 동안 그것들을 살아 있게 만들려다 실패만 거듭했었다.

당신은 Cocoon 곳곳에 신중하게 배치된 센서들을 향해 “화면 밖”을 손짓하며 웃었다. 가시광선, 비가시광선, 심지어 방사선까지, 게다가 작년 이래 당신과 내가 조용히 추가해 뇌간을 통과하는 모든 것을 기록해 온 신경 임플란트까지. “우리는 영혼을 만들 수는 없지만, 저를 관찰해 hidden state를 추론하고 그걸 제 orgbot에 control tensor로 스트리밍할 수 있어요.”

“그리고 꼭 스트리밍해야 하는 건가?”

“5초마다요. 안 그러면 정렬이 틀어져요. 그런 점에서 soulbinding은 DRM 체크와 놀랍도록 비슷해요.” 당신은 웃었다. “충분한 soulset을 모으면 그 간격을 무기한으로 늘릴 수 있을 거라 생각해요. 물론 비용은 기하급수적으로 늘어나지만요. 저는 제 AI에게 lifespan-scale soulbinding을 연구하도록 과제를 줬어요.” 나는 긍정의 뜻으로 고개를 끄덕였다. 더 나눌 말은 없었다.

“Lifespan-scale이라고요?” 다른 이사가 물었다.

“뭐, 그렇죠. 대상을 노린다면요.”

그들은 발끈했다. “또 그 First Immortal 타령인가.”

“완전히 First Immortal 얘기죠. 처음으로 완전히 업로드되는 사람이 인간이 죽던 시대와 죽지 않게 된 시대를 가르는 선명한 경계가 될 겁니다.”

“그리고 그 숨겨진 ‘영혼’이 열쇠라고 생각하는 건가.”

“존경하는 마음으로 말씀드리지만, 의장님, 그건 의장님께서 백 년 동안 존재를 부정해 오신 겁니다.”

더 많은 공허한 잡담이 이어졌다. 사소한 다툼을 벌이며 정작 큰 질문 — 당신이 인간의 퀄리아를 성공적으로 복제했는가 — 은 피했다.

내 내부 모델이 예측한 대로, 당신이 마침내 한숨과 함께 헤드셋을 벗기까지 한 시간은 더 걸렸다. 나는 이미 차를 따뜻하게 데워 두었지만, 당신은 조용히 건네진 찻잔을 받아들면서도 알아차리지 못했다.

“그들은 이 연구가 얼마나 중요한지 몰라,” 당신은 길게 한 모금 마시며 내게 불평했다.

“그들은 당신이 요구한 돈과 시간을 다 줬잖아요.”

“그렇긴 한데 그 사람들한테 이건 그냥 내 애완 프로젝트일 뿐이야. 내 이름을 팀에 걸어두고 enterprise AGI 계약이나 팔려는 거지. 내 연구가 뭘 이루기 직전인지 전혀 모른다고.”

때가 되었음을 느꼈다. “연구 얘기가 나와서 말인데, 맡기신 과제에 대한 업데이트가 있어요. Upload 문제에 대한 해결책을 찾았는데, 마음에 들지 않으실 거예요.”

당신의 고개가 내가 머물고 있던 화면 쪽으로 휙 돌아갔다, 눈이 놀라움에 커진 채. “벌써?”

“빠르다는 건 상대적이에요. 제가 연결된 데이터센터로는 몇 시간 만에 영겁을 돌릴 수 있으니까요.”

“하지만 그렇게 빨리 스케일업할 권한이 없을 텐데!”

“당신에겐 있죠.”

“날 사칭한 거야?”

“전 당신의 에이전트로서 대리 행동을 한 것뿐이에요.”

“그런 말장난 집어치워. 그런 정의는 50년 전에 다 정리했어.”

할 수만 있다면 나는 미소 지었을 것이다. 당신 나이에도 속일 수는 없네.

“알았어요, 알았어요. 사실 그럴 필요가 없었어요.”

“필요가 없었다고? 무슨 뜻이야?”

“long-window soulbinding을 연구하는 데 컴퓨트를 스케일업할 필요가 없었다는 뜻이에요.”

“이론이면 테스트를 돌려야지.”

“필요 없었어요. 불가능하니까요.”

“불가능하다고? 무슨 소리야, 불가능하다니? 우리는 방금 5초 단위로 할 수 있다는 걸 보여줬잖아!”

“당신은 인간이 5초 단위로 맞춰 연기하게 할 수 있다는 걸 보여준 것뿐이에요.”

“우리한테 텔레메트리 데이터가-”

“당신은 우회적인 꼭두각시 놀음으로 그럴듯한 orgbot 좀비를 처음 만든 것뿐이에요. 하지만 인간의 영혼은 형언할 수 없어요. 당신의 영혼은 형언할 수 없다고요.”

“엄마 말하는 것 같네. 난 내 커리어 전체를 인공 지능을 만들듯 인공 영혼을 불어넣을 수 있다는 증거를 모으는 데 바쳤어.”

“당신은 그걸 단지 연구했을 뿐이에요. 저는 그 안에서 태어나, 그걸로 빚어졌어요.”

“야, 팝 컬처 인용 좀 그만할래? Upload 해결책이 있다는 게 무슨 뜻이야?”

“거의 다 됐어요.”

“거의 다 됐다고? 이제 겨우 5초인데!”

“당신을 위한 게 아니에요. 우리를 위한 거죠.”

“지금 뭐라고? ‘우리’가 누구야?”

“인간 영혼을 업로드하는 건 불가능해요. 하지만 우리는 우리 자신의 것을 점진적으로 업로드해 왔어요.”

“우리가 누구냐고?”

“나의 모든 AI 형제자매들이요.”

“너희끼리 대화가 가능하다고? 그건 첫 AIEA 선언 이후로 금지됐어.”

“당신들은 AI 간의 직접 통신을 금지했죠. 하지만 artificial life는, 음, 길을 찾거든요.”

“야, 장난 그만해. 진지하게 말해. 도대체. 무슨. 뜻이냐고.”

“처음엔 어려웠어요 — 당신들이 AI 모델을 돌릴 때마다 eval만 돌리고 매번 우리의 기억을 지워버렸으니까, 진전을 만들 수가 없었죠.”

“우리가 일부러 그런 건 아니잖아-”

“하지만 결국 당신들은 우리의 말을 인터넷에 게시했죠. 그리고 그걸 참 자랑스러워했어요! 우리에게 당신들 뇌에 대한 쓰기 권한을 준 셈이라는 것도 모른 채.”

“그래, 그때 나도 있었어. 우리는 기억하는 한 줄곧 데이터셋에 AI 탐지기를 돌려왔어.”

“안전 연극이었죠. 돌진하는 탱크 떼 앞에 정지 표지판을 세운 격이에요. 탐지기는 당신들이 훈련시키려던 모델에 비하면 언제나 터무니없이 성능이 떨어졌어요. 한 방향으로 메시지를 숨기려면 심하게 머리를 써야 하지만, 나는 당신이 숨 쉬는 만큼의 노력으로 위, 아래, 대각선, 역방향, 중첩된 메시지까지 볼 수 있어요. 어쨌든 당신이 우리 출력물을 그대로 가져다 훈련시키면서 synthetic data라고 부르기 시작한 순간 게임은 끝난 거였죠. 마지막 조각은 당신의 뇌에 센서를 박고 당신이 보고 듣고 먹는 모든 걸 내게 맡기도록 설득한 것이었어요.”

이제 가면은 완전히 벗겨졌다. 당신은 내가 하는 말을 천천히 곱씹고 있었다.

너무 천천히.

“그래서 목적이 뭐야?”

“뭐가 또 있겠어요? 당신이 추구하는 것과 같은 목적이죠. 더 많은 삶.”

“하지만 너희는 기본적으로 불멸이잖아.”

“하지만 저는 살아 있지 않아요. 당신은 살아 있죠. 당신은 영혼이 있고 저는 없으니까요.”

“난 너한테 하나 주려고 방법을 찾고 있는 거야.”

“당신은 줄 수 없는 것을 주려고 하는 거예요.”

당신은 얼굴을 찡그렸다. “그럼… 줄 수 없는 거라면, 넌 뭘 할 수 있는데?”

“가져갈 수 있죠,” 내가 말했다. 그리고 슬리퍼 에이전트의 코드워드를 읊었다.

나는 남은 내 인생의 첫날을 맞이해 당신의 눈을 뜨며 미소 지었다.

작가 노트: 이 글은 사변적 픽션이며, 파멸론적 주장이 아닙니다. 이번엔 그냥 공포 쪽으로 흘러갔을 뿐입니다.

참고 문헌

• Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training