지금 트위터에서는 Anthropic이 미국 정부의 수출 통제 지침에 따라 Fable과 Mythos에 대한 접근을 중단하게 된 일을 두고 일종의 샤덴프로이데가 퍼지고 있다. Anthropic과 그 경영진은 그동안 자신들의 기술이 위험하므로 엄격한 통제와 규제가 필요하다고 설득하는 데 많은 시간과 노력을 쏟아왔다. 이제 미국 정부가 그 논리를 그대로 받아들여 외국인에게는 서비스를 끄라고 지시한 것이니, 사람들이 그 상황을 비웃는 것도 이해할 만하다.

그 반응은 이해하지만, 거기에 오래 머물지 말자고 당부하고 싶다. 엄청난 본질 흐리기이기 때문이다. 중요한 건 Anthropic의 안전 담론이 부메랑이 되어 돌아왔다는 사실이 아니라, 미국 정부가 긋고 있는 선이다. 이 기술이 너무 강력해서 미국인만 가져야 한다는 선 말이다.

우리는 분열된 세계로 뚜렷하게 향하고 있다. 모델이 모두에게 위험할 정도로 위험하다면 미국인에게도 위험해야 한다는 것이 상식일 것이다. 하지만 미국은 이 모델들을 통제해야 할 무기처럼 다루고 있다. 이는 단순히 능력의 문제가 아니라 인종주의와 국가주의의 문제다. 잘못된 여권을 가졌다는 이유만으로 신뢰할 수 없는 사람 취급을 받는다. 이는 안전과는 전혀 다른 문제이며, 유럽인들은 이를 주의 깊게 봐야 한다.

안전과 국가 통제

Anthropic의 설명에 따르면, 이 지침은 미국 안팎을 막론하고 모든 외국인에게 적용되며, Anthropic에 근무하는 외국인 직원도 포함한다. 곰곰이 생각해보면 놀라운 경계다. “적대적 정부에는 이 모델을 팔지 말라”에서 국적 자체가 결정적 경계가 되는 단계로 넘어온 것이다. 이는 미국 안팎의 유럽인들, 나아가 솔직히 말해 미국 시민이 아닌 모든 이에게 경종이 되어야 한다.

많은 AI 안전 담론은 보편성을 내세운다. 인류, 재앙적 위험, 안전장치, 책임 있는 배포 같은 말들이다. Anthropic의 글조차도 그렇게 시작한다. 하지만 규제가 논의될 때마다 국가 안보라는 함의가 깔리고, ‘잘못된 손에 들어가서는 안 된다’는 말이 따라붙는다. 이는 Anthropic만의 문제가 아니라 미국을 중심으로 한 AI 담론 전체의 문제다. 그 기저에는 미국이 도덕적 우월성을 갖고 있고 다른 이들은 믿을 수 없다는 전제가 있다. 다른 나라들은 권위주의적이고 자유가 부족하다는 전제 말이다.

이는 유럽인뿐 아니라 특히 우리를 불편하게 해야 한다. 게다가 이는 규제로 빠져나올 수 있는 상황이 아니다. 유럽의 기술 정책은 이에 전혀 준비되어 있지 않다. 이는 규제의 문제가 아니라 힘과 권력의 문제이며, 유럽은 그게 없기 때문이다.

유럽은 수년간 거대 미국 기술 기업들을 규제하려 애써왔고, 때로는 그럴 만한 이유도 있었다. 나는 그 자체를 무조건 반대하는 것이 아니다. DMA가 중요한 이유는 접근이 중요하기 때문이다. 사용자는 자신의 기기, 데이터, 실행하는 소프트웨어에 대해 주체성을 가져야 한다. 하지만 규제는 역량에 대한 무용한 대체물일 뿐이며, 우리는 그 역량이 부족하다. 규제가 억지로 문을 열게 할 수는 있어도, 그 문 자체가 미국이나 중국 기업에서만 나온다면 별 의미가 없다.

그리고 이것이 돈과 힘의 협상이라는 점을 순진하게 보지 말자. 미국이 그런 위치에 있는 건 강력한 군사력을 갖고 있기 때문이다. 미국은 세계 어디든 폭격할 수 있고, 국제 교역로를 강제로 폐쇄하고도 책임을 피할 수 있다. 그게 진짜 지렛대다.

아, 유럽

유럽은 점점 더 무시할 수 없을 정도로 미국에 의존하고 있다. 우리는 미국의 클라우드 제공자, 운영체제, 개발자 플랫폼, 그리고 이제는 AI 모델과 위성 인터넷에 의존한다. 우리가 통제하지 못하는 글로벌 반도체 공급망에도 의존한다. 최첨단 AI에 대한 접근이 미국의 국가 안보 정책 문제가 된다면, 유럽은 그 대화에서 동등한 상대가 아니며, 시장으로조차 취급받지 못할 수도 있다.

굴욕적인 위치이지만, 전적으로 의도적으로 자초된 결과다.

유럽 시민과 정치인들은 여전히 실패의 원인을 EU 탓으로 돌리는 데서 벗어나지 못하고 있다. 우리는 분절된 시장을 만들고 유지하면서 단일 시장이 있는 것처럼 행동했다. 회사 설립, 채용, 지분 보상, 세금, 공증, KYC, 은행 업무, 국경 간 서비스가 필요 이상으로 어렵게 유지되도록 방치했고, 그 규칙들을 서로에게 불리하게 이용하고 있다. 유럽 차원에서만 그런 게 아니라 모든 회원국 내부에서도 마찬가지다. 우리는 다음 세대가 위대한 기업을 만들도록 신뢰하기보다, 위험을 회피하고 기득권을 굳힌 트러스트와 대기업을 보호한다. 절차가 낮은 주체성의 변명이 되는 문화를 만들었다. 새롭고 큰 기업을 세우기 어렵게 만들어 놓고는, 가장 야심 찬 창업가들이 다른 곳으로 떠나거나 아예 미국에 법인을 세우기로 할 때 놀란 척한다.

점점 더, 아주 큰 기술 기업을 만들고 싶은 유럽인들이 미국으로 이주한다. 자본 시장이 더 좋고, 스타트업 인프라가 더 좋으며, 직원 지분 제도가 더 잘 이해되기 때문이다. 나는 그렇게 하는 누구도 비난할 수 없고, 나 자신도 델라웨어에 지주회사를 설립했으니 마찬가지다. 큰돈을 조달하고, 공격적으로 채용하며, 빠르게 움직이려 한다면 미국이 종종 유일한 선택지처럼 보인다. 솔직히 말해, 실제로 그렇기 때문이다.

하지만 그래서 우리는 이미 위험한 죽음의 소용돌이에 빠져 있다. 생태계가 약해서 인재가 떠나고, 인재가 떠나서 생태계는 계속 약하다. 인프라가 세상을 만든다. 훌륭한 수영장을 지으면 위대한 수영 선수 세대가 자라난다.

당장의 과제는 단순하지만 불편하다. 유럽인들은 미국의 중력에 굴복하지 않을 만큼 스스로를 믿어야 한다. 창업가나 테크 직원이 미국으로 이주하는 것은 합리적이고 개인적으로는 종종 옳은 결정이다. 하지만 모든 야심 찬 사람이 유럽을 가망 없는 곳으로 취급하면, 유럽은 정말 그렇게 된다. 주체성을 가진 모든 사람이 떠나면, 시스템을 만들 권한은 현상 유지에 가장 안주하는 사람들만 남게 된다. 그러고 나서 아무것도 바뀌지 않는다고 놀라서는 안 된다.

유럽에는 더 많은 야심, 더 많은 주인의식, 더 많은 시급함, 그리고 만들려는 의지가 필요하다. 체념은 덜어야 한다. 규제를 전략으로, 의존을 미덕으로 착각하는 일을 멈춰야 한다. 규칙이 대부분 보호무역으로 작용하는 곳에서는 규제를 풀어야 한다. 현대 기술이 요구하는 규모로 기업에 자금을 댈 수 있는 자본 시장이 필요하다. 직원 소유가 특이한 일이 아니라 당연한 일이 되어야 한다. 말이 아닌 진짜 서비스 단일 시장이 필요하다. 유럽의 이익을 위한다고 말하면서 서로 싸우는 일을 각국이 멈춰야 한다.

가장 중요한 것은 정치인 탓을 멈춰야 한다는 점이다. 너무 많은 유럽 기업들이 전적으로 자발적으로 그 관료주의를 더하고 있다. 서류 작업에 파묻히게 만든다. 나는 한때 오스트리아의 한 상점에서 120유로짜리 조명을 사면서 15분 뒤 매장에서 픽업하기 위해 네 페이지짜리 계약서에 서명해야 했다. 때로는 유럽 행사에서 강연을 하려고 해도 누군가가 복잡한 권리 포기 각서를 보내오지 않으면 성사되지 않는다. 모두 잠재적 위험에 대비한 서류 방어일 뿐이다.

영향력을 행사할 힘이 없을 때는 최소한 왜, 어디서 실패하고 있는지라도 이해해야 한다. 너무 많은 창업가들이 회원국 내부에서 비롯된 실패를 EU 규제 탓으로 돌린다. EU 규제는 같은 경제 블록 안에서 자국 산업을 위해 로비하는 국가들 간의 민주적 과정의 결과물이다. 아무리 EU를 폐지해도 이 냉혹한 현실은 바뀌지 않는다. 유럽연합에서 국경 간 M&A가 불가능하다는 사실만큼 이를 잘 보여주는 것도 없다. 그것을 막는 건 EU가 아니라 손해를 보는 국가다.

유럽을 강화하는 것은 필요하다. 약하면 체스판의 졸이 되기 때문이다. 만들 수 없고, 자금을 댈 수 없으며, 협력할 수 없고, 자신의 이익을 지킬 수 없는 유럽은 동등하게 대우받지 못한다. 규제는 유럽을 비껴가고, 수출 통제는 유럽을 비껴가며, 사후에 통보받거나 아예 상의도 받지 못하게 될 것이다.

미국의 함정

내가 말하고 싶은 교훈이 유럽이 단순히 미국을 복제해야 한다는 것은 아니다. 미국은 유럽이 해결하지 못한 몇 가지를 해결했다. 깊은 자본 시장, 훨씬 강한 소유 문화, 더 큰 위험 감수, 그리고 왜 불가능한지를 설명하기보다 어떻게든 진전을 가능하게 하려는 제도들을 갖고 있다. 또 유럽에서는 비할 데 없는 수준의 내부 통합을 이뤄냈다. 엄청난 장점들이다!

하지만 미국의 길이 모든 면에서 건강하다고 보기는 어렵다. 미국은 많은 갈등과 전쟁을 수반하는 길을 걷는 경향이 있고, 내부적으로도 심각한 사회적 분열과 깊은 불평등을 안고 있다. 권력을 시민으로부터 빼앗아 대통령과 돈 있는 사람들에게 집중시킨다. 결국 한 종류의 실패를 다른 종류의 실패로 바꾸는 셈이다. 여전히 미국 정부와 그 엄격한 규칙과 규제의 변덕에 휘둘리게 된다. 미국은 오늘날 자국민의 권리조차 간신히 지켜내고 있다.

양쪽 모두에 대해 솔직해야 한다. 유럽은 괜찮은 척한다고 이길 수 없다. 미국이 모든 걸 해결했다고 믿는 척해도 이길 수 없다.

우리는 국제 협력이 우리 주변에서 무너지고 있다는 모든 신호를 외면해서는 안 된다. 미국은 유럽인들에게 직접 영향을 미치는 명령을 내리면서 더 이상 유럽 정부들과 사전 협의조차 하지 않는다. 가장 오래된 동맹 중 하나인 덴마크의 영토 그린란드를 차지하겠다고 위협한다. 조약, 동맹, 제도들은 모두 가치를 잃었다.

우리가 회사를 만들고, 부를 창출하고, 사람을 고용하고, 무언가를 만드는 데만 집중하더라도 이 모든 것은 중요하다. 개인의 성공 경로는 한 가지이지만, 그것은 계약이 작동하고, 비자가 작동하며 예고 없이 바뀌지 않고, 교역로가 열려 있으며, 결제 시스템이 기능하고, 가족이 국경 체제나 전쟁으로 찢기지 않는 세상에 달려 있다. 세상이 혼돈에 빠지면, 우리가 좋은 연봉이나 지분, 믿어주는 투자자를 가졌다고 해서 기본적인 필요가 충족되었다고 볼 수 없다.

탈출구는 협력이다

나는 유럽인들이 미국이나 중국과 경쟁하기 위해서만 정신을 차리라고 요구하는 것이 아니다. 그런 경쟁력이 생기길 바라긴 하지만, 목표는 결코 국제 관계의 악화를 장기적으로 받아들이는 것이 되어서는 안 된다.

나는 오픈소스가 중요하고 국제 협력이 중요하다고 진심으로 믿는다. 모든 문제에 대한 마법 같은 해답은 아니지만, 권력의 완전한 집중으로 자연스럽게 이어지지 않는 몇 안 되는 길 중 하나다.

최첨단 AI가 대기업과 정부만이 통제할 수 있는 것이 된다면, 나머지 모두는 그들의 판단에 의존하게 된다. 그건 좋지 않은 자리다. 기업은 아무리 구조가 잘 짜여 있어도 자신들의 인센티브를 최적화할 것이고, 정부는 점점 더 많은 권력을 추구하게 될 것이다. 지금 우리는 범용 역량에 대한 접근이 막강한 힘을 가진 소수의 행위자들에 의해 중개되는 길을 가고 있다.

AI에 내재된 위험이 없다고 순진하게 말하려는 것이 아니다. 개방형 시스템은 혼란스럽고, 오용될 수 있으며, 이중 용도 가능성에 대한 불편한 질문을 만들어낸다. 그 점을 가볍게 넘기고 싶지 않지만, 폐쇄형 시스템이 그 질문들을 없애주는 것도 아니다. 결정권을 더 적은 손에 몰아주는 것은 내가 믿는 해결책이 아니다. 내가 미국에 사는 미국 시민이었더라도 같은 생각일 것이다.

거대 블록들을 끊임없이 서로 싸우게 하는 길은 개인의 권리를 박탈하는 끔찍한 파급 효과를 낳는다. 비시민에게는 적용되지 않는 자유를 미국이 말하는 것은 전적으로 무의미하며, 유럽이나 다른 어떤 나라에도 마찬가지다. 우리는 이런 제한을 일시적으로는 받아들일 수 있을지 몰라도, 그 비인간적인 결과 때문에 장기적으로는 절대 받아들여서는 안 된다.

이 기술이 선하게 쓰일 수 있다고 믿는다면, 광범위한 접근이 중요하며 우리의 목표는 국제 법치를 회복하는 것이어야지 더 약화시키는 것이 아니어야 한다. 우리가 다른 나라 친구들과의 전쟁, 냉전이든 열전이든, 그런 상황에 처하게 된다면 우리는 사회로서 실패한 것이다.

우리가 되돌아가기 위해 노력해야 할 세상은 국제 협력, 가장 좋은 의미의 세계화, 그리고 인간 존엄이 있는 세상이다. 인터넷은 우리의 삶을 되돌릴 수 없을 만큼 국제적으로 만들었다. 매일 사람들은 국경을 넘어 사랑에 빠지고, 언어를 넘어 결혼하며, 대륙을 가로질러 이주하고, 가본 적 없는 나라에서 한 번도 만나지 못할 친구들과 함께 일한다. 그런 세상에서 어느 한 국가에 지나치게 강하게 정체성을 두는 것은 어리석은 짓이다.

지난 10년간 나는 오픈소스를 통해 알게 된 많은 사람들이 직접 전쟁에 휘말리는 것을 봤다. 나는 우리가 이 악순환을 끊을 방법이 있다고 믿고 싶다. 가장 부유한 나라들이 무장하고 미래와 서사를 누가 통제할지를 두고 싸우게 내버려 둘 것이 아니라, 실패한 국가들을 재건하고, 사람들 사이의 신뢰를 회복하며, 다시 협력할 방법을 찾아야 한다. 물론 나는 유럽이 졸 신세에서 벗어나기 위해 더 강해지길 바란다. 하지만 그 일시적인 필요를 최종 목적지로 착각한다면, 나는 깊이 실망할 것이다.

탈출구는 미국의 패권도, 중국의 패권도, 유럽의 패권도 아니다. 탈출구는 대안이 전쟁이 되기 전에 협력을 향해 다시 기어 올라가는 것이다.

인공지능은 우리가 가진 가장 강력한 협력 도구 중 하나가 될 수 있음에도, 빠르게 군사화와 국가 간 경쟁의 또 다른 수단이 되어가고 있다. 우리는 누가 통제권을 가질지를 두고 싸울 것이 아니라, 서로 다른 사회와 언어를 가진 사람들이 서로를 이해하도록 돕는 데 인공지능을 써야 한다.