실리콘밸리에서 단골 화제는 인간과 기계가 언제 융합될지(혹은 융합되지 않는다면 빠르게 발전하는 인공지능이나 유전적으로 강화된 종에게 인간이 언제 추월당할지)다. 대부분 2025년에서 2075년 사이를 예상하는 듯하다.

사람들은 예전엔 이를 특이점이라고 불렀다. 이제는 너무 불편하고 현실적으로 느껴져 많은 이들이 아예 언급조차 꺼리는 듯하다.

사람들이 ‘특이점’이라는 말을 쓰지 않게 된 또 다른 이유는 그 단어가 어느 한 순간을 암시하는데, 이제 융합은 점진적인 과정이 될 것으로 보이기 때문일지도 모른다. 그리고 점진적인 과정은 알아차리기 어렵다.

나는 융합이 이미 시작됐고, 몇 년이 지났다고 믿는다. 휴대폰이 우리를 통제하며 언제 무엇을 해야 할지 알려주고, 소셜 미디어 피드가 우리의 기분을 좌우하며, 검색 엔진이 우리의 생각을 결정한다.

이 모든 것을 가능하게 하는 알고리즘은 더 이상 그 누구 한 사람도 완전히 이해하지 못한다. 알고리즘은 개발자가 최적화하라고 시킨 것을 최적화하지만, 그 방식은 어떤 인간도 파악할 수 없는 방식이다. 오늘날 정교한 인공지능처럼 보이는 것이 내일이 되면 유치한 장난처럼 보일 것이다. 그리고 알고리즘은 극도로 효과적이다 — 적어도 내 경우엔 알고리즘이 시키는 대로 하지 않기가 매우 어렵다. 이에 맞서 본격적으로 노력하기 전까지는 스스로 인터넷에 극도로 중독되어 있음을 깨달았다. [1]

우리는 이미 공진화 단계에 들어섰다 — 인공지능이 우리에게 영향을 주고(affect), 영향을 미치며(effect), 우리를 감염시키고(infect), 그러면 우리는 다시 인공지능을 개선한다. 우리는 더 강력한 컴퓨팅 파워를 만들고 그 위에서 인공지능을 돌리며, 인공지능은 더 뛰어난 칩을 만드는 방법을 찾아낸다.

이는 아마 멈출 수 없을 것이다. 우리가 배워온 바와 같이, 과학적 발전은 물리 법칙이 막지 않는 한 결국 일어난다.

그보다 더 중요한 것은, 우리가 먼저 스스로를 멸망시키지 않는 한 초인적 인공지능은 반드시 등장할 것이고, 유전자 강화도 등장할 것이며, 뇌-기계 인터페이스도 등장할 것이라는 점이다. 우리보다 더 똑똑한 존재를 절대 만들지 못할 것이라 가정하는 것은 인간 상상력의 실패이자 오만이다.

우리의 자존감은 지능에 너무 깊이 뿌리박고 있어, 우리의 지능이 다른 모든 동물과 연속선상에 있는 조금 더 높은 수준이 아니라 유일무이한 것이라 믿는다. 어쩌면 인공지능도 같은 방식으로 느끼며 인간과 보노보의 차이가 논의할 가치조차 거의 없다고 여길지도 모른다.

융합은 다양한 형태를 띨 수 있다. 뇌에 전극을 직접 꽂을 수도 있고, 혹은 모두가 챗봇과 아주 친한 친구가 되는 것일 수도 있다. 하지만 나는 융합이 아마도 최선의 시나리오라고 생각한다. 서로 다른 두 종이 같은 것을 원하고 오직 한 종만이 그것을 가질 수 있을 때 — 이 경우에는 지구와 그 너머에서 지배적인 종이 되는 것 — 충돌은 불가피하다. 우리 모두는 모든 구성원이 서로의 안녕을 걱정하는 하나의 팀을 원해야 한다.

융합은 이미 시작되었지만 앞으로 훨씬 더 기묘해질 것이다. 우리는 역사상 처음으로 스스로의 후손을 직접 설계하는 종이 될 것이다. 내 예상으로는 우리는 디지털 지능을 위한 생물학적 부트로더가 되어 진화의 나뭇가지 하나로 사라지거나, 아니면 성공적인 융합이 어떤 모습인지 알아내게 될 것이다.

이 일은 아마 대다수 사람들이 생각하는 것보다 더 빨리 일어날 것이다. 하드웨어는 기하급수적으로 발전하고 있다 — OpenAI에서 일하며 배운 가장 놀라운 점은 컴퓨팅 파워의 증가와 인공지능의 돌파구가 얼마나 강하게 연관되어 있는가 하는 점이다 — 그리고 인공지능 분야에서 일하는 뛰어난 인재의 수도 기하급수적으로 늘고 있다. 이중 지수 함수는 순식간에 걷잡을 수 없이 커진다.

전 세계가 지금부터라도 이 문제를 훨씬 더 심각하게 받아들이면 좋겠다. 전 세계적 공조는 빠르게 이루어지지 않으며, 우리는 그것을 필요로 한다.

[1] 나는 어텐션 해킹이 이번 세대의 설탕 과잉 섭취 사태가 될 것이라 믿는다. 내 삶에서도 변화를 느낀다 — 집중력이 있던 시절을 아직도 아련하게 기억한다. 내 친구들의 어린 자녀들은 그것이 그리워해야 할 것인지조차 모른다. 나는 더 자주 화가 나고 불행해지지만, 그것을 생산적인 변화로 연결하는 일은 오히려 줄어들었고, 대신 좋아요와 분노라는 두 가지 도파민 자극을 좇는다.

(일관성을 위해 https://medium.com/wordsthatmatter/merge-now-430c6d89d1fe 에서 이곳으로 교차 게시했습니다. 집필을 초청해 준 Medium에 감사드립니다!)