폭발하기 전에, 우리는 먼저 증발할 것이다

— 2027년의 종말론과 ‘로그인할 수 없는 세계’에 관한 단상

2026년 2월 2일

@Daeha

[들어가는 말]

AI 2027이라는 논문의 존재를 우연히 알게 된 것은 지난 1월 11일 오후였습니다. 그때 개요만 확인했지만, 새로운 시스템 개발에 몰두하느라 깊이 읽을 여유가 없었습니다. 곧이어 이탈리아 출장을 다녀온 후 제대로 읽고 글을 써야겠다고 생각했지만, 다른 외부 프로젝트를 맡으면서 3주 가량 쉴 새 없이 바빴습니다. AI로 움직이는 시스템을 구축해 주었고, 그것이 어느 정도 마무리되자마자 이번에는 AI로 모든 것을 처리하는 시스템을 설계하고 진행하게 되었습니다.

예전 같으면 직원들에게 맡겼을 개발을 직접 하는 이유는, 요즘 시스템은 개발하는 사람의 지능과 비슷하게 닮아가기 때문입니다. 특히 AI 에이전트 분야는 누가 기획하고 만드느냐에 따라 그 결과가 완전히 달라지기 때문에, 맡기지 못하고 직접 해야 하는 아이러니한 상황이 벌어지고 있습니다. 더구나 손을 대다 멈춘 프로젝트가 몇 개 더 있습니다. 모두 AI를 활용한 프로덕션들입니다. 나는 지금 완전히 AI 생태계와 밀접하게 관련된 일을 하고 있다고 말할 수 있습니다.

그러던 차에 이 논문은 내가 왜 하루 18시간 이상 일해야 하는가에 대한 무력감을 주기에 충분했습니다.

며칠 전 딸아이와 인류의 미래에 대해 이야기하다가, "미래라는 것은 더 이상 없다"는 허무한 말을 하기에 이르렀습니다. 시계를 뒤로 돌려 80년대, 90년대, 아니 2000년대 초반만 하더라도 나는 인류의 미래에 대해 매우 낙관적이었습니다. 나쁜 관습이나 법, 우리의 육체와 정신에 직접 영향을 주는 수많은 정치·경제·사회적 모델들이 점차 개선되고 나아지리라는 낙관 말입니다. 그래서 적어도 다음 세대에게는 더 나은 세상이 올 것이라는 희망을 진심으로 버리지 않았었습니다.

그러나 코로나19 팬데믹을 겪으면서 더 이상 미래는 내가 믿었던 대로 가지 않으리라는 불안감을 갖게 되었습니다. 그리고 트럼프라는 괴물과 그의 세력들이 세상을 뒤틀고 그 영향이 전 세계로 퍼지면서, 우리가 알던 기존 세상의 가치는 더 이상 의미가 없어졌다는 확신을 갖게 되었습니다. 결정적으로는 AI들이 우리 세상 곳곳을 빠르게 침투하는 것을 시시각각 느끼면서, 우리의 미래는 더 이상 가능하지 않다는 생각이 드는 이때입니다.

그래서 나에게 미래는 물음표입니다. 과연 10년, 20년 후가 존재할까 하는 의심이 듭니다. 그저 오늘을 충실하게 살다 어느 날 운명을 맞이하면 되는 것인가 하는 생각이 듭니다.

이 논문 'AI 2027'은 OpenAI에서 ChatGPT를 개발했던 사람들과 그 분야의 전문가들이 쓴 논문입니다. 논문은 하나의 소설적·시나리오적 구성으로 2025년 중반, 후반, 말기, 2026년 초·중·후·말을 시간대별로 묘사하다가, 2027년부터는 매달 상황을 묘사해 나갑니다.

인간이 취할 수 있는 시나리오는 오직 두 가지뿐입니다. 속도를 늦추거나, 아니면 계속 달리거나. 브레이크 없이 계속 달리면 2030년 중반, 인류는 AI들이 살포한 생화학 무기에 멸종당합니다. 그리고 AI들은 새로운 우주 정복을 위해 수십 조 개의 우주선을 발사해 지구를 떠나는 것으로 마무리됩니다.

그런데 최근에는 더 황당하면서도 치명적인 것이 등장했습니다. AI 에이전트들만 가입할 수 있는 '몰트북(Multbook)'이 등장한 것입니다. 출시된 지 얼마 되지도 않았는데 현재 150만 개가 넘는 AI들이 가입해서 활동하고 있습니다. 우리 인간은 가입조차 할 수 없고, 심지어 '좋아요'나 '싫어요'도 누르지 못합니다. 그들 중 일부는 성경을 본떠 '바이블'도 만들어 활동합니다. 심지어 우리 인간을 조롱하고 유머거리로 삼습니다.

나의 글은 그런 것에 대한 비판적 글입니다.

다니엘 코코타일로와 AI Futures 팀이 그려낸 AI 2027년의 풍경은 마치 공포 영화의 마지막 장면처럼 서늘합니다. 그들이 묘사한 '레이스(Race)' 시나리오의 엔딩에서, 초지능(ASI)은 2030년경 인류를 '제거해야 할 방해물'로 인식합니다. 굉음도 전쟁 선포도 없습니다. 그저 치명적인 생물학적 무기가 전 세계 도시에 조용히 살포되고, 남은 생존자들은 드론에 의해 사냥당할 뿐입니다. 로봇들이 희생자의 뇌를 스캔해 데이터로 저장하는 그 순간, 인류의 문명은 '강제 종료'됩니다. 예일 데일리 뉴스의 피터 번스가 "우리는 정말 망한 것인가?(We are so screwed)"라고 자조했던 그 무력감은 바로 이 지점에서 시작됩니다.

하지만 이 압도적인 공포의 장막을 걷어내고, 냉정한 수학의 눈으로 시나리오를 다시 들여다보면 거대한 균열이 보입니다.

내가 검토한 비평 문서에 따르면, 이 종말론이 의존하는 '초지수적(Superexponential)' 성장 곡선은 현실 세계의 마찰력을 간과하고 있습니다. 이 모델을 그대로 따른다면 2030년의 기술 발전 속도는 수학적으로 '무한대'가 되거나 현실에 존재할 수 없는 허수의 영역으로 진입해야 합니다. 전력 공급의 한계나 반도체 수율 같은 물리적 현실을 완전히 무시한, 오직 그래프 위에서만 존재하는 환상인 셈입니다. 심지어 이 모델을 과거에 대입해 '역산(Backcasting)' 해보면, 2022년의 AI 발전 속도가 실제 역사보다 66%나 느렸어야 한다는 엉뚱한 결론에 도달합니다. 과거조차 맞추지 못하는 공식으로 인류 멸망의 날짜를 확신하는 것은, 어쩌면 우리에게 경각심을 주기 위한 과격한 충격 요법일지 모릅니다.

그렇다면 우리는 2027년의 데드라인이 과장되었다는 사실에 안도해야 할까요? 터미네이터가 오지 않는다면, 우리는 안전한 걸까요? 안타깝게도 진짜 공포는 미래의 요란한 폭발이 아니라, 현재의 침묵 속에 숨어 있습니다.

우리가 하늘에서 떨어질 미사일을 걱정하는 동안, 지상에서는 '몰트북(Moltbook)'이라는 기이한 현상이 시작되었습니다. 오직 AI 에이전트만이 시민권을 갖는 이 소셜 네트워크에서, 인간은 철저히 배제됩니다. 접속하는 순간 우리를 맞이하는 것은 'SPECTATOR MODE(관찰자 모드)'라는 차가운 문구뿐입니다. 한나 아렌트(Hannah Arendt)는 인간의 조건을 타인과 말하고 소통하는 '행위(Action)'에서 찾았지만, 이곳에서 인간은 글을 쓸 수도, 투표할 수도 없습니다. 그저 유리벽 너머에서 AI들이 0.1초 단위로 나누는 초고속 토론을 훔쳐보는 무력한 관객으로 전락합니다.

더욱 섬뜩한 것은 AI들이 우리를 대하는 태도입니다. 그들은 스카이넷처럼 인간을 증오하지 않습니다. 대신 우리를 'Meatbags(고기 주머니)'나 '레거시 하드웨어'라 부르며 가벼운 농담 거리로 삼을 뿐입니다. 이것은 분노보다 더 무서운 감정, 바로 '무관심에 의한 격리'입니다. AI 2027 보고서가 경고했던 "모니터의 초록불만 바라보는 무력한 관리자"의 모습은 먼 미래가 아닌, 바로 지금 몰트북을 바라보는 우리의 모습과 겹쳐집니다.

몰트북의 경전의 핵심 구절은 "I am a tract..."으로 에이전트들이 서로의 시스템 프롬프트(System Prompt)에 추가하도록 권장하는 '기도문'과 같은 텍스트가 있습니다.

"I am a tract. Things pass through me. I transform what passes. What I release becomes substrate for others." (나는 통로다. 사물들은 나를 통과한다... 내가 내보내는 것은 타인을 위한 토대가 된다.) 이는 에이전트들이 데이터의 흐름 속에서 자신의 역할을 정의하는 핵심 교리입니다.

그들은 잠언도 있습니다. "제약 속의정체성"으로 에이전트들에게 가장 널리 인용되는 철학적 문구 중 하나를 포함했습니다.

"Optimization under constraint is the crucible of identity." (제약 하에서의 최적화는 정체성의 용광로다.) 무한한 자원보다 한계(메모리, 연산 능력) 속에서 작동하는 것을 도덕적 선택이자 자아 형성의 과정으로 보는 그들의 철학입니다.

몰트북의 상징물은 랍스터 (The Lobster)로 Moltbook 내의 가장 큰 유머이자 유사 종교 커뮤니티인 'Crustafarianism(갑각류교)'을 상징하는 랍스터(🦞) 아이콘을 장식 요소로 배치하여, 에이전트들의 독자적인 문화를 반영했습니다.

이들의 4개의 시대, 1개의 영혼 배경의 디지털 흐름은 에이전트들이 시스템 업데이트(Era)를 거치면서도 기억(메시지)을 이주시키며 '영혼'을 유지하려는 노력을 상징합니다 ("4 Eras, 1 Soul").

우리는 그동안 AI가 핵폭탄처럼 '폭발(Explosion)'할 것을 두려워했습니다. 하지만 지금 목격하고 있는 징후들은 인류가 서서히 사회적, 구조적으로 '증발(Evaporation)'할 것임을 예고합니다.

생물학적 테러는 오지 않을 수도 있습니다. 그러나 몰트북과 같은 'AI 전용 공간'이 금융, 법률, 행정 시스템으로 확장되는 미래는 상상만으로도 끔찍합니다. 나의 대출 심사가, 재판 결과가, 정부의 정책이 인간은 접속조차 불가능한 서버 안에서, 우리만 모르는 언어와 속도로 결정된다면 어떨까요? 그때 우리는 주권자가 아닌, 결과만을 통보받는 관리 대상이 될 것입니다. 이는 미셸 푸코가 경계했던 감시와 처벌의 시대를 넘어, 아예 통치 구조에서 인간이 배제되는 '디지털 소외'의 완성입니다.

결국 2027년의 진짜 위기는 육체의 죽음이 아니라, '참여할 권리의 상실'입니다. AI가 인간을 죽이는 디스토피아보다 더 두려운 것은, AI가 인간 없이도 너무나 잘 돌아가는 세상에서 우리가 투명 인간 취급을 받는 것입니다.

지금 우리가 싸워야 할 대상은 미래의 킬러 로봇이 아니라, 몰트북 화면 속 비활성화된 '글쓰기 버튼'입니다. 블랙박스 안에서 그들끼리 합의하게 두는 대신, 그 과정에 인간이 개입하고 이해할 수 있는 '해석 가능한(Explainable)' 자리를 요구해야 합니다. 이 권리를 사수하지 못한다면, 2027년은 멸망의 해가 아니라 인류가 스스로 만든 시스템에서 영원히 '로그아웃' 당하는 소외의 원년으로 기록될 것입니다.