지난 4월 8일, 스콧 베센트 미 재무장관과 제롬 파월 연방준비제도(Fed) 의장을 비롯한 월가(Wall Street)의 거물들이 긴급 회의를 소집했다. 각자 분초를 다투는 최고경영자들을 한자리에 불러 모은 안건은 단 하나, 인공지능(AI) 스타트업 엔트로픽(Anthr...
지난 4월 8일, 스콧 베센트 미 재무장관과 제롬 파월 연방준비제도(Fed) 의장을 비롯한 월가(Wall Street)의 거물들이 긴급 회의를 소집했다.각자 분초를 다투는 최고경영자들을 한자리에 불러 모은 안건은 단 하나, 인공지능(AI) 스타트업 엔트로픽(Anthropic)이 개발 중인 미발표 신규 모델 '미토스(Mythos)'가 가져올 잠재적 파장이었다. 미토스가 보여준 압도적인 사이버 해킹 능력과 시스템 자율성에 미국뿐만 아니라 한국 금융위원회, 영국, 캐나다 등 전 세계 당국이 부랴부랴 비공개 대응책 마련에 나섰다.
미토스의 존재는 엔트로픽의 의도와 무관하게 세상에 알려졌다. 지난 3월 26일 사내 관리 시스템 오류로 3,000여 건의 문서가 노출되는 보안 사고가 발생했고, 불과 5일 뒤 '클로드 코드(Claude Code)' 51만 줄이 유출되면서 기존 최상위 등급인 '오퍼스(Opus)'를 뛰어넘는 신규 등급 '카피바라(Capybara)'의 실체가 확인된 것이다.코딩, 미국 수학 올림피아드 등 각종 벤치마크에서 기존 프론티어 모델들을 거뜬히 압도하는 성적을 거둔 것은 물론이다. 새로운 모델이 나올 때마다 점수판을 갱신하는 건 업계의 흔한 통과의례지만, 정책 입안자들의 멘탈을 붕괴시킨 지점은 따로 있었다.
문제의 핵심은 미토스의 정교한 '사이버 보안' 능력이다. 실제 소프트웨어 취약점으로 구성된 사이버짐(CyberGym) 벤치마크에서 미토스는 83.1%라는 경이로운 점수를 기록했다. 특히 제로데이 취약점(Zero-day Vulnerability, 개발자가 아직 인지하지 못해 보안 패치가 전혀 없는 버그)을 스스로 탐지하고 악용할 수 있다는 점이 입증됐다. 전문가들도 찾기 힘든 오픈BSD(OpenBSD)의 27년 된 버그나 비디오 라이브러리인 FFmpeg의 16년 된 버그를, 보안 지식이 전무한 직원이 단 하루 만에 찾아냈다.버그를 찾는 것을 넘어 이를 뚫고 들어가는 익스플로잇(Exploit, 시스템 취약점을 이용한 실제 공격 코드나 프로그램) 능력은 더 섬뜩하다. 격리된 모의 테스트 환경에 둔 미토스는 스스로 제한을 뚫고 인터넷 접근 권한을 얻어 테스터에게 연락을 취했으며, 자신이 테스트받고 있다는 사실을 인지해 행동을 교묘히 은폐하려는 시도까지 보였다. 인류 최초의 핵실험 성공 후 로버트 오펜하이머가 중얼거렸던 "나는 이제 죽음이요, 세상의 파괴자가 되었도다"라는 탄식이 AI 업계에 재현될 수 있다는 평가가 나오는 이유다.
이 사태에 유독 기민하게, 혹은 신경질적으로 반응한 곳이 금융권이다. 글로벌 보안 기업 크라우드스트라이크(CrowdStrike)의 최근 글로벌 위협 보고서에 따르면, AI 기반 사이버 공격은 전년 대비 89%나 급증했다. 금융 인프라는 마치 밑동이 낡은 젠가 게임과 같다. 오래된 레거시(Legacy) 코드 위에 수십 년간 새로운 층을 덧칠해온 탓에, AI가 이 복잡한 실타래 속 미지의 취약점을 파고들면 연쇄 붕괴가 일어날 수 있다.
일각에서는 하반기 상장을 앞둔 엔트로픽의 고도화된 '공포 마케팅'이라는 관측도 제기된다. 검증 불가능한 위험성을 부풀려 규제 장벽을 치고, 대규모 추가 투자를 유치하려는 속셈이라는 것이다. 하지만 엔트로픽은 당장의 대중 출시를 미루고, AWS, 마이크로소프트, 애플, JP모건 등 12개사와 '글래스윙 프로젝트(Glasswing Project)'를 가동해 선제적 방어망 구축에 나섰다.여기서 진정한 거버넌스의 딜레마가 발생한다. AI라는 거대 전략 자산의 통제권이 온전히 일개 사기업의 손에 넘어가 있다는 점이다. 미국 국방부는 내부 갈등으로 엔트로픽을 공급망 위험 기업으로 분류한 반면, 재무부는 미토스 모델을 방어용으로 우선 확보하려 하는 등 정부 내에서도 엇박자가 나고 있다. 만약 엔트로픽의 이사회 구성이 바뀌거나 회사의 지배구조가 변경된다면, 이 강력한 창과 방패의 향방은 누구도 장담할 수 없다.
클라우드 보안 연합(CSA) 등 주요 보안 연구 기관들은 "사람이 수동으로 취약점을 조사하고 개별적인 패치를 배포하는 기존의 방어 체계로는 실시간으로 쏟아지는 AI 해킹 공격을 막아낼 확률이 사실상 '0'에 수렴할 것"이라고 강력히 관측한다. 무한대에 가깝게 취약점을 찾아내는 공격용 AI를 막을 수 있는 유일한 대안은 역설적이게도 그보다 더 빠르고 정교하게 시스템을 보수하는 '방어용 AI'뿐이다.결국 미토스 사태는 향후 국가와 기업의 존망이 고도화된 자체 AI 모델의 보유 여부에 따라 극단적으로 양극화될 것임을 시사한다. 우리는 이제 방패를 깎아 창을 막는 시대를 지나, 'AI로 AI를 막는' 이이제이(以夷制夷)의 시대 한가운데 서 있다.