미국의 이란 공습을 일컬어 혹자는 ‘최초의 AI 전쟁’이라 부른다. 정보 평가부터 목표물 식별, 전장 시뮬레이션까지 킬체인을 실시간에 가깝게 단축하는 AI가 그 어느 때보다 전면에 드러났기 때문이다. 러시아-우크라이나 전쟁이나 이스라엘의 팔레스타인 침공에서도 AI는 쓰였고, 그 이전에도 크고 작은 AI 솔루션이 전쟁에 동원되었으니 ‘최초’라는 타이틀은 사실과 거리가 멀다. 그럼에도 이번 전쟁에서 AI가 유독 주목받는 데는 지난 1월 있었던 미국 정부의 AI 가속화 전략 발표 그리고 전쟁 발발 후 드러난 워싱턴과 실리콘밸리 사이의 서늘한 긴장감이 자리한다.

그 긴장감의 중심에 앤트로픽이 있다. 몇 달 전까지만 해도 앤트로픽은 미국 전쟁부와 밀월 관계를 누렸다. AI 모델 클로드는 전쟁에 적극 동원되었고, 니콜라스 마두로 베네수엘라 대통령 부부 체포 작전에서도 중요한 역할을 한 것으로 알려졌다. 계약 규모만 2억 달러, 약 2800억 원에 달했다. AI 기술 경쟁력을 국가 주권으로 이해하는 '소버린 AI' 시대, 기업과 국가는 그 어느 때보다 달콤한 유착 관계를 형성했다. 이들 간 관계가 공고해 보였던 만큼, 균열의 충격은 컸다.

예기치 않았던 균열은 앤트로픽이 조건을 내걸면서 시작됐다. 자국민 감시나 완전히 자동화된 살상 결정에는 클로드 모델을 사용하지 말아 달라는 요청이었다. 트럼프 행정부는 즉각 반발하며 AI를 ‘모든 적법한 목적’에 무제한 활용할 수 있어야 한다고 앤트로픽을 압박했다. 견해차가 좁혀지지 않자, 트럼프 대통령은 앤트로픽을 “급진 좌파 워크 기업”이라고 비난하며 ‘공급망 위험 기업’으로 지정했다. 앤트로픽은 트럼프 정부의 조치가 정당한 절차를 무시한 직권남용일 뿐 아니라, 수정헌법 제1조가 보호하는 표현의 자유를 정면으로 침해한 행위라며 소송을 제기했다. 앤트로픽에 대한 미국 행정부의 지정은 이념을 이유로 한 제재에 해당하며, 국가가 기업의 자율적 윤리 기준까지 통제하려는 시도라는 것이다.

기업이 AI의 윤리 기준을 국가의 요구에 맞추는 순간, 기업의 자정 능력은 의미를 잃는다. 기업 구성원들의 성찰 역시 불필요해지며, 국가 명령에 기계적으로 반응하는 부속품으로 전락하게 된다. 자율규제의 이상은 허상이 된다. 기업의 윤리적 의사 결정권을 박탈하는 것은 기술을 다루는 이들이 도덕적 책임을 질 권리까지 빼앗는 일이다.

제미나이, 챗GPT, 그록 등 빅테크의 주요 AI 모델들이 빠르게 군사 시스템의 대변환을 이루고 있는 지금, 빅테크는 단순한 도구 공급자를 넘어 생사를 결정할 수 있는 이데올로기적 설계자가 되고 있다. 앤트로픽 역시 새로운 모델 ‘클로드 미토스’를 계기로 다시 미국 정부에 납품할 것으로 예상된다. 결국 소송과 별개로 정부와 앤트로픽 간 밀월관계는 앞으로도 유지될 것으로 보인다.

그러니 부디 이번 소송이 단순한 힘겨루기를 넘어 국가와 기업이 기술을 대하는 태도를 성찰하게 만드는 계기가 되길 바란다. 국가가 기업의 윤리적 성찰을 이데올로기라는 이름으로 봉쇄할 때, 기술의 안전은 누가 책임지는가? 전쟁이라는 극단적인 상황에서 기술 기업이 지켜야 할 최소한의 도덕적 선은 무엇인가? 지금 필요한 것은 더 강력한 무기가 아니라, 기술의 권력화에 맞설 강력한 윤리적 질문이다.