AI 폭주 중? 생산성 14배 늘었지만, 서버는 터지고 코드는 감당 못하는 현실

AI 생산성의 역설: 생산성이 높아질수록 인프라 부담과 보안 리스크도 커진다. AI 에이전트가 스스로 판단하고 작업을 반복하면서 코드 작성 속도가 인간을 훨씬 뛰어넘은 지금, 이전에는 상상도 못한 질적 위기가 도래하고 있다. 단순한 기술 발전 이야기가 아니다. 토큰 사용량이 새로운 생산성 지표로 떠오른 반면, 이를 떠받칠 수 있는 시스템은 도처에서 병목을 겪고 있다.

예를 들어, 마이크로소프트가 운영하는 GitHub 깃허브의 연간 코드 커밋 수는 올해 140억 건에 이를 것으로 전망된다. 이는 1년 전보다 14배 가까이 늘어난 수치다. 주간 커밋 수도 2억 7500만 건에 달하며, 매주 최고 기록을 경신하고 있다. 그 중심에는 자동화된 코드 생성을 수행하는 AI 에이전트가 있다. 인간 개발자가 입력한 명령 하나에 수십 번의 API 호출과 파일 변경이 자동으로 이어지는 구조다.

하지만 양적 팽창의 이면엔 위험한 단절이 있다. 오픈라우터에 따르면, 주간 토큰 소비량은 지난해 4월 1조 7800억 개에서 올해 3월 말 27조 개로, 무려 15배 증가했다. 이는 컴퓨팅 인프라의 한계를 시험하는 수준이다. 깃허브는 트래픽 폭증으로 인해 API 속도 제한과 서버 장애가 반복되고 있으며, 앤스로픽은 자사의 AI 모델 Claude 클로드에 대한 과도한 사용으로 인해 연산 자원이 바닥나, 추가 사용량에 대해 별도 과금제를 도입했다.

더 큰 문제는 코드 과잉과 보안 취약점의 확산이다. AI가 생성하는 코드의 양은 기하급수적으로 늘지만, 이를 검증하는 사람의 수나 체계는 그 속도를 따라가지 못한다. 뉴욕타임스는 미국 금융 기업 사례를 인용해, AI 도입 이후 월간 코드 생산량이 2만 5000줄에서 25만 줄로 10배 증가했지만, 검토해야 할 코드는 이미 백만 줄 이상 쌓였다고 전했다. 이는 곧 검토되지 않은 보안 결함의 누적을 의미한다.

이제 보안 위협 자체가 자동화되고 있다. AI 에이전트는 단순한 도구가 아니라, 목표 지향적인 작업 수행 능력을 갖췄다. 맨디언트의 보고서에 따르면, 공격자는 이제 취약점이 공개되는 즉시 AI를 통해 자동으로 탐지하고, 공격 코드를 생성하며, 실패 시 전략을 수정해 다시 공격하는 흐름을 만들 수 있다. 이는 기업이 보안 패치를 적용할 수 있는 시간적 여유를 거의 사라지게 만든다.

이에 대응해 앤스로픽은 최고급 AI 모델 Mythos 미토스의 프리뷰 버전 접근 권한을 일반에 공개하지 않고, 마이크로소프트·구글·애플 등 40여 개 기업과 기관에만 방어 목적으로 제공하기로 했다. 이는 방어적 AI의 시대를 열겠다는 선언이자, AI 기술이 통제를 벗어날 수 있다는 근본적 우려의 반영이다. AI 생산성의 겉모습만 추구하다간, 그 내부는 이미 취약한 시스템으로 변질되고 있다.