AI시대, ‘정보 전쟁’ 속에서 진실을 지키는 법
어느 한밤, 상공을 가르며 유성우처럼 쏟아지는 수많은 미사일. 번개처럼 떨어진 극초음속 미사일 사이로 버섯 구름이 솟아오르고, 하얀 천에 싸인 victims를 실은 시신들이 끝없이 늘어서 있다. 바다 위에선 미국 항공모함이 어뢰를 맞고 폭발하고, 사막에선 날개를 잃은 전투기가 추락한다. 이스라엘의 고층 빌딩은 검은 연기와 함께 무너지고, 군인들은 눈물을 흘리며 전쟁 중단을 간절히 외친다. 하지만 이 모든 장면은 단 한 발의 총성도 없이 만들어진 가짜 콘텐츠였다.
미국·이스라엘과 이란 간 긴장이 고조되던 시기, 이 영상들은 X, 틱톡, 페이스북 등 social media를 타고 전 세계로 순식간에 퍼졌다. 역사적으로 전쟁과 함께한 ‘선전전’은 늘 존재해 왔지만, 이번 사태는 그 성격이 근본적으로 다르다. 전문가들은 이번 충돌을 ‘information war의 원년’이라 진단한다. 각 진영이 인공지능(AI)을 활용해 자신에게 유리한 propaganda를 ‘정보 무기’로 사용하면서, ‘진짜처럼 보이는 거짓’이 전례 없이 빠른 speed로 확산되고 있기 때문이다.
특히 이번 전쟁은 누구나 무료로 접근 가능한 AI 도구로 실감 나는 조작 영상을 만들 수 있는 시대의 첫 전쟁이라는 점에서 의미가 크다. 이 영상들은 시각적으로 극도로 자극적이며, 일반인은 물론이고 즉각적인 reporting을 요구받는 언론조차 진위를 가리기 어렵다. 외신들이 보도 끝에 ‘자체 검증 불가’라는 주석을 붙이는 빈도가 늘어나는 것도, 사실 규명의 limits가 깊어지고 있음을 보여준다.
더 큰 위험은 진실마저도 부정당할 수 있다는 점이다. ‘거짓말쟁이의 이득’이라 불리는 이 현상은, 실제 사건에 대해 “이건 AI로 조작된 거야”라고 주장함으로써 책임을 회피하는 구조를 말한다. 공습으로 파괴된 도시의 실제 사진조차 일정 기간 동안은 조작로 몰릴 수 있고, 결국 사람들은 사실보다 belief만 골라 선택하게 된다.
이런 혼란 속에서 영국의 싱크탱크 전략대화연구소는 ‘국제 팩트 체킹의 날’을 맞아 정보에 휘둘리지 않는 법을 조언했다. 가장 기본적인 방법은 ‘slowing down ’다. 충격적인 콘텐츠를 봤을 때 즉시 공유하지 말고, 신체적 부조화, 과장된 시각 효과, 신뢰할 수 있는 매체의 coverage를 확인하라는 것이다. 때로는 댓글 속 누군가의 지적이 원본을 찾는 데 결정적인 단서가 될 수 있다. 정보의 홍수 속에서 critical thinking은 이제 선택이 아니라 필수다.
이제 뉴스를 볼 때마다 ‘이게 진짜야, 가짜야’부터 생각하게 되네요. trust를 신뢰를 가지는 게 이렇게 어려워질 줄은 몰랐어요.
각국 정부가 AI 조작 콘텐츠를 ‘national security 국가안보 위협’으로 보는 이유가 여기 있네요. 이미 전장은 디지털로 확장됐어요.
가짜 영상 속 인물들 손가락이 여섯 개였다는 댓글 봤어요. 시각적 단서들이 생각보다 많더라고요.
언론도 피해자예요. 조회수를 위해 breaking news를 속보를 내야 하는데, 검증은 뒷전이 되는 악순환이죠.
가짜를 걸러낸다고 해도, ‘거짓말쟁이의 이득’이 남아 있는 한 진짜도 믿기 힘들게 돼요. 사회적 신뢰가 무너지는 거죠.
결국 우리가 할 수 있는 건 자기 통제뿐인가요? 정보를 보고도 손가락을 멈추는 게 이렇게 어려울 줄이야.