‘AI가 나를 그려줘’는 위험한 놀이? 개인정보 유출 경고

요즘 SNS에서는 AI 캐리커처를 만들거나 '챗GPT야, 너가 생각하는 나를 그려줘' 같은 재미있는 프롬프트를 공유하는 것이 유행이다. 하지만 보안 전문가들은 이 같은 놀이가 personal data를 개인 정보를 노출하는 위험한 행동이 될 수 있다고 경고한다. 특히 이름, 직장, 거주지, 취미, 가족 관계까지 입력하면, 단순한 이미지 생성을 넘어 나만의 digital profile을 디지털 프로필을 악의적인 목적으로 이용될 수 있다는 것이다.

러시아 보안 기업 카스퍼스키는 "입력된 정보들이 결합되면 사이버 범죄자가 피해자의 social context를 사회적 맥락을 정교하게 재현할 수 있다"며 "이를 통해 더 설득력 있는 사기 시나리오를 만들 수 있다"고 밝혔다. 예를 들어 회사 이름과 직책을 알면, 동료나 상사처럼 위장해 금전을 요구하거나 내부 시스템에 접근하려는 phishing attack을 피싱 공격을 벌일 수 있다는 설명이다.

문제는 아시아태평양 지역 사용자들이 특히 vulnerable한 취약한 상황이라는 점이다. 현지 조사에 따르면 이 지역 성인의 78%가 매주 AI를 사용해 글로벌 평균(72%)을 웃도는 수준이지만, 기본적인 security awareness가 보안 인식이 뒷받침되지 않아 공격에 쉽게 노출될 수 있다고 카스퍼스키는 지적했다. 즉, 기술 활용도는 높지만 그에 따르는 privacy risk를 프라이버시 위험을 제대로 인지하지 못하고 있다는 것이다.

또한 AI 서비스는 사용자가 입력한 텍스트뿐 아니라 IP 주소를, 기기 정보, 사용 기록 등을 함께 저장할 수 있다. 일부 정보는 서비스 개선이나 모델 학습을 위해 장기간 보관될 수 있어, 사용자가 예상하지 못한 방식으로 데이터 활용이 이어질 가능성도 있다. 이처럼 보이지 않는 digital footprint가 디지털 흔적이 쌓이면, 나중에 되돌리기 어렵다.

전문가들은 AI 콘텐츠 생성 시 본명이나 직책, 회사명, 정확한 위치 정보 입력을 자제할 것을 권고한다. 또한 배경이 될 수 있는 이미지를 업로드할 때도 주의해야 한다. 예를 들어 집 근처 풍경이나 사무실 내부 사진은 identity를 신원을 유추하게 할 수 있다. 무엇보다 서비스 이용 전 privacy policy를 개인정보 처리 방침을 꼼꼼히 확인하는 습관이 필요하다고 강조한다.

결국 이 트렌드는 기술의 재미와 편리함 뒤에 감춰진 security trade-off를 보안적 대가를 드러내고 있다. 보안을 희생시키는 대신, smart usage를 현명한 사용을 통해 기술의 이점을 누려야 한다는 것이 전문가들의 조언이다.