실제 뉴스 영상처럼 보이지만, 해당 영상은 AI로 만든 가짜, 이른바 ‘딥페이크’였다. 시장 인파 속에서 연설하는 후보의 영상 역시 AI가 생성한 허위 자료다.

AI 기반 딥페이크 탐지 모델에 해당 영상을 입력하자 금세 ‘거짓’으로 판명됐다. 얼굴 등 신체뿐 아니라 배경과 목소리까지 분석해 거짓 영상을 걸러낸다. 이번 모델의 탐지 정확도는 92%로, 이전 76% 수준보다 크게 향상됐다.

지난해 대선 기간 중앙선거관리위원회가 삭제 요청한 딥페이크 영상은 만여 건으로 집계됐다. 이는 2024년 총선보다 약 27배 급증한 수치다.

정부는 개선된 탐지 모델을 중앙선관위에 제공해 6월 지방선거 기간 허위 정보 유포를 신속히 차단할 방침이다. 아울러 선거 90일 전부터는 AI로 제작한 영상을 선거운동에 활용하는 것이 전면 금지된다.