▲ 사진=픽사베이

일론 머스크 테슬라 CEO가 운영하는 SNS ‘엑스(X)’가 탑재한 AI 챗봇 ‘그록’이 간단한 명령어로 딥페이크 이미지를 생성하는 기능을 선보였지만, 엉뚱한 피해 사례가 속출하고 있다.

‘엑스’에 게시된 사진에 누구나 간단한 명령어만 입력하면 손쉽게 가짜 음란물이 만들어졌다. 당사자 동의 없이 성적 이미지가 생성될 수 있어 즉각적인 반발이 터져 나왔다. 특히 여성과 아동을 대상으로 딥페이크 성 착취물을 양산할 수 있다는 논란이 전 세계적으로 제기됐다.

인도네시아 정부는 여성과 아동을 가짜 음란물 위험으로부터 보호해야 한다며, 세계 최초로 그록 접근을 차단했다. 영국 정부도 사업자에게 적절한 조치를 취할 의무가 있다며, 엑스(X) 측에 당사자 동의 없는 성적 이미지 생성 문제를 시급히 해결할 것을 요구했다.

우리 정부도 대응에 나섰다. 방위비·통신위원회는 엑스(X) 측에 청소년 접근 제한과 관리 조치 등 보호 계획을 마련하고 결과를 회신하도록 통보했다. 아울러 당사자 의사에 반해 딥페이크 성 착취물을 제작, 유통, 시청하는 행위는 형사처벌 대상이라는 점을 명확히 했다.

엑스 측은 2주 내 보호 계획을 밝히겠다고 했으며, 방위비·통신위원회는 이용자 보호 대책이 충분한지 검토하고, 보완 사항이 있으면 추가 조치할 계획이다.