▲ 사진=KBS NEWS 영상 캡처

중국 기업 ‘딥시크’가 만든 인공지능 모델에서 대량 살상 무기 제작이나 사이버 공격 방법에 대한 내용을 다수 찾아볼 수 있었다는 주장이 나왔다.

김명주 AI 안전연구소장 오늘(17일) 한국과학기술단체총연합회와 한국과학기술한림원, 국민생활과학자문단이 온라인으로 ‘딥시크 파장과 미래 전망’을 주제로 연 긴급 공동포럼에서 이같이 밝혔다.

김 소장은 “중국은 국가 보안을 위해 필요하면 중국에 있는 기업에 대한 정보는 거의 무제한 접근할 수가 있고 가입자 개인 정보를 모두 가져다 쓸 수 있어 소위 ‘프로파일링’을 통해 당성 검사를 할 수도 있다”고 언급했다.

또 딥시크와 같은 오픈 소스 소프트웨어가 일반적으로 가진 보안 취약성인 ‘히든 코드’ 문제에 대해서도 말했다.

그는 “히든 코드는 사용자가 평상시에는 인식할 수 없다가 특별한 상황에서 활성화되는 코드를 말한다”며 “오픈 소스는 히든 코드를 통해 나중에 그 위에서 고쳐 쓰는 모든 것들에 백도어가 생길 수도 있다고 생각하고 있다”고 말했다.

그는 “이탈리아 등 국가에서 딥시크 사용 금지령을 내리니까 중국 측이 개인 정보에 대한 상당히 많은 부분에서 물러서 현지 법에 따르겠다고 입장을 바꿨다”고 말했다.

도널드 트럼프 미국 대통령이 AI 관련 규제를 완화할 것이라는 예상에 대해서도 김 소장은 “평소 AI 안전에 대해 걱정하던 제이컵 헬버그 국무부 차관보와 같은 인물이 현재 트럼프 정부의 요직을 다수 차지하고 있다”며 “취임 뒤 몇 개월의 허니문 기간이 지나면 이들이 실질적인 AI 안전에 대한 목소리를 내기 시작할 것”이라고 내다봤다.

이상근 고려대 정보보호대학원 인공지능 연구실 교수는 시스코 블로그 내용을 인용해 딥시크 모델의 탈옥 취약성이 주요 AI 모델 중 1위를 차지했다고 밝혔다.

한편, 중국 ‘딥시크’의 인공지능 서비스는 당분간 국내 앱 마켓에서 내려받을 수 없게 됐다.

기업 측이 개인정보 유출 우려 등에 따른 우리 당국의 잠정 중단 권고를 받아들인 조치로 보인다.