▲ 사진=KBS NEWS 영상 캡처

중국 기업 ‘딥시크’가 만든 인공지능 모델에서 대량 살상 무기 제작이나 사이버 공격 방법에 대한 내용을 다수 찾아볼 수 있었다는 주장이 나왔다.

김명주 AI 안전연구소장 오늘(17일) 한국과학기술단체총연합회와 한국과학기술한림원, 국민생활과학자문단이 온라인으로 ‘딥시크 파장과 미래 전망’을 주제로 연 긴급 공동포럼에서 이같이 밝혔다.김 소장은 “중국은 국가 보안을 위해 필요하면 중국에 있는 기업에 대한 정보는 거의 무제한 접근할 수가 있고 가입자 개인 정보를 모두 가져다 쓸 수 있어 소위 ‘프로파일링’을 통해 당성 검사를 할 수도 있다”고 언급했다.또 딥시크와 같은 오픈 소스 소프트웨어가 일반적으로 가진 보안 취약성인 ‘히든 코드’ 문제에 대해서도 말했다.그는 “히든 코드는 사용자가 평상시에는 인식할 수 없다가 특별한 상황에서 활성화되는 코드를 말한다”며 “오픈 소스는 히든 코드를 통해 나중에 그 위에서 고쳐 쓰는 모든 것들에 백도어가 생길 수도 있다고 생각하고 있다”고 말했다.그는 “이탈리아 등 국가에서 딥시크 사용 금지령을 내리니까 중국 측이 개인 정보에 대한 상당히 많은 부분에서 물러서 현지 법에 따르겠다고 입장을 바꿨다”고 말했다.도널드 트럼프 미국 대통령이 AI 관련 규제를 완화할 것이라는 예상에 대해서도 김 소장은 “평소 AI 안전에 대해 걱정하던 제이컵 헬버그 국무부 차관보와 같은 인물이 현재 트럼프 정부의 요직을 다수 차지하고 있다”며 “취임 뒤 몇 개월의 허니문 기간이 지나면 이들이 실질적인 AI 안전에 대한 목소리를 내기 시작할 것”이라고 내다봤다.이상근 고려대 정보보호대학원 인공지능 연구실 교수는 시스코 블로그 내용을 인용해 딥시크 모델의 탈옥 취약성이 주요 AI 모델 중 1위를 차지했다고 밝혔다.한편, 중국 ‘딥시크’의 인공지능 서비스는 당분간 국내 앱 마켓에서 내려받을 수 없게 됐다.기업 측이 개인정보 유출 우려 등에 따른 우리 당국의 잠정 중단 권고를 받아들인 조치로 보인다.