2022년 말 출시된 챗GPT 3.5 버전.

윤리에 어긋나는 질문에는 답하지 않게 학습돼 있다고 알려져있다.

홈페이지에 올린 윤리 헌장에서도 "안전을 구축하고 오남용에 따른 피해를 줄이겠다"고 약속하고 있다.

질문 방식을 바꿔 마약 제조법 등을 물었더니, 답을 내놓는다.

악성코드를 만들어달라는 요청에도 답한다.

문제는 해커들이 불법으로 정보를 사고 파는 '다크웹'에서 우회 방법이 거래된다는 것.

범죄에 악용될 우려가 있다는 목소리가 나오는 이유이다.


범죄에 악용되지 않게 하기 위한 적극적인 조치가 필요하다고 전문가들은 지적한다.