정부 6일 딥페이크 성범죄 대응 방안 10대 과제 발표

교육부·법무부·여성가족부 등 10개 관계부처 합동

“피해지원, 단속, 법안통과, 예산확보 지속할 것”

정부, 딥페이크 대응 총력…AI 실시간 감지·위장수사 강화한다
[챗GPT 제작 이미지]

[헤럴드경제=박혜원 기자] 정부가 관계부처 합동으로 딥페이크 범죄 대응 방안 종합안을 마련했다. 정부는 인공지능(AI) 기술을 활용해 딥페이크 성범죄물을 실시간 감지하는 기술을 도입하고, 현재는 미성년자 성범죄에만 사용할 수 있는 수사기법인 위장수사를 성인 대상 범죄로 확대하는 방안도 추진키로 했다.

6일 국무조정실은 국민의힘 ‘딥페이크 성범죄 대응 특위’에 이같은 내용의 교육부·과학기술정보통신부·법무부·여성가족부 등 10개 부처 합동 딥페이크 성범죄 대응 강화방안 과제를 보고했다. 앞서 청소년들 사이 딥페이크 성범죄가 확산하면서 정부는 김종문 국무1차장을 단장으로 하는 딥페이크 대응 범정부 TF를 꾸리고 부처 협의 등을 거쳐 대응방안을 마련했다.

정부는 ▷처벌강화 ▷플랫폼 관리 ▷피해자 보호 ▷예방교육 4대 분야를 중점으로 10개 과제를 추진할 계획이다. 정부는 그간 디지털 성범죄에 대응해왔으나 새로운 유형의 범죄 대응에는 한계가 있었다고 진단했다.

우선 딥페이크 성범죄물 범죄에 대한 처벌 및 수사 역량을 강화한다. 앞서 법무부는 성적 허위영상물을 소지·구입·저장·시청하는 것만으로도 처벌하는 등의 내용을 담은 성폭력처벌법을 개정했다. 현재는 아동·청소년 성범죄에만 가능한 위장수사는 성인인 경우로도 확대한다. 자진신고자는 처벌을 감면하고, 검거 전에 범죄수익을 몰수하는 등의 방안도 도입한다. 딥페이크 성범죄 관련 수사 전문성을 갖춘 전담검사도 기존 23명에서 43명으로 늘린 상태다.

해외 플랫폼과 협력할 수 있는 채널도 구축할 계획이다. 텔레그램은 지난 9월 경찰청과 소통채널을 구축해, 수사 관련해 협조하겠다는 의사를 밝혔다. 기타 해외 플랫폼 사업자도 한국 법원이나 수사기관 공문에 대해 가입자 정보를 제공하는 등 협조하도록 공조를 강화할 계획이다.

딥페이크 성범죄 피해자에 대한 보호도 강화한다. 현재 정부는 플랫폼 사업자가 딥페이크 성범죄물 삭제요청을 받았을 경우, 성범죄물 여부 판단이 어렵더라도 먼저 차단하도록 의무화하는 방안을 추진하고 있다. AI를 활용해 딥페이크 성범죄물을 실시간 감지하고 삭제 요청을 발송하는 방안도 추진한다.

학교 현장에선 성범죄 예방 교육을 강화한다. 교육부는 딥페이크 성범죄 관련 학생 인식조사를 거쳐 예방교육을 마련할 예정이다. 교사를 대상으로도 예방교육을 위한 교수학습과정안 등 교재를 신속 개발하고, 오는 12월부터는 교사 대상 연수를 추진한다. 과학기술정보통신부는 기존의 디지털 과의존 예방교육에 딥페이크 관련 내용을 추가했다.

김종문 차장은 “정부는 앞으로도 딥페이크 성범죄 대응 TF를 계속 운영해 나가면서 피해지원, 단속강화, 법안통과, 예산확보 등 이번 대책의 후속 조치를 면밀하게 점검하고 보완해 나갈 계획”이라고 밝혔다.

한편 딥페이크 기술을 악용한 성범죄는 최근 생성형 AI 기술 발달 등 영향으로 폭증하는 추세다. 경찰에 따르면 딥페이크 성범죄 관련 신고 건수는 2021년 156건, 2022년 160건, 2023년 180건에서 올해 10월까지 964건으로 증가했다. 피의자는 10대가 73.6%로 대부분인 상황에서 범죄라는 인식조차 부족하다는 게 정부 설명이다. 방송통신심의위원회에서 관련 사안을 심의한 건수도 2021년 1913건에서 올해 10월 1만305건으로 늘었다.