딥페이크 성범죄 확산에 따라

내년 3월 말까지 대대적 단속

아동·청소년 합성물 엄격 대응

‘그놈 잡아라’ 경찰, 딥페이크 집단성범죄 전국 집중단속…‘철없는 10대’가 76%
챗GPT로 제작한 딥페이크 관련 이미지

[헤럴드경제=박준규 기자] 사회관계망서비스(SNS)를 통해 딥페이크(Deepfake) 합성물로 인한 집단 성범죄가 번져나감에 따라 오는 28일부터 내년 3월 말까지 7개월 간 전국 시·도경찰청을 중심으로 특별 집중단속을 벌인다고 27일 밝혔다.

딥페이크는 사진이나 영상을 다른 사진, 영상에 합성하는 기술 전반을 일컫는다. 인공지능(AI) 딥러닝(Deep Learning) 기술과 ‘가짜’를 의미하는 페이크(Fake)의 합성어다.

경찰에 따르면 딥페이크 기술을 활용한 허위영상물을 만들거나 유포한 범죄 건수는 2021년 156건에서 지난해 180건으로 늘었고, 올해 상반기에만 297건이 발생했다.

과거 영상·이미지 합성은 전문 기술이 필요했다. 하지만 AI기술이 적용된 딥페이크 생성 프로그램(봇)이 보급되면서 누구나 어렵지 않게 허위영상물을 제작할 수 있는 환경이 형성됐다. 문제는 10~20대를 중심으로 지인의 사진, 영상을 가져다가 다른 음란물 등과 합성한 뒤 채팅방에서 공유하는 딥페이크 성범죄도 덩달아 늘어나고 있는 점이다.

‘그놈 잡아라’ 경찰, 딥페이크 집단성범죄 전국 집중단속…‘철없는 10대’가 76%
[온라인 커뮤니티 갈무리]

경찰청 집계를 보면 딥페이크 범죄 관련 전체 피의자 가운데 10대가 차지하는 비율은 ▷2021년 65.4% ▷2022년 61.2% ▷2023년 75.8%로 해마다 높아지고 있다.

이들은 텔레그램 같은 암호화된 채팅 플랫폼에서 특징 지역이나 학교의 공통 지인을 대상으로 합성물을 공유(일명 ‘겹지방’)하는 등 시간이 흐를수록 성범죄 수법은 구체화·체계화되고 있다.

전국의 시·도경찰청 사이버성폭력수사팀은 딥페이크 불법 합성물에 대한 대대적인 단속을 펼친다. 경찰청은 ▷딥페이크 탐지 소프트웨어를 활용한 분석 ▷국제공조 등 수사에 필요한 사항을 적극적으로 지원할 예정이다.

특히 아동이나 청소년의 사진·영상을 활용해 만들어진 딥페이크 합성물은 ‘아동·청소년성착취물’로 간주하고 청소년성보호법을 적용하여 더욱 엄격하게 대응할 방침이다.

경찰청 관계자는 “딥페이크 제작부터 유포까지 철저히 추적, 검거함으로써 피의자 등을 발본색원할 것”이라고 말했다.

더불어 경찰은 10대 청소년들의 딥페이크 활용 디지털 성범죄를 예방하고자 학교전담경찰관(SPO)을 중심으로 범죄첩보를 수집하고 예방 교육과 홍보 등의 활동을 펼친다고 밝혔다.