딥페이크 피해 학교를 집계하는 온라인 사이트 ‘딥페이크 피해 학교 지도’ 캡쳐.

[헤럴드경제=박혜원 기자] 인공지능(AI) 딥페이크 기술을 악용한 음란물 제작 범죄 공포로 자신의 사회관계망서비스(SNS)를 폐쇄하는 등 청소년들 사이 공포가 확산하고 있다. 특히 딥페이크 범죄는 대부분 미성년자를 대상으로 이뤄져, 학부모들 사이에서는 학교 측이 엄벌을 해야 한다는 여론도 커지고 있다.

피해에 노출되면 급속도로 온라인상에 유포될 수 있는 디지털 성범죄 특성상, 학부모들은 자녀들로 하여금 SNS에 게시된 사진을 삭제하게끔 하는 등 단속에 나섰다. 대전에 거주하는 학부모 A씨는 “살고 있는 동네 주변에 있는 학교가 모두 ‘딥페이크 피해 학교’로 목록에 포함돼 있어, 우선 스마트폰 프로필 사진이나 인스타그램 같은 SNS에 올린 얼굴 사진은 모두 지우도록 했다”고 말했다. 그는 “앞으로 친구들끼리 사진을 찍어 올리는 것도 모두 단속해야 할 것 같아 안타깝다”고 털어놨다. 다른 학부모 역시 “졸업앨범 사진을 범죄에 이용하는 경우도 있다고 해, 자녀 혼자 조심해서 될 일이 아니라 자녀도 두려워하고 있다”고 말했다.

홍보 목적으로 학생들 사진을 게시한 학원가에도 딥페이크 범죄를 우려한 학부모 문의가 이어지고 있다. 초등학생을 대상으로 하는 강남 소재 한 영어학원에는 전날 SNS에 게시한 학생 사진을 삭제해달라는 민원이 접수됐다. 이 학원 관계자는 “학원 홍보를 위해 운영하는 SNS 계정에 수업 현장 사진을 올려 게시해 왔는데 자녀가 딥페이크 범죄에 연루될까 걱정하는 학부모가 있어 우선 삭제 조치를 했다”고 말했다.

학부모 등이 모인 지역별 온라인 커뮤니티 등에서도 우려가 커지고 있다. 특히 가해 학생에게는 퇴학 처분을 해야 한다는 등 엄벌을 요구하는 목소리가 크다. 경기 지역 학부모 모임 카페 회원은 “피해자에게 평생 트라우마를 안겨줄 수 있는 만큼 학교에서 나오는 가해자 학생들은 퇴학 시켜 범죄를 잠재워야 한다”고 촉구하며 “학생들은 걱정이 큰데 학교 측에선 별로 걱정하지 않는 것 같다는 반응이 있어 걱정이 더욱 크다”고 토로했다.

교육 당국에서도 딥페이크 관련 강력 대응에 나섰다. 교육부는 지난 26일 전국 17개 시도교육청에 딥페이크 피·가해 현황을 파악해 달라는 공문을 보냈다. 교육부는 해당 공문에서 “디지털 성범죄가 발생할 경우 즉시 피해 신고기관에 도움을 요청해 피해 확산 및 2차 피해를 예방할 수 있도록 적극적인 협조를 요청한다”고 말했다.

전국 교육청에선 학부모에 가정통신문을 보내 피해 신고를 접수하고 있다. 서울시교육청은 피해 파악과 함께 이날 서울경찰청이 협력해 신종 학교폭력에 대응하는 시스템인 ‘스쿨벨’을 발령하기로 했다.

경남도교육청은 전날 기자회견을 열고 올해 총 24건의 딥페이크 관련 사건을 접수했으며, 도내 한 중학교에서 1학년 남학생 등 6명이 또래 여학생 12명의 합성사진을 제작한 사례가 있었다고 밝혔다. 대전교육청, 부산교육청, 광주교육청 등도 각 학교들로부터 피해 신고를 받고 있다.

수사 당국 역시 대응에 나서, 경찰청 국가수사본부는 내년 3월까지 7개월간 ‘딥페이크 성범죄 관련 특별 집중단속’을 실시하겠다고 밝혔다. 경찰은 시도경찰청 사이버성폭력수사팀을 중심으로 단속을 벌이고, 딥페이크 탐지 소프트웨어를 활용한 분석이나 국제공조 등 수사에 필요한 사항을 적극 지원할 예정이다.

딥페이크 범죄는 전국에 걸쳐 발생한 것으로 추정되는 상태다. 전날 개설된 온라인 사이트 ‘딥페이크 피해학교 지도’에는 현재 500여곳이 넘는 전국 초·중·고등학교와 대학교가 피해 학교로 등록된 상태다.

딥페이크 범죄는 10대 등 미성년자를 중심으로 확산세가 큰 것으로 집계됐다. 여성가족부 산하 한국여성인권진흥원에 따르면 올해 1월 1일부터 8월 25일까지 디지털성범죄피해자지원센터(디성센터)로부터 딥페이크 피해 지원을 요청한 781명 가운데 36.9%(288명)는 10대 이하 미성년자였던 것으로 나타났다. 지원을 요청한 미성년자 피해자 규모는 2022년 64명 대비 4.5배가 늘었다. 같은 기간 전체 피해 요청자가 212명에서 781명으로 3.7배 증가한 것 대비 가파른 추세다.

디성센터 관계자는 “미성년자는 다른 연령층에 비해 SNS 등을 이용한 온라인 소통과 관계 형성에 상대적으로 익숙하다”며 “이들 손에 최근 딥페이크 기술이 발전하고 생성형 AI가 등장하면서 손쉽게 불법 영상물을 제작할 수 있는 기술이 보급되면서 관련 피해도 증가하고 있다”고 설명했다.