서울시는 행정안전부가 개최한 ‘2023 정부혁신 우수사례 경진대회’에서 ‘디지털 성범죄 AI(인공지능) 삭제지원 프로그램’으로 대통령상 ‘대상’을 수상했다고 28일 밝혔다. 이상민 행정안전부 장관과 김선순 서울시 여성가족정책실장.[서울시 제공]

[헤럴드경제=김수한 기자] 서울시는 행정안전부가 개최한 ‘2023 정부혁신 우수사례 경진대회’에서 ‘디지털 성범죄 AI(인공지능) 삭제지원 프로그램’으로 대통령상 ‘대상’을 수상했다고 28일 밝혔다.

정부혁신 우수사례를 발굴해 범정부적으로 공유·확산하는 이번 대회에는 중앙부처와 지방자치단체, 공공기관 등에서 총 533건의 사례가 접수됐다.

심사는 전문가 심사와 국민 2만1000명이 참여하는 온라인 국민심사 등 1·2차 예선을 거쳐 총 13건이 본선에 올랐다. 이어 이달 15일 3차 경진대회에서 최종 순위가 결정됐다.

3차 심사에서는 전문가 10명, 국민평가단 100명이 참여해 대통령상 대상 1점과 대통령상 금상 5점, 국무총리상 은상 7점을 선정했다.

시는 ‘디지털 성범죄 AI 삭제지원 프로그램’으로 대통령상 대상을 수상했다.

디지털 성범죄 AI 삭제지원 프로그램은 AI 기술을 활용해 24시간 실시간 온라인 모니터링을 통해 피해 영상물을 자동으로 발견해 삭제하는 시스템이다.

시와 서울연구원은 지난해 7월 프로그램 개발에 착수, 올해 3월 프로그램 개발을 완료했다.

이 프로그램은 기존 피해 영상물 삭제 시스템보다 빠르고 정확하게 삭제할 수 있다는 점, 이를 통해 피해자의 고통을 줄이고 일상회복을 도울 수 있다는 점에서 높은 평가를 받았다고 시는 설명했다.

시는 서울 디지털 성범죄 안심지원센터를 통해 이 프로그램을 도입한 지 7개월 만에 총 45만건의 영상물을 모니터링했다. AI 도입 전 사람이 모니터링할 때 7개월간 3만3511건에 그친 것과 비교해 12배 이상 효율을 높인 것이다.

키워드 입력부터 영상물 검출까지 걸리는 시간 또한 사람이 직접 할 때는 평균 2시간이 소요됐으나 AI로는 3분이면 충분해 검출 시간을 크게 줄였다. 이로 인해 피해 영상물 삭제량도 2배로 늘렸다.

시는 최근 아동·청소년 대상 디지털 성범죄 피해 사례가 증가하고 있어 향후 아동·청소년 피해 예방에 주력한다는 방침이다.

성인은 본인이 직접 삭제를 요청해야 삭제가 가능하지만 아동·청소년은 당사자나 부모의 신고 없이도 즉시 삭제가 가능하다. 이에 따라 서울시는 해당 프로그램으로 아동·청소년 디지털 성범죄에 대해 선제 대응한다는 계획이다.

시는 또한 아동·청소년 피해 영상물을 더 잘 걸러낼 수 있도록 AI 기반 아동·청소년 피해 영상물 삭제지원 프로그램을 내년 상반기를 목표로 별도 개발 중이다.

시는 향후 대통령상 대상을 수상한 디지털 성범죄 AI 삭제지원 프로그램과 서울시의 디지털성범죄 안심지원센터 운영 등 예방부터 재발 방지에 이르는 디지털성범죄 통합대응정책을 내년 유엔 공공행정상(UNPSA)에 응모해 국제적으로 널리 알릴 계획이다.

김선순 서울시 여성가족정책실장은 “디지털 성범죄 삭제 지원은 많은 분들이 가장 필요로 하는 지원이었다”며 “디지털 성범죄 AI 삭제지원과 같은 혁신기술을 통해 피해자의 고통을 경감하고 예방부터 피해자 지원까지 좀 더 촘촘한 원스톱 지원을 통해 피해자 한 분 한 분이 빠르게 일상을 회복할 수 있도록 돕겠다”고 말했다.