오세훈 서울시장과 류희림 방송통신심의위원장이 28일 오후 시청에서 딥페이크 음란물 영상 삭제지원 업무협약을 맺고 있다.[서울시 제공]

[헤럴드경제=김수한 기자] 오세훈 서울시장과 류희림 방송통신심의위원장은 28일 오후 시청에서 딥페이크 음란물 영상 삭제지원 업무협약을 맺었다. 방심위가 지방자치단체와 업무협약을 맺은 것은 이번이 처음이다.

폐쇄형 SNS에 게시된 딥페이크 영상물이 음란사이트나 그 외 SNS에까지 퍼져 피해 신고가 들어올 경우, 24시간 이내에 영상이 삭제·차단될 수 있게 조치한다는 내용이다.

지금까지는 서울시 디지털성범죄 안심지원센터에서 방심위에 각종 증빙 자료와 함께 영상 삭제 요청을 해야 했지만, 이번 협약에 따라 시장과 방심위원원장이 핫라인을 가동해 대량의 건수를 한 번에 삭제 요청할 수 있게 됐다.

시는 이와 함께 오픈채팅방에 딥페이크 SOS 전담 상담창구를 개설하고 피해지원관 2명을 배치해 신고 방법과 범죄 채증 방법을 안내한다. 수사·법률지원 등 피해자에게 필요한 지원을 위해 서울디지털성범죄 안심지원센터로도 연결한다.

시는 또 올해 말까지 피해 상황을 24시간 모니터링하면서 자동으로 문제의 영상을 삭제 신고하는 시스템을 구축하기로 했다.

현재는 시가 AI 기술을 활용해 피해 영상물을 모니터링하면 그 내용을 상담원이 삭제 신고하는 방식이다. 앞으로는 서울연구원과 협력해 AI가 영상 검색부터 신고까지 모든 과정을 자동으로 수행하도록 할 계획이다.

오 시장은 협약식에서 “오늘부터 방심위와 24시간 이내 딥페이크 영상 삭제 핫라인을 구축한다”면서 “피해 영상물 삭제를 즉각 지원하고 피해자를 ‘원스톱’ 지원할 것”이라고 말했다.

류 방심위원장은 “오전 긴급 대책회의에서 지자체와 협력을 강화하겠다고 했는데 서울시가 바로 화답해 기쁘다”며 “서울시와 연계해 보다 효율적인 디지털 성범죄 예방에 최선을 다하겠다”고 말했다.