네이버·카카오, 딥페이크 성범죄물 유통 방지 의무 강화된다
[게티이미지뱅크]

[헤럴드경제=박세정 기자] 딥페이크 성범죄를 근절하기 위해 네이버, 카카오 등 플랫폼 사업자들의 불법 촬영물 유통방지 의무가 강화된다. 이를 제대로 이행하지 않을 경우 시정명령과 과징금 조치를 받게 된다.

이와함께 딥페이크 성범죄 확산을 기술적으로 막을 수 있도록 탐지, 예방 기술 관련 연구개발(R&D)지원도 강화된다.

정부는 6일 이같은 내용을 담은 정부 부처 공동 딥페이크 성범죄 대응방안을 발표했다. 앞서 정부는 딥페이크 대응 범정부 TF를 구성해 관련 대응책을 논의해왔다.

우선 방송통신위원회는 플랫폼 사업자의 의무를 강화하는 방안을 마련했다. 정보통신망법 및 전기통신사업법 등 관련 법령을 적극 해석해 텔레그램 등 국·내외 플랫폼 사업자의 규제를 추진할 방침이다.

텔레그램 등을 청소년유해물 제공·매개자로 해석, 청소년보호책임자 관련 자료요구(1단계) 및 지정의무 통보(2단계), 국내대리인 지정 의무대상 통보(3단계), 시정명령(4단계) 등 의무사항 요구할 수 있게 된다.

네이버, 메타 등 플랫폼 사업자(부가통신사업자)에 대해서는 ‘불법촬영물 등’ 유통방지 의무 불이행 시, 시정명령 및 과징금 등을 적극 부과할 방침이다.

불법촬영물 유통방지 노력 등을 담은 보고서를 허위로 제출하는 플랫폼 사업자에 과태료를 부과할 수 있는 제재 방안도 신설된다.

성적 허위영상물 등 디지털 성범죄물 게재자에 대해서는 서비스 이용을 중단 시키거나, 탈퇴 시키는 등의 제재도 추진한다.

방통위는 딥페이크 성범죄물을 신속히 삭제하기 위해 성범죄물 여부 판단이 어려운 경우, 선차단 후 방송통신심의위원회에 심의를 요청하는 방안을 마련한다.

이와함께 과학기술정보통신부는 ‘AI 윤리·신뢰성 포럼’ 등을 운영해 기업들의 책임감 있는 AI 활용을 유도한다는 방침이다. 포럼에는 네이버, 카카오, SK텔레콤, 한국마이크로소프트, 구글코리아, LG AI 연구원 등이 참여한다.

딥페이크 성범죄 확산에 기술적으로 대응하기 위해 차단·탐지·예방 기술 개발 관련 R&D 지원도 강화할 방침이다. 또 콘텐츠 게재 시 AI 생성물 표시를 의무화하는 방안도 추진한다.