최근 유명인의 잇단 자살로 ‘베르테르 효과(모방 자살)’ 우려가 확산되고 있는 가운데, 올 3분기 페이스북에 확인된 자살 관련 콘텐츠가 전분기보다 25% 늘어난 것으로 나타났다.

페이스북은 28일 서울 역삼동 페이스북코리아 본사에서 미디어설명회를 갖고 유해 콘텐츠를 관리하는 커뮤니티 규정 시행 현황을 담은 ‘제4차 커뮤니티 규정 집행 보고서’를 공개했다.

페이스북의 커뮤니티 규정은 ▷자살 및 자해 관련 데이터 ▷불법 무기 및 의약품 거래 ▷아동 성 착취 ▷테러 선동 ▷혐오 발언 등을 유해 콘텐츠로 감지해 삭제 조치하도록 돼 있다.

페이스북에서 3분기에 확인된 페북 내 자살 관련 데이터는 약 250만개로 전분기(200만개)보다 25% 늘었다. 페북은 이들을 모두 삭제 조치했다.

또 같은 기간 페북에 게재됐다가 삭제된 불법 의약품 거래 관련 콘텐츠는 440만개, 무기 거래 관련 콘텐츠는 230만개였다.

아동 성 착취 관련 데이터는 페이스북에서 1160만개가 삭제됐다.

이외에도 테러선동 관련 콘텐츠는 98.5%, 혐오 발언 콘텐츠는 80%의 사전 감지율을 기록했다.

인스타그램에서는 올 3분기에 자살관련 콘텐츠 84만5000개, 의약품 거래 콘텐츠 150만개, 아동 성착취 관련 콘텐츠 75만4000개가 삭제됐다.

페이스북은 유해 콘텐츠 사전 감지율을 높이기 위해 머신러닝 등의 기술을 적용하고 있다고 설명했다.

혐오 발언의 경우 관련 콘텐츠에서 나타나는 공통적인 문구나 패턴의 유사성을 머신러닝을 통해 식별된 후 자동 삭제되고 있다.

유동연 페이스북 아시아태평양 콘텐츠 정책 담당은 “인공지능(AI)에 대한 지속적인 투자를 통해 유해 콘텐츠 감지 및 삭제율을 높여나갈 것”이라고 설명했다.

박세정 기자/sjpark@heraldcorp.com