28일 페이스북 등에 따르면 인공지능(AI) 기술을 활용해 페이스북 게시글과 라이브 방송의 텍스트를 분석해 자살 신호를 자동으로 감지하는 시스템을 전 세계로 확대한다.
기존 페이스북은 자살을 암시하는 콘텐트나 징후가 나타난 글이 발견됐을 경우 사람이 직접 신고하는 방식이었다.
 |
| [사진=게티이미지] |
이번에 도입되는 방식은 사용자의 게시글이나 댓글에 우울한 감정이나 정서를 나타낸 표현이나 문구 등이 반복적으로 사용됐을 경우 자살 징후가 높은 글로 분류하고 담당자에게 이를 알리는 것이다.
이 프로그램은 지난 3월 미국에서 텍스트 게시물에 한정해 테스트했다.
페이스북 관계자는 “지난달에만 AI 프로그램을 통해 100건 이상 자살에 대한 선제적인 안전 체크를 했다”며 “위험해 보이는 이용자가 라이브 스트리밍을 하는 동안 방지 요원이 현장에 도착한 적도 있다”고 말했다.
올해 초 개인 방송 서비스인 ‘페이스북 라이브’ 이용자가 방송 도중 스스로 목숨을 끊는 일이 잇따라 발생하면서 페이스북 시스템에 대해 논란이 됐다.
페이스북은 이 같은 상황을 방지하기 위해 노력하겠다며 약속한 바 있다.
onlinenews@heraldcorp.com
