“유튜브 삭제 영상 절반이 원복!’ …엉터리? ‘인공지능’ [IT선빵!]

[헤럴드경제=유동현 기자] “동영상 복구 비율이 50%?…유튜브 AI도 별거 없네”

유튜브가 동영상을 삭제하자 이에 항의해 복구시킨 영상의 비율이 50%에 가까운 걸로 나타났다. 동영상 필터링 작업을 대부분 유튜브 인공지능(AI)에게 맡겼지만 AI가 판단을 잘못 내린 탓이다.

닐 모한 구글 수석부사장은 “유튜브 AI도 한계가 있다”고 말했다.

“왜 내 영상이 삭제됐지?”…“AI가 잘못 했네요”

구글 투명성 보고서에 따르면 올해 4월~6월 간 유튜브 동영상 삭제 조치에 항의해 다시 복구시킨 동영상 비율은 49.3%에 달한다. 항의한 동영상 32만 5000여 건 중 절반에 해당하는 16만여 건이 복구됐다.

직전 분기(1~3월) 24.7%에 비해 2배가 늘어난 수치다. 19.5%를 기록한 작년 4분기(10~12월)과 비교해도 복구 비율이 급증했다.

“유튜브 삭제 영상 절반이 원복!’ …엉터리? ‘인공지능’ [IT선빵!]

이는 유튜브가 부적절 판단 및 삭제 조치를 대부분 인공지능에게 맡기면서 생긴 현상이다. 유튜브는 신종 코로나바이러스감염증(코로나19)이 유행하자 삭제 필터링 작업을 맡았던 기존 인력을 감축했다. 대신 인공지능에게 더 많은 권한을 부여해 일종의 유튜브 정화 작업을 벌였다.

인공지능에게 삭제 조치를 맡기자 도리어 과도한 검열로 돌아왔다. 동영상을 되살려 달라고 항의한 건수도 올해 1분기 16만여 건에서 2분기 32만 5000여 건으로 2배 늘었다.

이에 닐 모한 구글 수석 부사장은 파이낸셜 타임즈와 인터뷰를 통해 “유튜브 AI도 한계가 있다”며 “유해 콘텐츠 판단 대부분을 다시 사람이 맡도록 조치하겠다”고 밝혔다.

유튜브는 커뮤니티 가이드라인을 운영 중이다. ▷과도한 노출 및 성적인 콘텐츠 ▷아동 보호 ▷자살 및 자해 행위 ▷괴롭힘 및 사이버폭력 ▷유해하거나 위험한 콘텐츠 ▷증오심 표현 ▷폭력적이거나 노골적인 콘텐츠 ▷총기류가 등장하는 콘텐츠 ▷불법 또는 규제 상품 판매 등 부적절하다고 판단하는 동영상 게재를 막고 있다.

“피해는 누가 보상해주나?”… ‘노란딱지’ 악몽도

“유튜브 삭제 영상 절반이 원복!’ …엉터리? ‘인공지능’ [IT선빵!]

인공지능이 유튜브 ‘정화’ 작업에 투입되면서 그 기준에 대한 논란도 끊이지 않고 있다. 지난해 콘텐츠에 광고 수익을 제한하는 ‘노란딱지’가 특정 시사‧콘텐츠에만 붙는다며 편향성 시비가 붙었던 이른바 '노란딱지' 논란도 인공지능 판단에서 비롯됐다.

노란딱지는 광고 수익을 제한하는 표시다. 노란 딱지를 받으면 영상 앞뒤로 붙는 광고의 종류가 제한되거나 광고가 아예 붙지 않는다. 초기 판단은 인공지능이 자체 감별하는 것으로 알려졌다. 이후 항의를 하면 유튜브 직원이 직접 영상을 보고 판단하는 작업을 거친다.

유튜브는 제목, 영상 내용 등이 ▷폭력 ▷성인용 콘텐츠 ▷부적절한 언어 ▷유해하거나 위험한 행위 ▷논란의 소지가 있는 문제 및 민감한 사건 ▷증오성 콘텐츠 ▷도발, 비하 등을 다룰 시 규제한다. 그러나 콘텐츠가 어느 조항을 위반했는지는 알려주지 않는다.

이에 ‘특정 콘텐츠를 막는 게 아니냐’며 편향성 논란이 일었다. 인공지능 판단으로 삭제된 영상이 늘어나자 삭제 기준에 대한 의문이 제기되는 것도 같은 맥락이다. 유튜브는 해당 가이드라인을 공개하고 있지만 어떤 절차와 기준에 따라 판별되는지 밝히지 않고 있다.

또 삭제조치가 내려진 동영상이 복구되더라도 이에 대한 별도 보상은 이뤄지지 않는다. 해당 기간 동안 영상 게재가 막혀 조회수 등 수익에 피해를 입더라도 마땅한 대책은 없는 상황이다.

“유튜브 삭제 영상 절반이 원복!’ …엉터리? ‘인공지능’ [IT선빵!]