테일러 스위프트. [AP연합]

[헤럴드경제=김현경 기자] 일론 머스크가 소유한 소셜미디어 엑스(X·옛 트위터)가 인공지능(AI) 딥페이크 이미지로 피해를 입고 있는 팝스타 테일러 스위프트에 대한 검색을 차단했다.

28일(현지시간) 월스트리트저널(WSJ), 파이낸셜타임스(FT) 등에 따르면 X는 ‘테일러 스위프트’, ‘테일러 AI’ 같은 용어를 검색할 경우 “현재 게시물이 로딩되지 않고 있습니다”, “나중에 다시 시도해 주십시오” 등 오류 메시지가 뜨도록 조치했다. 스위프트에 대한 딥페이크 게시물뿐 아니라 합법적인 콘텐츠도 볼 수 없도록 막아 놨다.

조 베나로치 X 사업운영책임자는 전날 스위프트 검색 차단에 대해 “이는 일시적인 조치”라며 “이 문제에 대해 안전을 우선시해 신중하게 결정한 것”이라고 밝혔다.

최근 온라인 상에서는 스위프트의 얼굴 사진이 합성된 음란 이미지가 확산됐다.

스위프트의 얼굴에 성적으로 노골적인 자세가 합성된 이 이미지는 AI로 생성된 딥페이크 이미지로 추정됐다.

딥페이크란 딥러닝(Deep learning)과 가짜(Fake)란 말의 합성어로, AI 기술을 기반으로 만들어낸 가짜 이미지, 오디오, 비디오 등을 의미한다.

이 이미지의 최초 출처는 불분명하지만 주로 X에서 공유됐고, 일부는 인스타그램이나 레딧 등에서도 발견됐다.

X는 성명에서 “확인된 모든 이미지를 적극적으로 삭제하고 해당 이미지를 게시한 계정에 대해 적절한 조처를 했다”며 “추가적인 위반 사항이 발견되면 즉시 해결할 수 있도록 상황을 면밀히 모니터링하고 있다”고 밝혔지만 스위프트의 팬들은 X가 해당 이미지 공유를 한동안 방치했다며 항의했다.

이번 문제에 백악관까지 나서 “매우 우려스럽다”며 “우리는 실존하는 사람들의 친근한 이미지, 허위 정보가 사전 동의 없이 확산되는 것을 방지하기 위해 소셜미디어업체들이 정보 제공 및 규칙을 시행하는 데 해야 할 중요한 역할이 있다고 본다”고 밝혔다.

앞서 머스크는 2022년 10월 트위터를 인수해 X로 이름을 바꾸면서 ‘언론의 자유’를 명목으로 다수의 콘텐츠 규제 관련 정책을 폐기하고 관련 부서 인력도 대규모로 해고한 바 있다.

하지만 딥페이크 이미지 등이 확산하면서 이 문제를 해결해야 한다는 압박에 직면했다.

한편 X는 아동 성 착취물 등 불법 콘텐츠를 단속할 ‘신뢰와 안전 센터’를 텍사스주에 신설한다고 블룸버그통신, AFP통신이 이날 전했다.

베나로치 책임자는 텍사스 오스틴에 신설하는 센터에 100명의 콘텐츠 관리자를 정규직으로 채용할 계획이라고 밝혔다.