실제 아이유가 ‘밤양갱’을 부르는 것 처럼 만든 ‘AI 영상’ [유튜브(@Spot-AI-fy) 갈무리]

[헤럴드경제= 박영훈 기자] “내 목소리와 섬뜩할 정도로 비슷해 충격을 받았다” (할리우드 배우 스칼렛 요한슨)

“이건 좀 심각하다. 소름 돋는다” (가수 장윤정)

실제와 구분이 안될 정도로 유명 연예인을 그대로 본뜬 인공지능(AI). 연예들까지 “소름 돋는다”며 반발이 커지면서 결국 유튜브가 생성형 AI를 삭제 할수 있는 규정을 새롭게 마련했다.

오픈AI도 유명 연예인 스칼렛 요한슨의 목소리와 매우 유사해 반발의 샀던 ‘챗GPT’의 음성 기능 출시를 연기했다.

우려돼 왔던 인공지능(AI)의 법적·윤리적 문제가 일파만파로 확산되고 있다.

3일 정보기술(IT)업계에 따르면 유튜브는 자신의 얼굴이나 목소리를 모방한 생성형 인공지능(AI) 콘텐츠를 발견하면 삭제 요청을 할 수 있는 규정을 마련했다. 삭제 요청이 접수되면 유튜브는 콘텐츠 변경·합성 여부, 유명인 등장 여부 등을 심사해 문제된다고 판단될 경우 콘텐츠 게시자에서 48시간안에 삭제를 하도록 강제한다.

신고는 콘텐츠에 등장하거나 영향을 받는 당사자가 직접 해야 하며, 미성년자이거나 망자의 경우에는 대리인이 제출할 수 있다.

업계에선 “결국 터질게 터졌다”는 반응이다.

할리우드 배우 스칼렛 요한슨 [로이터=연합뉴스]

오픈AI도 할리우드 배우 스칼렛 요한슨의 반발을 샀던 음성 서비스을 중단하고, 출시를 연기했다. 요한슨은 성명을 통해 “공개된 영상을 들었을 때 내 목소리와 매우 유사해 충격과 분노를 느꼈다”고 밝혔다.

오픈AI는 “‘음성 모드’의 특정 콘텐츠 감지 및 거부 기능을 개선하고 있다”며 “출시 기준에 도달하려면 한 달이 더 필요하다”고 밝혔다.

AI 기술이 고도화하면서 마치 해당 가수가 직접 부른 것 같은 영상이 제작되고 있고, 이 영상들이 유튜브를 타고 수십만 조회수를 기록하고 있다.

실제 아이유가 ‘밤양갱’을 부르는 것 처럼 만든 ‘AI 영상’ [유튜브(@Spot-AI-fy) 갈무리]

국내에서도 비비 인기곡 ‘밤양갱’에 AI를 입혀 마치 아이유가 ‘밤양갱’를 부르는 것 처럼 만든 AI 영상이 화제와 논란을 동시에 불러일으켰다. 해당 영상은 목소리의 주인공이 직접 부른 게 아닌, AI 기술로 유명 연예인의 목소리를 학습시켜 만들었다. 실제와 구분이 안될 정도로 똑같애, 연예인들은 불쾌감을 호소했다.

가수 장윤정은 AI 곡을 듣고 “이건 좀 심각하다. 소름 돋는다”고 말했다. 그러면서 “노래까지는 AI가 안 될 거라고 생각했는데, 이러면 가수가 왜 레코딩을 하겠냐”고 일침을 가했다.

박명수도 “그렇게 똑같을 줄 몰랐는데, 우리 연예인들은 어떻게 해야 하냐”고 우려했다.

AI가 인간과 유사한 수준까지 발전하면서 여러 법적·사회적 문제를 포함한 안전성 우려가 더 커지고 있다.