美 동물보호소 “100% 가짜”…AI로 꾸민 안락사 명단·유실견 사진으로 돈 뜯는 사기도

EU는 AI 이용자에게도 딥페이크 표시 의무…국내 AI기본법은 사업자만 대상

우리 강아지와 고양이에게 일어날 수 있는 일을 알아봅니다. 사건 뒤에 숨은 제도와 연구, 세계의 사례까지 엮어 소개합니다.

기사 이해를 돕기 위한 사진. 가상으로 제작. [AI 생성 이미지]
기사 이해를 돕기 위한 사진. 가상으로 제작. [AI 생성 이미지]

[헤럴드경제=장윤우 기자] 진짜 반려견의 재주를 보고도 ‘AI 아니냐’는 의심부터 나올 만큼 인공지능(AI)으로 만든 가짜 동물 영상이 쏟아지고 있다.

생성형 AI를 쓰면 몇 줄의 문장만으로 실제처럼 보이는 동물 영상을 만들 수 있다. 동물이 등장하는 감동적이거나 충격적인 영상은 조회수와 광고 수익을 끌어모으기 쉬워 이런 영상만 하루 여러 편씩 올리는 계정도 생겼다.

최근 한 예능 프로그램에서는 한 반려견이 한글 단어 카드를 정확히 골라내고, 이름이 적힌 카드를 찾아내자 출연진 사이에서는 “AI다”라는 말이 터져 나왔다. 한 출연자는 “못 믿겠어. 조작 방송인 거 같다”라고 했다. 실제 반려견이 훈련으로 익힌 재주였지만 AI부터 의심하는 분위기가 고스란히 드러났다.

사진은 기사 내용과 관련 없음. [게티이미지뱅크]
사진은 기사 내용과 관련 없음. [게티이미지뱅크]

눈물 쏟게 한 ‘할머니와 리트리버’, 알고 보니 AI

지난 8월 말 미국 인스타그램에는 81세 할머니 ‘엘리너’가 오리건주 동물보호협회(OHS)에 7살 골든리트리버 ‘듀크’를 맡기며 이별하는 영상이 퍼졌다. 영상에는 할머니의 건강이 나빠져 반려동물을 받아 주지 않는 요양시설로 들어가야 한다는 설명이 붙었다.

미국 지역 주간지 윌래밋위크에 따르면 해당 영상은 최소 9개 계정에 올라왔고 한 계정의 게시물에만 ‘좋아요’ 6만2700개와 댓글 4000개 가까이 달렸다.

영상은 AI로 만든 가짜였다. 사라 유사비츠 OHS 직원은 “가슴 아픈 영상이지만 100% 가짜”라고 밝혔다. OHS에는 듀크를 입양할 수 있느냐는 전화가 잇따랐고 직원들은 문의에 답하느라 시간을 빼앗겼다.

사진은 기사 내용과 관련 없음. [게티이미지뱅크]
사진은 기사 내용과 관련 없음. [게티이미지뱅크]

같은 계정에는 버지니아주와 켄터키주에서 다른 할머니가 반려견을 맡기는 비슷한 영상도 올라와 있었다. 로라 클링크 OHS 직원은 “이런 일을 처리해야 하는 것 자체가 우리 일을 방해한다”고 말했다.

미국 동물보호 활동가 소피 가망에 따르면 올해 2월 미국 샌프란시스코 베이 지역에서는 보호소에 있는 개의 사진을 AI로 고쳐 ‘안락사 명단에 올랐다’고 속이고 후원금을 모으는 게시물이 돌았다. 실제로는 안락사 대상이 아니거나 존재하지 않는 개들이다.

캘리포니아주 프레즈노에서는 반려견을 잃어버린 보호자에게 개를 데리고 있다며 AI로 만든 사진을 증거로 보내고 기프트카드로 돈을 요구한 사례가 있었다.

사진은 기사 내용과 관련 없음. [AI 생성 이미지]
사진은 기사 내용과 관련 없음. [AI 생성 이미지]

가짜 영상이 퍼뜨리는 위험한 ‘착각’

AI 가짜 영상이 동물에 대한 잘못된 인식을 퍼뜨린다는 연구도 나왔다.

스페인 코르도바대 연구진은 국제학술지 보전생물학(Conservation Biology)에 실은 논문에서 “생성형 AI 도구는 이제 실제로 일어난 적 없는 그럴듯한 야생동물 영상과 사진을 만들어 낼 수 있다”고 경고했다.

연구진이 든 예는 비를 맞으며 새끼들을 품는 새의 AI 영상이다. 해당 영상에는 ‘진정한 모성애’라는 설명이 붙었는데 실제로 새의 90%가량은 수컷도 새끼를 함께 키운다.

포식자와 먹잇감이 다정하게 지내거나 사람과 야생동물이 끈끈한 우정을 나누는 가짜 영상도 흔하다.

기사 이해를 돕기 위한 사진. 포식자와 먹잇감이 다정하게 지내는 가상의 모습. [AI 생성 이미지]
기사 이해를 돕기 위한 사진. 포식자와 먹잇감이 다정하게 지내는 가상의 모습. [AI 생성 이미지]

연구진은 이런 영상이 야생동물이 안전하다는 착각을 심거나 희귀 동물을 반려동물로 키우려는 수요를 부추기고, 동물이 살지도 않는 곳으로 관광객을 몰리게 할 수 있다고 지적했다.

연구진은 AI 콘텐츠를 규제하는 국제 규칙이 당장 마련되기 어려운 만큼 미디어 리터러시 교육이 필요하다고 강조했다.

국제학술지 네이처 생태와 진화(Nature Ecology & Evolution)에 실린 논문에 따르면 AI로 보정한 사진이 시민 과학 플랫폼에 올라와 생태 기록을 오염시킨 사례를 다뤘다.

브라질에서 한 번도 기록된 적 없는 새가 발견됐다는 사진이 올라왔는데, 실제로는 다른 종의 새였다. 사진을 올린 사람이 구글의 AI 사진 편집 기능을 쓰는 과정에서 다른 새와 비슷한 무늬가 덧입혀진 것이었다.

인공지능(AI) 자료 사진. [게티이미지뱅크]
인공지능(AI) 자료 사진. [게티이미지뱅크]

EU는 ‘AI 쓰는 쪽’도 표시, 한국은 사업자만

각국은 AI 생성물에 표시를 붙이도록 하고 있다. 유럽연합(EU)은 지난 8월 2일부터 AI법의 투명성 의무를 적용하고 있다. 생성형 AI를 만드는 기업은 AI가 만든 이미지와 영상, 음성, 글에 기계가 읽을 수 있는 표시를 넣어야 한다.

AI 시스템을 써서 딥페이크를 만들어 내놓는 쪽도 AI로 만들었다는 사실을 눈에 보이게 밝혀야 한다. 어기면 최대 1500만유로 또는 전 세계 연간 매출의 3% 가운데 큰 금액을 과징금으로 낼 수 있다.

중국은 지난해 9월 1일부터 ‘AI 생성 합성 콘텐츠 표시 방법’을 시행하고 있다. AI 서비스 기업은 생성물에 눈에 보이는 표시와 파일 정보에 숨긴 표시를 함께 달아야 한다. AI로 만든 콘텐츠를 인터넷에 올리는 이용자도 스스로 AI 생성물이라고 밝히고 플랫폼의 표시 기능을 써야 한다.

국내에서는 올해 1월 22일 인공지능 기본법이 시행됐다. 법 제31조는 AI를 개발하거나 AI로 서비스를 제공하는 사업자에게 생성형 AI 결과물임을 표시하도록 하고, 딥페이크는 사람이 분명하게 알아볼 수 있는 방식으로 알리도록 했다.

의무는 AI 사업자에게만 있어 AI 서비스를 써서 가짜 영상을 만들어 올리는 유튜버나 개인 계정은 적용 대상이 아니다. 방송미디어통신위원회는 AI로 만든 이미지나 영상을 올리는 이용자도 AI 생성물이라고 표시하게 하고, 플랫폼에는 이를 관리할 책임을 지우는 정보통신망법 개정을 연말까지 추진하기로 했다.

한편 클링크 OHS 직원은 “무엇이 AI이고 무엇이 진짜인지 구분하기 어려운 시대에 살고 있다”고 말했다.

“고양이는 생각보다 사회적”…집사 앞에서만 4배 더 ‘야옹’ [개묘한 연구]

“고양이는 생각보다 사회적”…집사 앞에서만 4배 더 ‘야옹’ [개묘한 연구]

고양이는 사람이 곁에 있을 때 혼자일 때보다 4배 넘게 더 운다는 연구가 나왔다. 가르랑 소리에 울음을 섞어 밥을 조르고, 집사의 말투까지 가려 듣는다.
https://biz.heraldcorp.com/article/10938547
‘촉법이라 괜찮다?’…어릴 적 동물학대, 커서 사람 향할 수도 [개묘한 연구]

‘촉법이라 괜찮다?’…어릴 적 동물학대, 커서 사람 향할 수도 [개묘한 연구]

김해 초등생들이 고양이와 새를 학대했다는 의혹이 나왔다. 핀란드 연구에선 동물학대가 또래 괴롭힘과 연관됐고, 미국·스코틀랜드는 처벌 대신 상담과 공감 교육으로 대
https://biz.heraldcorp.com/article/10935037
‘빈 병 76개·주사기 100개’ 케타민 취한 채 진료한 원장…美 수의사 12% ‘직원 빼돌림 안다’ [개묘한 연구]

‘빈 병 76개·주사기 100개’ 케타민 취한 채 진료한 원장…美 수의사 12% ‘직원 빼돌림 안다’ [개묘한 연구]

인천 동물병원장이 동물용 마취제 케타민을 석 달간 92차례 몰래 투약하고 진료했다. 美 조사에선 수의사 12%가 직원의 약 빼돌림을 안다고 답했다.
https://biz.heraldcorp.com/article/10933899

dbsdn1110@heraldcorp.com