“당신의 표를 11월(대선)을 위해 아껴 둬라. 이번 투표는 도널드 트럼프 공화당 후보를 다시 선출하게 만들 뿐이다.”

뉴햄프셔 프라이머리(예비선거)를 하루 앞둔 22일 민주당 당원들에게 바이든 대통령의 목소리로 전화가 걸려왔다. 이는 바이든 대통령의 목소리를 닮은 ‘로보콜(robocall·녹음된 음성이 재생되는 자동전화)’임이 밝혀졌다. 바이든 대통령이 즐겨 쓰는 ‘정말 말도 안 되는 소리(What a bunch of malarkey)’라는 음성도 나와 유권자들을 착각에 빠지게 만들었다.

선거 때면 쏟아지는 인공지능(AI) 기술로 만든 가짜 뉴스나 조작된 정보가 민주주의의 최대 위협으로 등장하고 있다. 생성형 AI인 ‘챗GPT’의 개발사 오픈AI에 대규모 투자를 한 마이크로소프트(MS) 창업자 빌게이츠마저 “AI가 생성한 딥페이크와 허위 정보는 선거와 민주주의를 훼손할 수 있다”고 경고했다.

▶선거판 흔드는 AI발 가짜뉴스=경고는 이미 현실화되는 모습이다. 지난해 5월 튀르키예 대선 투표 직전에 ‘테러 집단이 야당 후보를 지지한다’는 내용의 영상이 퍼졌다. 3선에 도전한 레제프 타이이프 에르도안 대통령과 야당 후보 케말 클르츠다로을루가 접전을 벌이던 가운데 쿠르드족 분리주의 무장단체 쿠르드노동자당(PKK)이 클르츠다로을루를 지지하는 영상이 확산한 것이다. 조작된 영상으로 밝혀졌지만, 선거는 이미 끝난 뒤였다. 야당 후보는 에르도안 대통령에게 근소한 차이로 패했다.

지난해 9월 슬로바키아에서도 선거를 며칠 앞두고 친미 성향의 야당 대표가 맥주 가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 AI 오디오 녹음이 사실인것마냥 확산됐다. 해당 음성은 곧 가짜로 판명됐지만 집권당 승리에 큰 영향을 미쳤다는 분석이 나왔다.

지난해 11월 영국에서는 사디크 칸 영국 런던시장이 정전협정일 행사의 중요성을 부인하는 내용의 음성이 사회관계망서비스(SNS) 틱톡을 통해 유포돼 논란이 일었다. 가짜로 밝혀진 해당 음성에선 문법적 오류가 드러나는 부분도 있었지만 칸 시장의 억양을 정확히 구현하고 있어 얼핏 들어선 진위 여부를 가리기 어려울 정도였다.

올해 3선에 도전하는 나렌드라 모디 인도 총리는 무희들과 인도 민속춤 ‘가르바’를 추는 영상이 ‘모디 가르바 댄스’라는 제목으로 온라인에 퍼져 화제를 모으기도 했다. 영상 속 모디 총리는 AI로 만든 딥페이크였다.

▶딥페이크 선거 악용 비상...韓, 관련 기준 마련=올해는 전세계 인구의 약 절반인 42억명이 투표소를 향하는 이른바 ‘선거 슈퍼볼’의 해다. 선거에 딥페이크 이미지나 영상 등이 악용될 경우 정치 양극화와 혐오에 편승한 네거티브 확산은 물론이고 선거 조작으로까지 이어질 수 있다.

딥페이크는 편집이 쉽고 비용이 저렴하다. 특히 정치인의 경우 SNS에 AI를 학습시킬 데이터가 넘쳐난다. 그럴들한 메시지와 유권자 데이터만 있으면 딥페이크로 선거판을 뒤흔들 수 있다.

이에 4월 총선을 90일 남겨두고 우리나라에선 딥페이크 영상을 활용한 선거운동이 29일부터 금지됐다. 중앙선거관리위원회에 따르면 AI 기술로 만든 ‘실제와 구분하기 어려운’ 가상의 음향·이미지·영상 등을 선거운동에 활용할 수 없으며, AI 기술로 만든 가상임을 표시해도 법에 위반된다.

선관위는 AI 모니터링 전담 요원과 AI 전문가 등으로 구성된 특별 전담반을 편성하는 등 본격적인 대비에 나섰다. 이들은 ▷시각적 탐지 ▷범용 프로그램 활용 ▷AI 자문위원 감별 등 3단계로 세분화된 감별을 실시한다.

포털·커뮤니티사이트 초기화면에 신고·제보 배너를 게시하는 등 AI 콘텐츠가 선거운동에 활용되는지도 감시하는 등 위법행위에 대한 예방과 단속을 강화할 계획이다. 위법성이 의심되는 AI 콘텐츠는 선제적으로 삭제 조치하고, 삭제요청에 불응하는 경우 과태료 등을 부과할 방침이다. AI 댓글 자동 생성 프로그램 등을 이용한 댓글 자동 게시가 의심되면 수사기관에 신속히 통보할 예정이다.

다만 포토샵·그림판처럼 AI 기술을 사용하지 않고 사용자가 직접 조작하는 프로그램을 이용해 만든 이미지·영상 등은 선거운동에 활용할 수 있다. AI 기술을 사용해 만든 이미지·영상 등도 총선 선거운동이 아닌 당내 경선 운동이나 의정활동 보고, 투표 참여 권유 활동, 통상적인 정당 활동 등의 목적에선 허용된다. 김영철 기자