AI가 만든 가짜 사진으로 미국 워싱턴 국방부 청사인 펜타곤이 화재로 검은 연기에 휩싸여 있다. 지난해 3월 22일(현지시간) 이 사진이 확산하면서 미 증시가 10분간 하락해 시총 약 1050억달러가 증발했다. [트위터 갈무리]

가짜뉴스가 글로벌 정가의 최대 위협으로 부상하고 있다. 올해 지구촌 곳곳에서 주요 선거가 치러지는 가운데 가짜뉴스가 역대급 기승을 부릴 것으로 전망된다. 특히 인공지능(AI) 기술에 힘입어 정교해진 가짜뉴스는 국경을 넘어 선거에 개입하고, 댓글 프로그램으로 여론을 조작해 선거판을 뒤흔들 우려가 있다.

이미 세계는 연초부터 밀려든 가짜뉴스 쓰나미에 어느때보다 뒤숭숭하다. 지난 9일(현지시간) 미국 증권거래위원회(SEC)가 현물 비트코인 상장지수펀드(ETF)를 승인했다는 가짜뉴스에 금융 시장이 발칵 뒤집혔고, 대만에서는 지난 13일 치러진 총통선거를 전후로 친중국 허위 정보들이 연일 쏟아지며 유권자 혼란을 가중시켰다.

▶다보스포럼 “AI 기술로 가짜뉴스 진화...파괴적 능력 가속”=10일 세계경제포럼(WEF·다보스포럼)은 ‘글로벌 위험보고서 2024’를 통해 올해 세계가 마주하는 최대 위험요인으로 AI발 가짜뉴스를 꼽았다.

보고서는 “기후 행동주의에서 갈등 확대에 이르기까지 다양한 목표 추구를 위해 조작된 정보들이 넘쳐나고, 이들의 파괴적 능력이 빠르게 가속화하고 있다”고 지적했다.

각종 허위 정보들은 소셜미디어(SNS)를 통해 파급력을 빠르게 키우며 이미 세계 곳곳에서 사회·정치적 혼란의 씨앗이 되고 있다. 지난 2021년 미 대선 결과에 불복하며 발생한 1.6 의사당 폭동 사태를 미 연방수사국(FBI)이 부추겼다는 ‘음모론’이 그 중 하나다. 폭동 3년 후인 지난해 12월 진행된 워싱턴포스트(WP)의 여론조사에서도 응답자 4명 중 한 명은 이 같은 음모론이 ‘사실’이라고 답하기도 했다.

특히 생성형 인공지능(AI)를 악용해 만든 가짜뉴스는 핵폭탄급 ‘무기’ 수준이다. 챗GPT를 필두로 AI 기술에 대한 대중 접근성이 높아지면서, 입맛대로 빠르게 만들어낸 ‘진짜보다 진짜처럼’ 가공된 텍스트와 음성, 웹사이트 등은 여론을 호도하고 있다.

WEF은 “조작된 ‘합성’ 콘텐츠의 폭발적인 증가가 가능해진 상황”이라면서 “다양한 행위자들이 합성 콘텐츠의 붐을 이용하면서 그 영향은 단기적인 것을 훨씬 넘어서 지속될 것”이라고 지적했다.

가짜뉴스는 역대 가장 많은 선거가 치러지는 올해 어느때보다 활개를 칠 것으로 보인다. 미국을 비롯해 주요 국가에서 펼쳐질 선거들은 가짜뉴스에 맞선 민주주의의 시험대가 될 전망이다. 선거 컨설팅업체 앵커 체인지에 따르면 올해 전 세계적으로 최소 83개의 선거가 예정돼 있고, 유권자는 세계 인구의 절반인 40억명을 넘을 것으로 추산된다.

대럴 웨스트 브루킹스연구소 선임연구원은 가짜뉴스가 선거에 개입할 수 있다며 “허위 정보의 퍼펙트스톰(여러 악재의 복합적 작용으로 큰 위기)이 올 수 있다”고 관측했다.

▶가짜뉴스에 민주주의 시험대...새 정부 정당성까지 ‘위협’=WEF도 가짜뉴스가 선거라는 민주적 절차 자체를 훼손할 수 있다고 우려했다. 보고서는 “잘못된 정보의 존재는 선거 과정 자체를 심각하게 불안정하게 만들 수 있다”면서 “여기에 새로 선출된 정부의 합법성까지 흔들리게 만들어 민주적 절차가 장기적으로 잠식될 수 있는 위험에 빠트린다”고 밝혔다.

보고서는 AI가 제작한 각종 캠페인들이 불필요한 시위를 부추기는 것은 물론이고, 선거의 정당성까지 의심하게 만들면서 최악의 상황에서는 테러와 국가 붕괴가 발생할 수 있다고 경고했다.

쏟아지는 가짜뉴스에 이미 선거판은 얼룩지고 있다.

대만에서는 중국이 가짜뉴스를 이용해 총통 선거에 개입하려던 정황들이 감지됐다. BBC는 대만 총통선거를 계기로 친중 성격이 짙은 가짜뉴스들이 확산했다고 보도했다. 여기에는 대만과 중국 간 전쟁이 일어난다거나 상황이 미국에 유리하지 않을 경우 미국이 대만을 포기할 것이란 이른바 ‘미국 회의론’도 포함된다.

각국 정부는 온라인 허위 정보와 불법콘텐츠 규제를 강화하며 대응에 나서고 있다. 올봄 총선을 앞둔 나렌드라 모디 인도 총리는 AI 콘텐츠의 오도 가능성을 경고했고, 오는 6월 유럽의회 선거가 예정된 유럽연합(EU)은 지난해 8월 소셜미디어(SNS) 플랫폼에서 가짜 뉴스와 불법 콘텐츠가 유통되는 것을 막기 위한 디지털서비스법(DSA) 시행에 들어갔다.

하지만 정부 차원의 대응이 가짜뉴스 위협을 효과적으로 제거할 수 있을지는 미지수다. AI 기술로 가짜뉴스를 식별하기가 어려워졌을 뿐더러, 가짜뉴스의 진화 속도가 규제를 월등히 앞서고 있기 때문이다. 지나친 규제로 정부가 ‘지나친 여론 통제’라는 반대에 직면할 가능성도 배제할 수 없다.

WEF는 “기술 발전은 조작된 정보의 추적과 제어를 어렵게 만들고 있다”면서 “일반적으로 각국 규제 도입의 속도와 실효성은 가짜뉴스 발전 속도에 미치지 못하고 있다”고 밝혔다. 손미정 기자