챗GPT 로고. [로이터]

[헤럴드경제=김현경 기자] 올해 미국을 비롯한 세계 각국에서 선거가 치러지는 가운데, 위협 행위자들이 선거를 방해하기 위해 생성형 인공지능(AI) ‘챗GPT’를 사용하고 있다는 오픈AI 보고서가 나왔다.

9일(현지시간) CNBC에 따르면 챗GPT를 운영하는 오픈AI는 이날 발표한 ‘영향 및 사이버 활동’ 보고서에서 “우리 모델을 사용하려고 시도한 전 세계 20개 이상의 사이버 활동과 사기 네트워크를 중지했다”고 밝혔다.

선거 방해 시도는 AI가 생성한 웹사이트 기사부터 허위 계정의 소셜미디어(SNS) 게시물까지 다양하게 나타났다.

이번 보고서는 미국 대선을 한 달도 채 남기지 않은 시점에 발표됐다. 올해는 미국 등 전 세계 40여 개국에서 40억명이 넘는 인구에게 영향을 미치는 선거가 치러지는 중요한 해다.

머신러닝 기업 클래리티에 따르면 AI가 생성한 콘텐츠가 증가하면서 선거 관련 허위 정보에 대한 심각한 우려가 제기되고 있으며 딥페이크 생성 건수는 전년 대비 900% 급증했다.

선거에서 허위 정보는 과거에도 있었던 현상이지만 최근에는 챗GPT 출시 이후 거의 모든 기업에서 사용 중인 생성형 AI로 인해 우려가 더욱 높아졌다.

오픈AI는 선거 관련 AI 사용에 대해 “단순한 콘텐츠 생성 요청부터 소셜미디어 게시물에 대해 분석하고 답장하려는 복잡하고 다단계적인 노력에 이르기까지 복합적”이라고 설명했다. 소셜미디어 콘텐츠는 주로 미국과 르완다의 선거와 관련이 있었으며 인도, 유럽연합(EU) 선거 관련 콘텐츠도 일부 있었다고 오픈AI는 밝혔다.

이란의 한 사이버 활동은 지난 8월 말 챗GPT를 사용해 미국 대선에 대한 롱폼 기사와 소셜미디어 게시물을 생성했지만 확인된 게시물의 대부분은 좋아요, 공유, 댓글이 거의 또는 전혀 없었다.

지난 7월에는 르완다에서 엑스(X·에 선거 관련 댓글을 달던 챗GPT 계정을 금지했다고 오픈AI는 전했다. 지난 5월에는 이스라엘의 한 기업이 챗GPT를 통해 인도 선거에 대한 소셜미디어 댓글을 작성한 사실이 적발됐다.

다만 선거 관련 활동 중 어느 것도 챗GPT나 오픈AI의 다른 도구를 통해 바이럴 참여를 유도하거나 지속적인 시청자를 확보할 수 없었다고 오픈AI는 덧붙였다.