전문가들, ‘AI 무기화’ 우려…“美 전역에 감시망”

“편견 강화할 수”…오류 문제도

GLOBAL-INVESTORS/TRUMP
도널드 트럼프 미국 대통령 당선인이 지난달 13일(현지시간) 미국 워싱턴주 의사당에서 하원 공화당원들과 만나고 있다. [로이터]

[헤럴드경제=김현경 기자] 도널드 트럼프 미국 대통령 당선인이 불법 이민자 대규모 추방을 위해 인공지능(AI)을 사용해 단속을 확대할 수 있다는 관측이 제기되고 있다. 이민자 추방을 넘어 시민들을 광범위하게 감시하고, 개인정보 침해를 야기할 수 있다는 우려가 나온다.

미국 경제전문방송 CNBC는 트럼프 당선인이 역사상 가장 큰 규모의 이민자 추방을 공약했지만 현실적으로는 이행이 쉽지 않아 AI를 동원할 수 있다고 1일(현지시간) 전했다.

트럼프 1기 행정부 당시에는 AI가 이민 단속에 널리 사용되지 않았지만 현재는 접근성이 높아지고, 많은 시스템과 정부 기관에 구축된 상황이다.

전문가들은 트럼프 취임 시 국토안보부의 임무가 이민자 추방에 중점을 두는 방향으로 전환되고, 테스트되지 않은 AI를 사용할 수 있다고 우려하고 있다.

이민 단속 기술 분야 전문가인 인류학자 겸 변호사 페트라 몰나르는 트럼프 행정부 하에서 AI의 무기화가 증가할 것으로 전망했다.

몰나르는 “트럼프 행정부가 미국 역사상 최대 규모의 이민자 추방을 실시하겠다고 시사했고, AI 도구를 마음대로 사용할 수 있다는 사실을 알고 있기 때문에 국경뿐만 아니라 내륙에도 감시망을 만들어 미국 전역의 커뮤니티를 점령할 수 있다”고 말했다. 이어 국경과 이민을 단속하기 위한 산업 생태계 전체가 조성됐다고 덧붙였다.

레마야 캠벨 워싱턴 D.C. 국토안보국장 대행은 AI가 기존 절차를 건너뛰고 이민 관련 의사 결정을 자동화할 수 있다고 짚었다.

캠벨 국장 대행은 “AI는 추방 대상자를 광범위하게 식별하는 데 사용될 수 있다. 개인정보 보호나 적법 절차에 대한 고려는 거의 없다”면서 “AI 의사 결정 시스템은 사용자가 부여하는 가치에 따라 작동한다. 이는 분명히 트럼프 행정부에서 정치적 우선순위에 맞춰 교차적 편견을 강화하는 것을 의미할 수 있다”고 말했다.

이어 “최소한 AI가 이민 관련 의사 결정의 효율성, 공정성, 안전을 위한 도구가 아니라 구조적 편견과 권위주의적 통치의 도구로 활용될 것으로 예상할 수 있다”고 덧붙였다.

닐 사호트라 유엔 ‘AI 포 굿(AI for Good) 이니셔티브’ AI 고문은 AI가 이미 모니터링하기 어려운 방대한 미국 국경을 관리하는 데 탄탄한 입지를 확보하고 있으며, 트럼프 대통령 하에서 그 사용이 확대될 것이기 때문에 이 같은 우려에 동의한다고 밝혔다.

사호트라는 “트럼프 행정부가 AI 감시를 더욱 강화해 자율 순찰을 도입하고, 생체 인식 검사를 확대할 것으로 예상된다”고 말했다.

이는 국경 보안을 개선할 수 있지만 시민들, 특히 국경 근처에 거주하는 사람들의 개인정보를 침해할 수 있다는 우려가 나온다. 트럼프 행정부의 AI 사용이 국경 보안과 이민자 추방의 범위를 넘어설 수 있다는 지적이다.

사호트라는 “AI 감시 시스템은 트럼프의 추방 전략의 초석이 될 것”이라며 “향상된 AI는 추방을 신속하게 추진할 수 있고, 이는 권리 침해와 인종적 프로파일링의 가능성을 수반할 것”이라고 부연했다.

또한 AI 시스템은 얼굴 인식 및 행동 분석 기능을 사용해 불법 입국이 의심되는 사람들을 식별하는데, 오류를 범해 합법적인 거주자나 시민을 잘못 추방하는 경우도 발생할 수 있다고 그는 덧붙였다.

미국 최대 히스패닉 지원 단체인 유니도스US의 로라 맥클리어리 수석 정책국장은 시스템이 부정확한 결론을 내리고, 유색인종에 대한 데이터가 부정확한 경향을 보이는 등 AI의 정확도 문제는 잘 알려져 있다고 짚었다.

그러면서 차량관리국 기록, 공과금, 국경과 공항의 안면 인식 기술은 모두 AI로 강화돼 이민자 추방을 위한 수단이 될 것이라고 내다봤다.

그는 “이러한 기술은 변경 및 수정될 수 있으며 행정부마다 다른 보호책이 있을 수 있다”면서 트럼프 행정부 하의 이민 당국이 AI 사용을 증진해 공공 데이터 모니터링 기능을 강화할 것을 우려했다.

맥클리어리 수석 국장은 “AI가 미국 시민들을 휩쓸 것은 피할 수 없는 일”이라며 “미국 시민은 다양한 이민 신분을 가진 사람들과 함께 살고 있기 때문에 그들이 쓸려 가고, 합법적으로 미국에 있는 사람들의 적법 절차 권리가 침해될 수 있다. 이는 매우 문제가 많고, 이러한 종류의 기술 남용으로 인한 피할 수 없는 결과”라고 말했다.