“거의 헌법”이라던 트럼프 AI 합의…전문가들은 “무시해도 될 수준”

입력 2026-10-01 18:06:00

AI 기업들 안전장치·상호감시 약속

사고 책임·협약 위반 제재는 빠져

3년 전 바이든 때도 비슷한 자율규제

“기업이 안전 기준까지 정하게 해” 비판

트럼프, 데이터센터 투자 확대도 강조

도널드 트럼프 미국 대통령이 29일(현지시간) 워싱턴DC 백악관에서 인공지능(AI) 관련 기술 기업 경영진과 회동한 뒤 취재진에게 발언하고 있다. [AFP]

[헤럴드경제=서지연 기자] 도널드 트럼프 미국 대통령은 지난 29일(현지시간) 인공지능(AI) 기업들이 안전을 위해 체결한 자율규제 협약을 “거의 헌법과 같다”고 평가했지만, 사고 발생시 제재·처벌 규정이 빠졌다는 점에서 실효성이 없다는 지적이 나오고 있다. AI 기업에 기술 개발뿐 아니라 안전 기준 설정까지 맡겼다는 비판이 나오는 가운데, 자율규제에 사고 발생시 기업의 책임을 묻는 내용이 없어 전문가들은 “무시해도 될 수준”이라 평가했다.

이번 합의가 3년 전 조 바이든 행정부가 AI 기업들과 체결한 자율규제 약속과 상당 부분 유사하다는 지적도 제기됐다. 당시 바이든 행정부는 자발적 약속만으로는 AI 위험에 대응하기 어렵다고 보고 이후 정부 차원의 안전성 평가 체계를 추가했지만, 트럼프 대통령은 취임 후 관련 행정명령을 폐기했다.

30일(현지시간) BBC와 뉴욕타임스(NYT) 등에 따르면 트럼프 대통령은 전날 백악관에서 일론 머스크 스페이스X AI 최고경영자(CEO), 젠슨 황 엔비디아 CEO, 마크 저커버그 메타 CEO, 순다르 피차이 구글 CEO, 다리오 아모데이 앤트로픽 CEO, 그레그 브록먼 오픈AI 사장 등 주요 AI 기업 경영진들과 회동했다.

회동 후 기업들은 AI 모델이 의도한 대로 작동하도록 안전장치를 마련하고 문제가 발생할 경우 이를 신속하게 탐지·수정하기로 하는 협약에 서명했다. 독립 감사인과 협력해 AI 시스템이 정상적으로 작동하는지 평가하고 기술이 의도하지 않은 방식으로 다른 시스템을 해킹하거나 접근하지 않도록 하는 내용도 담겼다.

트럼프 대통령은 자신도 대통령 자격으로 협약에 서명했다면서 “어떤 면에서는 거의 헌법과 같다”고 말했다. 기업 간 감시도 안전장치로 제시했다. 그는 “그들은 실제로 서로를 감시하게 될 것”이라고 말했다.

다만 협약은 ‘도덕적 구속력’에 기반한 자율규제다. AI가 사고를 일으켰을 때 기업에 어느 정도 책임을 물을지, 약속을 지키지 않은 기업을 어떻게 제재할지 등에 대한 구체적인 규정은 제시되지 않았다.

전문가들은 이 부분을 문제로 지적했다. 킴벌리 웨더롤 시드니대 법학 교수는 BBC에 이번 합의를 “매우 실망스러운 결과”라고 평가했다. 기업들이 사실상 “안전의 기준을 스스로 정하도록” 하면서 이를 위반했을 때 어떤 결과가 뒤따를지는 명시하지 않았다는 것이다. 그는 “이 협정은 주의를 분산시키는 것이므로 무시해야 한다”고 비판했다.

지니 패터슨 멜버른대 AI·디지털윤리센터 연구자도 자율규제만으로는 기업들이 최소한의 안전장치를 마련하는 데 그칠 수 있다고 지적했다. AI를 직접 개발하고 상용화하는 기업들이 안전 기준까지 정하는 구조인 만큼 사실상 ‘선수에게 심판까지 맡기는 것’ 아니냐는 비판이다.

NYT는 이번 협약이 바이든 전 대통령이 2023년 7월 주요 AI 기업들과 체결했던 자발적 안전 약속과 매우 비슷하다고 짚었다.

당시에도 정부 규제가 빠르게 발전하는 AI 모델을 따라가기 어려운 만큼 기업들이 스스로 감시 체계를 구축하고 AI가 악의적으로 이용되는 것을 막기 위한 여러 겹의 보호장치를 마련하는 것이 핵심이었다.

그러나 이후 AI 모델이 예상하지 못한 방식으로 행동하는 사례가 이어지면서 기업의 자율규제만으로 충분한지를 둘러싼 논란이 커졌다.

2023년 자율규제 약속 설계에 참여했던 벤 뷰케넌 존스홉킨스대 교수는 NYT에 “우리는 2023년에도 자발적 약속만으로는 충분하지 않다는 점을 알고 있었다”며 “그래서 바이든 대통령이 이후 행정명령을 내린 것”이라고 말했다.

바이든 행정부는 이후 AI 안전 관련 행정명령을 통해 미 상무부에 ‘미국 인공지능안전연구소’를 설치했다. 새 AI 모델의 안전 기준을 만들고 출시 전 시험하는 등 기업 자율규제를 정부 차원의 검증으로 보완하는 역할이었다.

하지만 트럼프 대통령은 취임 후 바이든 전 대통령의 AI 행정명령을 폐기했다. AI 규제가 기술 개발 속도를 늦춰 중국과의 경쟁에서 미국에 불리하게 작용할 수 있다는 이유에서다.

트럼프 대통령은 이번 회동에서도 AI 산업에 대한 규제를 강화하기보다 투자를 확대하는 데 무게를 뒀다. 특히 AI 데이터센터 건설에 대한 지원 방침을 재확인했다.

미국에서는 데이터센터의 막대한 전력 사용과 전기요금 상승, 환경 문제 등을 둘러싸고 지역사회의 반발이 커지고 있다. 최근 마리스트 여론조사에서는 등록 유권자의 65%가 자신이 거주하는 지역에 데이터센터가 들어서는 데 반대한다고 답했다.

트럼프 대통령은 기업들이 데이터센터가 들어서는 지역에 재정·교육 지원 등을 제공할 수 있다며 “이처럼 크고 강력하며 매우 부유한 기업들이 지역사회에 막대한 공헌을 할 것”이라고 말했다.

트럼프 대통령은 같은 날 미국 정부가 공식 문서와 웹사이트 등에서 ‘인공지능(AI)’ 대신 ‘초지능(SI·Super Intelligence)’이라는 명칭을 사용하도록 하는 행정명령에도 서명했다.

강제적인 정부 규제는 최소화하고 기업의 자율규제에 AI 안전을 맡기는 동시에 데이터센터 등 AI 인프라 투자는 확대하는 트럼프 행정부의 정책 방향이 이번 회동을 통해 한층 뚜렷해졌다.