AI 수장 소집한 트럼프…새 규제 선긋고 자율규제 협약

입력 2026-09-30 11:13:23 수정 2026-09-30 11:22:49

백악관 오찬 뒤 ‘자율규제’ 합의안 도출

구글·앤트로픽·메타 등 업계 CEO 서명

‘AI→SI(슈퍼지능)’ 명칭 변경 행정명령

도널드 트럼프 미국 대통령이 29일(현지시간) 백악관에서 젠슨 황 엔비디아 최고경영자(CEO)와 일론 머스크 스페이스XAI CEO, 마크 저커버그 메타 CEO, 순다르 피차이 구글 CEO, 다리오 아모데이 앤트로픽 CEO 등 인공지능(AI) 업계 경영자들과 AI 개발에 대한 자율규제 협의를 체결한 뒤 기자들에게 합의 내용을 설명하고 있다. [EPA]

도널드 트럼프 미국 대통령이 인간 통제를 벗어난 인공지능(AI) 출현 가능성에 대한 경고음에도 불구하고 정부나 의회의 새 규제 도입에 선을 그은 뒤, AI 업계의 ‘자율 규제’ 합의안에 서명했다.

트럼프 대통령은 29일(현지시간) 백악관에서 미국 주요 AI 기업 최고경영자(CEO)들과 오찬을 함께한 뒤 취재진에 “엄청난 수준의 자율규제(self-regulation)가 있어야 한다는 믿음이 있다”고 말했다. 이어 “법무부나 연방수사국(FBI) 등을 통해 규제가 자동으로 이뤄지고 있지만, 자율규제는 매우 중요하다”고 강조했다.

그는 오찬 후 AI 개발에 안전장치를 두는 내용의 업계 자율 합의문에 서명했다. 이어 ‘인공지능(AI)’이란 명칭을 ‘슈퍼지능(SI)’으로 변경하는 행정명령에 서명했다.

이후 트럼프 대통령이 사회관계망서비스(SNS)를 통해 공개한 ‘프런티어 책임에 관한 공동 약속’이라는 ‘백악관 슈퍼지능 협약’ 문서에는 트럼프 대통령과 순다르 피차이 구글 CEO, 다리오 아모데이 앤트로픽 CEO, 마크 저커버그 메타 CEO, 그레그 브록먼 오픈AI 사장, 일론 머스크 스페이스XAI CEO의 서명이 담겼다.

합의문에는 “미국인과 전 세계를 위한 긍정적 미래를 구축하기 위해 우리는 모든 기업이 안전하게, 그리고 고객과 대중의 신뢰를 구축하는 방식으로 자사 기술을 개발할 책임이 있다고 믿는다”고 적혔다. 이어 “이는 프런티어 모델을 학습하고 배포하는 모든 기업이 튼튼한 내부 프로세스와 기술이 의도한 대로 작동하고 문제 발생시 신속히 파악하고 해결할 수 있는 통제를 갖추는 것에서 시작한다”며 4가지 통제 및 감사 시스템 도입을 약속했다.

우선 사이버·바이오 보안, 화학 위협 등 분야에서 모델의 학습 배포 과정 동안 모델의 역량과 정합성을 모니터링하고 모델이 의도하지 않은 방식으로 해킹하거나 기술 시스템에 접근하지 않도록 하기 위한 튼튼한 내부 통제를 구축하기로 했다. 또 모든 통제와 모니터링, 탐지가 의도한 대로 작동하는지 확인하고 어떤 문제든 해결할 수 있도록 내부 팀의 역량을 강화하기로 했다. 통제 등이 제대로 작동하는지 평가할 수 있는 독립적인 외부 감사인 또는 평가인과 협력한다는 내용도 담겼다. 마지막으로 이사회 산하에 독립적 위원회를 지정해 내부 통제 팀과 외부 감사인·평가인의 보고를 검토하고 수신하기로 했다.

합의문에는 “참여 기업들은 시스템 안전을 향상하기 위한 표준과 모범 사례를 마련하기 위해 정기적으로 만날 것”이라 명시됐다. 이어 “시간이 지나면서 이러한 단계를 법률이나 규정으로 성문화하는 것이 타당할 수 있다”는 내용도 담겼다.

트럼프 행정부는 합의문을 도출하면서, 업계의 자율 규제만으로 AI를 제어하겠다는 기존 구상을 고집했다. 기존 법률을 정부가 집행해 위반자를 처벌하는 시스템이 존재하는 데다, 업계의 자율규제가 병행되면 AI가 초래할 잠재적 위험으로부터 인류를 보호할 수 있다는 게 트럼프 행정부의 주장이다. 그는 이날 AI 산업의 잠재력을 언급하면서 “우리는 앞서가고 있으며, 앞으로도 이 상태를 유지할 것”이라고 강조했다.

업계의 자율규제가 실질적인 안전장치로 작동할 수 있을지가 쟁점으로 부상하고 있다. 김영철 기자

yckim6452@heraldcorp.com