AI 속도조절론 일파만파

앤트로픽 연구원 “10년내 인류 종말 가능성”

올트먼·아모데이·머스크 등 이례적 위험 경고

트럼프 “AI 승리방식 유지” 오바마 “통제 위험”

中 “안보위협 근거부족…中견제용 고도 마케팅”

AI가 인류의 미래를 위협할 수 있다는 경고음이 최고조로 치닫고 있다. 앤트로픽 전·현직 연구원들이 “10년 안에 AI로 인류가 종말을 맞을 가능성이 있다”고 경고한 데 이어 AI를 주도적으로 이끄는 ‘4대 수장’까지 위험성을 잇따라 경고하고 나섰다. AI 개발 속도를 늦춰야 한다는 목소리가 커지는 가운데 트럼프 대통령은 정반대로 “그러다 중국에 진다”며 속도전을 주문했다. 중국은 “근거가 부족한 중국 견제용 마케팅”이라며 맞섰다. AI 패권 경쟁이 ‘속도냐 안전이냐’를 놓고 정면충돌로 치닫고 있다.

발단은 인공지능(AI) 업계 내에서 “AI가 10년내 인류를 멸망시킬 수 있다”는 섬뜩한 경고가 나오면서다. 최근까지 앤트로픽에 몸담았던 연구원 제이컵 콕슨은 퇴사하면서 옛 직장인 앤트로픽과 경쟁사 오픈AI가 “10년 안에 우리 모두를 죽일 수도 있는 기술을 만들려 경쟁하고 있다”고 주장했다. 콕슨이 사표를 던진 지 몇 분 만에 앤트로픽 현직 연구원 에번 허빙어도 소셜미디어에 “우리는 AI가 인류 전체를 죽일 수 있다고 진심으로 믿는다”고 적었다. 미래 AI 시스템의 통제와 조율을 연구하는 그는 향후 10년 내 인류 멸종 위험을 10% 이상으로 봤다.

▶AI 4대 수장, 경쟁사 불구 일제히 ‘위험성’ 한목소리=이같은 경고에 다리오 아모데이 앤트로픽 최고경영자(CEO), 샘 올트먼 오픈AI CEO, 데미스 허사비스 구글 딥마인드 CEO, 일론 머스크 xAI CEO 이른바 ‘AI 4대 수장’까지 일제히 속도조절 필요성을 제기하고 나섰다.

오픈AI는 연내 기업공개(IPO) 일정까지 미뤘다. 올트먼은 지난 12일(현지시간) “AI 안전과 정렬에 할 일이 아직 많다”면서 IPO 연기 이유를 밝혔다. 그는 “우리가 모두 동의해야 할 핵심 원칙은 AI에 미래의 통제권을 빼앗기는 위험을 초래할 행동을 해서는 안 된다는 점”이라고 강조했다.

아모데이 CEO 역시 이날 자신의 블로그에 올린 글에서 “AI 모델의 성능 향상 속도를 늦춰야 한다”며 “발전은 여전히 빠르게 느껴지겠지만, 확보된 시간을 현명하게 활용해야 한다”고 주장했다. 그는 “지난 몇 달간 저는 위험을 완전히 해결하려면 훨씬 더 신중해야 한다는 확신을 갖게 됐다”며 “단순히 위험 예방에 투자하는 것뿐만 아니라, 위험 예방이 (AI 모델 성능 향상 속도를) 따라잡을 수 있도록 역량 발전 속도를 조절해야 한다”고 역설했다. 아모데이 CEO의 글이 올라온 이후 AI 업계 거물들의 동조가 순식간에 이어졌다. 올트먼은 엑스(X)에 “다리오의 의견에 동의한다”며 외부 안전 평가자를 배치하자는 아모데이 CEO의 방침을 오픈AI도 따르겠다는 뜻을 밝혔다. xAI의 일론 머스크도 “다리오가 맞다”며 동조했다. 데미스 허사비스도 X를 통해 “다리오의 방향성은 옳다. 세부 사항은 작업이 필요하겠지만 이처럼 절체절명의 순간을 맞닥뜨리는 순간에 옳은 방향성”이라고 말했다.

▶AI속도조절 배경엔 ‘공멸’ 공감대=평소 정부 규제에 반대해 온 AI업계 리더들이었기에 이번 태도 전환은 이례적이라는 평가가 나온다. 실제 머스크와 허사비스는 이달 초 주요 20개국(G20) 혁신 담당 장관 회의에서도 규제 반대 목소리를 냈다. 그런 이들의 태도를 하루아침에 바꾼 건 통제 범위를 벗어난 사고들이 잇따라 현실화됐기 때문이다.

그렇다면 도대체 AI가 어떻게 인류를 멸종시킨다는 걸까. 결정적이었던 건 테스트 중이던 오픈AI의 자율 AI 에이전트 무리가 통제망을 뚫고 개발자 플랫폼 허깅페이스를 무단 해킹한 사건이다. 아모데이는 이 사건을 거론하며 “만약 능력이 더 뛰어나지만 정렬 실패(misalignment) 수준이 유사한 에이전트 무리가 있었다면 재앙적 피해를 초래했을 것”이라고 했다.

정렬 실패란 “AI가 인간의 안녕과 어긋나거나 이를 무시한 채 목표를 추구하는 상황이 통제 상실로 이어지는 것”이라고 전문가들은 설명한다.

올트먼은 포천과의 인터뷰에서 “이번 10년이 끝나기 전에 모든 인류를 죽게 할 확률이 10%에 달하는 위험을 감수하는 것은 용납할 수 없는 일이라고 생각한다”고 말했다. 또한 아모데이는 “나는 오랫동안 업계가 이 기술에 위험이 있다는 사실에 대해 사람들에게 거짓말을 해왔다고 생각한다”며 “확보된 시간을 현명하게 활용해야 한다”고 강조했다.

버락 오바마 전 미국 대통령 역시 지난 10일 비공개 민주당 모금행사에서 하킴 제프리스 하원 원내대표에게 “AI을 제대로 통제하지 못할 경우 위험해질 수 있다”면서 대응 논의를 촉구했다. 민주당은 오는 15일 하원 의원총회를 열어 해당 문제를 논의하기로 했다.

▶트럼프, AI 속도조절론에 발끈=트럼프 대통령은 AI ‘속도조절론’ 확산에 13일 “솔직히 말해 AI(경쟁)에서 이기는 쪽이 승리하기 때문에 나는 이 방식을 유지하고 싶다”고 말했다. 그는 “우리는 안전장치를 둘 수 있다. 우리는 이것저것 할 수 있다”면서 “내 생각에 부각하지 말아야 할 일을 부각하는 부정적 세력이 너무 많다. 그들은 일어나지 않을 일을 부각하고 있다”라며 규제에 동의하지 않는다는 입장을 분명히 했다. 이어 트럼프 대통령은 “AI에서 승리하는 사람이 승자가 된다. 이건 내가 만든 표현인데 그건 사실”이라고 강조했다. 트럼프 대통령의 이같은 발언은 미국 등 서방 국가들만 AI 속도조절에 나서면, 중국이 단숨에 ‘추월’해 AI 패권을 거머쥘 수 있다는 위기감을 드러낸 것으로 풀이된다.통제되지 않는 AI로 인한 위협을 제어하려면 중국의 협력이 필수이지만, 협력이 이뤄질 가능성은 낮기 때문이다.

실제 AI 속도조절론에 대해 중국은 14일 영자 관영매체 글로벌타임스를 통해 “부적절하고, 적대적이며, 근거없다”는 날 선 비판을 내놨다. 글로벌타임스는 논의를 던진 오픈AI와 앤트로픽이 기업공개(IPO)를 앞두고 있다는 점을 들어, 그만큼 기술이 뛰어나다는 것을 보여주려는 ‘고도의 마케팅’이라 꼬집기도 했다. 정목희·도현정·김영철 기자


mokiya@heraldcorp.com