유엔총회서 글로벌 감독 체계 수립 제안

핀란드·노르웨이 주도…‘위험 관리’ 방점

IAEA 같은 AI안전담당 기구 설립 검토

오픈AI는 한국 등 10개국 네트워크 제안

제81차 유엔총회 고위급 회기를 계기로 핀란드와 노르웨이가 21일(현지시간) 인공지능(AI)에 대한 인간의 지시·감독·통제가 유지돼야 하고, 이를 위한 글로벌 감독 체계 수립을 제안하는 선언문 채택을 주도했다.

미 정치전문매체 폴리티코는 핀란드·노르웨이·독일·캐나다·호주·스페인·아일랜드·네덜란드·싱가포르·남아프리카공화국·케냐 등 약 20개국의 지도자들과 우르줄라 폰데어라이엔 유럽연합(EU) 집행위원장 등이 이번 선언문 채택에 참여했다고 보도했다. AI 개발을 주도하는 미국과 중국은 참여하지 않았다.

선언문은 AI가 “삶을 개선하고, 과학을 발전시키며, 경제를 강화할 잠재력”을 지녔다는 점을 인정하면서 “첨단 AI 모델의 급속한 발전은 적절히 관리되지 않을 경우 안전과 안보에 심각한 위험을 초래한다”고 경고했다.

선언문은 최근 오픈AI가 테스트 중이었던 AI모델이 통제망을 벗어나 외부 플랫폼을 해킹한 사례를 언급하며 이 같은 위험에 대응해야 한다고 촉구했다. AI 기업에는 “배치 전 의무 시험과 독립적 평가를 포함한 투명한 안전 프로토콜”을 마련하도록 하고, 위험을 평가할 자격을 갖춘 평가자에게 충분한 접근권을 부여해야 한다는 내용을 담았다.

선언문에 AI 개발의 속도를 늦추거나 중단하자는 요구가 담기지는 않았다. 개발을 멈추기보다 위험 관리에 초점을 맞춰야 한다는 것이다. 세계 각국이 공통 기준을 “더욱 발전시키고 조율”해야 하며 중대한 안전사고의 공동 보고 등을 통해 투명성을 높여야 한다는 내용도 담겼다.

선언문은 또 유엔 회원국들이 기존 국제 메커니즘을 바탕으로 AI를 감독할 국제기구 설립 가능성을 검토해야 한다고 촉구했다. 선언문 작성에 주도적 역할을 한 알렉산데르 스투브 핀란드 대통령은 폴리티코와의 인터뷰에서 “중국과 미국 모두 어떤 형태로든 안전장치를 갖는 것이 이익이 될 것”이라면서 이번 선언의 외연을 확장하고 싶다는 의사를 밝혔다. 그는 “우리의 메시지는 인간의 개입이 필요하며 인간이 주도권을 가져야 한다는 것”이라고 강조했다.

스투브 대통령은 개인적으로는 유엔 체계 안에 국제원자력기구(IAEA)와 유사한 새 기구를 만드는 방안을 선호한다고 말했다. 다만 그는 유엔에 회의적인 트럼프 대통령을 염두에 둔 듯 “유엔 체계 안에 있다는 이유만으로 사람들이 이를 거부하지 않도록, 선택지를 열어둬야 한다”고 덧붙였다고 폴리티코는 전했다.

스투브 대통령과 함께 선언 추진을 주도한 요나스 가르 스퇴레 노르웨이 총리는 “주요 7개국(G7)과 앞으로 영국이 맡게 될 주요 20개국(G20) 의장국이 이 문제를 맡아준다면 매우 고무적일 것”이라고 말했다. 그는 “유엔은 규모가 크지만, G7과 G20은 좀 더 집중돼 있다”고 말했다.

한편, 미국의 인공지능(AI) 모델 개발사인 오픈AI는 차세대 AI 기술과 안전 표준 수립을 미국이 주도해야 한다고 촉구했다.

오픈AI는 21일 자사 홈페이지에 올린 ‘AI의 다음 단계를 위한 표준 구축’이라는 글에서 “우리는 미국이 전 세계 국가들과 협력해 최첨단 AI에 관한 기술 표준 마련 노력을 주도해야 한다고 생각한다”라며 “지금 주도권을 잡느냐에 따라 미국이 전 세계 AI 체제를 주도할 것인지 아니면 주변에서 파편화하고 불균형하며 갈등으로 가득 찬 체계가 자리 잡는 것을 지켜볼 것인지 결정될 것”이라 밝혔다.

오픈AI는 국제적 AI 표준을 마련하는 방안 중 하나로 각국에 이미 설립된 AI 안전 연구소를 바탕으로 네트워크를 구성하는 방법을 제시했다. 예로 든 나라는 한국을 비롯해 호주, 캐나다, 독일, 프랑스, 케냐, 일본, 싱가포르, 인도, 영국 등 10개국이다.

최근 논의가 활발한 AI 속도조절론과 관련해서는 “AI의 개발 속도를 조절한다는 것은 미리 속도를 정해두고 이를 유지한다는 뜻이 아니다”라며 “AI가 인간의 의도와 가치에 맞게 작동하도록 하는 ‘정렬(alignment)’ 연구와 배포, 이에 대한 안전장치가 AI의 역량보다 앞서나가도록 보장하자는 것”이라고 재차 강조했다.

오픈AI는 미국과 중국이 24일 정상회담에서 AI 논제가 테이블에 오르는 것도 환영했다. 회사는 “이 분야에서 미국과 중국의 대화가 이뤄진다면 긍정적인 진전이 될 것”이라며 “예정된 회담은 시의적절한 시기에 열리고 있다”고 논평했다. 정목희 기자


mokiya@heraldcorp.com