2일(현지시간) 영국 블레츨리 파크에서 제1회 AI 안전 정상회의(AI Safety summit)가 열리고 있다. 이날 회의에서 미국과 영국 등 주요 국가와 인공지능(AI) 기업들은 새로운 첨단 모델 출시 전에 안전성을 시험하기로 합의했다. [연합뉴]
2일(현지시간) 영국 블레츨리 파크에서 제1회 AI 안전 정상회의(AI Safety summit)가 열리고 있다. 이날 회의에서 미국과 영국 등 주요 국가와 인공지능(AI) 기업들은 새로운 첨단 모델 출시 전에 안전성을 시험하기로 합의했다. [연합뉴]

[헤럴드경제=이원율 기자]"AI만 이해할 수 있는 새로운 금융 도구를 창조하면 어떤 일이 벌어지겠는가."

유명 역사학자 유발 하라리 이스라엘 히브리대 교수는 인공지능(AI) 기술이 재앙 같은 금융 위기를 일으킬 수 있다고 경고했다.

하라리 교수는 9일(현지시간) 영국 일간 가디어 인터뷰에서 "금융계는 오직 데이터만으로 이뤄져 있다"며 "AI에 이상적으로 적합한 분야"라고 운을 뗐다.

그는 "AI가 금융 시스템에 대해 더 큰 통제권을 갖고, 나아가 AI만 이해할 수 있고 사람은 아무도 이해할 수 없는 새로운 금융 도구를 창조하기 시작하면 어떤 일이 벌어지겠는가"라며 "(AI는)스스로 결정을 내릴 수 있고, 스스로 새로운 아이디어를 만들어내 스스로 학습하고 개발할 수 있는 최초의 기술이다. 인류 역사상 기존의 모든 기술과 다르다"고 했다.

하라리 교수는 2008년 세계 금융위기가 부채담보증권(CDO)처럼 극소수만 이해할 수 있고, 이 때문에 적절하게 규제되지 않은 금융상품에 의해 초래됐다고 부연했다.

그는 "거의 당연히 인간, 심지어 그 기술을 창조한 인간조차 (AI의)모든 잠재적 위험성과 문제점을 예상하기는 극히 어렵다"고 덧붙였다.

하라리 교수는 최근 미국과 영국 등 국가들이 AI 안전과 관련해 정상회의를 갖고 발표한 '블레츨리 선언'에 대해선 "매우 중요한 한 걸음 전진"이라고 호평했다.

그는 "가장 고무되거나 기대되는 점은 유럽연합(EU)·영국·미국 뿐 아니라 중국 정부도 (블레츨리)선언에 서명했다는 점"이라며 "내 생각에 이는 매우 긍정적인 신호다. AI의 가장 위험한 잠재력을 억제하는 건 세계적 협력 없이는 불가능하지는 않다고 해도 극히 어려울 것"이라고 강조했다.

한편 하라리 교수는 거시적 관점에서의 역사적 통찰을 담은 '사피엔스' 저자로 국내에도 잘 알려져 있다.


yul@heraldcorp.com