“AI로 인류 멸망 위기” 이게 노벨상 소감이라니…얼마나 심각하면
[게티이미지뱅크]

[헤럴드경제 = 김상수 기자] “인공지능(AI)가 인간을 뛰어넘게 될 것이다.”

처음 나온 얘기도 아니다. 하지만 다름 아닌 노벨상 수상자, 그것도 AI 개발의 초석을 마련한 노벨상 수상자가 꺼낸 우려란 점에서 경종을 울린다.

올해 노벨 물리학상 수상자인 존 홉필드(91) 미 프린스턴대 명예교수는 8일(현지시간) 프린스턴대 주최로 열린 수상소감 회견에서 “물리학자로서 저는 통제할 수 없고 한계를 파악할 수 없는 것에 큰 불안함을 느낀다”라고 밝혔다.

그는 AI 머신러닝(기계학습)의 기초를 확립한 공로로 이날 제프리 힌턴(76) 캐나다 토론토대 교수와 노벨 물리학상 공동 수상자로 선정됐다.

그는 본인 이름의 인공신경망 모델인 ‘홉필드 네트워크’로 유명하다. 최신 AI 모델에 쓰이는 인공신경망 개발의 초석이다.

홉필드 교수는 “AI 연구가 물리학과 컴퓨터 과학에서 이제 작동 원리를 이해할 수 없는 경이로움으로 여겨지고 있다”며 “이는 매우 불안한 일로, 내가 힌튼 교수와 함께 AI에 대한 이해를 이 분야에서의 핵심적인 필요 사항이라고 주장하고 나선 이유이기도 하다”고 우려를 표했다.

그러면서 향후 AI가 상상할 수 없는 수준으로까지 발전할 것이라고도 했다.

마치 조지 오웰의 유명 소설 ‘1984’의 통제사회가 AI 발전으로 현실화될 수 있다는 경고다.

“AI로 인류 멸망 위기” 이게 노벨상 소감이라니…얼마나 심각하면
[게티이미지뱅크]

그는 인간의 이해 범위를 벗어난 AI의 잠재적 위협을 커트 보니것의 소설 ‘고양이 요람’ 내 가상물질, ‘아이스나인’으로도 비유했다.

상온에서도 고체상태로 존재하는 물인 아이스나인은 접촉하는 다른 수분도 아이스나인으로 만들어버린다. 군사목적으로 개발된 이 물질로 결국 지구상 모든 물이 얼어붙고 생물들이 멸종한다.

홉필드 교수는 “작동 방식을 이해하지 못한다면 초기에 알고 있던 시스템의 집단적인 특성이 실제 특성과 같은 것인지 알 수 없게 된다. 따라서 원하지 않았던 우연한 무언가가 작동 방식 이면에 숨겨지게 됐는지도 알 수 없게 된다”라고 지적했다.

“AI로 인류 멸망 위기” 이게 노벨상 소감이라니…얼마나 심각하면
2024년 노벨 물리학상 수상자.[노벨위원회 제공]

홉필드 교수와 공동 노벨상 수상자로 선정된 힌턴 교수 역시 “AI가 통제에서 벗어나 생존 위협을 가져올 수 있다는 측면에서 우리는 역사적 분기점에 있다”고 촉구했다.

특히 그는 “AI가 인간을 체력 면에서 뛰어넘는 것이 아니라, 지적 능력 면에서 넘어서게 될 것”이라며 “우리는 우리보다 똑똑한 것이 있다는 것을 경험한 적이 없다”고 부연하기도 했다.

스웨덴 왕립과학원 노벨위원회는 이날 인공신경망을 이용한 머신러닝을 가능케 하는 기반 발견 및 발명과 관련한 공로로 AI 머신러닝(기계학습)의 기초를 확립한 홉필드와 힌턴을 노벨 물리학상 수상자로 발표했다.