“초인공지능 인류 파멸 가능성 여전히 우려”

“AI칩 가속화 도구개발, 예수 뜻 안맞아”

인공지능(AI) 발전속도가 너무 빨라 관련 규제 마련과 개발 속도조절이 필요하다는 일명 AI 속도조절론이 재부각되고 있다. [로이터·연합]
인공지능(AI) 발전속도가 너무 빨라 관련 규제 마련과 개발 속도조절이 필요하다는 일명 AI 속도조절론이 재부각되고 있다. [로이터·연합]

[헤럴드경제=박세환 기자] 인공지능(AI) 발전속도가 너무 빨라 관련 규제 마련과 개발 속도조절이 필요하다는 일명 AI 속도조절론이 재부각되고 있다. 앤트로픽에 이어 구글에서도 AI 발전 속도에 우려를 제기하며 사임하는 AI 연구원이 나왔기 때문이다.

26일(현지시간) 미국 현지 언론에 따르면 구글의 AI 담당 조직인 구글 딥마인드 소속 로버트 오캘러핸은 24일 사회관계망서비스(SNS) 엑스(X·옛 트위터)를 통해 “오늘 구글을 그만뒀다”며 “AI가 너무 빠르게 발전하고 있다고 생각했기 때문에 퇴사할 수밖에 없었다”고 털어놨다.

뉴질랜드에 거주하고 있다는 그는 개인 블로그를 통해 공개한 사직서에서 “우리 팀의 궁극적인 목표는 AI를 훨씬 더 저렴하게 하고 지연 시간을 줄이는 것”이라며 “현재로서는 이것이 사람들에게 좋은 일이라고 생각하지 않는다”고 퇴사 이유를 설명했다.

그는 “수백만 명이 AI 발전 가속화에 기여하는 상황에서 내가 발을 빼는 것이 미치는 영향은 매우 미미할 것”이라면서도 “내 기술 중 일부는 희귀하기 때문에 전혀 영향이 없는 것은 아니다”라고 지적했다.

AI 발전을 그냥 외면하려고도 해봤지만 이는 예수를 따르는 태도가 아니라고 생각해 퇴사를 결심했다고 말해 종교적 신앙도 사임 결정의 배경이 됐음을 드러냈다.

그는 자신이 AI 기능을 직접 담당한 것은 아니고 하드웨어 칩 설계를 위한 도구를 개선하는 일을 했지만, 하느님이 해당 도구가 결국 AI 칩 설계를 가속화할 것이라는 현실을 직시하게 했다고 털어놨다.

그는 “초인공지능(ASI·대부분의 영역에서 인간보다 뛰어난 능력을 보유한 AI)으로 인한 파멸의 확률이 100%라고 확신하는 것은 아니다”라면서도 “그 위험은 실재하지만 불확실하다고 보지만, 그 사실 자체만으로도 매우 우려스럽다”고 강조했다.

이어 ‘보상 해킹’이나 ‘정렬 불일치’ 등 그간 비관론자들이 예측한 현상 중 상당수가 실제로 발생했다고도 지적했다.

자신이 딥마인드에서 이야기를 나눈 사람들 대부분이 AI에 대해 진지하게 우려하고 있었다고도 덧붙였다.

다만 지금 시점에서 구글을 떠나기로 밝힌 것은 개인적인 여행 일정에 따른 것으로, 최근 불거진 ‘AI 속도조절론’이나 AI 업계 내 다른 사직 등과 관련이 없다고 설명했다.

앞서 오픈AI를 거쳐 앤트로픽에서 근무하던 연구자 제이컵 콕슨은 AI가 10년 안에 인류를 멸망시킬 수도 있다는 경고를 내놓으며 퇴사를 발표해 화제가 됐다.


greg@heraldcorp.com