“AI업계 전반적으로 안전장치 허술” 비판

개발 속도에 집중하느라 안전 문제 도외시

[로이터/연합]
[로이터/연합]

[헤럴드경제=신소연 기자] 인공지능(AI)이 인류를 멸망시킬 수 있다고 우려하는 등 브레이크 없는 AI 기술 개발에 비판이 커지는 가운데 전(前) 오픈AI 직원이 회사가 안전 확보를 위해 충분히 노력을 기울이지 않고 있다고 공개 지적해 주목된다.

데이비드 로빈슨 전 오픈AI 안전 담당 직원은 3일(현지시간) 디애틀랜틱에 실은 기고문에서 “오픈AI는 문제를 찾으면 가드레일(안전장치)을 개선하는 시행착오 방식으로 성장해왔다”며 “이 방식은 주기적인 실패를 가정하고 있어, 시스템이 강력해질수록 실패의 크기도 커지고 있다”고 비판했다.

즉 일단 성능을 높인 AI 모델을 배포하고, 문제가 생기면 조금씩 고치는 방식으로 기술을 개발해 왔다는 것이다. 문제는 AI의 성능이 예전과는 비할 데 없이 좋아졌다는 것이다.

로빈슨은 AI모델의 테스트 감지 능력이 향상되기 시작했고, 시험 단계와 배포 시 다르게 행동하는 형태로 개발진을 속일 가능성도 있다고 봤다.

그는 “업계 전반이 개발 속도에만 집중하느라 안전 문제를 도외시하고 있다”며 “문제가 발생하면 언제든 해결할 수 있으리라는 막연한 낙관주의가 깔려 있다”고 꼬집었다.

그는 이어 “이러한 환경은 우리보다도 더 똑똑해질 수 있고, 우리가 원하는 대로 작동하지 않을 수 있는 AI를 키워낼 수 있는 장소가 아니다”며 “AI 기업들은 여러 겹의 예비 장치와 신중한 계획을 갖춘 원자력 발전소처럼 운영돼야 한다”고 주장했다.

로빈슨은 오픈AI에서 3년 반 동안 근무하며 안전 보고서 작성을 총괄해 왔지만, 최근 사직했다.

이와 관련 오픈AI 관계자는 “모델 성능이 우리가 안전하게 통제할 수 있는 범위를 넘어서지 않도록 보장하고 있다”며 “속도를 줄여야 할 때 훈련을 중단하거나 모델 출시를 보류하고 있다”고 말했다.


carrier@heraldcorp.com