샘 올트먼 오픈AI 최고경영자(CEO). [AFP]

[헤럴드경제=김현경 기자] 챗GPT 개발사 오픈AI가 샘 올트먼 최고경영자(CEO)를 포함한 새로운 안전팀을 만들었다. 올트먼 축출을 주도했던 임원들이 이끈 기존의 안전팀이 해체된 지 10여 일 만이다.

오픈AI는 생성형 인공지능(AI) 관련 기술 개발 과정에서 안전 및 윤리 문제를 점검하기 위해 고위 임원들이 이끄는 ‘안전·보안 위원회(safety and security committee)’를 구성했다고 28일(현지시간) 블로그를 통해 밝혔다.

새 안전 위원회는 올트먼 CEO와 브렛 테일러 이사회 의장, 애덤 단젤로 이사, 니콜 셀리그먼 이사가 이끌고 나머지 3명의 이사에게 평가 결과를 공유할 예정이다.

위원회는 오픈AI의 프로젝트와 운영에 관련된 중요한 안전 및 보안 문제를 결정하는 역할을 수행한다. 우선 과제는 “오픈AI의 프로세스와 안전장치를 평가하고 더욱 발전시키는 것”이라고 회사 측은 강조했다.

이번 위원회는 기존 안전팀이 해체되고, 새 AI 모델 ‘GPT-4o(포오)’의 음성 모방 논란이 제기된 가운데 나왔다.

오픈AI는 이달 중순 AI의 장기적인 위험을 연구하는 ‘슈퍼얼라인먼트(superalignment) 팀’ 일부를 다른 팀으로 재배치하는 등 안전팀을 해체한 것으로 알려졌다.

이 팀을 이끌었던 오픈AI 공통 창업자 일리야 수츠케버와 또 다른 임원인 얀 레이케가 회사를 떠난 후 며칠 만에 팀이 해체된 것이다. 이들은 앞서 올트먼 축출을 주도한 바 있다.

레이케는 “인간보다 더 똑똑한 기계를 만드는 것은 본질적으로 위험한 노력”이라며 “오픈AI는 인류를 대표해 엄청난 책임을 지고 있지만 지난 몇 년간 안전 문화와 프로세스는 제품 뒷전으로 밀려났다”고 비판하기도 했다.

오픈AI는 또 지난 12일 선보였던 새 AI 모델 GPT-4o의 음성이 미국 영화배우 스칼릿 조핸슨을 도용했다는 논란이 일었다.

‘스카이(Sky)’라고 하는 이 모델의 음성이 영화 ‘그녀(Her)’ 속 AI 목소리의 주인공인 조핸슨과 매우 유사하다는 지적이 제기됐다.

조핸슨은 자신의 목소리 사용을 허락하지 않았는데 오픈AI가 유사한 목소리를 사용했다며 법적 대응을 시사했고, 오픈AI는 이 음성 사용을 중단했다.

오픈AI는 이와 함께 차세대 AI 모델에 대한 훈련을 시작했다고 밝혔다.

오픈AI는 “다음 프런티어 모델을 훈련하기 시작했다”며 “그 결과물이 범용인공지능(AGI)으로 가는 길에 다음 단계의 역량으로 이끌 것으로 기대한다”고 밝혔다.

AGI는 사람과 유사한 수준 또는 그 이상의 지능을 갖춘 AI를 말한다.

아울러 이 모델의 개발 과정에 대해 새 안전 위원회가 감독할 것이라고 설명했다.

올트먼 CEO는 “우리는 AGI를 만들고 싶다”며 “(이를 위해) 우리 스스로 뭔가를 구축하든, 파트너와 함께하든 무엇이든 다 할 것”이라고 밝힌 바 있다.

앞서 비즈니스인사이더는 오픈AI의 차기 AI 모델인 GPT-5가 이르면 올 여름 출시될 예정이라고 소식통을 인용해 보도했다.

다만 인간보다 훨씬 똑똑한 ‘초지능(superintelligence)’ AI를 구축하겠다는 올트먼 CEO의 이전 목표에선 한 발 물러선 것으로 보인다고 파이낸셜타임스(FT)는 전했다.

안나 마칸주 오픈AI의 글로벌 담당 부사장은 FT와의 인터뷰에서 “우리의 임무는 현재 인간이 할 수 있는 인지 작업이 가능한 AGI를 구축하는 것”이라며 “우리의 임무가 초지능을 만드는 것이라고 말하지 않을 것이다. 초지능은 지구상의 인간보다 훨씬 더 지능적이 될 기술”이라고 말했다.

리즈 부르주아 오픈AI 대변인도 초지능은 회사의 임무가 아니라고 FT에 밝혔다.

부르주아 대변인은 “우리의 임무는 인류를 위해 유익한 AGI”라고 강조했다.