경력 10년 남성만 후보로 제시

세계 최대 전자상거래 기업 아마존이 비밀리에 인공지능(AI)을 활용한 채용 프로그램을 개발해오다 시스템상에서 여성차별 문제가 발생해 이를 자체 폐기한 것으로 드러났다.

10일(현지시간) 로이터통신, BBC 방송 등에 따르면 아마존은 지난 2014년부터 스코틀랜드 에든버러에 엔지니어링팀을 꾸린 뒤 AI 채용 프로그램을 개발해왔다. 500대의 컴퓨터가 구직 희망자의 지원서를 분석해 1~5점을 부여하는 방식이다. 아마존 관계자는 “100장의 이력서를 프로그램에 넣으면 최상의 조건을 갖춘 5명이 나온다. 그 사람들을 채용하기만 하면 되는 것”이라고 했다. 이 과정에서 채용 AI의 ‘남성 편향’이 돌발 이슈로 떠올랐다. 개발 1년차를 맞은 AI는 경력 10년 이상의 남성 지원자 서류만 찾아내 고용해야 할 후보로 제시했다. ‘여성’이라는 단어 또는 동호회 활동에 ‘여성 체스 클럽’ 같은 어구가 포함돼 있으면 채용 대상에서 배제했다. 여대를 나온 2명의 원서도 채용 대상 목록에서 제외했다. 정보·기술(IT) 기업 지원자에 여성보다 남성이 더 많다는 것을 스스로 학습, 편향적으로 서류 분류를 한 것이다.

아마존 엔지니어들은 시스템상의 일부 용어를 중립적으로 고치는 등 점검에 나섰지만, AI가 향후 편향된 결과를 내놓지 않을 것이라는 보장을 할 수 없었다고 로이터는 전했다. 이에 따라 아마존은 지난해 초 이 프로젝트를 자체 폐기했다.

BBC는 “커리어빌더 조사에 따르면 미국 인사담당자의 55%는 AI가 향후 5년 내 채용과정에서 중요한 역할을 할 것이라고 보지만, 신뢰성에 대해서는 여전히 논란이 많다”며 “미국 법원에서 사용된 AI의 경우 인종 편향성을 나타내기도 했다”고 전했다.

양영경 기자/y2k@heraldcorp.com