미래로 함께 걸어갈 AI에 대한 깊은 고민

“인간 규범·가치 학습시키며 컨트롤” 역설

3권에 담긴 AI 이해·실용적 생존법 눈길

한 고용주가 머신러닝 시스템을 이용해 프로그래머를 뽑는다. 먼저 ‘관련성’을 따지는 척도를 써서 이력서 수백만장을 분석해 순위를 매긴 뒤 가장 높은 점수가 나온 몇 명을 화면에 띄운다. 여기서 워드투백(Word2Vec·인공신경망기술이 적용된 자연어 처리기법) 같은 것을 우직하게 사용하는 시스템이면 ‘존’이라는 이름을 ‘메리’보다 이력서에 더 전형적인 단어라고 판별할 가능성이 크다. 따라서 이름을 제외한 조건이 같아도 존의 이력서는 메리의 이력서보다 관련성 측면에서 더 높은 순위에 오른다.

인공지능(AI) 채용관이 당신을 불합격시킨다면 인정할 수 있을까? AI가 생성한 기사는 한 치의 오류가 없는 사실일까? AI 시대를 맞은 우리는 수많은 질문에 직면해 있다. AI가 인간을 대체해 일자리가 사라지고 종국에는 인간을 지배할 것이란 비관론이 있는가 하면, AI가 인간의 노동시간을 단축하고 문명을 더 발전시킬 것이란 낙관론도 존재한다.

그런데 중요한 것은 좋든 싫든 AI 시대가 도래했다는 점이다. 때문에 인간은 ‘AI’라는 존재를 받아들이고 공존할 길을 찾아야 한다.

AI 시대, 우리의 질문 미리암 메켈·레아 슈타이나커 지음 강민경 옮김 한빛비즈
AI 시대, 우리의 질문 미리암 메켈·레아 슈타이나커 지음 강민경 옮김 한빛비즈

독일의 커뮤니케이션 매니지먼트 교수인 미리암 메켈과 사회학자 겸 저널리스트인 레아 슈타이나커가 지은 ‘AI 시대, 우리의 질문’은 AI를 이해하고 인간에게 유리하게 이용할 방법을 모색해야 한다고 강조한다. 관계, 직업, 정치, 윤리 등 다양한 분야에서 AI의 방향을 올바로 이끌기 위해 지금 우리에게 필요한 질문들을 제시한다.

저자들은 영화 ‘에브리싱 에브리웨어 올 앳 원스’처럼 AI야말로 ‘모든 곳에 있는 모든 것을 한꺼번에’ 변화시키는 힘이라고 평가한다. ‘AI의 멀티버스’ 시대인 셈이다. 이제 우리는 단순히 내 일자리가 안전한가를 넘어 ‘AI의 성능이 예상보다 훨씬 뛰어난 시대에 인간으로 산다는 것은 무슨 의미인가’ ‘AI 시스템을 인간이 계속해서 효과적으로 제어할 수 있을까’를 고민해야 한다.

AI가 생산성을 대폭 증가시킬 순 있지만 노동자에게 도움이 될지, 자본가와 대기업의 배만 불릴지는 미지수다. 거대언어모델(LLM)이 내놓은 오해의 소지가 있거나 잘못된 답변 등 사용자를 혼란에 빠뜨릴 수 있는 결과를 ‘환각 현상’이라고 한다. AI가 현실과 맞지 않는 혹은 해당 시스템 내에서만 통용되는 내용을 보편적인 사실처럼 만들어 환각을 일으키기 때문이다. 따라서 사용자는 AI가 내놓은 결과 중 어떤 것이 진실이고 , 가짜인지를 분별해야 한다.

인간적 AI를 위하여 브라이언 크리스천 지음 이한음 옮김 시공사
인간적 AI를 위하여 브라이언 크리스천 지음 이한음 옮김 시공사

미국의 저술가 브라이언 크리스천의 신간 ‘인간적 AI를 위하여’는 AI가 인간의 규범과 가치를 파악하고 인간의 의도하거나 뜻하는 바를 이해하며 인간의 명령을 따르는 사실을 보증하는 ‘정렬 문제’를 고찰한다. ‘AI가 인간보다 똑똑하되 능가하지 않아야 한다’는 입장을 견지하며 더 높은 인간성과 도덕성을 효과적으로 AI에 학습시키는 능력을 어떻게 키울 것인지를 고민해야 한다고 조언한다. 머신러닝 모형 내부에서 어떤 일이 일어나는지, 모형이 왜 그렇게 행동하는지를 이해할 ‘투명성’은 중요한 과제다. AI가 인간의 ‘마음 읽기’ 능력을 갖추려면 우리가 관심 있는 것을 하나하나 코드로 짜려 하기보다 인간행동을 관찰해 우리가 무엇에 가치를 두고 욕망을 품는지 추론하는 기계를 개발해야 할 수 있다.

“기계에다가 너 자신의 목표를 추구하라 하지 않고 우리 목표를 추구하라고 하면 어떨까요? 이게 우리가 줄곧 했어야 할 일이 아닐까요”라는 스튜어트 러셀 미국 UC버클리 교수의 말처럼 인간과 협력하는 기계를 만들어야 한다는 것이다.

듀얼 브레인 이선 몰릭 지음 신동숙 옮김 상상스퀘어
듀얼 브레인 이선 몰릭 지음 신동숙 옮김 상상스퀘어

이선 몰릭 펜실베이니아대 와튼스쿨 부교수가 쓴 ‘듀얼 브레인’도 AI 시대에 적응하는 실용적 방법을 제시한다. 그는 AI로 인해 ‘업무’에는 엄청난 변화가 있겠지만 ‘직업’에는 큰 변화가 없을 것이라고 말한다. 아울러 AI를 업무에 제대로 활용하는 방법으로 ‘켄타우로스’와 ‘사이보그’를 소개한다. 켄타우로스는 내가 할 일과 AI가 할 일을 명확히 구분하는 분업 시스템을, 사이보그는 AI와 한몸이 된 듯 업무를 공동으로 진행하는 방식을 뜻한다.

AI가 인류를 유토피이로 이끌지, 디스토피아로 이끌지는 알 수 없다. 다만 어떤 AI를 만들고 어떻게 활용할지, 미래를 어떤 방향으로 만들어갈지는 인간의 손에 달렸음은 분명하다. 김현경 기자


pink@heraldcorp.com