15일 서울 중구 신라호텔 다이너스티홀에서 ‘헤럴드 기업포럼 2024’이 ‘변혁의 순간, 기업의 선택’이란 주제로 개최됐다. 김창범(오른쪽부터) 한국경제인협회 부회장, 추경호 국민의힘 원내대표, 박춘섭 대통령실 경제수석, 최상목 경제부총리 겸 기획재정부 장관, 정원주 헤럴드미디어그룹·대우건설 회장, 최태원 대한상공회의소 회장, 손경식 한국경영자총협회장, 윤진식 한국무역협회 회장, 최진영 헤럴드미디어그룹 대표가 박수를 치고 있다. 임세준 기자

“현재 인공지능(AI)은 연산 능력은 매우 뛰어나지만 정확한 팩트를 제시하기에는 역부족입니다. 앞으로 AI 환각(hallucination)을 줄이기 위한 솔루션들이 갈수록 각광받을 겁니다”(임우상 포스코홀딩스 AI연구소 연구위원)

‘헤럴드 기업포럼 2024’가 15일 서울 중구 신라호텔 다이너스티홀에 500여명의 참석자를 불러 모으며 성황리에 마무리됐다. 이번 포럼은 ‘변혁의 순간, 기업의 선택’이라는 주제로 열린 가운데 AI의 부상으로 급변하는 경영 환경에서 기업이 나아가야 할 방향을 보여주는 세션들로 채워져 참석자들로부터 극찬을 받았다.

특히 AI가 기업의 경영은 물론 개인의 삶에도 깊숙이 파고든 현 상황에서 새로운 고민거리로 떠오른 ‘AI 환각 현상’에 참석자들의 이목이 집중됐다. AI가 잘못된 결과를 내놓거나 틀린 정보를 사실인 것처럼 제공하는 이른바 ‘AI 환각 현상’을 경계하면서도, 이를 극복해야 진정한 AI 시너지 효과를 거둘 수 있다는 점이 이번 ‘헤럴드 기업포럼 2024’의 주요 화두였다.

이날 기조연설자로 ‘헤럴드 기업포럼 2024’의 문을 연 이수인 미국 워싱턴대학교 교수도 “많은 사람들이 AI를 완벽하다고 생각하지만 AI는 잘못된 결론을 낼 수도 있고 편향될 수도 있다”며 AI가 내포한 근본적인 위험을 화두로 던져 청중의 시선을 사로잡았다.

AI의 투명성과 신뢰성을 높일 수 있는 ‘설명 가능한 AI(Explainable AI)’ 개념을 제시해 AI 분야 권위자로 평가받는 이 교수는 “AI 모델을 너무 믿지 않는 게 좋다. 모든 AI 모델은 검증을 해봐야 한다”고 강조했다.

15일 서울 중구 신라호텔 다이너스티홀에서 개최된 ‘헤럴드 기업포럼 2024’에서 VIP들이 환담을 나누고 있다. 최상목(왼쪽부터 시계방향)경제부총리 겸 기획재정부 장관, 손경식 한국경영자총협회장, 정원주 헤럴드미디어그룹·대우건설 회장, 최진영 헤럴드미디어그룹 대표, 최태원 대한상공회의소 회장. 이상섭 기자

이날 참석한 기업인들도 이 교수의 발표 내용에 깊은 공감을 표하며 AI 열풍 속 비슷한 문제의식을 공유했다. 각 기업들이 AI 기술을 접목한 서비스와 솔루션을 내놓고 있지만 AI를 아직 완전히 신뢰하기에는 어렵다는 점에서 같은 고민을 드러냈다.

박세혁 모셔널 최고전략책임자(CSO)는 이날 ‘자율주행 기술 : 스마트하고 안전하며 지속가능한 모빌리티’ 를 주제로 발표하면서 “이수인 교수가 오늘 강조한 AI 모델 검증의 중요성은 제게 가장 큰 인사이트를 줬다”고 언급하기도 했다.

박 CSO는 세션이 끝난 뒤에도 다른 연사들과 만난 자리에서 “AI에 대한 깊은 이해가 갈수록 중요해지고 있다”며 “자율주행은 사람의 생명과 직결되기 때문에 AI가 제공한 값이 정확한지 판단하는 것이 핵심”이라고 강조했다. 그러면서 “AI의 분석을 전적으로 믿기 어럽다는 점이 극복할 과제이다. 이를 해결하는 것이 AI를 통한 시너지를 극대화할 수 있는 열쇠”라고 밝혔다.

AI를 활용한 협동로봇을 생산하고 있는 두산로보틱스 역시 AI 환각 현상에 따른 애로사항을 언급하며 AI의 신뢰성 제고에 높은 관심을 보였다.

류정훈 두산로보틱스 대표는 “우리가 만든 제품을 AI를 통해 분석했더니 수치까지 자세하게 도출한 점은 놀라웠는데 그 수치가 실제 우리가 갖고 있는 값과 달랐다”며 “과연 AI를 전적으로 신뢰할 수 있는지 불확실성이 큰 것이 사실이다. 기업 입장에서는 AI가 제시하는 결과를 어떻게 선별해야 하는지 고민이 클 수밖에 없다”고 말했다.

임우상 포스코홀딩스 AI연구소 연구위원도 “AI를 도입한 많은 기업들은 AI로 돈을 버는 것이 아니라 각 사의 핵심 사업을 AI로 더 고도화해 경쟁력을 높이기 위한 것”이라며 “그런 점에서 AI 환각은 큰 비용을 들여 첨단 기술을 도입한 기업에는 치명적”이라고 우려했다.

이어 “AI를 연구하는 입장에서 AI 환각을 해소하는 것에 큰 공력을 들이고 있다”고 덧붙이며 향후 AI 환각을 줄여주는 솔루션들이 주목을 받을 것이라고 내다봤다. 김현일·정태일 기자