보험연구원

[헤럴드경제=한희라 기자]성희롱, 차별·혐오 등으로 논란을 일으킨 인공지능(AI) 챗봇 ‘이루다’ 사태가 불거진 가운데 AI 오작동 및 오류 사고에 대응하는 보험 개발이 필요하다는 지적이 제기됐다.

18일 보험연구원 김윤진연구원은 ‘AI 리스크와 전용보험의 필요성’ 보고서에서 AI 기술 도입이 단기간에 급증하며 이전에는 예상할 수 없었던 새로운 종류의 사고들이 발생하기 시작했다면서 이같이 주장했다.

최근 AI 기술과 관련한 새로운 형태의 사고들이 발생하고 있다. 미국에서는 승차공유업체 우버의 자율주행차 알고리즘 오작동으로 보행자가 신체상해를 입고 사망한 사건이 발생했다. 마이크로소프트가 개발한 트윗봇 ‘테이(Tay)’의 인종차별, 정치편향적 트윗 업로드로 브랜드 이미지가 훼손된 사례도 생겼다.

김 연구원은 “AI 기술이 개인과 기업에 미칠 잠재적인 부정적 결과를 ‘AI 리스크’라고 정의할 수 있다”며 “상당수 글로벌 기업들은 AI를 활발하게 도입해 사용하고 있음에도 불구하고 그에 따르는 리스크를 명확하게 인지하지 못하고 있으며, 그 결과 AI 리스크에 대응하기 위한 준비가 결여된 것으로 보인다”고 말했다.

우리나라 국회입법조사처도 AI 알고리즘 사전설계 및 사후 감독체계에서 의도하지 않았던 위험이 발생한 경우 피해보상 혹은 누구에게도 책임을 돌릴 수 없는 손해의 배상을 위한 보험제도 도입을 검토해 볼 필요가 있다고 주장한 바 있다.

현재 국내외 일부 보험사에서 AI 관련 보험이 개발되고 있지만 이들 보험은 AI 리스크 중 일부만을 보장한다. 사이버보험의 경우 AI 리스크 중 데이터 및 보안 관련 위험만을 보장할 뿐 AI 알고리즘 결함으로 인한 신체 상해, 브랜드 훼손 등의 물적 손실은 보장받을 수 없어 AI 전용보험의 개발이 중요한 상황이다.

김 연구원은 보험사 자체적으로도 AI 리스크를 대비해야 한다고 지적했다. 그는 “국내 보험사들도 AI 챗봇을 고객상담에 활용하고 보험사기 예방을 위해 AI 기술을 적용하는 등 다양한 분야에서 AI 기술 도입이 증가하고 있다”며 “AI 기술 활용 증가는 보험사 자체의 AI 리스크를 확대할 수 있다”고 말했다.

hanira@heraldcorp.com