- 전문지식 기반 추론·이유 설명·생성 결과 검증 핵심기술 확보

- AI 기본법상 설명 의무 대응 위한 기술적 기반으로 활용 기대

ETRI 연구진이 설명가능한 의사결정지원 AI기술을 설명하고 있다.[ETRI 제공]
ETRI 연구진이 설명가능한 의사결정지원 AI기술을 설명하고 있다.[ETRI 제공]

[헤럴드경제=구본혁 기자] 한국전자통신연구원(ETRI)은 전문지식을 기반으로 AI가 추론한 결과뿐 아니라 판단에 활용한 근거와 이유를 설명하고, 생성 결과의 사실성까지 스스로 검증할 수 있는 ‘설명가능한 의사결정지원 AI’ 핵심기술을 개발했다고 12일 밝혔다. 이 기술의 시스템 구조와 요구사항을 담은 국제표준도 국제전기통신연합(ITU)에서 승인받았다.

이번 국제표준은 기업과 공공기관들이 설명가능한 AI 서비스를 설계 구축할 때 활용할 수 있는 공통기준을 제시한다.

AI가 단순히 “답은 이것입니다”라고 제시하는 수준을 넘어 ”이러한 근거와 이유로 이 결과를 도출했으며, 이 부분은 추가 확인이 필요합니다.”라고 설명할 수 있도록 시스템의 기본 구조와 요구사항을 정의했다.

국제표준에는 사용자 질문에 대한 결과와 이유 설명, 전문지식 기반 추론, 판단 근거와 분석 내용을 담은 보고서 제공, 추가 확인이 필요한 정보의 식별, 사용자 피드백 반영, 변화하는 전문지식의 지속적인 업데이트, 텍스트뿐 아니라 표·이미지·도식 등 다양한 형태의 정보 활용 기능 등이 포함됐다.

이번 표준은 특정 AI 모델이나 제품에 적용되는 것이 아니라, 앞으로 기업과 공공기관이 설명가능한 AI 서비스를 설계할 때 활용할 수 있는 공통 기준이라는 점에서 의미가 크다.

이 기술을 통해 AI는 단순히 자연스러운 문장을 생성하는 수준을 넘어, 질문의 상황을 이해하고 전문지식을 기반으로 추론한 뒤 판단의 근거와 이유, 검증 결과를 함께 제공할 수 있게 된다.

ETRI는 설명가능한 분류, 자가검증 RAG, 생성 결과 사실성 검증, 인터랙티브 보고서 생성 기술을 통해 의료·법률·금융·행정 등 신뢰성과 책임성이 중요한 분야에서 활용 가능한 기반을 확보했다. 향후 AI 기본법상 고영향 AI의 설명 의무 이행에도 활용될 것으로 기대된다.

이용주 ETRI 시각지능연구실 실장은 “이번 국제표준은 설명가능한 AI가 갖춰야 할 공통 구조와 요구사항을 국제적으로 제시한 첫 번째 기준 가운데 하나”라며 ”기업과 공공기관이 신뢰할 수 있는 AI 서비스를 구축하고 AI 기본법에서 요구하는 설명 의무를 이행하는 데 중요한 기준이 될 것으로 기대한다”고 말했다.


nbgkoo@heraldcorp.com