[헤럴드경제=구본혁 기자] 한국과학기술원(KAIST)은 바이오및뇌공학과 예종철<사진> 석좌교수 연구팀이 인공지능의 수학적 원리를 증명하고 이를 이용해 의료영상 및 정밀분야에 이용 가능한 고성능 인공신경망 제작 원리를 밝혀냈다고 10일 밝혔다.
심층신경망은 최근 폭발적으로 성장하는 인공지능의 핵심을 이루는 딥러닝의 대표적인 구현 방법이다. 이를 이용한 영상, 음성 인식 및 영상처리 기법, 바둑, 체스 등은 이미 사람의 능력을 뛰어넘고 있으며 현재 4차 산업혁명의 핵심기술로 알려져 있다.
심층신경망은 뛰어난 성능에도 불구하고 정확한 동작원리가 밝혀지지 않아 예상하지 못한 결과가 나오거나 오류가 발생하는 문제가 있다. 이로 인해 ‘설명 가능한 인공지능(explainable AI: XAI)’에 대한 사회적, 기술적 요구가 커지고 있다.
연구팀은 심층신경망의 구조가 만들어지는 원리를 밝히기 위해 노력했다. 기존 신호처리 분야에서 집중 연구된 고차원 구조인 행켈구조 행렬을 기저함수로 분해하는 과정에서 심층신경망 구조가 나오는 것을 발견했다.
행켈 행렬이 분해되는 과정에서 기저함수는 국지기저함수와 광역기저함수로 나눠진다. 연구팀은 광역기저함수와 국지기저함수가 각각 인공지능의 풀링(pooling, 신호를 필터링한 후에 평균이나 최댓값을 통해서 차원을 줄이는 과정)과 필터링(filtering) 역할을 한다는 것을 밝혔다.
기존에는 인공지능을 이용해 네트워크를 구성할 때 구체적인 작동 원리를 모른 채 필터링과 풀링 작업을 했다면 연구팀은 행켈 행렬에서 분리된 기저 함수들이 필터링, 풀링과 연관됨을 밝힌 것이다. 이러한 성질을 이용하면 입력신호의 복잡성에 따라 기저함수의 개수와 심층신경망의 깊이를 정해 원하는 방향과 구조를 제시할 수 있다.
연구팀은 이를 영상잡음제거, 영상 화소복원 및 의료영상 복원 문제에 적용해 수학적 원리를 통해 제안된 인공신경망 구조가 기존 블랙박스 형태로 개발된 인공신경망구조에 비해 매우 우수한 성능을 보인다는 것을 확인했다.
예종철 교수는 “시행착오를 반복해 설계하는 기존의 심층신경망과는 달리 원하는 응용에 따라 최적화된 심층신경망구조를 수학적 원리로 디자인하고 그 영향을 예측할 수 있다”며 “이 결과를 통해 의료 영상 등 설명 가능한 인공지능이 필요한 다양한 분야에 응용될 수 있다”고 말했다.
이번 연구성과는 응용수학 분야 국제 학술지 ‘사이암 저널 온 이매징 사이언스’ 4월 26일자 온라인 판에 게재됐다.
nbgkoo@heraldcorp.com
