- 국제학술지 ‘네이처 일렉트로닉스’에 기고문 게재

현대전쟁 핵심은 AI…KAIST 전우정 교수 “설명 가능한 ‘AI’ 개발해야”
전우정 KAIST 문술미래대학원 교수.[KAIST 제공]

[헤럴드경제=구본혁 기자] KAIST는 문술미래전략대학원 전우정(사진) 교수가 우리나라 법학자 최초로 세계 최고 과학학술지 ‘네이처(Nature)’ 자매지 ‘네이처 일렉트로닉스’의 코리스판던스(Correspondance) 섹션에 군사 AI 통제의 과학적 도전에 관한 기고문을 게재했다고 8일 밝혔다.

지난 9월 9일부터 10일까지 서울에서 개최된 ‘2024 인공지능(AI)의 책임 있는 군사적 이용에 관한 고위급 회의(REAIM 2024)'에서 군사 AI 거버넌스에 중요한 진전이 이뤄졌다. 우리나라 뿐만 아니라 네덜란드, 싱가포르, 케냐, 영국이 공동 주최국으로 참여한 이 회의에서 미국, 독일, 프랑스, 일본 등 61개국이 ‘행동을 위한 청사진(Blueprint for Action)'을 채택했다. 이후 두 개 국가가 추가로 동참해 현재 총 63개국이 채택하고 있다.

전우정 교수는 이번 기고문에서 군사 분야의 AI 활용에 대한 이러한 원칙들을 과학적·기술적 조치로 실천하는 데 상당한 어려움이 있음을 강조했다. 이는 전 세계 과학계의 관심과 노력이 필요하다고 밝혔다.

전 교수는 현대 전쟁에서 AI의 역할을 강조하며, AI가 육군, 해군, 공군뿐만 아니라 우주와 사이버 영역을 포함한 5개 군사 분야를 연결하는 핵심 요소라고 지적했다. AI는 신속 정확한 의사 결정, 물류 최적화, 작전 계획, 인공위성 영상 분석, 드론 공격 목표 식별, 리스크 평가 등을 통해 전투 효율성을 높일 수 있지만, 알고리즘 결함이나 상황 오판 등으로 인해 의도치 않은 결과가 발생할 위험도 존재한다고 설명했다.

이러한 도전을 해결하기 위해 전 교수는 몇 가지 핵심 분야에서의 집중적인 연구와 국제 협력이 필요하다고 제안했다. 적군 AI 시스템과의 경쟁시 초(秒)를 다퉈 작전을 수행해야 하는 상황에서 의미 있는 인간의 통제를 보장하고, 핵 무기 통제 시스템에 AI를 통합할 때 발생할 수 있는 잠재적 리스크를 해결하며, 투명성과 작전 보안을 균형 있게 유지하는 설명 가능한 AI (eXplainable AI, XAI)를 개발해야 한다고 강조했다.

한편 전우정 교수는 공군 예비역 대위로, 공군학사장교회 국제위원장으로 봉사하고 있다.