애플의 시리·구글 어시스턴트 등
인간 못 듣는 ‘음성신호’ 인식
온라인 결제·잠금 해제 등 가능

“내 인공지능(AI) 비서가 나도 모르는 사이 다른 누군가와 얘기하고 있을 수도 있다”

사용자의 음성을 인식해 다양한 작업을 수행하는 아마존의 ‘알렉사’, 애플의 ‘시리’, 구글의 ‘구글 어시스턴트’ 등 AI 비서가 ‘범죄의 도구’로 이용될 수 있다는 우려가 커지고 있다. 최근에는 AI 비서가 인간이 듣지 못하는 음성신호를 인식, 사용자가 의도하지 않은 작업을 수행할 수 있다는 점도 연구를 통해 속속 드러나고 있다.

10일(현지시간) 뉴욕타임스(NYT)에 따르면 이달 미국 버클리 캘리포니아대(UC버클리) 연구진은 특정 명령을 음악이나 음성 텍스트에 끼워넣어 AI 비서를 작동하게 할 수 있다는 내용의 연구 논문을 발표했다.

그 내용을 보면 AI 비서는 사용자가 누군가와 얘기하거나 음악을 듣는 동안에도 그 안에 숨겨진 명령을 인식해 독자적인 행동을 할 수 있다. 사용자도 모르는 사이에 쇼핑 리스트에 사야 할 물건을 잔뜩 추가해놓는 게 그 예다. 논문의 저자 중 한 명인 니콜라스 칼리니는 “이런 기술이 실험실을 떠났다는 어떤 증거도 없지만, 실제로 이용되는 것은 시간문제”라고 지적했다.

앞서 미국 프린스턴 대학과 중국 절강대학 연구진들은 지난해 인간의 귀에 들리지 않는 주파수를 이용해 AI 비서에게 명령을 내릴 수 있다는 것을 입증했다. 초음파로 소통하는 돌고래에서 이름을 따온 ‘돌핀어택’ 기술을 통해 음성신호를 보내면 Al 비서는 이에 반응해 악성 웹사이트 접속, 사진 촬영, 메시지 전송 등의 작업을 수행했다.

UC버클리와 조지타운 대학의 학생들은 지난 2016년 스피커나 유튜브 비디오 등에서 흘러나오는 백색소음에 특정 명령을 숨겨 스마트 기기의 비행기 모드를 작동하거나, 웹사이트에 접속할 수 있다고 발표하기도 했다.

NYT는 “Al 기술이 큰 진보를 이루고 있음에도 속임수를 쓰고 조작할 수 있다는 것을 보여주는 사례”라고 전했다.

최근 AI 기반의 스마트 스피커가 확산하는 추세를 고려하면 이런 기술이 악용됐을 때 미치는 영향은 상당할 것이라는 전망도 나온다. 영국 시장조사업체 주니퍼리서치는 2021년까지 미국 가정의 절반이 스마트 스피커를 이용할 것이라고 내다봤다.

양영경 기자/y2k@heraldcorp.com