AI 응용서비스 사전 실태점검 결과 발표

에이닷, 통화 저장 시스템 접속기록 보관 안 해

스노우에 외부 개발도구 안정성 검토 개선권고

“아이폰 통화녹음 괜찮나?” 개인정보위, SKT ‘에이닷’에 시정권고
고학수 개인정보보호위원회 위원장이 12일 오후 서울 종로구 정부서울청사에서 개최된 전체회의에서 모두말씀을 하고 있다. [개인정보보호위원회 제공]

[헤럴드경제=권제인 기자] SK텔레콤의 인공지능(AI) 서비스 ‘에이닷’이 통화 녹음 내용을 저장하는 시스템에 접속기록을 보관하지 않은 것으로 조사됐다. 정부는 이에 따라 시스템 접속기록을 보관·점검 하는 등 안전조치 의무를 준수하라고 시정권고 했다.

개인정보보호위원회는 12일 제10회 전체회의를 열고 AI 서비스를 제공하는 SKT, 스노우, 딥엘(DeepL), 뷰노에 대한 사전 실태점검 결과를 심의·의결했다. 개인정보위는 지난해 11월부터 국내·외 주요 AI 서비스와 관련 사업자에 대해 점검을 진행한 바 있다.

통화녹음, 요약 및 실시간 통역 서비스를 제공하는 에이닷은 이용자의 기기에서 녹음된 음성파일을 SKT 서버에서 텍스트로 전환하고, 이를 다시 마이크로소프트(MS)의 클라우드에서 요약해 이용자에 전달한다.

SKT는 이 과정에서 텍스트 파일을 저장하는 시스템에 접속기록을 보관하지 않은 것으로 조사됐다. 개인정보위는 이에 따라 시스템상 접속기록의 보관·점검 등 안전조치 의무를 준수하라고 시정 권고했다. 또한, 텍스트 파일의 보관 기간 최소화, 비식별 처리의 강화, 서비스 내용에 대한 명확한 설명 등 조치를 마련하라고 개선권고했다.

이용자 사진에 기반해 AI 프로필 등을 생성하는 ‘스노우’는 이미지 처리 방침이 이용자가 알기 어려운 형태로 공개된 것으로 드러났다. 이미지 필터링에 사용되는 외부 개발도구(SDK)의 안정성도 충실히 검토하지 않았다.

개인정보위는 개인정보를 서버로 전송해 처리하는 경우 이용자가 이를 쉽게 인지할 수 있도록 하고, 외부 SDK를 사용해 개인정보를 처리하는 과정에서 의도치 않은 개인정보 처리·전송 가능성을 점검하라고 개선권고했다.

AI 기반 전 세계 31개 언어를 번역해주는 ‘딥엘’은 이용자가 무료 서비스에 입력한 정보에 대해 AI 학습 및 인적 검토를 진행하면서 이를 명확히 공개하지 않은 사실이 확인됐다. 다만, 점검 과정에서 개인정보를 입력하지 않도록 입력 화면에 안내하고 인적 검토 사실을 처리 방침에 반영해 개선권고를 피했다.

의료 AI 기업 뷰노는 학습에 병원의 기관생명윤리위원회 및 기관데이터심의위원회를 통과한 데이터만 사용해 AI 학습데이터 수집·처리 관련 보호법 위반 사항은 발견되지 않았다.

개인정보위는 “이번 사전 실태점검은 각 산업·서비스 분야에서 빠르게 AI를 도입하는 가운데 개인정보 처리 과정에서의 취약점을 선제적으로 점검하고 개선을 유도하였다는 데 의의가 있다”며 “앞으로도 지속적인 모니터링을 실시하고, AI 시대의 개인정보 보호 대책 및 안전한 개인정보 활용 방안을 마련해 나갈 계획”이라고 말했다.

SKT는 “개인정보위의 사전 시정권고를 받아 조치 완료한 사안”이라며 “재발 방지를 위해 시스템 개선 등 노력하겠다”고 밝혔다.