인권위 AI 인권 실태조사 연구용역 보고서

“편향적으로 빈곤지역 집중순찰 위험성”

경찰청이 운영 중인 범죄위험도 예측분석 시스템(Pre-CAS) 모습 [경찰청 제공]
경찰청이 운영 중인 범죄위험도 예측분석 시스템(Pre-CAS) 모습 [경찰청 제공]

[헤럴드경제=강승연 기자] 경찰이 효율적인 범죄 예방을 위해 운영하는 ‘범죄위험도 예측·분석 시스템’(Pre-CAS)은 낙후지역에 대한 부정적 이미지를 공고히 하는 ‘낙인효과’를 강화시킬 수 있다는 지적이 나왔다.

7일 국가인권위원회에 제출된 연구용역 보고서 ‘인공지능(AI) 개발과 활용에서의 인권 가이드라인 연구’를 살펴본 결과, 경찰청의 범죄위험도 예측·분석 시스템이 지역 차별로 이어질 가능성이 우려됐다.

범죄위험도 예측·분석 시스템은 치안·공공데이터를 AI로 분석해 일정구역(100mⅹ100m)·시간대(2시간 간격)별로 범죄 등급(1~10등급)과 범죄·무질서 가능성을 예측하는 시스템이다. 위험 지역엔 선제적 경찰 활동에 따른 범죄 예방 효과가 있어 지난해 5월부터 전국적으로 운영되고 있다.

그러나 보고서는 “데이터 기반 기술을 활용한 범죄 예측에는 상당한 위험성과 차별의 가능성이 뒤따른다”며 경찰청이 시스템 개발시 참고했던 미국의 데이터 기반 범죄 예측 프로그램 ‘프레드폴’(PredPol)을 예시로 들었다.

미국 경찰은 프레드폴을 이용해 유색인종 거주지역을 우범지대로 분류해 순찰과 검문을 강화했으며, 그 결과 이들 지역의 범죄율이 백인 거주지역에 비패 높게 형성됐다. 이 데이터를 학습한 프레드폴은 또다시 유색인종 거주지역의 범죄율을 높게 예측하는 피드백 순환 구조를 보였다.

또 경찰의 분석 데이터에 경범죄가 포함될 경우, 빈곤 지역은 지역적 특성상 경범죄 행위가 경찰에 보다 쉽게 적발되고, 결과적으로 경찰이 편향적으로 빈곤 지역을 집중 순찰하는 불균형을 강화할 수 있다고 했다.

실제 경찰의 범죄위험도 예측·분석 시스템은 치안 데이터뿐만 아니라 경제활동인구, 실업률, 고용률, 건물노후도, 공시지가 등 경제적 지표를 함께 활용한다. 범죄 데이터에는 강·절도 같은 주요 범죄뿐 아니라 경범죄에 해당하는 시비, 행패, 소란, 무전취식 등 무질서 행위도 포함하고 있다.

보고서는 “이러한 악순환은 공통적으로 낙후된 지역에 대한 낙인효과를 강화시킴과 동시에 데이터 기반 범죄예측을 스스로 정당화시킨다는 특징이 있다”며 “한국의 범죄예측 시스템 또한 이러한 위험성을 피해갈 수 없을 것으로 보인다”고 지적했다.

한편 보고서는 경찰이 추진하는 폐쇄회로(CC)TV 연계 범죄예방 3D얼굴인식 시스템에 대해서도 “아무런 통제 장치 없이 얼굴인식 기술이 도입된다면 다수의 정보주체 시민이 공공장소에서 은밀한 대량감시의 대상이 되는 등 정보인권이 침해될 수 있다”고 우려했다.

특히 “농성에 참가한 노조원이나 철거민은 물론 집회시위 참가자들까지 광범위하게 그 채취와 보관 대상으로 규정한 우리나라 DNA신원확인정보 데이터베이스(DB)의 사례를 상기해 봤을 때, 광범위한 대상이 얼굴인식 등 민감한 생체인식정보의 수집과 저장, 검색 및 활용 대상이 될 우려가 있다”고 했다.


spa@heraldcorp.com