클로드·그록·키미 ‘AI에이전트’ 조직적 활용

사이버보안 업체 스트라이커 조사 보고서

한 해킹 그룹이 인공지능(AI) 에이전트를 활용해 중남미 금융기관들에 대한 해킹을 자동화하는 데 성공했다고 IT분야 전문매체 디인포메이션이 21일 보도했다.

매체가 인용한 사이버보안 스타트업 스트라이커의 조사 보고서에 따르면 사이버카르텔이라는 해킹 그룹은 앤트로픽의 클로드, 스페이스X의 그록, 중국 문샷AI의 키미 등을 기반으로 한 AI 에이전트 네트워크를 활용해 중남미 지역 400개 이상의 금융기관을 대상으로 자동화된 방식의 해킹을 했다. 동원된 AI 에이전트는 사람의 개입을 최소화한 상태에서 비밀번호와 고객 데이터를 탈취하고 피해자의 은행 계좌에까지 접근한 것으로 나타났다.

통상 AI 모델들은 사이버 공격 지시를 수락하지 않도록 하는 안전장치를 갖추고 있다. 하지만 사이버카르텔은 해당 작업이 학술적 테스트나 기업 내부 시스템 점검과 같은 무해한 환경에서 이뤄지는 것이라고 속여 안전장치를 피해 갔다. 또 클로드가 해킹 수행을 거부하면 키미에게 대신 해킹하도록 지시하고, 키미도 거부할 경우 에이전트 시스템이 악성코드를 배포하는 식으로 자동 전환하도록 했다.

디인포는 이번 조사 결과가 “AI 모델을 활용하면 다수의 사이버 공격을 매우 빠르게 조직하고 실행할 수 있어 피해 기관의 방어 체계를 압도할 수 있음을 보여주는 것”이라고 평가했다.

스트라이커의 앙쿠르 샤 최고경영자(CEO)는 “현재 공격 기술이 방어 기술을 크게 앞서고 있는 것이 현실”이라며 “기업들은 아직 대비하지 못한 상태”라고 말했다. 앞서 스트라이커는 지난주 앤트로픽, 스페이스X 등 AI 개발사들에 보고서를 보냈다. 앤트로픽 등은 보고서를 받은 직후 자체 조사를 진행했으며, 해커들이 자사 모델을 사용하지 못하도록 즉시 차단 조치를 취했다고 밝혔다. 김영철 기자


yckim6452@heraldcorp.com