“AI야, 이거 사줘” 했는데 엉뚱한 결제…내 돈 날리면 누가 책임지나[나우,어스]

입력 2026-09-27 14:00:00

AI가 검색부터 결제까지 대신하는 시대

글로벌 은행들 사기·개인정보 위험 경고

잘못된 구매 발생해도 책임 소재 불분명

英존루이스 AI 유입 1년 새 0.3%→2.5%

[헤럴드경제=서지연 기자] 인공지능(AI)이 상품을 검색하고 가격을 비교하는 것을 넘어 소비자를 대신해 직접 결제하는 ‘AI 쇼핑’이 확산하면서 금융권의 우려가 커지고 있다. AI가 잘못된 상품을 구매하거나 사기 거래에 노출될 경우 책임 소재가 불분명한 데다 소비자의 금융정보가 AI와 연결되면서 개인정보 유출 위험도 커질 수 있다는 지적이다.

26일(현지시간) 로이터에 따르면 뱅크오브아메리카(BofA), 캐피털원, ING 등 글로벌 금융회사들은 AI가 소비자를 대신해 구매까지 수행하는 ‘AI 쇼핑 에이전트’가 사기와 개인정보 유출 등 새로운 금융 위험을 키울 수 있다고 경고했다.

AI 쇼핑 에이전트는 소비자가 원하는 조건을 입력하면 상품을 추천하는 데 그치지 않고 가격 비교와 판매처 선택, 결제까지 대신하는 서비스다. 예컨대 소비자가 “100달러 이하 검은색 운동화를 찾아서 주문해줘”라고 요청하면 AI가 조건에 맞는 상품을 찾고 실제 구매까지 수행할 수 있다.

오픈AI와 앤트로픽, 구글, 메타 등 주요 빅테크도 AI가 소비자의 구매 과정 전반을 대신하는 ‘에이전틱 커머스(agentic commerce)’ 기술 개발에 속도를 내고 있다.

AI를 이용해 상품을 찾는 소비자도 빠르게 늘고 있다. 영국 대형 유통업체 존루이스에 따르면 AI 서비스를 통해 자사 사이트로 유입되는 검색 비중은 1년 전 0.3%에서 최근 2.5%로 상승했다. 비중 자체는 아직 크지 않지만 1년 만에 8배 이상으로 늘었다.

AI 쇼핑이 확산하면서 은행권이 가장 우려하는 부분은 결제 과정에서 발생할 수 있는 금융사기와 소비자 보호 문제다.

AI가 소비자를 대신해 상품을 구매하려면 신용카드나 은행계좌 등 결제수단과 연결돼야 한다. AI가 금융정보에 접근할 수 있는 범위가 넓어질수록 해킹이나 개인정보 유출에 따른 피해 가능성도 커질 수 있다.

AI가 소비자를 보호 수준이 상대적으로 낮은 결제수단으로 유도할 가능성도 제기된다. 결제 방식에 따라 상품을 받지 못하거나 사기를 당했을 때 소비자가 환불받거나 금융회사로부터 보호받을 수 있는 범위가 달라질 수 있기 때문이다.

AI 에이전트 자체가 해킹되거나 조작될 위험도 있다. 공격자가 AI의 판단 과정에 개입할 경우 소비자가 직접 확인하지 않은 상태에서 특정 판매처에서 상품을 구매하거나 원하지 않는 결제를 진행할 가능성이 있다는 것이다.

AI가 잘못된 구매를 했을 때 책임을 누가 부담할지도 명확하지 않다.

소비자가 최저가 항공권 구매를 요청했는데 AI가 환불이 불가능한 항공권을 선택하거나, 허위 쇼핑몰을 정상적인 판매자로 판단해 결제할 경우 피해 책임을 소비자와 금융회사, 판매업체, AI 기업 가운데 누가 져야 하는지를 둘러싼 문제가 발생할 수 있다.

기존 전자상거래와 금융 소비자 보호 제도는 사람이 상품을 선택하고 결제를 승인하는 거래를 기본 전제로 하고 있다. AI가 소비자의 포괄적인 지시를 받은 뒤 구체적인 상품과 판매처, 결제수단을 스스로 결정하는 거래가 늘어날 경우 기존 제도를 그대로 적용하기 어렵다는 게 금융권의 지적이다.

과소비를 부추길 수 있다는 우려도 나온다. AI가 소비자의 구매 이력과 취향, 가격대 등을 학습한 뒤 상품 추천을 넘어 구매까지 수행하게 되면 소비자가 최종 결제 과정에서 판단할 기회가 줄어들 수 있기 때문이다.

이에 글로벌 금융회사들은 AI 쇼핑이 본격적으로 확산하기 전에 관련 거래를 구분하고 추적할 수 있는 안전장치를 마련해야 한다고 요구하고 있다.

은행이나 판매업체가 거래 과정에 AI 에이전트가 개입했다는 사실을 확인할 수 있도록 하고, AI가 어떤 과정을 거쳐 상품과 결제수단을 선택했는지도 추적할 수 있어야 한다는 주장이다.

AI가 소비자를 대신해 사용할 수 있는 금액과 구매 가능한 상품의 범위를 미리 설정하는 방안도 거론된다. 소비자의 실제 지시에 따라 이뤄진 거래인지를 금융회사가 확인할 수 있도록 별도의 인증 체계를 마련해야 한다는 지적도 나온다.

AI 기업과 금융회사들도 관련 결제 기술 개발에 나서고 있다. AI가 소비자를 대신해 결제하더라도 사전에 설정된 거래 한도를 넘지 못하도록 하거나 소비자의 승인 여부를 확인할 수 있는 방안 등이 논의되고 있다.

AI가 상품 추천에서 실제 구매까지 영역을 넓히면서 전자상거래 시장의 변화도 빨라질 전망이다. 소비자가 직접 여러 쇼핑몰을 방문해 가격과 배송 조건을 비교하던 과정 상당 부분을 AI가 대신할 수 있어서다.

다만 AI가 소비자의 금융정보에 접근해 직접 돈을 쓰는 단계로 진입하면서 금융사기 방지와 개인정보 보호, 피해 발생 시 책임 소재를 둘러싼 제도 정비가 AI 쇼핑 확산의 주요 과제로 떠오르고 있다.