보안 규칙 준수, 허위 정보 유포 확인

출시 1년도 안돼 본격 규제 시작

[AP]
[AP]

[헤럴드경제=원호연 기자]미 연방거래위원회(FTC)가 생성형 인공지능(AI) 챗GPT의 개발사 오픈AI에 대한 조사에 착수했다. 챗GPT 출시 1년도 안돼 본격적인 AI 규제가 시작됐다는 평가다.

13일(현지시간) 뉴욕타임스(NYT) 등 외신 보도에 따르면 FTC는 챗GPT가 데이터 수집 과정에서 보안 정책을 준수했는지, 허위 정보 게시를 통해 소비자에게 피해를 입혔는지 여부를 확인하기 위해 챗GPT 개발사인 오픈AI에 대해 조사를 시작한 것으로 확인됐다.

최근 오픈AI 본사에 보낸 20페이지 분량의 서한에서 FTC는 오픈AI의 보안관행에 대해 조사하고 있다고 밝혔다. FTC는 서한을 통해 오픈AI가 AI 모델을 훈련하고 개인 데이터를 처리하는 방법에 대한 질문 수십 개에 대해 답변을 요청했다.

리나 칸 FTC 의장은 이날 하원 청문회에서 인공지능 업계에 대한 조사 필요성을 강조했다. 그는 “챗GPT 및 유사 서비스 중 일부는 엄청난 양의 데이터를 공급받고 있지만 어떤 유형의 데이터가 포함됐는지 확인할 수 없다”며 “사람들의 민감한 정보가 포함됐다는 보고가 있었다”고 밝혔다. 그러면서 “기술 회사가 성숙할 때 뿐 아니라 초기 단계일 때 규제해야 한다”고 덧붙였다.

그는 앞서 뉴욕타임스 기고문에서 “이러한 도구(생성형 AI)는 참신하지만 기존 규칙을 피해가 수 없고 FTC는 새로운 시장에서도 법률을 강력하게 집행할 것”이라고 밝힌 바 있다.

지난 3월 기술의 윤리적 사용을 촉구하는 단체인 AI 및 디지털 정책센터는 편견과 허위 정보를 유포하고 보안에 관련된 우려가 있다는 이유로 챗GPT의 새로운 버전 출시를 차단해 달라고 FTC에 요청했다.

같은 달 3월 이탈리아 당국은 오픈 AI가 개인 데이터를 불법적으로 수집했으며 미성년자가 불법 자료에 노출되는 것을 방지하기 위한 연령 확인 시스템을 마련하지 않았다며 챗GPT의 이탈리아 내 사용을 금지했다.

마크 로텐버그 AI 및 디지털 정책 센터 회장은 “회사 스스로 제품 출시와 관련된 위험을 인정하고 규제를 요구했다”며 FTC가 조치를 취해야 한다고 강조했다.

오픈AI를 이끄는 샘 알트만은 지난 5월 의회에서 AI 법안 발의를 촉구하는 증언을 했다. 그는 “이 기술이 잘못 되면 상당히 위험할 수 있다”며 “우리는 그런 일이 일어나지 않도록 정부와 협력하고 싶다”고 말했다.


why37@heraldcorp.com