한경협, AI 기본법 관련 회원사 의견 수렴

개선과제 19건 선정, 과기부 건의

사내 업무용 AI 법적 지위 명확화 필요

개발·서비스 기업, 위험 관리 책임 구분해야

신약 연구·독성 예측 AI 규제 판단 사례 구체화

서울 영등포구 여의도 FKI타워. [한국경제인협회 제공]
서울 영등포구 여의도 FKI타워. [한국경제인협회 제공]

[헤럴드경제=이정완 기자] 한국경제인협회(이하 한경협)가 지난 1월부터 시행된 AI(인공지능) 기본법과 관련한 회원사 의견을 수렴해 개선과제 19건을 과학기술정보통신부에 건의했다고 29일 밝혔다.

기업의 인공지능(AI) 활용이 빠르게 확산되고 있지만 규제 적용 대상과 책임 범위가 불명확해 혼란과 부담이 가중되고 있다는 게 현장의 목소리다. 기업이 안심하고 AI를 개발하고 활용할 수 있도록 관련 기준을 명확히 해야 한다는 주장이다.

한경협이 전달한 건의사항에는 ▷AI 규제 대상과 적용 범위 명확화 ▷AI 사용 사실 고지·표시 의무 합리화 ▷고성능 AI 및 고영향 AI 규제 구체화 ▷학습 데이터 활용기준 정비 ▷AI 규제 확대의 예측가능성 확보 등 담겼다.

핵심 과제는 사내 업무용 AI의 법적 지위 정립이다. 기업이 자체 개발한 AI를 임직원이나 계열사와 함께 쓰는 사례가 늘고 있지만 내부용 AI에도 외부 상용 서비스와 같은 인공지능사업자 의무가 적용되는지 불분명하다는 것이다. 특히 지주사와 계열사가 공동으로 구축·사용하는 경우 적용 기준을 판단하기가 더 어렵다고 한경협은 설명했다.

AI를 개발해 제공하거나 이를 이용해 제품·서비스를 제공하는 인공지능사업자는 AI 종류와 법령상 요건에 따라 위험관리, 이용자 보호, 안전성 확보 등의 의무를 이행해야한다.

한경협은 사람의 생명·신체의 안전과 기본권에 위험을 초래할 우려가 있는 고영향 AI가 아닌 일반 사내 업무용 AI는 외부 제공 서비스와 구분해야 한다고 건의했다. 일정한 보안·관리 요건을 갖춘 계열사 간 공동 활용도 내부 업무로 인정해달라고 제안했다.

AI를 개발한 기업과 사용하는 기업의 의무도 구분해야 한다는 지적이다. 현행법은 AI를 개발하는 기업과 이를 활용해 서비스를 제공하는 기업 모두에 고지·표시, 위험관리 등의 의무를 부과하고 있지만 맡은 역할과 관리 범위에 맞게 의무를 나눠야 한다고 주장했다.

예를 들어 일반 업무용으로 개발된 AI를 고영향 AI로 바꿔 서비스를 제공한다면 그에 따른 위험관리 책임은 실제 용도를 변경한 기업이 지는 것이 타당하다는 설명이다.

한경협은 과기부의 해석 지침인 ‘고영향 AI 판단 가이드라인’에 관련 안내가 있는 만큼 이를 법령에 반영해야 한다고 강조했다. 실제로 유럽연합(EU)도 이미 시장에 나온 AI를 고위험 AI로 바꾼 자를 해당 AI의 제공자로 보고 의무를 부과하는 규정을 두고 있다.

제약·바이오 현장에서는 고영향 AI 해당 여부를 판단할 기준이 필요하다고 건의했다. 신약 후보물질 탐색과 독성 예측 등 연구개발 전반에 AI 활용이 확산되고 있지만 기업이 규제 대상인지 판단하기는 어렵다는 것이다. 현행 가이드라인은 연구개발 단계에서 도구로 활용되는 AI를 고영향 AI 의무 대상에서 제외한다고 안내하고 있으나 이 설명만으로는 구체적인 판단에 한계가 있다.

한경협은 세포·동물 실험을 하는 전임상 단계의 독성 예측 등 연구지원 AI, 의료기기 개발을 위한 기초 코딩 지원, 연구 데이터 분석 등을 고영향 AI에 해당하지 않는 사례로 가이드라인에 명시해달라고 요청했다. 보건복지부와 식품의약품안전처 등 관계기관의 의견을 한곳에서 신속하게 확인할 수 있는 ‘원스톱 확인 창구’도 제안했다.

또한 한경협은 기업이 AI의 안전관리 의무를 이행하기 위해 무엇을 준비해야 하는지 알 수 있도록 구체적인 기준과 이행방법을 담은 고시를 서둘러 마련할 것을 건의했다.

권혁민 한경협 성장전략실장은 “AI 기본법의 성과는 기업 현장에서 AI를 믿고 활용하는 사례가 얼마나 늘어나는지에 달려 있다”며 “AI의 실제 위험과 기업의 역할에 맞게 의무를 구체화해 기업이 안전한 AI 활용과 혁신에 집중할 수 있도록 해야 한다”고 강조했다.


jeongwan@heraldcorp.com