바야흐로 AX(인공지능 대전환)의 시대다. 반도체와 데이터센터 같은 IT인프라와 그 위에서 운영되는 플랫폼 및 어플리케이션이 AI(인공지능)를 통해, 그리고 AI를 위해 고도화되고 있다. 상품과 서비스의 AX는 소비자에게 소구할 수 있는 AI 기능을 추가하는데 그치지 않고 그 본질과 가치를 AI를 통해 개선하고 변화시키는 방향으로 이루어지고 있다. 기존에 존재하지 않았던 상품과 서비스가 AI를 기반으로 새롭게 등장하여 수요를 창출하고 산업을 재편하기도 한다. AX는 AI의 성능과 규모가 확대되면서 양적 질적으로 확대되고 가속화 될 것으로 예상된다.

AX가 지속 가능하고 우리 사회와 그 구성원들에게 도움이 되는 방향으로 진행되기 위해서는 AI의 성능과 기능의 고도화 뿐만 아니라 AX가 우리에게 가져올 영향에 대한 신뢰성 확보가 필수다. 구성원들이 AI기술을 신뢰하지 못한다면, 제한적인 영역에만 이를 도입할 수 밖에 없고, 일회성이 아니라 지속가능한 형태로 AI가 활용되기도 어렵다. 하지만 정량화된 지표로 평가되고 측정될 수 있는 AI 성능과는 달리, AI 기술과 그 영향에 대한 신뢰성은 사회의 규범적, 윤리적 가치와 관련되고 다양한 사회 구성원과 조직의 이해에 따라 달라질 수 있다는 점에서 그 정의부터 쉽지 않다. AI의 공급자와 이용자, 공공과 민간, 기업과 개인 간에도 AI의 신뢰성을 판단하는 기준과 그 영향 및 의미가 다를 수 있다.

과학기술정보통신부가 지난 8월 발표한 ‘대한민국 인공지능 윤리원칙’은 AI가 신뢰할 수 있는 기술로 도약하기 위하여 고려할 3대 가치와 7대 원칙을 제시하고 있다. 이는 지난 1월 시행된 인공지능 기본법에 근거한 것으로, 2020년 12월 발표된 ‘인공지능 윤리기준’ 이후 등장한 기술 및 환경, 가치의 변화를 반영했다.

AI 윤리기준의 기본이 되는 3개 가치는 ▷인간의 존엄성 ▷사회의 공공성 ▷인류의 지속가능성이다. 특히 종전의 2020년 윤리기준이 제시한 ‘기술의 합목적성 원칙’을 대신해 포함된 ‘인류의 지속가능성의 원칙’은 AI 기술과 산업이 우리 사회와 인류의 지속적인 번영과 행복에 기여하는 방향으로 개발되고 발전해야 한다는 점을 천명한다. 다양한 산업 분야에서 지속가능성 경영이 화두가 되는 상황에서 AI만 예외가 될 수는 없다.

3개 가치에 따라 마련된 7대 세부원칙은 ▷인간중심성 ▷프라이버시 보호 ▷공정성, 포용성 ▷책임성 ▷안전성 ▷신뢰성 ▷투명성이다. 2020년 윤리기준의 10대 핵심요건들의 본질은 유지하면서 좀더 체계와 구성이 정비되었다. 특히 2026년 1월 시행된 디지털 포용법과, AI 분야의 사회적 디지털 약자 보호 및 디지털 리터러시 확보의 중요성을 고려할 때, 윤리원칙에 ‘포용성’이 명시된 것은 의미가 크다.

AI 산업의 지속가능한 발전과 성장은 AI 성능 향상과 기술 발전만으로 이뤄질 수 없다. AI 기술에 대한 우리 사회의 신뢰와 믿음 없이는 불가능하다. 인공지능 윤리원칙은 AX 시대 AI가 우리 사회와 구성원들의 신뢰를 확보하기 위해 우선적으로 고려될 수 있는 핵심적인 원칙과 기준들을 상세히 제시하고 있다. 이번 인공지능 윤리원칙이 AI의 신뢰성을 고민하는 사업자들과 이용자들에게 유용한 나침반이 되기를 바란다.

노태영 김앤장 법률사무소 변호사


go@heraldcorp.com