인권경영이 ESG시대에 다시 한번 주목을 받고 있다. 인권경영이라고 하면 군사정권 시절에 근로기준법을 준수하지 않고 근로자를 착취해 이익을 도모한 악덕기업들을 떠올릴지 모르겠다. 하지만 인권경영은 법을 준수해 이뤄지는 경영, 즉 준법경영보다 좀 더 넓은 개념이다. 단지 법규 준수에 그치는 것이 아니라 기업 경영을 하는 데에서 인간의 존엄과 가치를 중시하고 보호하는 경영을 의미한다. 여기서 기업이 보호할 인권의 주체는 다양하다. 가장 직접적으로는 근로자의 인권, 더 나아가 소비자의 인권과 그 기업활동의 파트너, 협력사 인력의 인권이나 기업이 소재하는 지역주민의 인권까지 포함할 수 있다(국가인권위원회, 인권경영 가이드라인 참고). 지속가능 경영과 기업의 사회적 책임은 ESG의 중요한 요소이고, 인권경영은 그 중심에 있다.

최근 인공지능이 기업의 운영 및 서비스에 다양한 형태와 방식으로 도입 및 적용되면서 인공지능이 인권경영에 있어 위협이 될 수 있다는 우려가 제기되고 있다. 인권의 주체에 따라 구분하여 살펴본다.

우선 근로자 인권의 문제다. 최근 인공지능을 통한 배달대행기사(라이더) 배차 시스템 논란이 대표적이다. 음식배달 플랫폼 기업들은 이러한 인공지능 기반 배차 시스템을 통해 수많은 배달대행기사와 주문 건을 최적의 경로와 시간으로 연결해 효율적인 운영 및 관리가 가능하다고 주장한다.

하지만 배달대행기사들의 생각은 다르다. 그들은 이러한 인공지능 시스템이 효율성이라는 미명하에 자신들을 무리한 배송시간 요구 등 비인간적인 업무환경에 몰아넣고 있다고 반박한다. 각자의 주장은 모두 일리가 있어 보인다. 인공지능은 운영효율성을 극대화하고, 사람에 의한 관리·감독에 비해 훨씬 더 정교하게 실시간으로 근로자의 성과를 검토 및 평가하고 적시에 업무에 배치할 수 있다. 이러한 프로세스는 근로자에 관한 검토 및 평가의 데이터가 축적돼 갈수록 더욱 고도화되고 이를 통해 노동의 성과와 효율은 극대화될 수 있다. 하지만 그 결과로 조성되는 업무환경은 성과주의로 극단화되고 근로자는 인격의 주체가 아닌 단순한 노동자원으로 대상화될 우려도 있다.

소비자의 인권도 예외가 아니다. 소비자기본법 제4조는 소비자의 기본적 권리를 규정하고 있는데, 인공지능은 예를 들어 (1) 상품을 선택함에 있어서 필요한 지식 및 정보를 제공받을 권리(제1호), (2) 그 거래상대방, 구입장소, 가격 및 거래조건 등을 자유롭게 선택할 권리(제2호) 등을 저해할 우려가 있다. 온라인을 통한 마케팅은 이미 그 고객의 “웹 사이트 방문 이력, 앱 사용 이력, 구매 및 검색 이력 등” 다양한 온라인상 행태정보를 기계학습 및 인공지능을 통해 정교하게 분석해 맞춤형으로 이뤄지기 시작한 지 오래다. 법령에 따른 절차와 방법을 통해 이러한 정보의 이용이 이뤄진다고 하더라도, 판촉과 영업의 극대화를 위해 소비자의 구매 의사를 최대한 자극해 비합리적인 구매를 유도할 수도 있는 이러한 행위가 소비자 인권에 부합하는지 시민단체들은 의문을 제기한다. 최근에는 옆구리를 슬쩍 찌르는 행위를 의미하는 넛지(nudge)와 부정적인 의미의 다크(dark)를 결합한 ‘다크넛지’라는, 소비자도 인식하기 어려운 은밀하고 비합리적인 구매 유도행위를 칭하는 신조어도 등장했다.

그렇다면 인권경영을 위해 인공지능은 어떻게 도입되고 운영돼야 하는가. 인공지능의 투명성과 신뢰성 확보, 그 대상이 된 주체(근로자와 소비자)에 대한 인공지능 시스템 설명 및 고지 의무에 대한 논의들이 모두 의미가 있다. 정부의 AI 윤리 기준이나 가이드라인, 점검표 등도 참고가 될 것이다. 하지만 결국 그 고객, 서비스 및 사업의 특성과 요소들을 종합적으로 고려해 가장 적합하고 적절한 윤리적 기준과 지표를 만들 수 있는 주체는 기업 스스로일 뿐이다. 인공지능 시대에 기업들에 이는 오래 미루기는 어려운 중요한 숙제 중 하나가 될 것이다.

노태영 김앤장 법률사무소 변호사


bonsang@heraldcorp.com