“이용자가 선택? 전세계 전례가 없다”…‘AI 선택권’ 뭐길래 [IT선빵!]
[123RF]

[헤럴드경제=최준선 기자] 인공지능(AI) 기술을 기반으로 음악, 영화 등 콘텐츠를 추천해주는 플랫폼 서비스가 늘어나면서 이에 대한 규제가 우후죽순 생겨나고 있다. AI 알고리즘이 편향성을 강화할 수 있다는 지적을 반영해, 이용자가 직접 알고리즘에 개입할 수 있도록 해야 한다는 규범까지 등장했다. 업계는 글로벌 빅테크 기업에 대한 규제에서도 찾아볼 수 없는 강력한 규제라며 반발하고 있다.

16일 관련 업계에 따르면, 방송통신위원회는 최근 마련한 ‘AI 기반 미디어 추천 서비스 이용자 보호 기본원칙’과 관련해 세부 실행 가이드와 지원 정책을 올 하반기 내에 수립할 계획이다. 이 원칙은 플랫폼이 디지털 미디어 콘텐츠를 편향적, 차별적으로 제공하는 것을 방지하기 위해 마련됐다. 미디어콘텐츠에는 뉴스를 비롯해 웹툰, 동영상, 영화, 음악 등이 포함된다.

“이용자가 선택? 전세계 전례가 없다”…‘AI 선택권’ 뭐길래 [IT선빵!]

플랫폼의 데이터 남용을 막기 위한 움직임은 전 세계적으로 일어나고 있다. 유럽연합(EU)은 지난 4월 국가나 지역그룹으로는 최초로 AI 시스템에 대한 포괄적 규제안을 내놨다. 인간의 안전과 생계를 위협할 수 있는 모든 AI를 금지하고, 기본권을 해칠 수 있는 AI는 서비스 출시 전에 평가를 받는 등 의무 사항을 지켜야 한다는 것이 골자다. 같은달 미국 연방거래위원회도 편견을 부추기는 AI 알고리즘 형성을 주의하고 AI가 모은 데이터를 어떻게 사용하는지 투명하게 밝힐 것을 기업들에게 제안했다.

“이용자가 선택? 전세계 전례가 없다”…‘AI 선택권’ 뭐길래 [IT선빵!]

“알고리즘 주요 내용 공개하라” vs “영업비밀 유출로 경쟁 위축”

하지만 방통위의 규제는 이같은 글로벌 추세와 비교해도 강도가 높다고 업계는 비판하고 있다. 우선 투명성과 관련, AI 추천 서비스를 제공하는 사업자는 콘텐츠 노출 순서에 어떤 정보가 반영되는지를 공개해야 한다. 이용자의 과거 소비·검색 이력, 콘텐츠별 조회수, 연령, 성별 등이 알고리즘에 반영된다면 이를 이용자에게 숨김없이 공개하라는 것이다.

AI 추천 서비스를 운영하는 한 플랫폼 관계자는 “추천 서비스의 질을 결정짓는 주요 기준은 각 기업의 영업 기밀”이라며 “이를 공개하는 것은 기업의 재산권을 침해할 뿐만 아니라 기업 간 기술 경쟁을 위축시킬 것”이라고 말했다.

글로벌에서도 전례 없는 ‘소비자 AI 선택권’

나아가 방통위는 AI 추천 서비스의 공정성을 확보하기 위해 ‘소비자의 선택권’을 포함시켰다. 이에따라 사업자는 알고리즘에 반영되는 여러 항목 중 이용자가 배제하고 싶은 게 있다면 요구를 반영해야 한다. 이용자가 ‘성별과 나이는 빼고, 콘텐츠별 조회수만 추천 알고리즘에 반영하고 싶다’고 하면 이를 반영해야 한다. 선택권이라는 표현만으로는 ‘육식 관련 콘텐츠는 추천에서 빼달라’는 등 적극적 요구가 가능한 것처럼 여겨질 수 있지만, 기술적 부담 등을 감안해 사업자가 제시한 항목에 대해 추천에서 배제시킬 권한까지만 갖추게 하겠다는 것이 방통위 측 설명이다.

이용자의 선택권까지 플랫폼 규제에 반영한 것은 우리나라가 처음이다. 방통위 관계자는 “투명성, 공정성과 관련해서는 EU나 일본이 먼저 움직였지만, 선택권 측면에서는 우리나라가 가장 앞서있다고 볼 수 있다”고 했다.

업계 관계자들은 이같은 선택권 개념이 AI 추천 서비스의 질을 떨어트릴 것이라고 우려한다. 예컨대 온라인동영상서비스(OTT)가 최근 검색한 영화, 앞서 시청한 영화에 매겼던 별점, 중간에 멈춤 없이 한 번에 시청한 영화의 특성 등 데이터를 알고리즘에 반영한다고 해보자. 이들 데이터를 서로 어떻게 조합하고 어디에 가중치를 둘 것인지는 타사 서비스와의 차별화 포인트다. 하지만 이용자가 ‘나는 내가 멈춤 없이 본 영화 데이터로만 추천을 받고 싶다’고 한다면, 이 회사가 개발해온 알고리즘은 무용지물이 되고, 플랫폼은 단순한 ‘필터링 기능’을 제공하는 서비스로 전락한다.

또 다른 플랫폼 서비스 관계자는 “AI 알고리즘에 반영되는 정보들은 단순히 인기순, 댓글순처럼 내림차순 정렬이 가능하거나 칼같이 영역이 구분되는 것이 아닌데, 규제에 맞추기 위해 거꾸로 알고리즘을 손봐야 하는 상황이 벌어질 수 있다”고 말했다.

자율규제라지만…이용자 보호업무 평가 반영될 듯

방통위는 이번 기본원칙이 강제성이 없는 자율규제라는 점을 강조하고 있다. 하지만 사업자들이 느끼는 압박감은 적지 않다. 플랫폼 서비스에 대한 정부의 개입을 어디까지 용인해야 하는가에 대한 사회적 합의가 아직 이뤄지지 않은 상황에서, 자율규범이라는 이름으로 규제 권력부터 확보하려는 것 아니냐는 의구심이다.

앞서 방통위가 망중립성 원칙과 관련해 규제 근거를 마련한 과정을 참고할 만하다. 망중립성이란 통신 사업자가 인터넷망을 이용하는 기업이나 이용자를 동등하게 대우해야 한다는 의미로, 이해관계가 첨예하게 엇갈려 여전히 전 세계적으로 논란이 이어지고 있다. 우리나라는 이와 관련해 가이드라인만 있고 법제화 되지는 않았다고 하지만, 실질적으로는 지난 2016년 방통위가 전기통신사업법상 금지행위에 망중립성 원칙을 추가한 뒤 사후 규제가 가능한 상황이다. 한 플랫폼 업계 관계자는 “AI 규제가 비슷한 전철을 밟지 않으리란 법이 없지 않느냐”고 했다.