line

미디어스

Updated 2022.5.22 일 01:08
상단여백
HOME 뉴스 뉴스
"알고리즘 뒤에 숨는 기업을 너무 많이 봐왔다"120개 시민단체 공동선언, 정부 AI '자율규제' 원칙 비판…역기능 방지 위한 국가 관리·감독체계 마련 촉구
송창한 기자 | 승인 2021.05.25 13:19

[미디어스=송창한 기자] 시민사회가 인공지능(AI) 알고리즘에 대한 법제도 마련을 정부와 국회에 촉구했다. 정부가 발표한 AI 알고리즘 정책은 기업의 자율규제에 초점이 맞춰져 있지만, 자율규제만으로는 차별·편향성·불공정성 등 AI 역기능으로부터 인권을 보호할 수 없다는 지적이다. 업계는 정부의 자율규제안이 시장경제 논리에 맞지 않다며 반발하고 있다. 

24일 참여연대·민주사회를위한변호사모임·진보넷 등 120개 시민단체는 '인권과 안전, 민주주의가 보장되는 인공지능 정책 요구' 시민사회 선언을 발표했다. 이들은 "우리는 인공지능 챗봇 '이루다'가 어떻게 여성, 장애인, 성소수자, 유색인종에 대한 편견과 혐오를 빠르게 배우고 재현하는지를 직접 목격했다"며 "인공지능의 편향성이 사회적 통제 없이 가정에서, 학교에서, 직장에서 사용되는 제품과 시스템에 바로 적용된다면 우리사회 이러한 편견과 혐오가 항구적이 될 것"이라고 밝혔다. 

24일 오후 서울 종로구 참여연대에서 열린 '인권과 안전, 민주주의가 보장되는 인공지능 정책을 요구하는 시민사회 선언' 기자회견 (사진=연합뉴스)

시민사회는 AI도 인권과 법률을 준수해야 한다며 시급히 관련 법과 제도가 마련되어야 한다고 요구했다. ▲국가감독체계 마련 ▲정보공개와 참여 ▲AI 평가 및 위험성 통제 ▲권리구제 절차 보장 등이 필요하다는 것이다. 이들은 "인공지능으로 영향을 받는 당사자들이나 일반 국민은 인공지능의 도입, 운영 결정에 대해 발언과 참여 기회를 전혀 보장받고 있지 못하다"고 지적했다. 이들은 "공공기관들은 인공지능을 적용한 면접이나 서류평가가 공정한지 검증 않고 사용해왔고, 플랫폼 기업의 불투명한 알고리즘은 노동자와 자영업자들에게 고통을 주고 있다"며 "포털 뉴스의 비밀 알고리즘은 공론장의 편향성에 영향을 미치고 있다"고 비판했다. 

현재 과학기술정보통신부, 방송통신위원회 등 AI 관련 정부부처는 '자율규제'에 방점을 찍은 기본원칙을 발표, 가이드라인 마련 등을 위한 작업을 진행 중이다. 과기정통부는 '사람 중심의 인공지능'을 키워드로 자율규범 성격의 '국가 AI 윤리기준'을 발표했다. 방통위는 최근 기업 자율규제에 초점을 맞춘 'AI 기반 추천 서비스 이용자 보호를 위한 기본원칙'을 공개했다. 

하지만 자율규제만으로는 AI의 역기능을 방지하고 이용자 보호할 수 없다는 게 시민사회의 비판이다. 이들은 "기업자율적인 윤리가 인권과 법률의 준수 의무를 회피하는 이유가 되어서는 안된다"며 개인정보 보호와 혐오차별 금지를 위한 관련 법률이 마련되어야 한다고 강조했다. 이들은 "AI로 사람에 대한 처분이나 의사결정에 이르도록 하면서 그 보호 방법이나 구제절차에 대한 논의는 충분히 이뤄지지 못했고, 과기정통부 등이 주도하는 인공지능 정책은 산업계의 요구로 점철되어 있다"고 했다.

이에 시민사회는 해외사례를 들어 공정거래위원회, 국가인권위원회, 개인정보보호위원회 등이 AI 규제 논의에 함께 참여해야 한다고 제언했다. 이들은 "다른 나라의 경우 산업관련 부처가 인공지능 정책에 관여하더라도 부분적이거나 기술과 관련한 역할에 그치고 있다. 이들 국가에서 국민을 위해 인공지능을 감독하는 역할은 주로 시장감독기구, 국가인권기구, 개인정보보호감독기관에서 수행한다"며 "국가는 인공지능 국가 감독 체계를 수립해 공정위, 인권위, 개보위가 반드시 참여하도록 해야한다"고 강조했다. 시민사회는 이 같은 선언 내용을 국회 관련 상임위원회와 정부부처 등에 제출할 계획이다. 

권은정 KISDI 부연구위원이 20일 서울 더케이호텔에서 열린 '인공지능 기반 추천 서비스 이용자 보호를 위한 기본원칙(안)' 공개 토론회에 기본원칙을 설명하고 있다. (방송통신위원회 유튜브 방송화면 갈무리)

AI 정부 정책을 둘러싸고 플랫폼 업계와 시민사회의 입장차이는 작지 않았다. 지난 20일 방통위가 주최한 AI 기본원칙 관련 공개 토론회에서 한국인터넷기업협회·KT 등 플랫폼 기업측은 방통위 기본원칙안이 시장경제 논리와 소비자 선택에 반하고, 기업 경쟁력을 저하시킬 수 있다며 반대 입장을 분명히 했다. 

권세화 한국인터넷기업협회 실장은 "회사는 이윤을 창출하는 곳이다. 디지털미디어 추천은 소비자에게 더 좋은 제품을 소개해 수익을 창출하는 데에 목적이 있다"면서 "결국 기업의 영업기밀 하나하나를 공개하게 할 여지가 있다. 내부 전담조직을 운영하게 해 사실상 정부가 언젠가 기업을 관리하고 감독하겠다는 의지"라고 비판했다. 

반면 한국소비자연맹·소비자시민모임 등 소비자시민사회에서는 알고리즘 공개 의무가 제외돼 이용자 보호 실효성에 의문이 들고, 소비자 피해구제 책임소재가 불명확하다고 지적했다. 

정지연 한국소비자연맹 사무총장은 "방통위가 마련한 핵심원칙과 실행원칙에 대체적으로 공감하지만, 투명성 부분에 있어 알고리즘을 제외하는 부분을 강조하고 있는 것이 의문"이라며 "AI 기반 추천서비스의 핵심은 알고리즘이다. 어떤 문제가 발생했을 때 기업들이 알고리즘 뒤에 숨는 경우를 너무 많이 봐왔다"고 짚었다. 

☞ 네이버 뉴스스탠드에서 ‘미디어스’를 만나보세요~ 구독하기 클릭!

송창한 기자  sch6966@gmail.com

<저작권자 © 미디어스, 무단 전재 및 재배포 금지>

송창한 기자의 다른기사 보기
icon인기기사
기사 댓글 0
전체보기
첫번째 댓글을 남겨주세요.
여백
여백
여백
여백
여백

서울특별시 영등포구 국회대로 72길 22 가든빌딩 608호 (우) 07238  |  대표전화 : 02-734-9500  |  팩스 : 02-734-2299
등록번호 : 서울 아 00441  |  등록일 : 2007년 10월 1일  |  발행인 : 안현우  |  개인정보책임자 : 안현우  |  청소년보호책임자 : 윤수현

「열린보도원칙」 당 매체는 독자와 취재원 등 뉴스이용자의 권리 보장을 위해 반론이나 정정 보도, 추후보도를 요청할 수 있는 창구를 열어두고 있음을 알려드립니다.
고충처리인 안현우 02-734-9500 webmaster@mediaus.co.kr

미디어스 후원 계좌 안내 : 하나은행 777-910027-50604 안현우(미디어스)
Copyright © 2011-2022 미디어스. All rights reserved. mail to webmaster@mediaus.co.kr

ND소프트
Back to Top