[미디어스=송창한 기자] 방송통신위원회가 '인공지능(AI) 기반 미디어 추천 서비스 이용자 보호를 위한 기본원칙'(이하 'AI 추천 기본원칙')을 30일 마련했다.

'자율규제'에 초점을 맞춘 안으로 AI 추천 서비스 제공자(플랫폼 사업자 등)는 자율검증 체계 마련하고, 이용자 불만·분쟁을 해결하기 위한 조치를 취해야 한다. 정부는 기본원칙 이행에 필요한 가이드를 제공하고, AI 추천 서비스의 투명성·공정성을 향상시키는 방안을 모색하기 위해 '정책자문기구'를 둘 수 있다.

방통위와 정보통신정책연구원(KISDI)가 발표한 'AI 추천 기본원칙'은 투명성·공정성·책무성 등 3대 핵심원칙과 ▲이용자를 위한 정보공개 ▲이용자의 선택권 보장 ▲자율검증 실행 ▲불만처리 및 분쟁해결 ▲내부규칙 제정 등 5대 실행원칙을 바탕으로 짜였다.

방통위는 "최근 디지털 미디어는 플랫폼을 중심으로 내용과 형식이 재편되고 있으며, 이에 따라 미디어 이용자 권익 보호를 위한 새로운 규율이 필요한 시점"이라며 "특히 '디지털 미디어 플랫폼'에서 제공되는 인공지능 기반 추천 서비스의 불투명성, 편향성 등이 문제로 지적되면서 최근에는 플랫폼 이용자의 정보접근권과 선택권을 적극 보장하기 위한 입법논의도 활발히 이루어지는 추세"라고 취지를 설명했다.

기본원칙에 따르면 우선 플랫폼 사업자는 AI 추천 서비스 이용자에게 관련 정보를 투명하게 공개해야 하고, 추천 기준 항목에 대한 이용자 선택권을 보장해야 한다. AI 추천 시스템이 적용되고 있다는 점 등을 이용자가 알기 쉽도록 표시하고, 콘텐츠 자동 배열에 적용된 주요 사항에 대해 선택·변경 기능을 이용자가 이용하기 쉬운 방식으로 제공해야 한다.

이어 사업자는 AI 추천 서비스가 이용자에게 미치는 영향을 평가·조정해 위험성을 상시 관리할 수 있도록 '자율검증 체계'를 마련해야 한다. 이 때 추천 시스템 개발·적용 과정을 기록하고 이를 일정기간 보관해 추천 서비스 자율검증 시 활용할 수 있도록 해야한다.

사업자는 AI 추천 서비스에 대한 이용자 불만이나 이용자 간 분쟁에 대해 해결 의무를 진다. 문제해결을 위한 창구를 열어놓고, 이용자가 쉽게 접근할 수 있도록 해야 한다.

아울러 사업자는 현행 법령과 기업윤리, AI 윤리 등을 고려해 AI 추천 시스템 사용·관리와 관련한 내부 규칙을 자율적으로 제정해 공개해야 한다. 내부규칙에는 이번 기본원칙 준수를 위한 세부지침과 기술적·관리적 수단, 자율검증을 위한 조직체계, 분쟁해결 절차 등의 내용을 포함하도록 했다.

정부는 이번 기본원칙을 바탕으로 이해관계자와 전문가 의견 등을 수렴해 실행 가이드와 지원 정책 등을 수립하게 된다. 이를 위해 정부는 AI 추천 서비스의 투명성·공정성을 향상시키는 방안 모색을 목표로 '정책자문기구'를 둘 수 있다.

이날 방통위 관계자는 미디어스와의 통화에서 '사업자의 기본원칙 미준수 시 책무를 강제할 수 있는 조치들이 이뤄질 수 있나'라는 질문에 "아니다. 말그대로 가이드라인 성격의 규범이라서 법률과 달리 강제적으로 저희가 할 수 있는 건 없다"며 "사업자 준수를 위해 계속 간담회도 하고 협조도 요청하겠지만 직접적으로 강제하는 건 없고, 보통 간접적으로 평가제도 등을 통해 준수를 잘 하는 사업자는 좋은 평가를 주는 방식 같은 걸 활용할 수 있다"고 설명했다.

'정책자문기구' 성격에 대한 질문에 대해 이 관계자는 "기본원칙은 발표를 했지만 구체적인 실행 가이드를 마련한다거나, 향후 또다른 추천 서비스 투명성·공정성 이슈 발생 시 논의하는 성격"이라며 "전문가나 학계 등에서 정부가 향후 지원정책이나 이용자 역량강화 등을 하려면 정책자문을 받는 건 당연하니, 선언적 규정이지만 둘 필요가 있다고 해서 만들어진 규정으로 당장 의미를 두고 만들어진 게 게 아니다"라고 답했다.

방통위는 향후 추천 서비스 제공자가 ‘추천 서비스 기본원칙’을 자율적으로 이행할 수 있도록 5대 실행 원칙에 관한 실행 가이드를 마련할 계획이다. 방통위는 "실행 가이드에는 서비스의 특성, 콘텐츠의 유형, 위험성의 수준 등에 따라 ‘추천 서비스 기본원칙’이 차등적으로 적용될 수 있는 합리적 기준과 예시적 조치를 수록할 예정"이라고 밝혔다.

한편, 이번 기본원칙과 같은 '자율규범' 방식의 AI 규제에 대해 시민사회는 차별·편향성·불공정성 등 AI 역기능을 방지하기 어렵다며 법제도와 국가감독체계 마련을 촉구하고 있다.

지난달 24일 참여연대·민주사회를위한변호사모임·진보넷 등 120개 시민단체는 '인권과 안전, 민주주의가 보장되는 인공지능 정책' 시민사회 선언을 발표하고 ▲국가감독체계 마련 ▲정보공개와 참여 ▲AI 평가 및 위험성 통제 ▲권리구제 절차 보장 등을 요구했다. 이들은 "기업자율적인 윤리가 인권과 법률의 준수 의무를 회피하는 이유가 되어서는 안된다"며 개인정보 보호와 혐오차별 금지를 위한 관련 법률이 마련되어야 한다고 강조했다.

☞ 네이버 뉴스스탠드에서 ‘미디어스’를 만나보세요~ 구독하기 클릭!