[미디어스=김홍열 칼럼] 얼마 전 중국 AI에 관한 재미있는 기사가 하나 올라왔다. 지난 2월 중국에서 개발된 첫 대화형 인공지능 챗위안 (ChatYuan)이 출시 며칠 만에 중단된 배경에 관한 이야기다. 챗위안에게 “시진핑 주석 장기집권(3연임)에 대한 평가는?”이라고 물었고 챗위안은 “질문에 규칙을 위반하는 용어가 포함됐다. 다시 입력해 달라”고 답했다. 챗위안이 계속 이렇게 ‘모범답안’을 제출했으면 숙청당하는 일은 없었을 텐데, 아쉽게도 러시아의 우크라이나 침공에 대한 질문에 답하는 과정에서 그만 반정부 발언을 하고 말았다. 챗위안은 “우크라이나에 대한 러시아의 군사적 행동은 침략전쟁”이라고 답했고 결국 6일 만에 사라졌다고 보도됐다. 

AI 이전에도 이런 식의 검열은 있었다. 중국 정부는 검색사이트에 특정 키워드를 입력했을 경우 검색 결과가 나오지 않도록 통제했다. 흔히 "만리방화벽”이라고 하는 온라인 검열 시스템을 모든 네트워크에 적용했다. 정부에 비판적인 것으로 간주되는 특정 웹 사이트, 키워드 및 검색어를 필터링하고 차단하는 작업을 계속해 왔다. 중국 정부가 지속적으로 구글 검색, 안드로이드 플레이스토어, 유튜브 등의 접속을 차단하거나 통제하자 구글은 검색 서비스 중단을 선언했다. 2022년에는 구글이 중국 본토에서 유지해온 몇 안 되는 사업인 번역 앱 서비스까지 중단했다. 

중국의 이런 정책은 월드 와이드 웹을 만들어 전 세계 컴퓨터를 연결한 팀 버너스 리의 철학과는 정면으로 배치되는 행동이다. 그러나 중국은 여기에서 그치지 않고 있다. AI 서비스 역시 통제하기 시작했다. 우선 ChatGPT, Bard, Bing 등 해외 빅테크 기업에서 만든 AI 서비스가 그 대상이 됐다. 중국 관영 매체가 챗GPT가 미국 정부의 잘못된 정보를 퍼뜨리고 있다고 맹비난하면서 자국 빅테크 기업의 챗GPT 서비스 제공을 금지했다. 챗GPT가 중국 정부의 신장 탄압에 대해 '종족 말살'이라고 답변한 것이 계기가 됐다. 본토에서 서비스가 차단당한 빅테크 기업들은 추후 문제 발생 가능성을 예방하기 위하여 홍콩에서의 AI 서비스까지 차단했다. 

중국 정부의 검열과 통제는 해외 빅테크 기업의 AI에만 국한되는 것이 아니다. 당연히 자국 생산 AI 시스템에도 적용되고 있다. 아니 더 엄격하게 적용되고 있다. 최근 중국 정부는 「생성형 인공지능서비스 관리 방법」 법률안에 관한 의견수렴을 마쳤다. 향후 해당 법률안에 대한 제정 여부는 중국 전국인민대표대회 상무위원회가 결정한다. 법률안 초안에는 보편적으로 수용할 수 있는 긍정적 조항도 있다. 예를 들어 알고리즘 설계, 모델 생성 및 업그레이드, 서비스 제공 등의 과정에서 특정 인종·성별 등에 대한 차별을 사전방지하여야 한다는 조항과 타인의 지식재산권 침해, 영업비밀 유출, 허위정보 생성 등에 대한 방지 조치를 마련하여야 한다는 내용이 그것이다. 

그러나 법률안 초안에서 가장 중요한 것은 국가가 AI에게 요구한 강력한 준수 사항이다. 생성형 AI가 만든 콘텐츠는 사회주의 핵심가치를 반영하여야 하며, 경제·사회질서를 교란해서는 안 된다고 규정한 조항이 그것이다. 또 서비스제공자는 서비스 제공 전에 국가인터넷정보부에 관련 보안평가 결과를 제출하여야 한다는 규정도 있다. 서비스 이용자는 실명으로 등록 후 이용할 수 있다. 사실상 AI 서비스를 허가제로 운영하겠다는 것이고 허가받은 다음에도 국가의 이익에 반하는 콘텐츠를 생성, 유통시킬 경우 형법 및 치안관리처벌법을 적용하여 형사책임을 묻겠다는 내용이 있다. 사실상 국가가 AI 서비스에서 유통되는 모든 콘텐츠와 사용자를 통제하겠다는 것이다. 

중국의 이런 정책에 대해 여러 나라들이 우려를 표하고 있다. 정보와 콘텐츠에 대한 국가의 통제와 검열이 지속적으로 개입될 경우 오도된 정보에 의해 형성된 왜곡된 가치관이 일반 대중에게 자연스럽게 수용될 수 있다. 여기에 더하여 국가가 AI를 이용해 내부 단속 및 정치적 선전 도구로 활용할 가능성도 충분히 있다. 이런 상황이 오래 계속되면 대중은 이성적 판단에 기초한 합리적 행위보다는 정서적, 감정적 상태에서 포퓰리즘에 쉽게 빠지게 된다. 개방과 공유의 인터넷이 도입되면서 다시는 없을 것 같았던 매스미디어 시대의 '언론 통제'가 생성형 AI시대에 다시 나타나고 있다. 

생성형 AI 서비스의 위험성이 여기에 있다. 검색 서비스의 경우 원하는 결과를 얻기 위해서 특정 키워드를 입력한 후에 그 결과물 중에서 적절한 것을 선택하는 시스템이라 상대적으로 사용자에게 어느 정도 결정권이 있다. 그러나 AI의 경우 질문을 던졌을 때 하나의 결과만 나오기 때문에 사용자의 비판적 시각이 없다면 AI에게 조종당할 가능성이 상대적으로 높다. 같은 질문을 조금씩 바꿔 계속 물어도 동일한 대답만 나온다면 그 대답이 가장 적합한 결론이라고 생각할 수도 있다. 결국 문제는 AI에게 있는 것이 아니라 AI를 자유롭게 사용하지 못하게 만드는 국가의 권력에 있다. 기술이 인간을 해방시키는 것이 아니라 '권력의 민주화'가 인간을 해방시킨다. 

☞ 네이버 뉴스스탠드에서 ‘미디어스’를 만나보세요~ 구독하기 클릭!