[미디어스=김홍열 칼럼] 세계경제포럼(다보스포럼·WEF)이 발간한 연간리포트 ‘글로벌 위험보고서 2024’에는 ‘인공지능이 생성하는 가짜뉴스’가 올해 세계가 직면할 위험 요인 중 두 번째로 선정되었다. 첫 번째 위험 요인으로 선정된 사회적 양극화의 경우 계속 중요 글로벌 이슈였고 양극화 정도가 심화되고 있어 쉽게 동의할 수 있다. 그러나 가짜뉴스는 어느 정도 익숙해져서 대처가 가능하다고 생각되었는데도 중요 위험요인으로 선정되었다. 선정 이유는 올해 전 세계 47개 국에서 선거가 예정되어 있기 때문이다. 선거에서 가짜뉴스가 유통되고 실제 투표에 영향을 미치게 된다면 민주주의는 회복불가능한 치명적 상처를 입게 된다. 

금년 선거 중 글로벌 차원에서 가장 중요한 것은 당연히 금년 11월에 예정되어 있는 미국 60대 대통령 선거다. 트럼프 전 대통령이 다시 출마하면서 바이든과 트럼프의 재대결 결과에 많은 사람들이 관심을 보이고 있지만 그보다 더 관심을 끄는 것은 생성형 AI가 만든 가짜뉴스 악용 가능성이다. 지난해 12월 초 발표된 시카고대 해리스공공정책대학원과 AP통신·여론조사센터 (NORC)의 공동 여론조사 결과, 미국 성인의 58%가 2024년 대선에서 AI 기술로 만들어진 허위 정보가 더욱 퍼질 것으로 예상하고 있다. 실제 공화당 경선 과정에서 가짜뉴스가 등장했지만 후보 캠프에서 공식 부인할 때까지 모두 사실로 받아들인 사례도 있다. 

이런 사례는 당연히 본선에서도 일어날 수 있고 결과적으로 투표 결과에 치명적 영향을 미칠 수 있다. 가짜뉴스는 미국 대선뿐 아니라 세계 여러 나라에서 발생하고 있으며 날이 갈수록 더 교묘해지고 있다.  딥페이크(deepfake) 기술이 더욱 정교해지면서 전문가가 아니면 사실상 식별이 불가능하다. 가짜뉴스로 판별되기 전 투표가 진행될 경우 그 결과에 대한 책임을 누구에게도 물을 수가 없어 결국 국민 모두가 피해자이면서 동시에 가해자가 되는 비극적 상황이 초래된다. 민주주의라는 국민 주권 체제를 유지하는 유일한 방법인 투표 행위가 가짜뉴스로 인해 훼손되는 경우가 쉽게 일어날 수 있는 것이다.  

현재 이런 문제를 해결하기 위해서 두 개의 솔루션이 제안되고 있다. 하나는 기술적 접근이다. 메타는 AI 기술로 생성된 이미지의 경우 식별 가능할 수 있도록 별도 라벨을 붙이는 방안을 검토하겠다고 발표했다. 오픈AI는 생성형 이미지에 워터마크를 부착하는 방안을 검토하고 있다고 밝혔다. 여기서 더 나아가 생성형 인공지능 기업 미드저니(Midjourney)의 데이비드 홀츠 CEO는 주요 미국 대선 후보의 정치적 이미지를 생성하는 것 자체를 금지하는 방안을 추진한다고 밝히기도 했다. AI 기술로 만들어진 가짜뉴스가 의사 결정 과정에 악용되는 것을 막기 위하여 다시 AI를 활용하겠다고 빅테크 기업들이 나서고 있는 것이다.

가짜뉴스 방지를 위한 두 번째 솔루션은 법적, 제도적 장치를 만들어 운영하는 것이다. 대표적 사례가 지난해 9월 이동관 방송통신위원장 시절 방통위 산하 방송통신심의위원회가 발표한 ‘가짜뉴스 근절 종합대책’이다. 대책 중에는 가짜뉴스 신고 센터를 설치해 신고 접수 시 긴급 심의를 진행하고 가짜뉴스로 판명 시 포털 측에 알려 삭제나 임시 차단 등 선제 조치를 취하도록 하는 내용이 포함되어 있다. 이 대책의 주요 포인트는 긴급 조치에 있다. 가짜뉴스가 SNS 등 네트워크를 통해 무분별하게 확산되는 것을 막기 위해서는 긴급 심의 및 긴급 조치가 필요하기 때문에 관련 규정 및 법령 등의 개정을 통해 실시하겠다고 밝혔다. 

그러나 두 솔루션 모두 가짜뉴스 방지를 위한 근본적 대책으로 보기 힘들다. AI가 생성한 이미지를 스크린숏으로 캡처하면 AI 생성물인지 알 수가 없고 라벨이나 워터마크의 경우 간단한 기술로 삭제할 수가 있다. 결국 기술적 솔루션은 제한적 상황에서만 효력을 발휘할 수가 있다. 법적, 제도적 방지 대책 역시 마찬가지다. ‘가짜뉴스 근절 종합대책’은 이동관 방통위 위원장의 자진 사퇴로 중단되었지만 계속 진행되었다고 해도 언론사들의 반발로 실제 실행될 가능성은 적어 보였다. 가장 논란이 되는 것은 가짜뉴스에 대한 정의다. 팩트와 거짓을 구별하는 ‘자의적 판단’이 사실상 언론 검열로 이어지고 결국 민주주의의 퇴보로 이어질 수 있기 때문이다. 

사실 가짜뉴스를 퇴치할 수 있는 특별한 방법은 없다. 유언비어처럼 일종의 사회현상이기 때문이다. 그렇다고 해도 전혀 가능성이 없는 것은 아니다. 특히 선거와 관련된 가짜뉴스 유포는 최대한 막아야 한다. 그러기 위해서는 우선 선거에 참여한 정당과 후보자들이 예측 가능한 정책 대결을 펼쳐야 한다. 상대 후보를 선의의 경쟁자로 인정하고 좋은 정책을 통해 유권자들의 선택을 받도록 노력해야 한다. 

가짜뉴스는 정책 대결이 이루어지지 못하는 뒷골목에서 암버섯처럼 스멀스멀 피어오른다. 정당에서는 근거 없는 음로론을 유포하고 마타도어, 허위 이미지를 유포하는 후보자들은 즉시 사퇴시켜야 한다. 당선을 위해 반민주적 행위를 자행하는 사람은 후보자격을 영구 박탈해야 한다. 당선 후에도 그 책임을 엄중하게 물어야 한다. 물론 이런 제안이 쉽게 수용되리라고는 생각지 않는다. 그러나 적어도 정치를 하겠다는 사람들과 정당은 민주주의를 위한 최소한의 약속은 지켜야 한다. 이번 총선이 그 시작이 되길 바란다.  

☞ 네이버 뉴스스탠드에서 ‘미디어스’를 만나보세요~ 구독하기 클릭!