[미디어스=송창한 기자] 더불어민주당이 선거기간 딥페이크(deepfake) 기술 활용에 대한 중앙선거관리위원회의 대책 마련을 촉구했다. 국민의힘은 'AI윤석열'을 선거운동에 활용한다는 계획이다. 하지만 후보 단점을 인위적으로 삭제할 수 있고, AI 복제를 통해 가짜뉴스와 네거티브가 확산될 수 있다는 우려를 낳고 있다.

16일 민주당 의원 44명은 긴급 기자회견을 열고 딥페이크 선거전이 우려된다며 선관위가 '딥페이크 선거 활용에 대한 가이드 라인'을 마련해야 한다고 요구했다. 또 민주당 의원들은 구글·페이스북·네이버·카카오 등 인터넷 플랫폼 기업들이 딥페이크에 대한 자율적 조치를 검토해야 한다고 밝혔다.

지난 6일 윤석열 후보 선거대책위원회 출범식에서 'AI윤석열'이 등장했다. 이날 AI윤석열은 "정치권 최초로 만들어진 AI윤석열은 윤 후보가 열어갈 대한민국의 새로운 미래와 도전을 상징한다"며 "선거 혁신의 시작이기도 하다"고 말했다.

'AI윤석열'은 국민의힘 이준석 대표가 윤 후보에게 대선 전략으로 제안한 '비단 주머니' 중 하나다. 국민의힘은 지난달부터 AI를 통해 가상의 윤 후보 아바타를 만들고, 이를 동시다발적으로 선거에 활용하는 전략을 논의해왔다. 이준석 대표는 9일 선대위 회의에서 "갈수록 대면접촉이 어려워지는 상황에서 (AI윤석열이)강력한 무기가 되지 않을까 생각한다"고 말했다.

하지만 'AI윤석열' 등장 이후 유권자를 착시에 빠뜨려 민주주의를 왜곡할 수 있다는 우려가 제기됐다. 윤 후보의 경우, '쩍벌' '도리도리' 습관과 잦은 망언으로 논란을 빚어왔다. 고삼석 전 방송통신위원회 상임위원은 7일 페이스북에 "정치영역에서 인공지능이나 딥페이크 기술을 사용하는 것 자체를 비판하는 것이 아니다. 후보 대신 딥페이크 기술을 적용한 '아바타'를 활용해 '일상적으로' 선거운동을 하겠다는 발상 자체가 문제"라며 "일국의 대통령이 되겠다는 사람이 시간상 제약을 이유로 잘 만들어진 아바타를 보고 자신을 선택해 달라 유권자에게 호소하는 것은 일종의 '사기'(fake)"라고 직격했다.

민주당 의원들은 16일 기자회견에서 "기술의 사회적·윤리적·도덕적 합의가 없는 상황에서 선거에 직접 사용되는 것은 매우 위험하다"면서 "공개와 더불어 논란을 불러일으킨 'AI윤석열'은 민주주의 위협 그 자체다. 후보와 정당의 판단 근거가 허위이고 조작된 정보라면 이는 공정해야 할 민주주의 선거제도 근간을 흔드는 것"이라고 지적했다.

이들은 "후보자의 태도, 언행, 특정 이슈에 대한 발언 모두가 평가 대상이다. 'AI후보'는 결국 국민의 선택을 방해하는 기만 행위"라면서 "더 심각한 건 상대후보에 대한 악의적 딥페이크 출현 가능성이다. 누구나 기술만 익히면 며칠 안에 가짜 영상을 만들 수 있다는 전문가 진단을 가벼이 생각할 수 없다"고 강조했다. 실제로 최근 SNS 상에서는 욕설을 하는 가짜 'AI윤석열'이 등장했다.

선거운동 AI활용과 관련해 구체적인 정당 질의요청이 들어오는 대로 2월 15일 이전에 내용을 파악해 발표하겠다는 선관위 입장에 대해 민주당 의원들은 "매우 유감"이라며 "공식 선거운동 시작일은 2월 15일이지만 이미 모든 후보가 예비후보 등록을 마쳤고, 실질적인 대선 레이스는 진행 중"이라고 지적했다.

정필모 민주당 의원은 기자회견 이후 기자들과 만나 "국정감사 때 AI 딥페이크 영상을 카이스트 등 국내 기술진이 실제 영상과 구별할 수 있는지 실험을 해봤다. 거의 구분할 수 없다는 결론을 얻었다"면서 선거기간 AI후보를 통한 유권자 기만이나 가짜 'AI후보' 확산 시 발생하는 사회적 피해는 회복이 불가능하다고 말했다.

☞ 네이버 뉴스스탠드에서 ‘미디어스’를 만나보세요~ 구독하기 클릭!