[미디어스=김혜인 기자] 지난 2월 SBS ‘그것이 알고싶다’는 딥페이크 범죄로 피해를 입은 두 여성의 인터뷰를 딥페이크 기술로 제작했다. 피해자들이 모자이크 없이 피해를 호소하는 모습을 지켜봤던 시청자들은 한참 뒤에야 딥페이크 얼굴을 인지할 수 있었다. 

딥페이크는 인공지능 기술인 딥러닝을 이용해 특정인의 얼굴 등을 영상에 합성해 실제처럼 보이게 만드는 기술이다. 얼굴 데이터를 이용한 머신러닝을 통해 실제 사람과 가까운 얼굴을 만들고 영상에 합성할 수도 있다.

2월 27일 '그것이 알고싶다' 딥페이크 편에 나온 딥페이크 범죄 피해자. 딥페이크로 만든 존재하지 않는 얼굴로 모자이크보다 신변 보호가 용이하며 피해자의 동의를 얻어 제작된다. (사진=SBS)

딥페이크는 SBS ‘그것이 알고싶다’에서처럼 피해자가 얼굴을 드러내지 않고 피해 사실을 말하거나 증언할 때 이용된다. 딥페이크 기술로 버추얼 휴먼(가상인간) ‘루이 리’를 만든 디오비스튜디오 오제욱 대표가 ‘그알’의 두 피해자 얼굴을 만들었다.

오 대표는 6일 시청자미디어재단의 ‘팩트체크X딥페이크’세션에서 “표정과 얼굴을 가리는 모자이크와는 달리, 익명성을 보장해주면서 감정을 전할 수 있어 대중에게 주는 효과에 큰 차이가 있다”고 밝혔다. 그는 “딥페이크 기술이 순기능으로 잘만 활용하면 제작비를 줄일 수 있어 콘텐츠, 광고, 교육이나 엔터테인먼트 영역에서 가치사슬을 확장해나갈 수 있다”고 설명했다.

로이터 라파엘 기자는 “딥페이크가 지금까지 사용돼온 방식 때문에 부정적인 정서가 많지만 사생활 보호를 위한 도구로 사용되거나 내부 고발자, 성범죄 피해자들의 증언을 담는 상황에서 사용될 수 있다”고 말했다.

하지만 악용 사례도 많다. 지인 불법 합성물을 제작하거나 상품 리뷰를 조작하고, SNS를 통해 실존 인물인 척 활동을 하다가 발각되는 일도 벌어졌다. 미디어 역시 예외는 아니다. 라파엘 기자는 지난해 7월 미디어에서 떠들썩했던, 팔레스타인 인권 운동가를 비난한 프리랜서 Oliver Taylor가 실재하지 않는 가상 인물이라고 밝혔다. 홍민기 ‘씨에틱’(CYETHIC) 소사장은 “딥페이크를 활용한 미디어 왜곡이 벌어지면 언론사들은 제보자나 내용 검증에 훨씬 더 많은 노력을 기울여야 한다”고 말했다.

홍민기 CYETHIC 소사장의 발제 자료 화면

오제욱 대표는 “현재는 개인을 대상으로 딥페이크 기술을 제공하지 않고 있다”며 “어떤 콘텐츠가 양산돼서 문제를 일으킬 수 있는지 준비가 안 된 상황에서는 개인에게 서비스를 진행할 수 없다”고 말했다. 박창현 ‘씨에틱’ 담당자는 “제공자의 의도와 다르게 딥페이크를 활용한 범죄가 이뤄졌을 때 누가 어떤 책임을 질 것인지에 대한 논의가 필요하다”고 밝혔다. 

최종상 경찰청 사이버범죄수사과 과장은 “지난해 6월 성폭력범죄의 처벌 등에 따른 특례법 규정이 신설되면서 딥페이크 악용 행위에 대해 처벌할 수 있게 됐다”며 “SBS ‘그것이 알고싶다’에서 보도된 지인 불법 합성물 제작·유포 피의자를 구속할 수 있었다”고 말했다. 다만, 정치인을 딥페이크 영상에 활용해 가짜뉴스를 제작하거나 딥페이크 기술로 만든 가상인물이 범죄를 저지를 경우 처벌할 수 있는지에 대해 묻는 질문에는 “현재로서는 처벌 규정이 없지만 대비할 필요가 있다”고 밝혔다.

홍민기 소사장은 “가짜 언론이나 정보가 양산되는 걸 사전에 방지하기 위해 디지털 워터마킹 기술을 같이 연구하고 있다”며 “기술이 발전해 피해가 발생하고 난 뒤 바로잡는 건 속도가 느릴 수밖에 없다. 사전에 방지할 수 있는 기술을 같이 개발해야 한다”고 강조했다. 

라파엘 기자는 “딥페이크를 악용한 범죄를 근절하기는 어렵다”면서도 “사진이나 영상에 제작자 정보를 포함시키거나 교육을 통해 범죄를 줄일 수 있다”고 말했다. 오제욱 대표는 “보이지 않는 워터마크나 콘텐츠ID 시스템 개발이 반드시 병행돼야 한다”며 “백신과 바이러스가 같이 갈 수밖에 없듯이 딥페이크 기술을 유용하게 사용하는 쪽으로 교육해나가는 동시에 악용사례는 처벌하고 막을 수 있게 업계가 함께 노력해나가야 한다”고 했다.

☞ 네이버 뉴스스탠드에서 ‘미디어스’를 만나보세요~ 구독하기 클릭!

김혜인 기자  key_main@mediaus.co.kr

<저작권자 © 미디어스, 무단 전재 및 재배포 금지>