AI의 현실 왜곡과 미디어 이용자의 검증

[미디어스=김경환 언론인권칼럼] AI가 극도로 고도화된 사회의 디스토피아는 이미 고전이 된 명작 영화 터미네이터에 잘 그려져 있다. 인간이 만든 AI가 자율성을 갖기 시작하면서 인간은 AI에게 불합리하고 발전을 저해하는 제거의 대상이 된다. 오스트랄로피테쿠스가 호모 사피엔스에게 멸종당한 것처럼 터미네이터에서 인간 역시 자신들이 창조한 AI에게 멸종을 강요받는 상황을 맞는다. 터미네이터에서는 약육강식의 자연법칙처럼 강한 자만이 살아남고 약한 자에게는 죽음뿐인 디스토피아가 인류의 미래에 그려진다. 반면 기술 발전으로 찬란한 인류 문명의 도약이 이뤄진다는 희망도 적지 않다. 우리 앞에 어떤 결과가 기다리고 있을지는 몰라도 AI 기술이 돌이킬 수 없는 변곡점을 지났다.

2025년 미디어 기술 혁신의 화두는 AI다. 특히 생성형 AI의 등장으로 기존의 텍스트 생성에 머물던 AI의 범위가 미디어 콘텐츠의 모든 영역으로 확장됐다. 과거의 미디어 콘텐츠 생산 구조는 전형적인 노동 집약형 산업의 특징을 보였다. 인간의 창의성이 미디어 콘텐츠 생산의 핵심이라는 인식은 고정불변의 진리였다. 하지만 생성형 AI의 등장은 미디어 콘텐츠 생산 구조에 혁명적 변화를 불러왔다.

생성형 AI의 등장은 누구나 손쉽게 영상콘텐츠를 만들 수 있도록 만들었다. 심지어 배우나 카메라도 필요없다. 조명이나 오디오 녹음을 하는 것도 성형 AI 도구 하나면 자신이 원하는 내용을 프롬프트에 적어 넣기만 하면 자동으로 그럴듯한 영상 콘텐츠가 순식간에 만들어진다. 영상 편집프로그램으로 자막을 넣거나 음성을 편집하는 번거로움도 이제는 생성형 AI의 도움을 받으면 전문가에 버금가는 수준으로 완성도 높은 영상 콘텐츠를 만들어 낼 수 있는 세상이다.

생성형 AI가 등장하면서 다양한 분야에 영향이 나타나고 있지만 가장 극적인 변화를 보이는 곳이 영상 제작 분야다. 영상 제작은 지난 100년 간 촬영장비의 기술적 변화는 지속적으로 이뤄졌다. 그러나 제작 패러다임은 아무런 변화가 없다고 해도 과언이 아니다. 생성형 AI의 등장은 영상 제작 패러다임의 급속히 변화를 불러오고 있다. 광고 제작의 경우 생성형 AI를 활용해 광고를 제작하면 배우 출연료나 제작 스태프의 인건비를 절감할 수 있기 때문에 활용 사례가 급증하고 있다. 카메라 작동법이나 촬영 노하우나를 전혀 모르는 사람이라도 생성형 AI에 원하는 내용을 입력하기만 하면 영상이 뚝딱 만들어진다. 누구나 컴퓨터와 생성형 AI 기술을 사용할 줄 안다면 영화 감독이 될 수 있는 세상이다.

하지만 생성형 AI의 등장으로 간과해서는 안 되는 문제점도 적지 않다. 생성형 AI로 영상을 만들어 보면 자신이 원하는 내용을 입력해 만들어지는 영상이 사회적 편견과 차별을 그대로 반영하고 있다는 것을 금새 알 수 있다. 여름 바닷가에서 멋진 남녀의 모습을 영상으로 만들어 달라고 생성형 AI에게 만들어 달라고 하면 만들어진 영상 속에 등장한 남녀는 멋진 금발의 백인을 주인공으로 등장시킬 가능성이 높다. 생성형 AI의 학습 데이터가 사회적 편견을 반영하는 구조를 담고 있기 때문이다.

현실 세계의 차별과 모순을 생성형 AI는 개선할 필요성도 없고, 개선할 이유가 없다. 물론 생성형 AI가 모든 것을 원하는 대로 만들어주지는 않는다. 회사에서 설정한 가이드라인에 따라 일부 폭력적이나 선정적인 장면은 영상 생성이 제한된다. 종교적인 측면에서 금기시 되는 장면 역시 만들 수 없다. 하지만 생성형 AI의 영상 표현 범위를 제한하는 가이드라인은 회사마다 제각각이기 때문에 같은 걸 만들어 달라고 해도 어떤 회사의 생성형 AI는 만들 수 없지만 다른 회사의 생성형 AI는 만들어 주는 경우도 있다.

생성형 AI는 우리나라의 사회적 가치와 공동체의 기준에서 볼 때 우리 사회가 받아들이기 힘든 선을 넘는 표현이 무엇인지 아직 확실하게 기준 정립을 못한 상태다. AI가 기술이 아니라 문명이라면 AI를 활용하지 못하면 앞으로 살아갈 수 없다. 기술은 안 쓰면 그만이다. 하지만 불이나 쇠처럼 AI는 인간 생활에 혁명적으로 사용될 문명이다. 문제는 불이나 쇠와 달리 AI는 사회적 편견을 반영한다는 점에서 전혀 가치 중립적이지 않다는 점이다. 오히려 AI는 사회적 차별을 가시화하고 사람들에게 극명하게 투영한다.

생성형 AI 역시 기존의 AI가 갖고 있던 이러한 문제점을 그대로 답습한다. 사람들이 생성형 AI를 사용하며 이 부분에 대한 경각심을 갖지 않는다면 보다 쉽고 편리하게 영상을 만들어 내는 세상이 오히려 사회적 편견과 차별을 고착화 하는 암울한 미래를 만들 수 있다. 생성형 AI가 우리 미래를 디스토피아로 만들지 유토피아로 만들지는 사용하는 우리에게 달려있다. 분명한 것은 만약 생성형 AI가 만들어 내는 영상이 사회적 차별과 편견을 반영하고 있다면 끊임없이 이를 시정하고 바꾸려는 노력을 기울이지 않는다면 생성형 AI가 가져올 우리의 미래는 디스토피아가 분명하다는 점이다.

☞ 네이버 뉴스스탠드에서 ‘미디어스’를 만나보세요~ 구독하기 클릭!