[미디어스=이정희] 지난 2일 KBS 1TV [다큐 인사이트] <보일링 포인트> 1부 ‘역전된 세계’에선 2010년대를 기점으로 가상이 현실보다 큰 힘을 가지게 된 오늘의 세상을 진단했다. 그에 이어 2부 ‘비인간 지능이 던지는 질문’은 거기서 한 발 더 나아가 지능을 가지게 된 AI의 시대에 ‘인간의 존재론’을 질문한다.

AI(Artificial Intelligence, 인공지능), 사전적 정의에 따르면 사고나 학습 등 인간이 가진 지적 능력을 컴퓨터를 통해 구현하는 기술이다. 이는 기계가 인간을 모방하고 그런 기계를 인간이 통제가능하다는 전제가 깔려있다. <보일링 포인트- 2부 비인간 지능이 던지는 질문>에서 프리젠터 주영민 씨(전 구글 그로스 마케터, 2019년 다보스포럼 글로벌 쉐이퍼, 모바일 IT 전략가)는 이제 AI란 단어를 버릴 때라고 단언한다. 이미 기계는 자신의 독창성과 고유성을 가지고 인간과 다른 지능의 단계에 이르렀다는 것, 그래서 프로그램에는 AI 대신 ‘기계 지능’, ‘비인간 지능’이란 용어가 등장한다.

AI가 인간을 추월한 첫 번째 유적지 대한민국

그 시작은 바로 우리가 기억하는 이세돌 9단과 인공지능 알파고의 대국이다. 2016년 3월 9일, 첫 번째 대국에서 이세돌 9단은 패배했다. 하지만 사람들은 그저 한 인간이 기계를 상대해 패배한 사건으로 생각했다. 과연 그럴까? 이어진 3월 10일의 대국에서 알파고의 37수, '지금 뭐 하는 거죠? 드디어 알파고가 빈틈을 보이기 시작했군요'라는 기사의 말처럼, 인간이라면 두지 않을 수였다. 그러나 알파고는 승리했다. 심지어 그 37수는 승패를 가르는 전환점이자, 신의 한 수였다.

인간이 입력한 데이터를 따르지 않은, 인간은 헤아릴 수 없는 심오한 한 수. 바로 그 순간을 주영민 씨는 인공지능의 초월성을 처음 드러낸 ‘코페르니쿠스적 전환의 순간’이라 정의 내린다.

이 사건이 의미하는 바는 두 가지다. 그 첫 번째는 이제 기계는 더이상 인간이 가르치는 대로 행동하지 않는다는 점이다. 독립적으로 학습하고 판단하여 행동하기 시작한 비인간 지능, 문제는 그 결과에 이르는 과정이 인간이 헤아릴 수 없을 정도로 복잡하다는 것이다. 두 번째는 비인간 지능의 등장으로 이제 인간은 지식의 정수 자리를 내어주게 되었다는 것이다.

그나마 알파고는 데이터를 입력했던 인간 가이드가 있었다. 그 이후 등장한 알파 제로의 경우는 두 개의 기계 알고리즘이 서로 학습하는 형태로 인간의 도움이 필요 없었다. 그런데 이 알파제로가 단 3일 만에 알파고를 꺾었다. 벽돌깨기부터 시작하여 바둑, 이제 스타크래프트까지 그 영역을 확장해 가고 있는 딥마인드의 기계 지능. 과연 도래할 다음 10년, 우리가 맞이할 시대는 어떤 것일까?

알파 제로는 ‘스스로 해석하고 판단하는’ 알고리즘의 등장을 의미한다. 하루 수백만 번이라도 스스로 시행착오를 조절할 수 있는 능력을 가진 기계 지능. 어쩌면 20세기의 기적을 이룬 페니실린의 발견과도 같은 획기적인 발전은 이제 '인간의 우연'이 아니라 기계 지능의 필연적인 결과물이 될지도 모를 일이다. (페리실린을 발견한 플레밍은 자신의 발명을 이미 자연이 발명한 페니실린을 자신이 우연히 발견했을 뿐이라 말한다)

기계의 명령에 복종하는 수동적 존재가 된 인간

여기 상징적인 사건이 있다. 최근 미국 퍼시픽리그에 도입된 AI 심판. 인간 감독이 AI 심판의 스트라이크 존 판정에 불복하여 항의하다 퇴장당한 것이다.

이 사건은 상징적이지만 현실에서 이미 기계 지능은 많은 영역에서 인간의 수행 능력을 압도하고 있다. 구글에 디지털 광고를 하고 싶은 스타트업 기업은 자신이 광고하고 싶은 타깃과 메시지, 상품 서비스 내용을 광고 플랫폼에 알려주기만 하면 된다. 그러면 알아서 구글 광고 플랫폼이 광고를 설정해 준다. 마케터는 이 가상 세계의 시그널을 받고 따르기만 하면 되는 것이다.

미국 범죄 현장에 도입된 프레드 폴(Predpol)이라는 경찰차 순찰 명령 알고리즘. 이 기계 지능의 명령에 따라 차를 대고만 있어도 범죄가 일어날 확률이 70%를 넘겼다. 그에 따라 미국 LA에서는 인간 경찰의 수가 줄었다.

이런 식이다. 어느덧 우리 사회 많은 부분에서 우리의 운명 자체를 기계가 조율하고 있다. 주관적이고 편향적이고 결함이 있다고 생각되는 인간, 그에 반해 기계의 결정은 객관적이라 우리는 무조건적인 신뢰를 보내고 있다, 마치 과거 신의 판단에 복종하듯, 오늘날 우리는 신의 섭리를 비인간 지능으로 대체하고 있는 건 아닌가라고 주영민 씨는 반문한다. 인간의 일자리를 기계가 대체할 것을 걱정하지만, 기계는 한 술 더 떠서 판단, 지능, 선택, 결정의 능력으로 인간을 초월하고 있다는 것이다.

AI의 도움으로 많은 돈을 벌고 있는 세계 최대 헤지펀드 설립자 레이 달리오는 그래서 두렵다고 말한다. AI가 자신에게 돈을 줄지는 모르지만, 과연 어떤 ‘과정’으로 그 판단을 내리는 것인지 알 수 없기에. AI연구의 권위자 뉴욕대 조경현 교수 역시 같은 맥락의 우려를 표명한다. 번역 인공지능이 ‘좋은 아침’이라는 단어를 ‘공격하다’로 번역하는 바람에 이스라엘에 체포될 뻔했던 팔레스타인 남자, 이 사건은 AI의 편협함을 그대로 보여주는 사건이다. 500만 남짓의 핀란드에 대한 데이터가 2억 5천만의 인도네시아에 대한 데이터보다 훨씬 더 많은 인터넷 세상. 더구나 그 데이터가 '기득권' 중심으로 편집된 그곳에서 피해를 보는 다수가 얼마든지 발생할 수 있다고 조경현 교수는 경고한다.

감시하고 위조하고 편향된 비인간 지능

인간들은 자신들과 똑같은 모습을 한 터미네이터의 도래를 먼 미래의 위협으로 걱정하고 있지만, 정작 현실의 다양한 영역에서 기계 지능은 가공할만한 위협적 존재로 대두되고 있다.

최근 두드러진 영역은 감시 산업이다. 그중에서도 안면 인식이 폭넓게 도입되고 있다. 얼굴을 추적하고 신분을 확인하며 디지털상 정보를 확인, 다양한 온라인 접속으로 '나'를 추적한다.

중국에서 야심차게 기획한 ‘텐왕(天网)’ 프로젝트가 있다. CCTV에 안면인식 기능을 탑재하는 프로젝트로 1억 2천만 대에 달하는 중국 내 CCTV를 4억 대까지 늘릴 계획이라 한다. 이 전국적인 단일한 영상감시시스템은 간단하게는 무단 횡단하는 사람을 검색하여 그 대상인 위쳇 사용자에게 벌금을 물리는 것으로 시작하지만, 거리 전광판에 그의 얼굴을 공표하는 자동화된 인민재판으로 발전할 수 있는 시스템이다.

그래서 최근 홍콩 시위에서 이러한 안면인식 시스템에 맞서 시위자들은 마스크를 착용했다. 그러자 홍콩 정부는 ‘마스크 금지법’을 실시했고, 시위자들은 머리를 길러 가리거나 레이저 빔으로 안면인식 시스템을 교란하고자 했다. 이처럼, 감시의 영역으로 간 기계 지능은 그저 범죄자 색출을 넘어 국가의 정치적 반대파 억압과 색출에 유용한 기능이 된다. 심지어 지진이 난 쓰촨성 기숙사에서는 안면인식 시스템의 오류로 도피가 지체되기도 하는 부작용이 실제로 드러나기도 하였다.

프로그램에서 등장한 문재인 대통령의 모습처럼, AI 기술을 이용하여 특정인의 얼굴을 영상에 편집하는 위조 알고리즘 '딥페이크'. 실존하지 않지만 진짜 같은 사람의 이미지는 포르노에 배우 얼굴을 합성하거나 정치인의 얼굴을 합성하여 화제가 되고 있다.

시카고 대학에서 만든 식당 리뷰 알고리즘의 경우 외려 인간이 쓴 리뷰보다 더 사실적이고 정확해서 좋은 평점을 받는데, 이런 알고리즘이 정치적 영역에 이용된다면? 현실을 조작하는 수많은 메시지를 전파할 수도 있다는 우려를 낳고 있다. 캠브리지 애널리티카 사건에서 보여지듯 흑인 등 특정 계층에게 투표 포기를 권유하는 왜곡된 메시지를 전달하는 일이 실제로 벌어지고 있다.

하지만 주영민 씨가 가장 우려하는 건 ‘추천’ 알고리즘이다. 가깝게는 내비게이션부터 물건을 사고 음악을 듣고 여행지를 선택하는 데 있어 우리가 무의식적으로 의존하고 있는 기계 지능. 추천 알고리즘이 위험한 이유는 인간은 점점 이 '추천'을 무비판적으로 따르게 되고, 그에 따라 고민하고 선택할 필요를 느끼지 않게 된다는 데 있다. 그런데 이 추천이라는 게 취향과 관심사에 따른 알고리즘 축적의 결과물로 익숙하고 좋아할 만한 것만을 추천하기에 점점 더 인식의 폭을 좁히는 결과를 낳을 수 있다는 것이다.

즉, 추천을 받는다지만 알고리즘이 찾은 걸 원하도록 명령받는 건 아닐까란 의문이다. 그리고 나아가 판단과 감정, 가치관, 의식, 신념마저도 편향된 정보로 '나의 세계'가 구축된다면? 일상적 행동 패턴이 추천 알고리즘에 종속된 인간을 과연 ‘로봇’과 다르다고 할 수 있겠느냐는 의문이다.

그래서 여기서 가장 중요한 질문이 등장한다. 즉, AI가 인간을 프로그래밍하는 건 아닌가. AI가 인간의 본질적인 모호성을 제거하려 하는 것은 아닌가. 과연 우리가 원하는 사회는 AI에 통제된 사회인가, 여전히 모호하지만 본질적인 가치를 지닌 인간성을 존중받는 사회인가. 우리의 인간성은 어떻게 지켜져야 하는가란 문명사적 관점의 고민이 대두된다.

<보일링 포인트> 1부에서 어느새 우리를 에워싸다 못해 압도하고 있는 기계 지능의 세상을 짚어보는 데서 나아가, 2부는 인간의 사고와 판단을 대신하는 위치에서 '신'의 자리를 넘보는 비인간 지능의 존재를 점검한다. 결국, 그 질문은 언제나 본질적이며 철학적이다. '인간'은 무엇인가. 데카르트의 정의처럼 ‘나는 생각한다, 고로 존재한다’는 인간이 그 정의의 몫을 기계에게 넘겨주었을 때, 인간은 무엇인가라는 원론적인 반문이다. ‘편리’란 이름으로 어느덧 우리의 사고를 장악하고 정치를 조종할 수 있는 가공할 만한 존재 앞에 우리의 고민은 좀 더 신중해야 한다고 <보일링 포인트>는 주문한다.