[미디어스=김홍열 칼럼] 최근 미국 비영리단체 '삶의 미래 연구소(Future of life)'가 유명 인사 1280명의 서명을 받아 최첨단 AI 시스템 개발을 일시 중단해야 한다고 주장했다. 서명에는 ChatGPT 및 GPT-4를 개발한 연구소 OpenAI를 공동 설립한 일론 머스크, 이미지 생성 AI인 스테이블디퓨전 개발사인 스테빌리티 AI를 설립한 에마드 모스타크 CEO, 애플의 공동 창업자인 스티브 워즈니악과 아마존, 구글, 메타 및 마이크로소프트의 엔지니어 등이 포함되어 있다. 세계적 베스트셀러 작가인 유발 하라리도 서명자 명단에 포함되어 있고 AI 권위자인 스튜어트 러셀 UC버클리 컴퓨터과학과 교수, 알파벳 산하 AI 기업 딥마인드의 연구진 등도 서명자 리스트에 올라와 있다. 

서명자들은 GPT-4와 같은 인공지능의 위험 가능성을 적절하게 연구하고 보완할 수 있도록 최소 6개월 동안 거대 AI 개발을 즉시 중단하라고 요구하고 있다. 청원서에 의하면 강력한 AI 시스템은 그 효과가 긍정적이고 위험을 관리할 수 있다는 확신이 있을 때만 개발되어야 하는데, 최근 몇 달 동안 AI 연구실은 통제 불능의 경쟁상태에 갇혀 있다고 보고 있다. 개발자조차도 AI에 대해 충분히 이해하거나 예측하지 못한 상태에서 제어하기 훨씬 더 힘든 강력한 인공지능을 개발하고 배포하려는 욕구가 연구실 분위기를 지배하고 있다고 밝히고 있다. 서명자들은 '효과는 긍정적이고 위험은 관리할 수 있을 것'이라고 확신할 수 있을 때까지 개발을 연기할 것을 촉구하고 있다. 

서명인들의 우려는 계속되고 있다. 만약 지금과 같은 속도로 AI가 개발된다면 인간과 경쟁할 정도의 능력이 있는 지능을 가진 AI 시스템이 등장할 수 있고 결국 인류에 심각한 위험을 초래할 수 있다고 주장하고 있다. 결론적으로 인간보다 더 영리하며, 인간을 구식으로 만들어 버리고, 최종적으로 인간을 대체하게 될 비인간 지성 때문에 인류문명의 통제권을 잃을지도 모르는 위험을 예방하기 위하여 모든 AI 연구소가 GPT4보다 강력한 AI 시스템의 개발을 최소 6개월 동안 즉시 중단할 것을 요청한다고 밝히고 있다. 만약 AI 개발사들이 자율적으로 중단을 선언하지 않을 경우, 정부가 개입해야 한다고 주장한다.  

이번 서명 프로젝트는 인류의 미래에 대해 늘 걱정이 많은 '삶의 미래 연구소'가 제안한 일종의 이벤트이지만 이런 주장이 나온 배경은 충분히 이해할 수 있다. ChatGPT의 확산속도가 너무 빠른 상태에서 ChatGPT에 대한 기대와 찬사가 도처에 넘쳐나는 상황이 심히 우려되기 때문이다. 새로운 기술이 도입되고 사회적으로 확산되기 위해서는 일정 정도의 시간이 필요하다. 기술과 그 결과물들이 사회화되는 과정에서 기획자 또는 개발자 머릿속에는 없던 부작용과 문제점들이 노출되고 그 갈등들이 해결 또는 순치되면서 새로운 기술은 자연스럽게 사회에 동화된다. 사회화 과정이 성숙해지면 법과 제도가 새로운 기술을 인정하게 되고 사회적 도구로 활용된다.

1280명의 서명인들이 우려하는 지점이 여기에 있다. 아직 우리가 ChatGPT로 대변되는 생성형 인공지능에 대해서 잘 모르고 있는 상황에서 GPT-4 또는 그 이상의 거대 AI가 등장하면 미처 사회적으로 준비할 시간도 없이 거대AI에 종속될 수도 있다는 것이다. 시간을 갖고 인공지능의 윤리를 포함한 개인정보 보호 문제, 저작권과 특허권, 인공지능 무기화 등과 같은 문제를 공개적으로 논의해 보자는 것이다. 물론 서명인들의 주장대로 인공지능 기술이 인간의 복지와 안전에 부정적인 영향을 미치는 것을 방지하기 위해 인공지능 개발과 사용에 대한 적극적인 규제와 투명성 강화를 위한 방안을 모색할 필요는 있다. 

그러나 6개월 유예라는 제안이 수용될 가능성은 극히 희박해 보인다. 거대 인공지능 시스템은 새로운 기술이면서 동시에 매력적인 신상품이다. 한번 맛을 보면 이내 그 달콤한 맛에 빠지게 되는 매직 같은 상품이다. 6개월 유예라는 제안이 수용되기 위해서는 시장 참여자 모두의 자발적 동의가 필요한데 지금 상황에서는 가능성이 전혀 없어 보인다. 오히려 더 경쟁적으로 개발할 가능성이 크다. 빅테크 기업들이 시장성이 좋은 신상품 개발을 주저하거나 포기할 이유가 없다. 실현가능성도 없고 현실적이지도 못하다. 이런 시장 논리 외에도 청원서의 주장은 논리적으로도 설득력이 없어 보인다. 

청원서에 의하면 적절한 제어 없이 거대 AI가 개발되면 인류는 큰 혼란에 빠질 것처럼 묘사하고 있지만, 사실 인공지능은 이미 오래전에 등장했고 이제 좀 더 업그레이드된 버전이 나왔을 뿐이다. 우리 사회는 디지털 테크놀로지 도입 이후 신기술이 가져온 충격을 흡수하고 있었고 그 과정에서 집단지성, 시민의식, 법과 제도 등이 적절하게 작용되고 있다. 새로운 기술을 흡수 동화시키면서 역사를 발전시켜 왔다. 거대 AI들이 경쟁적으로 출시되면 어느 정도의 혼란이 예상되겠지만 그 혼란은 사회적으로 제어 가능한 수준에 머물 가능성이 높다. 빅테크 기업들은 이런 상황을 잘 이해하고 있다. 시장에서 살아남기 위해서라도 제대로 된 상품을 출시한 가능성이 크다. 

☞ 네이버 뉴스스탠드에서 ‘미디어스’를 만나보세요~ 구독하기 클릭!