AI기본법, 자율주행차 사고 책임 물을 수 있나요?

[미디어스=송창한 기자] 국회 과학기술정보방송통신위원회(과방위)가 '인공지능(AI) 기본법' 제정안을 여야 합의로 통과시켰다. 과방위는 AI 산업 지원하기 위한 기본틀을 마련했다고 자평했다. 

하지만 시민사회는 시민의 안전과 인권을 침해할 수 있는 고위험 AI에 대한 규제가 부실하고, 제정법안 성안 과정이 졸속으로 진행됐다고 비판했다. 최민희 과방위원장은 시민사회·학계의 우려를 알고 있다면서도 국가적으로 AI 산업을 지원해야 할 시기라고 판단했다고 말했다. 

26일 오전 과방위는 전체회의를 열고 AI 기본법을 의결했다. 과방위는 여야가 발의한 19개 AI 기본법안을 병합심사해 대안을 만들었다. 정보통신방송법안심사소위원장인 김현 의원은 ▲AI 기술·산업진흥 지원 ▲AI 사업자 투명성·안정성 의무 ▲AI 기술도입·활용 지원 ▲AI 집적단지 지정 ▲AI 데이터센터 시책 추진 ▲과학기술정보통신부 장관 사실조사·시정명령·과태료 권한 등을 규정했다고 설명했다. 이 밖에 대통령 직속 국가인공지능위원회의 '인공지능 기본계획' 수립, 고영향AI 규정, AI윤리원칙·실천방안 홍보 등을 규정하고 있다. 

여당 간사 최형두 국민의힘 의원은 김현 의원 등 야당에 감사의 뜻을 표하며 "시기를 놓치지 않고 AI G3(주요3개국)가 될 발판을 닦았다"며 "(AI)주무 상임위로서 위상에 걸맞게 열심히 뒷받침하겠다"고 말했다.

최민희 과방위원장은 "지금 통과된 AI 기본법안은 지원에 초점을 맞춘 법안이 맞다"며 "시민사회 등에서 걱정하는 AI의 고영향·고위험 부분에 대해서는 후속법안이 잇따를 것 같다. 시민사회·학계가 걱정하는 인간생명 전반, 인권침해적 요소, 기본권 침해 부분에 대해 정부와 국회가 상황을 지켜보면서 필요한 후속입법을 준비하도록 하겠다"고 말했다.  

최민희 위원장은 "100% 완전한 법안이 아닌 것은 알고 있지만 지금 시기는 대한민국 AI의 육성과 지원을 위해, 그리고 경제혁신을 위해 저희가 기본법안을 통과시켜줘야 할 시점이라고 판단했다"고 강조했다. 

같은 시각 국회 앞에서는 과방위의 AI 기본법 졸속 처리를 규탄하는 시민사회 기자회견이 열렸다. 민주사회를위한변호사모임(민변), 정보인권연구소, 진보네트워크센터(진보넷), 참여연대 등은 AI가 생명·안전·민주주의에 끼칠 위험을 방지하기 위해 AI기본법에 기업의 의무를 명확히 규정해야 한다고 요구했다면서 관련 내용이 법안에서 빠졌다고 목소리를 높였다. 

오병일 진보넷 대표는 "과방위는 KBS 사장 청문회를 무려 3일을 할애해 진행했으면서도 AI 기본법은 고작 2시간 심사해 통과시켰다. 과방위 의원들이 엄청난 AI전문가여서 그런 것일까"라며 "분명한 것은 AI가 시민들의 안전과 인권에 미칠 부정적 영향에 대한 인식은 거의 없었던 것 같다. 거의 AI 산업 진흥을 위한 내용만을 포함하고 있다"고 비판했다. 

오병일 대표는 "시민사회가 인공지능에 대해 우려했던 것은 터미네이터와 같이 인간이 통제할 수 없는 AI가 인류를 말살할 것이라는 두려움이 아니었다"고 말했다. 시민사회는 현재 실생활에 도입된 AI가 오작동하거나 악용돼 발생할 수 있는 안전사고, 차별, 시민 감시 등을 경고해 왔다. 

오병일 대표는 과방위 의원들을 향해 "여러분이 만든 AI 기본법이 이미 많은 기업과 공공기관이 도입하고 있는 채용 AI 시스템이 공정한 판단을 하도록 보장할 수 있나. 자율주행 자동차 AI 시스템의 오류로 사고가 났을 때, 사고 원인을 추적할 수 있도록 개발·운영 과정의 모든 관련 기록을 남기도록 하고 있냐"며 "AI 디지털 교과서가 학생들에게 잘못된 지침을 내리지 않도록 하기 위한 원칙과 절차를 제시하고 있냐"고 따져 물었다. 

김병욱 민변 디지털정보위원회 간사는 "금지되는 인공지능을 통째로 누락시키고, 고위험 인공지능에 대해서 미흡한 규제에 그친 인공지능법안은 안전과 인권을 방치하고 국민을 실험대상으로 삼는 것"이라며 "일부 언론에서 산업 진흥과 책무의 균형을 맞춘 법안이라고 평가하지만 적절한 평가가 아니다. 국민 안전과 인권은 외면한 반쪽짜리 법안"이라고 비판했다.

김병욱 간사는 "법안은 금지되는 인공지능에 대한 규정을 누락시켰다"며 "살상무기에 탑재되거나, 인간의 잠재의식을 왜곡·조종하거나, 특정 집단의 취약성을 활용하는 인공지능과 같이 그 자체로 비윤리적인 인공지능은 개발·활용 자체를 금지시켜야 한다"고 말했다. 유럽연합 인공지능법(EU AI Act)의 경우 금지되는 범주를 규정해 AI개발·활용을 금지하고 있다. 

김병욱 간사는 "법안은 고위험 인공지능에 대해 과징금·형사처벌이 아니라 과태료라는 약한 규제에 그치고 있다. 이런 미약한 제재만으로 사업자의 의무 이행을 확보할 수는 없다"며 "설명요구권, 거부권과 같이 인공지능 기술에 의해 영향을 받거나 피해를 입은 사람들에게 보장되어야 할 권리에 대해 정하지도 않고 있다"고 지적했다. 

이재근 참여연대 협동사무처장은 "요즘 국회를 보고 있으면 도저히 이해가 되지 않는 일들이 많다"며 "여야가 합의하고 속도를 내야 할 채상병 특검법이나 방송법, 각종 의혹의 진상규명을 위한 국정조사는 합의를 못하면서 시민사회가 반대하는 법안에는 거대야당과 집권여당이 짝짜꿍이 되어 졸속으로 입법을 추진한다"고 말했다. 

이재근 처장은 "국민의 생명과 안전에 막대한 영향을 미칠 것으로 예상되는 제정법안을 소위에서 통과한 지 일주일도 되지 않아 전체회의에서 처리하고 본회의에 회부하는 것이 말이 되냐"며 "과방위가 멈추지 않았으니 법제사법위원회에서라도 제동을 걸어달라. 남은 입법절차에서라도 국민의 생명과 안전을 담보할 수 있는 장치들을 마련할 것을 다시 한 번 촉구한다"고 말했다. 

☞ 네이버 뉴스스탠드에서 ‘미디어스’를 만나보세요~ 구독하기 클릭!