[미디어스 김홍열 칼럼] 서울시가 온라인에서 유포되고 있는 디지털 성범죄 영상의 신속한 삭제 지원을 위해 ‘AI 자동 삭제신고 시스템’을 국내 최초로 개발해 실행에 들어간다고 밝혔다.
지난 22일 서울시 보도자료에 의하면, AI 기술을 도입해 성착취 영상이 유포될 가능성이 있는 사이트를 24시간 모니터링 하고, 모니터링 결과 성착취 영상으로 판별되면 영상 중 필요한 부분을 채증해 보고서를 작성한다. AI는 작성된 보고서를 첨부해 해당 사이트에 보내는 삭제 요청 메일까지 생성한다. 이 메일은 ‘서울 디지털성범죄 안심지원센터’ 소속 삭제지원관이 최종 확인 후 관련 사이트로 발송하면서 1차 종료된다.
AI 자동 삭제신고 시스템의 도입으로 성착취 영상 검색을 위한 키워드 입력에서부터 성착취 영상 검출까지 불과 3분밖에 걸리지 않아 기존 삭제지원관이 평균 2시간이 소요됐던 것에 비해 검출 속도가 97.5%가 단축되었다고 서울시는 밝혔다. 삭제지원관 대비 정확도는 무려 200% 이상 향상되었다고 한다. 게다가 AI는 24시간 모니터링이 가능하기 때문에 사람 대비 생산성도 당연히 높을 수밖에 없다. 서울시 보도를 종합하면, AI 자동 삭제신고 시스템 도입으로 성착취 영상 유포가 완전히 사라지지는 않겠지만, 피해는 최소화할 수 있을 것으로 보인다.
서울시의 이 사례는 AI를 적절하게 활용한 좋은 케이스가 되겠지만, AI 활용 이전에 법적 절차가 먼저 정비된 것을 이해하는 것이 중요하다. 전기통신사업법 제22조의5에 의하면, 인터넷 서비스를 운영하는 부가통신사업자는 대통령령으로 정하는 기관·단체의 요청 등을 통하여 불법촬영물을 인식한 경우에는 지체 없이 해당 정보의 삭제·접속차단 등 유통 방지에 필요한 조치를 취하여야 한다고 되어 있다. 여기서 중요한 것은 ‘대통령령으로 정하는 기관·단체’다. 시행령에 따르면 이 기관 단체에는 ‘서울 디지털성범죄 안심지원센터’처럼 지자체 서울시의 지원을 받아 운영되는 곳이 포함되어 있다.
2020년 6월에 이 조항이 만들어지기 전까지, 이전 조항에는 불법 촬영물 신고 주체가 없었다. 단지 부가통신사업자가 신고, 삭제요청 등을 통하여 명백히 인식한 경우에만 삭제, 접속차단 등 유통 방지에 필요한 조치를 취하여야 한다고 되어 있다. 즉, 불법 촬영물을 ‘유통시키고’ 있는 사업자가 불법촬영물의 유통을 막을 책임이 있다고 규정한 것이다. 이 조항은 여러 가지로 문제가 많았다. 사업자들은 자신이 서비스하는 통신 네트워크에 다양한 정보가 유통되고 많은 사람들이 접속하기를 원한다. 당연히 유통되는 정보에 대해 개방적일 수밖에 없다. 특정 콘텐츠에 문제가 있다는 제보를 받은 경우에도, 사실 확인 등을 이유로 신속히 처리하지 않는 경우가 많다.
개정 전 전기통신사업법 제22조의5는 성착취 영상 유포같이 즉각적 조처가 필요한 사안에 너무 무력했다고 볼 수 있다. 사업자가 삭제를 주저하는 사이에 성착취 영상은 이미 유포될 만큼 되었고, 나중 삭제하더라도 어딘가에 저장된 영상은 해외 사이트에 버젓이 올라오는 경우도 있다. 피해자가 평생 힘들어할 수밖에 없는 이유다. 만약 이 조항이 개정되지 않았더라면, 서울 디지털성범죄 안심지원센터의 AI 자동 삭제신고 시스템도 효력을 발휘할 수 없었다. 법적 근거가 없기 때문이다. AI 솔루션이 작동되기 위해서는 AI 솔루션이 개입할 수 있도록 법 개정이 이루어져야 했다. AI 솔루션이 활용될 수 있는 배경이다.
법 개정과 더불어, 삭제지원관의 역할도 중요하다. 삭제지원관은 이 시스템이 성공하기 위해서 꼭 필요하다. 서울시는 AI 자동 삭제신고 시스템을 이용하면, 불법 영상물을 찾아 해당 사이트에 삭제 신고를 하는 시간이 기존 약 2시간 반~3시간에서 6분으로 단축된다고 밝혔다. 그러나 6분으로 모든 것이 끝나는 것은 아니다. 삭제지원관의 최종 확인 시간이 필요하다. 정상 제작된 영상이 피해를 보지 않도록 삭제지원관의 엄밀한 판단이 필요하다. AI의 환각 가능성은 늘 존재한다. 성착취 영상 역시 계속 교묘해지고 있다. 최종 판단은 경험 있는 삭제지원관이 수행해야 한다.
서울시가 2023년부터 운영하던 ‘디지털 성범죄 AI 삭제지원 기술’이 좋은 결과를 얻은 전례가 있어, AI 자동 삭제신고 시스템 역시 좋은 결과로 이어지길 바란다. 서울시의 이번 사례는 기술의 장점을 활용하기 위해서는 법과 제도가 뒷받침되어야 한다는 단순한 사실을 증명한 것이라고 볼 수 있다. 그리고 법과 제도의 개정 및 신설은 진보적 문제의식에서 출발해야 한다. 사회적 약자를 위한 공공기관의 문제의식이 중요한 이유다. 사회적 약자에 대한 배려가 깊어질 때 법과 제도의 개선이 이루어지고, 개정된 법과 제도를 효율적으로 집행하기 위해 적절한 기술이 개발되고 응용되는 것이다. 서울시의 이번 시도가 모든 지자체로 확산되기를 바란다.
☞ 네이버 뉴스스탠드에서 ‘미디어스’를 만나보세요~ 구독하기 클릭!