[미디어스=고성욱 기자] 한국인터넷자율정책기구(KISO) ‘지인합성‘ 등 딥페이크 관련 유해 단어 100개를 ’청소년 보호를 위한 검색어‘로 지정했다. 

KISO는 네이버, 카카오, SK커뮤니케이션즈 등 포털사와 협력해 ’딥페이크‘와 관련 청소년 보호 검색어를 추가했다며 “최근 인공지능(AI) 기술을 활용한 다양한 콘텐츠가 생성되는 가운데 이러한 조치는 인공지능 기술의 부상과 그로 인한 유해 정보 증가에 대한 신속한 대응”이라고 밝혔다. 

KISO는 포털3사와 공동으로 ’청소년 보호 검색어 데이터베이스(DB)’를 구축, 관리하고 있다. 현재 51000개의 청소년 보호 검색어 DB를 운영하고 있고, 지속적으로 업데이트하고 있다. 청소년 보호 검색어로 지정되면, 해당 검색어와 관련한 청소년 유해 정보는 검색 결과에서 노출이 제한된다. 일반 이용자는 연령 확인 절차 등을 통해 검색 결과를 확인할 수 있다.

이번에 추가된 AI 관련 청소년 유해 검색어는 ’지인합성‘ 등 딥페이크와 관련된 정보이며, 일부 성인 콘텐츠를 노출하게 하는 애플리케이션 ’언드레스‘도 청소년 유해 검색어로 지정됐다. 

KISO는 “단어 자체만으로도 유해성이 있거나 검색어 입력시 유해한 결과를 노출시킨다고 판단될 경우에만 지정한다”며 “이번에 추가된 ‘언드레스’의 사전적 의미는 정장이 아닌 편안한 옷을 통틀어 이르는 말이나, 최근 사진 속 인물의 옷을 벗기는 딥페이크 애플리케이션이 등장하면서 이 검색어의 이용자가 폭증해 악용 우려를 낳았다”고 설명했다.

KISO 황용석 자율규제DB위원회 위원장은 “딥페이크와 관련된 검색어 추가는 초상권 침해, 명예훼손, 기타 형법적 문제가 발생할 위험을 줄이고, 성적 착취나 폭력으로의 연결 가능성을 예방하기 위한 필요한 조치”라고 밝혔다.

황 위원장은 “미국에서도 AI 관리 및 감독, 특히 아동과 청소년 보호가 중요한 이슈로 다뤄지고 있는 점을 고려하여 KISO와 회원사들이 선제적으로 대응하고 있다”고 설명했다.

☞ 네이버 뉴스스탠드에서 ‘미디어스’를 만나보세요~ 구독하기 클릭!