line

미디어스

Updated 2021.1.17 일 18:39
상단여백
HOME 뉴스 뉴스
AI 챗봇 '이루다' 일시중단, 법 위반 논란까지혐오·성희롱 표현에 개인정보 유출 논란까지..."인공지능에 대한 환상 낮춰야"
김혜인 기자 | 승인 2021.01.12 14:32

[미디어스=김혜인 기자] 소수자 혐오 발언을 학습한 것 아니냐는 논란이 불거진 AI 챗봇 서비스 ‘이루다’에 현행법 위반 의혹까지 제기됐다. 이루다 개발업체인 '스캐터랩'은 출시 20일 만에 서비스를 일시 중단했다. '스캐터랩'은 “개인정보 활용 동의를 받았고 개인정보가 유출되지 않았다”면서 “서비스 개선 기간을 가져 더 나은 이루다로 찾아뵙겠다”고 밝혔다. 

IT 전문가 지윤성 링크브릭스 대표는 12일 CBS <김현정의 뉴스쇼>에서 ‘이루다’를 둘러싼 논란을 짚었다. AI 챗봇 서비스는 인공지능과 대화하는 서비스다. 페이스북 메신저 앱에서 ‘이루다’에게 친구 신청을 하면 1:1 대화창이 열리고 대화를 나눌 수 있다. 이루다는 20대 여성 대학생으로 설정됐다. 자연스러운 대화 능력으로 이용자가 40만 명이 넘는 등 크게 주목받았다.

AI 챗봇 서비스 '이루다'

지윤성 대표는 이루다 서비스의 인기 요인으로 ‘대화체’를 꼽았다. 지 대표는 “대화체가 상당히 구어체이고 10대나 20대가 주로 채팅에서 사용하는 톤과 매너 방식으로 표현을 하고 있어 대화가 자연스럽다”고 말했다.

자연스러운 대화를 위해 ‘스캐터랩’은 실제 연인들이 나눈 대화 데이터 100억 건을 딥러닝 방식으로 이루다에게 학습시켰다. 스캐터랩은 자사의 연애 정보 앱 ‘연애의 과학’을 통해 데이터를 수집했다. ‘연애의 과학’은 연인 사이의 카카오톡 대화 내용을 분석해 상대방의 감정 상태를 알려주는 서비스다.

문제는 데이터 수집 방식과 활용에 개인정보보호법 위반 소지가 있다는 점이다. 연인 간의 대화 내용이 ‘연애의 과학’ 앱을 통해 ‘스캐터랩’에게 제공됐고, 이 정보가 이용자 동의 없이 이루다를 제작하는 등 상업 목적으로 활용됐다. 이용자들은 11일 개발 업체를 상대로 법적 대응에 나섰다.

지 대표는 “서비스 설명이나 업체의 소개자료를 보고, 직접 사용해보니 카카오톡 대화 내용을 사용했더라. 카톡은 자사 데이터를 외부로 유출하는 걸 금지하고 있지만, ‘대화 내용을 파일로 내보내기’라는 기능이 있다. 이 파일을 ‘연애의 과학’에 올리면 해당 데이터들이 스캐터랩에 제공되고, 스캐터랩은 ‘연애의 과학’에 쌓인 100억 건의 데이터를 학습시켰다”고 설명했다.

또한 이용자들의 개인정보가 유출되고 있다는 의혹이 제기됐다. 이루다와의 대화 도중 실명, 계좌번호, 주소 등의 정보가 등장했다는 이용 후기가 올라왔다. 지 대표는 “보통 인공지능을 개발하는 회사들은 AI가 데이터를 학습하기 전 개인정보를 삭제한다. 그런데 자료가 수억 건이 넘어가다 보면 (삭제에서)빠지는 건이 발생하게 되고, 필터에 걸리지 않은 자료들이 노출돼버린 것”이라고 설명했다. 사인 간의 대화 내용을 데이터로 활용하는 건 불법이다.

지 대표는 개인정보 취급방침 약관에 동의한 이들이 자신의 개인정보가 ‘이루다’ 제작에 활용될 것을 알고 동의 표시를 하지는 않았을 것이라고 말했다. 또한 카톡 대화 내용을 파일로 저장해 데이터로 제공했을 때 대화 상대방은 해당 사실을 아예 모르고 있었을 수 있다고 지적했다.

이루다 서비스 이용자들이 페이스북에 올린 '혐오, 차별' 표현을 학습한 모습.

성희롱 논란에 이어 혐오·차별 표현 논란이 제기됐었다. 일부 남초 사이트에는 ‘이루다 성노예 만드는 법’ 등 성희롱이 등장했고, 이루다가 “레즈비언은 싫어” 등 장애인과 성소수자 혐오를 학습해 논란이 불거졌다.

지 대표는 “인공지능에 대한 환상을 조금 낮출 필요가 있다”며 “이루다 같은 챗봇 인공지능은 감정이 없다. 도덕에 대한 관점이나 윤리적인 내용은 아직 기술적으로 해결이 안 되고 단순한 통계에 기반할 뿐”이라고 말했다. 이어 “많은 사람이 질문하고 답하는 내용을 통계로 자동적으로 학습하게 된다. 이루다는 도덕적인 판단을 할 수 없는 기계이기 때문에 통계적으로 가장 많이 한 답변을 할 뿐”이라고 했다.

지 대표는 “데이터 편향성이 문제다. 10대, 20대의 대화 내용을 기준으로 했기에 전 세대의 대화 스타일, 톤앤매너를 적용했다고 보면 안 된다”며 “이런 사례는 해외에서도 많이 벌어지고 있다. 한 서비스는 인종차별 문제로 서비스를 닫은 적이 있다”고 전했다. 

이재웅 전 대표는 앞서 9일 자신의 페이스북에 "AI챗봇 이루다의 더 큰 문제는 그걸 악용해서 사용하는 사용자의 문제보다도 기본적으로 사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제"라며 "기본적으로 차별과 혐오는 걸러 냈어야 한다"고 비판했다. 이어 "서비스를 잠시 중단하고 차별과 혐오에 대한 사회적 감사를 통과한 후에 서비스를 해야 한다"고 강조했다. 

김혜인 기자  key_main@mediaus.co.kr

<저작권자 © 미디어스, 무단 전재 및 재배포 금지>

김혜인 기자의 다른기사 보기
icon인기기사
기사 댓글 0
전체보기
첫번째 댓글을 남겨주세요.
여백
여백
여백
여백
여백

서울특별시 영등포구 국회대로 72길 22 가든빌딩 608호 (우) 07238  |  대표전화 : 02-734-9500  |  팩스 : 02-734-2299
등록번호 : 서울 아 00441  |  등록일 : 2007년 10월 1일  |  발행인 : 안현우  |  편집인 : 임진수  |  개인정보책임자 : 윤희상  |  청소년보호책임자 : 윤희상 팀장
미디어스 후원 계좌 안내 : 하나은행 777-910027-50604 안현우(미디어스)
Copyright © 2011-2021 미디어스. All rights reserved. mail to webmaster@mediaus.co.kr

ND소프트
Back to Top