UPDATED. 2021-01-20 18:21 (수)
'혐오발언·정보유출 논란' 챗봇 이루다 잠정 중단과 AI 윤리의 문제
'혐오발언·정보유출 논란' 챗봇 이루다 잠정 중단과 AI 윤리의 문제
  • 강성도 기자
  • 승인 2021.01.12 10:22
  • 댓글 0
이 기사를 공유합니다

[업다운뉴스 강성도 기자] 인공지능(AI)에 대한 성희롱 논란으로 시작돼 AI의 차별·혐오 발언 논란, 개인정보 유출 의혹 등에 휘말렸던 AI 챗봇 서비스 '이루다'가 멈춰섰다. 개인정보를 이용당했다고 주장하는 피해자들이 집단소송을 준비하는 것으로 알려진 가운데 개발사는 서비스를 개선해 재출시하겠다고 밝혔다.

이루다 개발사인 스타트업 스캐터랩은 11일 입장문을 통해 "(이루다의)부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵙겠다"고 밝혔다. 이어 "특정 소수집단에 대해 차별적 발언을 한 사례가 생긴 것에 진심으로 사과드린다"면서 "그런 발언은 회사의 생각을 반영하지 않고 있다"고 설명했다.

AI 챗봇 '이루다' 서비스가 잠정 중단된다. [사진=이루다 페이스북 캡처]
AI 챗봇 '이루다' 서비스가 잠정 중단된다. [사진=이루다 페이스북 캡처]

"지난 6개월 간의 베타테스트를 통해 문제발생을 미연에 방지하기 위해 여러 조치를 취했다"고 설명한 스캐터랩은 "기존에 알려진 사례들은 이미 개선을 완료했으며, 새롭게 발견되는 표현과 키워드를 추가해 차별이나 혐오 발언이 발견되지 않도록 지속적으로 개선 중"이라고 부연했다.

스캐터랩은 "이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI"라면서 "학습을 통해 만들게 될 편향 대화 검출 모델은 모든 분들이 사용하실 수 있게 공개할 계획이다. 한국어 AI 대화 연구 및 AI 제품, 그리고 AI 윤리 발전에 유용하게 쓰일 수 있었으면 좋겠다"고 밝혔다.

한국인공지능협회는 이날 성명서를 통해 "인공지능에 학습되는 빅데이터는 신뢰할 수 있고, 편향적이지 않으며, 합법적이어야 한다. 신뢰할 수 없고, 편향적이며, 불법적인 데이터로 만들어진 AI 제품과 서비스는 인간에게 잘못된 정보와 인식을 심어주는 악영향을 미치기 때문"이라며 AI 윤리 가이드라인을 확인해 적용하고 개선한 후 재출시하기를 촉구했는데, 스캐터랩이 이를 수용한 것으로 보인다.

20세 여성 캐릭처로 설정해 지난해 12월 23일 출시된 이루다는 출시 2주 만에 이용자 75만명을 기록할 정도로 특히 2030세대의 인기를 모았다. 하지만 온라인 커뮤니티 등에서 이루다에 대한 성희롱 논란에 휩싸였다. 정작 이루다 스스로도 동성애, 장애인 등 사회적 소수자를 차별하고 혐오하는 발언을 쏟아내 AI 윤리 차원에서 큰 비판을 받았다.

더불어 애플리케이션(앱) '연애의 과학' 이용자들의 카카오톡 대화를 학습하면서 사용됐던 데이터가 제대로 익명 처리되지 않아 개인정보유출 의혹까지 일었다. 

인공지능 챗봇 '이루다' [사진=이루다 페이스북 캡처]
인공지능 챗봇 '이루다' [사진=이루다 페이스북 캡처]

스캐터랩은 '연애의 과학' 사용자의 개인정보 유출 의혹에 대해선 "개인정보 취급 방침 범위 내에서 활용했지만 이용자분들과 충분히 소통하지 못한 점에 사과드린다"며 "구체적 개인정보는 이미 제거돼있으며 개인을 특정할 수 있는 정보는 유출되지 않았다"고 해명했다.

'연애의 과학'은 사용자들이 5000원 정도를 내고 연인과 나눈 실제 카카오톡 대화 내용을 올리면 이를 바탕으로 연인과의 친밀도를 분석해 제공하는 서비스다. 지난달 23일 출시된 AI 챗봇 이루다는 이 대화 데이터 100억건을 학습, 실제 친구나 연인처럼 사용자의 말에 반응했다. 

그러나 이루다가 대화 중 특정인의 이름을 언급하거나 아파트 동·호수가 포함된 주소를 말하는 사례가 발견되면서 개인정보가 제대로 익명화되지 않았다는 의혹이 불거졌다. '연애의 과학' 유료 이용자들은 수집된 개인정보가 구체적으로 어떤 서비스에 활용되는지 설명받지 못했다고 반발하고 있다. 이루다의 대화를 통해 노출된 특정 개인의 이름과 주소, 계좌 정보, 숙박업소의 이름 등 개인정보를 확보해 법적 대응을 준비 중인 것으로 알려졌다.

해당 논란과 관련해 개인정보보호위원회는 한국인터넷진흥원(KISA)과 함께 스캐터랩가 개인정보보호법 등 관련 법을 어겼는지 사실관계를 파악하는 작업에 착수했다.