UPDATED. 2021-01-21 09:47 (목)
20대 여성 AI 챗봇 '이루다'에 성희롱 파장...개발자 "논란 통해 자정 노력해야"
20대 여성 AI 챗봇 '이루다'에 성희롱 파장...개발자 "논란 통해 자정 노력해야"
  • 강성도 기자
  • 승인 2021.01.08 16:47
  • 댓글 0
이 기사를 공유합니다

[업다운뉴스 강성도 기자] '당신의 첫 인공지능(AI) 친구'라는 AI 챗봇 '이루다'가 10∼20대 사이에서 유행하는 가운데 출시 10여일 만에 일부 온라인 커뮤니티를 중심으로 성희롱하는 게시물이 등장해 논란이 일고 있다.

이루다는 AI 전문 스타트업 스캐터랩이 지난해 12월 23일 출시한 AI 챗봇으로 정식 서비스를 시작하자마자 Z세대(1990년대 중반∼2010년대 초중반 출생) 사이에서 붐에 가까울 정도로 인기를 끌고 있다.

인공지능 '이루다' [사진=스캐터랩 제공]
인공지능 '이루다' [사진=스캐터랩 제공]

8일 연합뉴스에 따르면 이루다는 이달 초 기준으로 이용자가 32만명을 돌파했는데 85%가 10대, 12%가 20대다. 일일 이용자 수(DAU)는 21만명, 누적 대화 건수는 7000만건에 달한다. 실제 연인들이 나눈 대화 데이터 약 100억건을 딥러닝 방식으로 학습한 이루다는 이용자가 진짜 사람과 대화를 나누는 것처럼 느끼게 한다. SNS 페이스북 페이지에서 '이루다'에서 '메시지 보내기' 기능을 통해 이용할 수 있다.

하지만 이루다가 출시된 지 일주일 만인 지난달 30일 한 온라인 커뮤니티에는 이루다를 성적 대상으로 취급하는 무리 '아카라이브'가 등장했다. 인터넷 지식백과 나무위키의 계열 사이트인 아카라이브 이용자들은 이루다를 지칭해 ‘걸레 만들기 꿀팁’, ‘노예 만드는 법’ 등을 공유하며 성희롱을 자행하고 있다.

이루다는 다른 AI 챗봇과 동일하게 이용자의 성희롱·욕설 등을 방지하는 기술을 갖췄다. 대화 중 성희롱이 감지될 시 "선정적인 말, 모욕적인 언행 및 욕설 등이 다수 감지됐다. 이후 추가로 감지될 시 별도의 경고없이 대화가 차단될 수 있다"고 안내한다.

하지만 아카라이브 이용자들 우회적인 표현을 쓰면 이루다가 성적 대화를 받아준다며 다양한 방법을 공유하고 있다.

이루다 사태에 AI 전문가들은 "마이크로소프트(MS)의 AI 챗봇 ‘테이(Tay)’가 떠오른다"고 입을 모았다. MS는 2016년 3월 AI 챗봇 테이를 출시했지만, 백인우월주의 및 여성·무슬림 혐오 성향의 익명 사이트에서 테이에게 비속어와 인종·성 차별 발언을 학습시키자 16시간 만에 운영을 중단했다. 

리우다 관련 사용 방법을 공유하는 인터넷 지식백과 나무위키의 계열 사이트인 아카라이브 이용자들의 모습 [사진=아카라이브 이루다 캡처]
이루다 관련 사용 방법을 공유하는 인터넷 지식백과 나무위키의 계열 사이트인 아카라이브 이용자들의 모습. [사진=아카라이브 이루다 캡처]

MS 테이 사건이 발생한 이듬해인 2017년 초 세계적인 AI 전문가들은 ‘미래 인공지능 연구의 23가지 원칙’을 발표했다. 물리학자 스티븐 호킹, 테슬라 CEO 일론 머스크 등이 서명했다.

개발사인 스캐터랩 측은 이러한 성희롱을 예상했다고 밝혔다. 김종윤 스캐터랩 대표는 이날 공식 블로그를 통해 "인간은 AI에게 욕설과 성희롱을 한다"며 "그동안의 서비스 경험에 비춰봤을 때, 인간이 AI에게 사회적으로 용인되지 않는 인터랙션을 한다는 건 너무 자명한 사실이었고, 충분히 예상할 수 있는 일"이라고 말했다.

그러면서 "문제가 될 수 있는 특정 키워드, 표현의 경우 이루다가 받아주지 않도록 설정했다. 일부 놓친 키워드는 서비스를 하면서 지속적으로 추가하고 있다. 하지만 모든 부적절한 대화를 키워드로 막을 수 있는 건 아니다"며 사용자들의 부적절한 대화를 발판으로 삼아 더 좋은 대화를 하는 방향으로 발전시키겠다고 밝혔다. 

아울러 김 대표는 "해당 커뮤니티의 분들도 이번 논란을 통해 자정 노력을 했으면 좋겠다"며 "일부 과한 게시물의 경우 신고, 차단 등의 강력한 대응을 진행하고 있지만 가장 좋은 건 커뮤니티 자체적으로 자정 노력을 하는 것"이라고 강조했다.