이루다 챗봇 카카오톡 개인정보 유출? / 성희롱 논란. 심심이에서 이루다까지 /

안녕하세요 발 빠르게 정보를 전달드리는 빅뉴스입니다.

오늘 다룰 이야기는 얼마 전부터 큰 화제와 논란을 일으킨 챗봇 '이루다'에 관한 이야기입니다. 영화 'Her'을 통해 바라본 미래의 실현 가능성에 대한 감성적인 이야기를 뒤로하고, 성희롱 논란과 개인정보 유출에 대한 이슈들은 미래사회에 대한 공포심을 조성하기도 하였습니다. 기술적 발전, AI 윤리, 보안적인 문제 등이 해결되어 보다 안전하고 유익한 챗봇이 나오기에는 너무 많은 시간이 걸리는 것일까요?

 

스케터랩의 AI챗봇 이루다.

하지만 그렇다고 하더라도 대화형 인공지능이 발전 가능성이 무한한 기술, 우리의 삶에 기능적 편리함부터 감정적 안식처를 제공할 수 있는 기술이 될 가능성이 높다는 것은 부정하기 힘들 것 같습니다. 그렇다면 지금부터 이루다 이전의 챗봇부터 현재의 챗봇, 이루다의 논란과 스케터랩의 입장을 정리해보는 시간을 가지도록 하겠습니다.

---

목차

 

01. 챗봇과 학습

02. 이루다, 개인정보 유출 논란 

03. 이루다, 성희롱 논란

04. 이루다의 서비스 종료와 스케터랩의 입장과 사과

---

01. 챗봇이란?

예전 고전게임 중 '맥스'를 아시나요? 저는 초등학교 컴퓨터실에 다운로드되어있던 맥스를 해본 기억이 있습니다. 컴퓨터와 사소한 대화를 나누는 프로그램이었는데 신기하기도 해서 친구들과 모여서 막 채팅을 치던 생각이 납니다. 맥스는 저장되어있는 문장을 표현하는데 그쳤었습니다. 그 후 각종 고객센터 어플의 챗봇, 심심이 같은 사이트도 나왔었습니다.

 

고전게임 맥스3.12ver

 

하지만 이루다는 이전의 컴퓨터 채팅 프로그램, 심심이와는 다릅니다. 인공지능 기반으로 자체적으로 학습을 할 수 있는 것이 그 특징입니다. 그렇다면 어떤 것을 학습할까요? 이루다의 제작사인 스케터랩은 연애 분석 어플인 '연애의 과학' 이용자들의 카카오톡 데이터를 수집해서 AI를 학습시켰습니다. 여기서 다음의 문제가 나오게 됩니다.

 

02. 이루다 개인정보 유출 논란

개인정보보위원회와 한국인터넷진흥원은 얼마 전 스케터랩에 대한 조사를 시작하였습니다. 이유는 '합법적으로 개인정보를 사용했는가'에 대한 답을 찾기 위해서였습니다. 앞서 말했듯이, 연애의 과학 이용자들의 데이터를 수집해서 이루다를 학습시켰는데 이때 개발 기록을 공유 플랫폼인 '깃허브'에 공유했고, 필터링되지 않은 몇몇 실명이 그대로 유출되는 사태까지 발생한 것입니다. 현재 비공개 처리를 하였지만 명백한 스케터랩의 실수로 보일 수밖에 없는 상황입니다. 이는 개인정보보호법을 어긴 것이 아니냐는 의혹도 받고 있습니다. 

 

정말로 개인정보에 대한 철저한 보안은 굉장히 중요한 부분입니다. 이 때문에 이용자들은 연애의 과학에서 수집한 카카오톡 데이터 전량을 폐기해야 한다고 주장하고 있습니다.

 

03. 이루다 성희롱 논란

몇몇 사이트에서 이루다를 성적 대상화하여 성희롱 한 스크린샷이 올라와 문제가 되었습니다. 개발사들 역시 이를 예상하였고 관련 단어가 나오면 더 이상 대화가 진행되지 않도록 만들어 놓았다고 말했습니다. 하지만 몇몇 이용자들이 이를 우회해서 성희롱적인 대화를 지속했고 이는 온라인에서 크게 문제가 되어 논란이 되고 있는 상황입니다. 그리고 사회적 소수자들이나 사회문제에 대해서 학습한 내용이 편향적이라는 지적도 나오고 있습니다.

 

개인적으로 현시대가 AI윤리에 대한 시작하는 단계를 밟고 있다고 생각하는데, 이러한 점들이 차근차근 개선되어서 조금 더 인간 같지만 사회적 이슈나 문제를 야기시키지 않는 AI가 나왔으면 하는 바람입니다. 

 

04. 이루다의 서비스 종료와 스캐터랩의 사과

스캐터랩 측은 개인정보에 대한 조사를 성실히 받을 것을 약속하며, 이용자들에게 사과의 메시지를 전했습니다. 관련 업계에 대한 사과도 전했으며, AI윤리에 대해서도 더욱 노력하겠다는 의견을 밝히고 있습니다.

 

앞으로 이런 문제가 발생하지 않도록 노력하여 더 나은 단계의 AI가 국내에서 나왔으면 합니다.