이루다AI 챗봇, 개인정보 이슈로 퇴장하다.

안녕하세요, 정말 오랜만이에요! :) 오늘도 구땡이네에 방문해주셔서 감사합니다. ღゝ◡╹)ノ♡

 

저는 평소에 마케터로 근무하고 있는데요. 이루다 챗봇이 서비스를 조기 종료한다고 합니다. 결정적인 이유는 '개인정보'와 관련된 이슈였는데요. 실무에서 조심하지 않으면 어느 사업장에서든 충분히 발생할 수 있는 일이기에, 데이터를 가지고 실무를 하시는 분들이 모두 경각심을 가지면 좋을 것 같은 마음에서 포스팅을 쓰게 되었습니다. :)

 

사진 출처: 이루다 페이스북

 

아시다시피 이루다는 12월 23일에 런칭해서 약 2주 간의 시간 동안 75만명의 이용자를 끌어모은 화제의 AI 챗봇 서비스인데요. 이목이 집중된만큼 '윤리'적인 면에서 각종 논란이 이슈가 발생되었어요.

 

초반에는 이루다 챗봇에게 메시지를 보내는 이용자들이 '성희롱성 발언'을 한다는 것이 논란이었어요. 이와 더불어 특정 층에 대한 혐오 발언을 뱉는 사례가 발생해서 논란이 되었는데요.* 이부분에 대해 개발사인 스캐터스는 '레이블러'를 투입해 학습 데이터를 조정하고 올해 1분기 내에 업데이트를 진행하겠다고 대책을 내놓았습니다.

 

*성희롱과 관련된 이슈에 덧붙이자면, AI라는 소프트웨어, 즉 사물에 사용자가 성적인 발언을 입력한 행위를 '성희롱'이라고 볼 수 있는 지에 대해서는 의견이 분분합니다. AI가 인격이 아니기 때문인데, 성희롱은 기본적으로 대상이 사람이거나 최소 동물은 되어야 하고 듣는 입장에서 불쾌감을 느껴야 하기 때문입니다. 이와 별개로, AI와 성적인 대화를 나눈 것을 공적인 장소에 게재하는 것은 다른 사람에게 불쾌감을 유발할 수 있기 때문에 윤리/법적 문제가 될 수 있다고 합니다.

 

개인정보 유출 문제로 인한 서비스 종료

이러던 중 이루다 챗봇이 서비스 종료를 하게 된 결정적인 요인이 터지게 되었는데요. 바로 '개인정보' 이슈였습니다. 개인정보 이슈는 아래와 같이 두 가지입니다.

 

(1) 개인정보 무단 활용 의혹

이루다를 개발한 스캐터랩은 '연애의 과학'이라는 앱을 만든 개발사이기도 한데요. 아시는 분은 아시겠지만, 연애의 과학이라는 앱은 연인과 나눈 카톡 대화를 다운받아 이 앱에 업로드 시키면, 대화 패턴을 분석해서 가장 많이 사용한 말이라든지 혹은 연인간 애정도를 수치로 보여주는 앱이에요.

스캐터랩에서는 기존에 이 연애의 과학으로 수집한 카톡 대화 DB 약 100억 건을 기초로 삼아 이루다 챗봇을 만들었다고 합니다. (전 여기서 약간 의아했던게, 그럼 과연 연애의과학 이용약관이나 개인정보 처리방침에 용도 외에 개인정보가 활용될 수 있다는 고지가 있었는지, 그리고 자신의 개인정보가 용도 외의 목적으로 사용된다는 것에 대한 사용자들의 명시적인 동의를 받고 DB를 활용한 건지 굉장히 의심스러웠습니다. 안 했다면... 대담하달까?....)

 

이루다를 개발하기 위해 데이터를 수집하는 과정에서부터 문제가 있다는 것인데요. 과연 사용자의 명시적인 동의 하에 쓴 것인지 의문입니다. 스캐터랩의 주장은 개인정보처리방침에 데이터 활용에 대한 내용이 있고, 자신의 데이터가 활용되길 원하지 않는 사용자는 DB에서 삭제해주겠다고 하는데, 좀 순서가 바뀐 듯한 느낌이 있습니다. 마치, 제3자 정보 공유나 마케팅 수신동의에 대한 명시적인 동의 없이, 개인정보 처리방침에 있는 포괄적인 조항을 근거로 자의적으로 데이터를 사용한 느낌이거든요. 데이터를 쓰기 전에, 카톡 대화의 당사자들에게 사전 동의를 먼저 얻었어야 하지 않나라는 생각이 듭니다.

 

(2) 개인정보 유출 (개인정보보호법 위반 의혹)

또한, 대화 도중에 특정인의 실명, 집 주소, 은행 계좌 등이 이루다의 입에서 나왔다고 하는데요. 이건 정말 개인정보 데이터를 저장할 때 마스킹 작업 (개인 식별 정보를 가리는 것)을 꼭 해야 하는데... 정말 이런 기본도 지키지 않은 건지 굉장히 심각하게 이해하기 힘듭니다. 평소에 데이터를 얼마나 부실하게 관리하는 건지 의심스럽습니다.

 

스캐터에서는 연애의 과학의 DB는 pre-testing 단계에서 학습에만 활용되었고, 이루다 챗봇이 사용한 문장은 연애의과학 사용자와 연계되지 않은 별도의 사내 데이터베이스에서 가져왔다고 합니다만, 오늘(12일) 일자로 개인정보보호위원회와 한국인터넷진흥원(KISA)에서 '이루다 AI 챗봇'과 '연애의 과학' 간 개인정보 유출, 개인정보보호법 위반 여부에 대해 조사를 나선다고 합니다. 이에 대한 결과는 기다려 봐야 할 것 같아요. 

 

저도 디지털 마케팅 & 마케팅 커뮤니케이션 일을 하고 있어서, 개인정보를 다룰 일들이 많습니다. 기본적으로 데이터베이스를 대상으로 캠페인을 진행하는 거니까요. 제가 법쪽인 지식은 부족하지만, 개인정보보호법이나 정보통신망법을 위배하는 결정적인 실수를 하지 않으려고 실무에서 노력하고 있습니다. 

 

솔직히 실무를 하다보면 윗선에서 위법이 될 수 있을만한 것을 권유할 때가 있어요. 예를 들면, A라는 서비스에만 동의한 고객들인데, 혹시 B라는 서비스를 광고하는데 동 데이터를 사용할 수 없는지. 그리고 일정기간 이후에는 개인정보를 파쇄해야 하는데, 그냥 '이번 딱 한번만' 광고 캠페인에 사용될 수 없는지. 그리고 개인정보를 수집하는 단계에서, 서비스를 이용하기 위해 필요한 정보보다 더 많은 정보를 받아 세일즈에 활용하면 안 되는지 등... 정말 많습니다. 하지만, 개인정보는 누구나 민감해 하는 사항이고 신중하고 약속된 범위 내에서만 서비스를 제공하는 목적으로 사용되어야 하기에 위에서 내려오는 지시를 철저히 무시, 반박하고 있습니다... (회사 소송당하면 누가 책임질겨?)

 

이루다 AI를 선례로, 앞으로 데이터와 관련해 모든 기업들이 경각심을 가지고 이용약관에 준수하고, 또 고객의 동의 하에서만 활용하기를 바랄 뿐입니다! :)

 

여러분은 이번 사태 어떻게 생각하셨나요?

자유롭게 댓글 남겨주세요.