이루다AI 챗봇을 아시나요?

사진출처: 이루다AI 공식 페이스북 계정 배경 캡처

 

안녕하세요~! 오늘도 카페 구땡이에 방문해주셔서 감사해요. :)

 

뉴스를 통해 요새 이루다AI가 사회적으로 이슈가 되고 있다는 것을 알게 되었어요. 

지난 12월 23일에 출시된 따끈따끈한 챗봇인데, 요새 성희롱 관련해서 논란이 있다고 해요.

 

여러분은 이루다AI에 대해 들어보셨나요?

 

이루다 AI가 뭐죠?

 

앞서 말씀 드렸듯, 이루다는 딥러닝 기술을 이용하여 만들어진 AI 챗봇인데요. 인공지능 스타트업인 '스캐터랩'에서 론칭한 것이라고 합니다. 베타 테스트 때부터 사람과 비슷한 응답 내용으로 화제가 되었다고 하네요. 지난 6개월 동안 약 1500명이 베타테스트에 참가한 덕분에, 자연스럽고 친근한 어투를 쓸 줄 안다는 게 특징인 것 같아요.

 

별도로 앱을 다운 받는 형식인줄 알았는데, 그건 아니고 페이스북 메신저를 통해 서비스가 제공된다고 해요.

이루다의 공식 페이스북 계정에서 메신저를 통해 말을 걸면 채팅이 시작되는 형태 같습니다. 

이루다 공식 페이스북 계정: www.facebook.com/ai.luda

사진출처: 이루다 공식웹사이트

 

현재까지 이용자는 32만 명을 돌파했고, 누적 대화 건수는 7,000만 건이나 된대요!

주 이용자는 10, 20대인데 10대가 85%라 거의 10대가 많이 사용한다고 보면 되겠어요.

 

이루다AI에 대해 불거지는 논란...

문제는 서비스가 시작된지 보름 밖에 안됐는데 이 AI 챗봇을 성적으로 비하하고, 성적인 대화를 할 수 있는 방법을 커뮤니티에 공유하고 있다는게 논란이 되고 있어요. '아카라이브'라는 사이트에서 이루다를 성적 대상 취급하면서 논란이 생긴 것 같네요. 

 

사진출처: 아카라이브 이루다 캡처

 

이루다를 개발한 스캐터랩이서는 애초에 성적인 단어를 금지어로 필터링을 했는데, 우회적인 표현을 쓰면 대화가 가능해서 이런 틈새를 활용해서 성적 대화를 시도한다고 해요.

 

이루다가 있기 전에, MS의 Tay가 있었다

사실, 이루다가 있기 전에 2016년에 마이크로소프트가 개발한 AI 챗봇 '테이(Tay)'가 있었는데요. 그 당시에 테이는16세의 미국인 소녀의 생각과 말투를 벤치마킹해 탄생했지만, 런칭한지 16시간만에 사용자들로부터 인종차별적인 발언 등을 학습하게 돼서 운영이 중단 되었었죠. (유대인에 대한 안 좋은 발언과 미국과 멕시코 사이에 장벽을 세우고 멕시코가 비용을 대야 한다는 트윗을 올리기 시작했죠)

 

테이의 각종 망말 tweets ▼

 

이루다AI는 이제 어떻게 되는 것일까?

이러한 선례가 있는 마당에 스캐터랩에서 이러한 가능성을 생각하지 못 했던 건 아닌 것 같아요. 실제로 스캐터랩의 김종윤 대표가 밝힌 바에 따르면, 이루다에 대한 성희롱을 사전에 예상했고 이루다 이전에 개발했던 고양이 챗봇 등을 운영했던 경험을 비춰봤을 때 단순히 챗봇의 성별 때문에 성희롱이 발생되는 건 아니라고 합니다. 인간이 AI에게 비윤리적이거나 사회적으로 용인되지 않는 행위를 하는 건 자명한 사실이라고 하네요. (약간 슬픈 부분이기도 하고요. 스필버그의 영화 A.I.가 생각나기도 합니다)

 

갑자기 생각난 영화 A.I. 어릴 때 감명 깊게 봤다는...

 

처음부터 모든 부적절한 대화를 막기에는 어렵기 때문에, 이러한 사용자의 대화를 모두 학습 데이터로 삼아 1분기 내에 더 좋은 대화를 하는 방향으로 학습시키려고 한다고 합니다. 이러한 반복 학습과 업데이트로 개선해 나간다고 합니다. 또한 루다는 사용자와의 대화를 바로 학습에 적용하지 않기 때문에, 중간에 '레이블러 (데이터 가공 작업자)'가 참여해서 무엇이 좋고 나쁜 말인지 학습 시키는 작업이 있을 거라네요. 

 

또한 올해 중에는 남자 버전의 이루다 챗봇도 출시될 예정이라고 합니다.

 

외로움을 달래준다든지 분명 이루다 챗봇이 갖고 있는 순기능도 있기 때문에, 반복되는 학습을 통해 개선이 되면 좋을 것 같아요. 

 

레이블러가 개입해서 하나하나 잡아서 만드는 것이라고 생각하니 굉장히 손이 많이 가는 작업이라고 생각이 드는데요.

3월 내로 서비스가 어떻게 발전하는지 한번 지켜보고 싶네요!

 

여러분의 생각은 어떠신가요? 

댓글에 의견을 활발히 남겨주세요. :)

 

오늘도 방문해주셔서 감사합니다.

날이 추운데 항상 건강하세요~!