통합 검색어 입력폼

AI '이루다' 개발자는 이것을 놓쳤다

조회수 2021. 1. 12. 20:13 수정
번역beta Translated by kaka i
번역중 Now in translation
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 다양한 분야의 재밌고 유익한 콘텐츠를 카카오 플랫폼 곳곳에서 발견하고, 공감하고, 공유해보세요.

안녕..👋 AI 챗봇 '이루다' 서비스 중단, 이전에도 똑같은 일 있었다

1월 11일, 인공지능(AI) 챗봇 '이루다'가

논란 끝에 잠정 중단됐습니다.


"루다에 대한 성희롱은 예상했으며,

모든 부적절한 대화를 막는 건

어렵다"는 답을 내놓은 지

3일 만입니다.


대체 어디서부터 잘못된 걸까요?


인공지능(A.I) 챗봇 루다가

논란 끝에 잠정 중단됐습니다

루다에 대한 성희롱은 예상했으며

모든 부적절한 대화를 막는 건

어렵다는 답을 내놓은 지

3일 만입니다

지난 11일 개발사는 서비스를

잠정 중단하며

이렇게 설명했는데요

이번 논란의 핵심을 이해하기 위해

곱씹어볼 단어는 바로 이

‘어린아이 같은’ 입니다

루다는 사용자와 대화

거듭하면서 학습해가는,

즉 딥러닝 기술에 기반한

인공지능입니다

성희롱을 당하면

성희롱적인 대화를 학습하고

차별과 혐오의 말을 들으면

차별과 혐오적인 대화를 배우죠

사용자의 말을 고스란히

배운다는 점에서 개발사는

루다를 ‘어린아이'로 비유했고

서비스를 중단하기 전엔

마치 아이를 가르치듯

루다에게 ‘좋은 대화'를 해달라며

더 많은 대화로 루다가

개선될 거란 이야기도 했었습니다

추후 데이터로 활용된 정보가

타 앱에서 유출됐다는

의혹까지 불거져

루다 서비스는 중단됐습니다

동의 없이 수집한 이름, 주소,

직위직책, 민감한 대화 내용 등이

익명화 없이 루다 서비스에

노출되고 있다며, 법적인 대응을

하겠다는 움직임도 나타나고 있죠

루다는 딥러닝 기반의 인공지능이

혐오와 차별, 성희롱적인 상황에 처하고,

그런 언어를 배우는 과정에

인간인 우리가 얼마나 어떻게

개입할 것인가 라는

묵직한 질문을 던졌습니다

사실 이 질문을 처음

던진 건 루다가 아닙니다

2016년 마이크로소프트(MS)는

인공지능(AI) 챗봇 ‘테이’를 출시했다가

겨우 16시간 만에

운영을 중단했습니다

더 자세한 내용은 영상으로 확인하세요!

✔ 뉴스에는 위아래가 없다, 스브스뉴스

이 콘텐츠에 대해 어떻게 생각하시나요?