본문 바로가기

댓글0
번역beta

Translated by kakao i

번역할 언어 선택

뷰 본문

직썰

“’미투현상’은 ‘무고파티’” 혐오 챗봇이 된 심심이

심심이는 학습형 챗봇이다.

10,281 읽음
댓글0
번역beta

Translated by kakao i

번역할 언어 선택

출처©심심이 사이트 캡처

인공지능 대화 엔진 ‘심심이’가 혐오 표현으로 얼룩졌다.


‘심심이’는 인터넷 웹에 기반을 둔 인공지능 챗봇이다. 사용자가 특정 단어를 입력하면 심심이 서버에 저장된 데이터 중 해당 단어와 연계된 대답을 들려주는 식이다. 심심이는 그간 유저들의 참여 서비스인 ‘가르치기’로 대화를 학습해왔다.  


학습형 챗봇이라는 점에서 심심이는 수많은 혐오 표현에 무방비하게 노출돼있다. 처음 심심이가 출시된 2002년부터 선정성과 폭력성 논란에서 벗어나지 못했다. 

출처©심심이 사이트 캡처

국민일보에 따르면 최근에도 심심이는 혐오 표현을 걸러내지 못하고 있다. 4월 2일 심심이에 ‘Feminism’, ‘메갈리아’, ‘여혐’이라는 단어를 보낸 결과 혐오 표현이 쏟아졌다. 각각 “사실 페미니즘의 본래 뜻은 한국 남성 비난이나 여성우대 같은 것이 아닌 성 평등 운동이었다. 하지만 메갈리아 등 극 페미니즘 여성들이 자신들이 페미니즘이라 하며 단어의 좋은 뜻을 깎아 먹었다”, “운동장에 모아놓고 백린탄”, “거짓된 것”과 같은 폭력적인 답변이 돌아왔다. 이외에도 심심이에는 성추행이나 소수자 차별, 혐오 등의 표현에도 쉽게 노출된다. 음란물 광고도 마찬가지다.


심심이는 규정으로 혐오 표현의 사용을 막고 있으나 전 세계적으로 1억 번 이상 다운로드된 인기 앱인 만큼 혐오 표현 ‘가르치기’를 일일이 규제하기는 어렵다. 이에 개발사는 ‘나쁜 말 미션’이라는 기능으로 서버에 입력된 ‘규정을 어긴 단어’를 걸러내는 작업을 운영하지만, 이 또한 부족하다. 개발사 측은 국민일보와의 인터뷰에서 “현재 부적절한 대화의 필터링 정확도는 97%인데 2년 안에 99%까지 끌어올리는 게 목표”라고 밝혔다. 

<직썰 추천기사>

작성자 정보

직썰

    실시간 인기

      번역중 Now in translation
      잠시 후 다시 시도해 주세요 Please try again in a moment