테크플러스

마이크로소프트(AI)가 로봇 편집자에게 일을 맡기자마자 실수가 나왔다. 유명인의 인종차별 반대 관련 기사를 편집하면서 피부색을 구별하지 못해 다른 사람 사진을 올리는 실수를 저질렀다.

MS는 이달 말부터 자사 엠에스엔닷컴(MSN.com)을 운영하던 인간 편집자를 해고하고 MS의 인공지능(AI) 코드로 대체하겠다는 계획을 밝혔다.

MS는 원래 따로 보도를 하지 않고, 인간 편집자를 고용하지 않고 가디언 등 다른 뉴스 매체의 기사를 선별해 재편집하는 식으로 운영해왔다. 그리고 웹사이트에 이를 올린 다음에 뉴스 매체와 광고 수익을 공유하는 식이었다.

외신에 따르면 MS가 뉴스 편집을 AI로 대체하면서 최대 50여 명 이상의 인간 편집자가 일자리를 잃었고, 알고리즘이 이를 대체할 것으로 예상됐다.

AI 뉴스 편집자 교체 소식이 나온 지 일주일 만에 AI 편집자는 당초 계획보다 빨리 현장에 투입됐다. 문제는 인공지능 소프트웨어가 최근 인종차별 반대 뉴스를 편집하면서 다른 사람 이미지를 집어넣은 것이다.

AI의 실수가 알려진 것은 인종차별 반대 운동에 참여한 인기 가수가 자신의 소셜미디어에 잘못된 뉴스 보도를 지적하면서다. AI가 인기 팝 그룹 '리틀 믹스'의 멤버 제이드 시얼웰이 올린 인종차별 경험에 대한 뉴스를 편집하면서 같은 그룹의 다른 멤버인 리 앤 피녹 사진을 올린 것이다.

시얼웰은 언론이 '무신경한' 실수를 저지르는 데 질렸다면서 자신의 인스타그램에 불만을 터뜨리는 글을 올렸다. 무지하고 무례하면서 게으른 저널리즘이라고 비판했다. 자신과 리 앤 피녹은 이런 일에 자주 시달린다면서, 한 그룹의 네 명의 멤버 중 두 명의 유색 인종 여성을 구별하지 못했다는 것은 불쾌하다라고 말했다.

영국의 유력 일간지 가디언은 내부 소식통에 따르면 잘못된 이미지는 AI가 편집했다고 보도했다.

실제로 AI가 유색인종이나 여성을 백인 남성에 비해 잘 구별하지 못해 정확성이 떨어진다는 지적은 현재 AI 알고리즘이 가진 한계로 여러 번 제기됐던 문제다. 이로 인해 상대적으로 여성이나 유색 인종에게 불이익을 가할 가능성이 제기되기도 했다.

MS가 인간 편집자 대신에 로봇 편집자를 적용한 지 일주일 만에 인종차별 반대 관련 뉴스를 보도하면서 이런 실수가 나온 것이다. 가수 본인은 AI가 편집한 사실은 몰랐겠지만, 인종차별에 대한 경험을 털어놓은 가수 사진을 잘못 올린 것은 '나쁜 농담'이나 '조롱'처럼 받아들이게 됐다.

MS는 문제를 확인하자마자 즉시 이미지를 교체했다고 밝혔다. 하지만 왜 혼혈을 구별하지 못하는지, MS의 AI 소프트웨어에 인종차별적 편견이 있는 것은 아닌지, 로봇 편집자를 재고할지에 대해선 대답하지 않았다.

가디언은 MSN 직원들이 로봇 편집자가 다시 실수를 할 가능성을 염두에 두고 바짝 긴장해서 일하고 있다고 전했다. 로봇이 관심 있다고 판단하는 뉴스를 자동으로 편집할 때 인간이 개입해 막을 수 있는 방법이 없기 때문이다. 비슷한 일이 발생하면 최대한 빨리 내용을 제거하라는 지침을 받았다면서 혹시나 요즘처럼 인종차별 반대 움직임이 거셀 때 AI가 실수를 반복하는 상황을 우려하고 있다고 덧붙였다.

테크플러스 에디터 김명희 

tech-plus@naver.com