스브스뉴스

"애플카드는 성차별적이다"

유명 소프트웨어 개발자와

애플 공동 창업자의 트윗으로

애플카드의

성차별 논란이 불거졌습니다.

여성의 신용점수가 더 높거나,

같은 조건인 경우에도

남성의 신용한도가

10~20배 이상 높게 나온다는 겁니다.

신용한도를 부여하는 AI에

사회적 편견이 내재해있다는

지적이 나오자

뉴욕 금융감독청까지

조사에 나섰습니다.

사실, AI의 성차별은

이번이 처음이 아니라고 합니다.

애플카드가

성차별 논란에 휩싸였습니다.

여성의 신용점수가 더 높거나

같은 조건인 경우에도

남성의 신용한도가

10~20배 이상 높게 나온다는 겁니다.

원래 신용 한도는 성별과 관계없이

이용자의 신용 등급에 따라

정해지는 것인데 말입니다.

애플 공동 창업자로,

PC를 최초로 개발한 워즈니악도

애플카드를 비판했습니다.

애플 공동창업자와

유명 소프트웨어 개발자의

트윗을 시작으로

애플카드의 성차별 논란이 퍼지고

신용한도를 부여하는 AI에

사회적 편견이 내재해있다는

지적이 나오자

뉴욕주 금융감독청은

애플카드의 대출 신청 알고리즘이

법을 위반한 건 아닌지

조사하기로 했습니다.

AI가 성차별이라니,

이게 가능한 걸까요?

사실, AI의 성차별 논란은

이게 처음이 아닙니다.

지난해 초,

아마존은 수년간 개발해온

‘AI 채용 프로그램’을 자체 폐기했습니다.

AI가 여성 지원자를 차별한다는 게

드러났기 때문입니다.

아마존의 채용 AI는

지원자 100명의 원서를 순식간에 분석해

최상위 조건을 갖춘 5명을 골라내는데

‘여성’이라는 단어가

포함된 문구가 있으면 감점시키는 등

남성 편향적으로 서류를 분석해

논란이 됐습니다.

AI가 이렇게 성차별을 하게 된 건

AI가 축적된 데이터를 학습해

작동하기 때문입니다.

과거 10년간의

아마존 이력서를 학습한 AI가

아마존이 주로 채용한 사원의 대다수가

남성이었던 것을 고려해

"이. 직. 업. 엔. 여. 성. 보. 다.

남. 성. 이. 더 적. 합. 하. 군. 요” 하고

판단했다는 거죠

인간을 보고 배워

성차별은 물론

인종차별까지 한다는 AI들

관련 연구자들은

AI 학습에 이용되는 데이터 수집 시

공정성과 다양성을

최대한 확보해야 한다고 강조합니다.

인간과 달리 알고리즘은

학습된 편견을

자발적으로 걸러낼 수 없기 때문입니다.

공정하다고 생각했던 AI가

인간의 편견을 그대로 배워

차별을 따라 하는 상황입니다.

더 자세한 내용은 영상으로 확인하세요!

✔ 뉴스에는 위아래가 없다, 스브스뉴스