직썰

사람들은 자신의 정치적 신념을 밝히지 않을 권리가 있습니다. 그러나 몇몇 연구자들은 오래 지나지 않아 컴퓨터가 그 사람이 진보인지 보수인지를 즉시 파악할 수 있게 될 것이라고 말합니다. 단지 그들의 얼굴 사진만으로 말입니다.

지난주, 사진으로 그 사람이 동성애자인지를 알 수 있는 인공지능을 발표해 논란이 되었던 스탠퍼드 대학의 마이클 코신스키는 이 성적 지향은 얼굴에서 드러나는 수많은 정보의 일부에 불과하다고 말합니다. [관련 기사: 스탠퍼드 연구팀, ‘동성애자 70~80% 판별한다’는 AI(인공지능) 공개]

그는 인공지능이 사진을 이용해 그 사람의 정치적 성향, 지능, 범죄 가능성, 특정 성격, 한 사람의 사회성에 많은 영향을 미치는 개인적인 특징을 알아낼 수 있다고 말합니다.

코신스키는 얼굴인식기술이 가져올 커다란 변화와 이 때문에 발생할 윤리적 문제 및 피해에 대해 이야기했습니다.

“얼굴은 개인의 역사, 발달 정도, 건강에 관한 다양한 정보를 드러냅니다”

얼굴은 수많은 중요한 정보를 가지고 있으며 충분한 데이터와 정밀한 프로그램을 통해 그 정보를 높은 정확도로 알아낼 수 있습니다. 코신스키의 동성애자 식별 프로그램은 온라인 만남 사이트의 사진을 이용했으며 남자의 경우 91%, 여자의 경우 83%의 정확도로 동성애자를 구별했습니다.

LGBT, "어설픈 AI는 동성애자, 이성애자 모두에게 치명적이다"

코신스키의 연구는 큰 논란을 불러일으켰습니다. 특히 LGBT 단체는 인공지능 자체에 문제가 있으며, ‘반동성애’를 내건 트럼프 정부가 이 소프트웨어를 동성애자 처벌에 사용할 수 있다고 비난했습니다.

그러나 코신스키와 다른 연구자들은 정부와 기업이 이미 이러한 기술을 가지고 있으며, 따라서 현존하는 위험을 공개적으로 이야기하는 것이 오늘날 인공지능 연구에서 무시되는 사생활 보호와 규제 설정에 더 도움이 될 것이라 반박했습니다.

보수 정치인이 진보 정치인보다 더 매력적이라고?

또한 코신스키는 정치적 성향이 유전된다는 기존의 연구와도 일치하는 결과라고 말합니다. 한 사람의 정치적 성향은 얼굴에 영향을 미치는 개인의 유전자 혹은 발달단계의 요소와 관련이 있다는 것입니다.

코신스키는 보수 정치인이 진보 정치인에 비해 더 매력적이라는 연구를 말하며 이는 잘 생긴 사람들이 인생을 더 편하게 살 수 있기 때문일 수 있다고 이야기합니다. 그는 인공지능이 극우와 극좌인 사람들을 잘 구별하며, 그 사이에 있는 사람은 덜 잘 구별한다고 말합니다.

“보수성향 점수가 높게 나올 경우 그 사람이 실제로 보수적일 확률은 매우 높습니다”

코신스키는 페이스북 자료를 이용해 성격을 유추한 정신적 특성 평가 연구로도 유명합니다. 데이터 회사인 케임브리지 어낼리틱카는 비슷한 도구를 도날드 트럼프 캠페인에 사용했으며, 개인적 투표 성향을 선거운동에 활용할 수 있는지에 대한 논란을 일으킨 바 있습니다.

그는 얼굴 인식이 IQ를 예측할 수도 있으며, 미래에는 학교에서 이를 통해 학생의 가능성을 판단하게 될 수 있다고 말합니다. 이는 인공지능이 어떤 아이가 더 유전적으로 뛰어난 지능을 가졌는지를 밝히는 것과 비슷하다는 점에서 커다란 윤리적 문제가 될 수 있습니다.

“우리는 유전자가 인생을 결정짓게 되는 세상을 만들지 않기 위해서는 무엇을 해야 할지 생각해야 합니다.”

코신스키의 이야기는 미래의 살인을 저지를 사람을 미리 체포하는 내용의 2002년 영화 <마이너리티 리포트>를 떠올리게 만듭니다. 코신스키는 이미 어떤 영역에서는 세상이 이와 비슷하게 돌아가고 있다고 말합니다.

그는 학교 상담 선생님이 공격적인 행동을 보이는 아이에게 주의를 주는 예를 듭니다. 만약 인공지능이 어떤 학생이 도움이 필요할지를 정확히 예측하게 된다면 이는 유익한 일이 될 수 있습니다.

“이 기술은 얼핏 매우 위험하게 들리지만, 적절하게 윤리적으로만 사용된다면 우리의 삶을 크게 향상할 수 있습니다”

그러나 이 인공지능과 얼굴인식기술이 편향된 데이터와 알고리즘에 기반을 두고 있으며, 큰 문제가 될 수 있다는 주장도 있습니다. 인공지능이 법원이나 경찰 시스템처럼 모든 단계에서 인종적 편견이 존재하는 상황의 데이터를 바탕으로 수감 기간이나 보석, 가석방을 정하는 등 한 사람의 삶을 결정지을 수 있는 사법 분야에서 이 문제는 특히 중요합니다.

코신스키는 충분한 얼굴 사진이 쌓인다면, 한 사람이 사이코패스인지, 그리고 범죄를 저지를 확률이 높은지 역시 쉽게 판별할 수 있게 될 것이라 말합니다. 하지만 범죄를 저지를 가능성이 상대적으로 높은 사람이라 하더라도 반드시 그가 행동으로 이를 옮기는 것은 아니라는 점이 문제가 될 수 있다고 말합니다.

그는 처음 동성애자 판별 연구를 기사화한 이코노미스트 기사에서 나온 ‘나이트클럽이나 스포츠 경기장 입장 시 폭력성이 높은 이를 구별하라는 압력을 받을 수 있다’는 예도 언급했습니다. 그는 이러한 미래가 어떤 면에서는 경비원이 자신의 판단으로 위험해 보이는 사람을 입장시키지 않는 것과 크게 다르지 않다고 덧붙였습니다.

"누구 하나는 죽어야 기술이 생명을 위협한다는 사실을 알겠죠"

캘거리 대학의 환경 디자인 및 컴퓨터학과의 토마스 키넌은 오늘날의 법이 사람의 얼굴을 공공의 정보로 취급하는 데 반해, 규제는 아직 기술을 따라오지 못하고 있다고 지적했습니다. 다른 사람의 얼굴을 이용해 그의 프라이버시를 침해할 수 있을 정도의 정보를 끄집어내는 것을 제재할 법이 없다는 뜻입니다.

키넌은 이 알고리즘 때문에 동성애자로 드러난 청소년이 따돌림과 폭력으로 죽음에 이르는 것과 같은 사건이 일어난 후에야 이런 현실이 바뀔 것이라고 말합니다.

“생명을 위협하는 기술이라는 사실을 말이죠”

또한 인공지능이 매우 높은 정확도로 예측한다고 해도 여전히 그 예측이 틀릴 확률은 존재합니다.

“문제는 반드시 발생합니다. 스무 번에 한 번이든, 백 번에 한 번이든, 어쨌든 틀린다는 겁니다.” (가디언) 

번역: 뉴스페퍼민트