통합 검색어 입력폼

휴대폰 가게 앞에서 현금뭉치 들고 통곡한 할머니, 이유가..

조회수 2020. 9. 29. 10:14 수정
번역beta Translated by kaka i
번역중 Now in translation
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 다양한 분야의 재밌고 유익한 콘텐츠를 카카오 플랫폼 곳곳에서 발견하고, 공감하고, 공유해보세요.

"내 얼굴이 고릴라라고?"..열받게 하는 AI 기술 동향
AI 기술 선두국가 미·중 얼굴인식 기술
아직까진 기술적 결함 드러나기도
시행착오 겪으면서 사회적 합의 논의 중

18살 청소년이 도둑으로 몰렸다. 미국인 우스만 바(Ousmane Bah)는 작년 11월 집에서 경찰에게 체포당했다. 보스턴 애플 매장에서 1200달러(약 140만원)어치의 애플 펜슬을 훔쳤다는 혐의를 받았다. 그는 절도 당시 졸업파티에 있었다. 바는 애플이 자신을 범인으로 지목한 이유는 “애플의 얼굴인식 소프트웨어(SW) 오류 때문”이라고 주장하고 있다. 

출처: KTVU 뉴스 캡처
(왼)용의자로 붙잡힌 10대 청소년 우스만 바(Ousmane Bah)와 CCTV에 찍힌 실제 범인의 모습.

변호사는 애플 매장 내 감시카메라(CCTV)를 증거로 제출했다. 비디오 판독 결과 경찰은 애플 펜슬 기기를 훔친 사람과 우스만 바가 전혀 다른 사람이라는 결론을 내렸다. 평범한 사람의 눈으로 봐도 두 사람은 생김새가 달랐다. 무혐의로 풀려난 뒤 바는 애플을 올해 4월 말 고소했다. 정신적 스트레스를 겪었으니 10억달러(약 1조1411억원)를 배상하라고 주장했다.


바는 사진이 없는 임시운전면허증을 잃어버린 적이 있었다. 그는 “누군가 내 면허증을 주웠거나 훔쳐 애플 매장에서 가짜 신분증으로 썼을 것”이라고 했다. 그는 “애플의 얼굴인식 소프트웨어 알고리즘이 진짜 범인의 얼굴과 나의 신분증 정보를 잘못 매칭했다”고 주장했다. 미국 네티즌 사이에서 애플이 매장 내에서 얼굴인식 기술을 사용하는 것 아니냐는 의혹이 커졌다. 개인정보침해 논란이 불거지자 애플은 “해당 기술을 사용하지 않았다”고 반박했다. 하지만 애플은 왜 보스턴 매장에 가지도 않은 10대 청소년을 범인으로 지목했는지에 대한 설명을 내놓지 못했다.


미국 시가총액 3위 기업 아마존도 요즘 얼굴인식 기술을 놓고 고민 중이다. 아마존은 5월22일 이사회를 열고 자사의 안면인식 소프트웨어 ‘레코그니션(Recognition)’을 정부기관에 팔지 말지 투표에 부칠 예정이다. 레코그니션은 작년 7월에 했던 테스트에서 28명의 미국 국회의원을 범죄자로 인식했다.

출처: 아마존 공식 홈페이지
아마존 얼굴인식 소프트웨어 '레코그니션', 얼굴을 분석해 행복, 연령대, 눈 뜨고 있는지, 안경, 얼굴의 털 등을 파악할 수 있다.

구글은 일찌감치 AI 얼굴인식 기술 오류로 곤욕을 치렀다. 구글 포토 출시 직후 2015년 6월 ‘인종차별’ 논란에 휩싸인 ‘고릴라’ 사건이다. 구글의 얼굴인식 알고리즘이 흑인 남성들 사진을 ‘고릴라(Gorillas)’로 분류했다. 구글은 곧바로 수정하겠다고 답변을 내놨지만 얼마 지나지 않아 같은 문제가 또다시 발생했다.


미국에 사는 재키 앨신은 같은 해 7월, 학사모를 쓰고 찍은 졸업사진을 구글 포토에 업로드했다. 구글은 그들의 사진을 다시 ‘고릴라들(Gorillas)’이라고 분류했다. 그녀는 캡처 화면을 7월28일 트위터에 올리고 항의했다. 얼마 지나지 않아 구글의 수석 개발자 요나탄 정거가 트위터로 공개 사과했다. 결국 구글은 2018년 12월 “기술의 허점을 해소할 때까지 얼굴 인식 기술을 판매하거나 제공하지 않겠다”고 밝혔다. 

중국은 안면인식 기술에서 가장 앞서나가는 나라 중 하나다. 중국 연구진이 개발한 인공지능 알고리즘은 2018년 11월27일 미국 상무부 소속 국가기술표준연구소(NIST)가 개최한 안면인식공급자대회(FRVT)에서 1~5위를 휩쓸었다. 중국 상하이 스타트업 이투커지(이투 테크놀로지)가 개발한 두 개의 알고리즘이 1·2위였다. 이투커지는 2016년 이후 3년 연속 1위를 차지했다. 중국의 상탕커지(센스타임·SenseTime)가 개발한 두 개의 알고리즘은 3·4위, 중국과학원 선전첨단기술연구원의 기술력은 5위에 올랐다.


안면인식공급자대회는 얼굴인식 인공지능 분야에서 세계 최대 규모의 행사다. 10위권에 든 기업·연구기관 중 6개는 중국 업체였다. 3·4위에 오른 센스타임은 AI 스타트업 중 전 세계에서 가장 기업가치가 높다. 이제 5년 차에 접어든 신생 스타트업으로 작년 9월 일본 소프트뱅크에게 10억달러(약 1조822억원)를 투자 받기도 했다. 

출처: 출처·바이두
중국 경찰이 거리에 있는 CCTV로 오토바이 부품을 훔치는 도둑을 검거하는 모습.

중국 AI 기업이 앞서나가는 배경에는 중국 정부의 전폭적인 지원이 있다. 정부는 2016년 하반기부터 ‘쉐량공정(雪亮工程)’ 정책을 도입했다. 쉐량 공정은 중국 정부의 슬로건인 ‘대중의 눈은 눈처럼 밝다(群众的眼睛是雪亮的)’에서 나온 말이다. 인공지능(AI)·얼굴인식 시스템·빅데이터 등을 활용해 전국민 13억명의 얼굴을 3초 안에 구별하는 것이 목표다. 대중 감시 네트워크를 통해 보안을 강화하기 위해서다.


이 정책은 카메라에 찍힌 모든 얼굴 정보를 중앙 데이터 공유 플랫폼에 모은다. 길거리 CCTV뿐만 아니라 가정 내 스마트TV와 개인 스마트폰 같은 인터넷에 연결된 모든 카메라도 해당한다. 센스타임을 비롯한 중국의 AI 기술 업체들이 정부에게 제공하고 있다. 중국 정부는 2030년까지 중국 AI 산업 규모를 1500억달러까지 키우겠다고 했다. 작년부터 AI 기업들에게 연 6조원 이상을 투자하고 있다.

출처: 출처·Southern Metropolis Daily
중국 심천 지하철 개찰구에서 안면인식 기술을 이용하는 모습.

얼굴인식기술은 이미 중국 시민이 일상에서 널리 쓰고 있는 기술이기도 하다. 대표적으로 얼굴인식 결제 시스템이 있다. 사용자는 1억2000만명 이상이다. 알리바바가 최근 내놓은 얼굴인식 지불 기기 ‘칭팅(Qingting)’은 식별률 99.999%를 자랑해 화제였다. 계산대에 서서 기기를 바라보면 1~2초만에 결제할 수 있다. 알리바바에 의하면 칭팅은 2019년 4월 기준 중국 내 300여개 도시에서 사용 중이다.


모바일·안면인식 등 정보기술(IT)을 활용한 결제 시스템이 많아지자 현금이 필요 없어지는 현상도 벌어졌다. 와중에 정보기술에 익숙지 못한 노인들이 피해를 보기도 한다. 올 초 중국 동영상 공유 사이트 리스핀(梨視頻)에는 한 할머니가 광둥성 휴대폰 영업점에서 현금 뭉치를 들고 우는 영상이 올라왔다. 할머니는 “휴대폰 요금을 내러 왔는데 현금을 받지 않는다”고 억울함을 토로했다. 요금을 못내 전화는 끊어진 상태였다. 할머니는 “타지에 사는 아들의 전화를 받아야 한다”면서 통곡했다. 해당 영업점은 올해 1월 현금을 받지 않고 모바일 결제만 가능했다. 할머니는 “모바일 결제는 할 줄 모른다”면서 답답해했다. “나를 사회에서 내쫓는 일”이라고 말하기도 했다.

출처: 웨이보 캡처
현금이 있는데도 모바일 결제만 취급하는 슈퍼마켓에서 물건을 사지 못하자 거세게 항의하는 노인.

또 새로운 범죄가 탄생할 가능성도 있다. 지난 4월8일, 중국 저장성에서는 얼굴인식 시스템을 이용해 자던 이의 돈을 휴대폰으로 빼간 사건이 벌어졌다. 저장성의 농민공(농촌을 떠나 도시에서 일하는 이주노동자) 2명은 함께 방을 쓰던 동료 위안씨의 스마트폰에서 1만2000위안(203만원)을 훔쳤다. 그들은 위안씨가 자는 사이 휴대폰 잠금잠치를 풀어 계좌에 접근해 자신의 계좌로 돈을 빼돌렸다. 두 사람은 눈을 감고 있어도 잠금을 해제할 수 있다는 사실을 발견하고 계획범죄를 저질렀다.


상해중인안전보안회사(上海中人网络安全有限公司)의 대표 탄 지안펑은 안면인식 시스템의 허점을 비판하기도 했다. 그는 “비밀번호는 분실하면 변경할 수 있지만 신체 정보는 복원할 수 없다”고 했다. 한번 등록한 얼굴은 영원히 바꾸거나 폐기할 수 없는 정보라는 것이다. 꼭 얼굴만 인식하는 것도 아니다. IT회사 와트릭스(Watrix)가 작년 11월 내놓은 기술은 체형과 걷는 방법으로 사람을 식별한다. 얼굴이 잘 보이지 않는 사람도 실루엣과 움직임을 분석해 정체를 알아차릴 수 있다.


와트릭스 측은 “50m가량 떨어진 곳에서도 사람의 걸음걸이를 분석할 수 있다. 데이터베이스를 비교해 94%의 정확도로 0.2초 만에 신원 확인이 가능하다”고 설명했다. 기존의 얼굴 인식 시스템은 사람이 화면을 바라보고 있어야 식별할 수 있지만 보행인식 시스템은 그럴 필요가 없다. 중국은 이 기술을 활용해 무단횡단자를 구별해낼 계획이다.

출처: 웨이보 캡처
버스 광고판에 붙은 회사 사장의 사진을 무단횡단자로 잘못 잡아낸 얼굴인식 기술.

한편, 작년 11월 중국 저장성 닝보시에서는 얼굴인식 카메라 오류로 무단횡단자를 잘못 인식한 사건이 발생했다. 닝보시 시내 대형 전광판에는 세계 최대 에어컨 제조회사 거리(Gree·格力) 전기의 CEO 둥밍주(董明珠)의 얼굴이 떠올랐다. 시내에 설치한 안면인식 카메라는 무단횡단자를 가려내고 그 얼굴을 전광판에 공개한다. 그런데 안면인식 카메라가 포착한 것은 무단횡단자가 아니라 지나가는 버스 광고에 실린 둥 회장의 얼굴 사진이었다. 카메라가 버스 광고 사진을 보행자로 인식하는 오류를 일으킨 것이다. 닝보 시 경찰은 소셜미디어로 즉시 잘못을 인정했다. 경찰은 “감시 시스템 오류를 줄이기 위해 기기를 업그레이드하겠다"라고 밝혔다.


세상은 늘 변한다. 예상치 못했던 일이 생기기도 한다. 예상 못한 변화는 황당하거나 고통스러울 수 있다. 그러나 변화는 피할 수 없는 흐름이다. 인공지능 스타트업 네오사피엔스 김태수 대표는 “새로운 기술(인공지능) 도입 시기에는 대중의 우려와 불안이 언제나 존재한다”라고 말했다. 모든 기술에는 부작용이 따르지만 사회적 합의를 통해 해결해나갈 방법을 찾아야 한다는 의미다. 김 대표는 “여태까지 그래왔듯 창의적인 아이디어와 제도로 기술과 인간이 공존할 수 있는 길이 열릴 것”이라고 덧붙였다.


글 jobsN 김지아

jobarajob@naver.com

잡스엔

이 콘텐츠에 대해 어떻게 생각하시나요?