테크플러스

특정인 이미지나 영상을 합성해 실제처럼 보여주는 '딥 페이크'가 기승이다. 인공지능(AI) 아나운서를 만들고 영화 특수 효과 등 사실감을 높이기 위해 쓰이는 기술이었지만 부작용이 만만치 않다. 영화 업계나 정보기관에서만 활용 가능했던 딥 페이크 기술을 일반이도 쉽게 쓸 수 있게 되면서 사회 각 분야에서 문제를 일으키고 있다.

대선을 앞두고 미국에서는 정치인 얼굴을 합성 영상으로 만들어 가짜 뉴스를 생성하기도 했다. 이보다 더 심각한 문제는 리벤지 포르노다. 지인이나 헤어진 애인에게 복수하려고 만든 리벤지 포르노에 딥 페이크 기술이 쓰이기도 한다. 분명한 성범죄다.

딥 페이크는 기계학습(머신러닝)을 이용, 인공지능(AI)이 스스로 객체를 인식하고 영상 프레임마다 합성을 할 수 있다. 실제 음란물 영상에 얼굴만 합성하면 전체 음란물 영상 주인공을 완전히 바꿀 수 있다. 가짜를 사실처럼 표현할 수 있어 딥 페이크라고 칭한다.

​

딥 페이크로 리벤지 포르노를 제작하면 영상 진위를 쉽게 알 수 없다. 콘텐츠를 접한 사람은 그것이 사실이라고 믿는다. 소셜네트워크서비스(SNS)를 통해 전 세계로 유포된다. 자신도 모르는 사이에 음란물의 주인공이 되는 것이다.

유명 할리우드 배우 스칼렛 요한슨과 엠마 왓슨 등 여배우가 딥 페이크 포르노에 피해를 입었다. 스칼렛 요한슨 경우 1년 넘게 인터넷에서 수십 개의 딥 페이크 포르노가 유포됐다. 불법 포르노 사이트에서 이용자가 영상을 본 횟수가 150만번에 이르기도 했다. 스칼렛 요한슨은 "누구든 표적이 되는 것은 시간 문제"라고 우려를 표명하기도 했다.

​

음란물 자체를 유포할 경우 미국에서도 처벌이 가능하지만, 딥 페이크 리벤지 포르노는 명확한 처벌 대상 항목에 들어가지 않았다. 즉 처벌 기준이 없었던 것이다. 구글이 콘텐츠 금지 명단에 '합성 음란 이미지' 포함하면서 차단에 나섰지만, 실효성은 크게 없다는 평가다.

추적이 어렵고 표면적으로 '창작물'의 탈을 쓴 딥 페이크 확산에 제동을 걸기 위해 가장 먼저 나선 건 버지니아 주다. 버지니아주는 올해 초 딥페이크 포르노 영상이 리벤지 포르노에 포함시킨다는 법안을 통과시켰다. 

딥 페이크 기술로 만든 리벤지 포르노를 만들면 처벌받는데 7월 1일부터 발효됐다.

딥 페이크 기술을 활용해 리벤지 포르노를 제작·유포할 경우, 1등급 경범죄로 취급한다. 최대 12개월 징역과 2500달러(약 292만원) 벌금을 부과한다.

불법 음란물 사이트와 딥 페이크로 음란물을 제작하는 애플리케이션 서비스를 집중 단속할 것으로 보인다. 미국에서는 D******라는 앱이 여성 사진을 수정해 누드로 보이게 하는 서비스를 제공하고 있다.

우리나라는 어떨까. 우리나라에서 딥 페이크를 사용하든 사용하지 않든 리벤지 포르노를 제작·유포하는 건 불법이다. 형법 제 244조(음화 제조 등)에 따르면, 음란물 제작·유포, 수출·수입한 자는 1년 이하 징역 또는 500만원 이하 벌금에 처한다. 유명 연예인 얼굴을 합성해 음란물을 제작할 경우, 초상권 침해에 해당한다.

그러나 딥 페이크 리벤지 포르노 자체가 성폭행·성추행 등 성범죄에 해당하지 않아 처벌 수위가 낮다는 지적이 잇따르고 있다.

테크플러스 에디터 권동준

tech-plus@naver.com