본문 바로가기

댓글0
번역beta

Translated by kakao i

번역할 언어 선택

뷰 본문

직썰

우리의 뇌가 ‘해킹’ 당하고 있다는 증거

정말 당신이 자유롭다고 느끼십니까?

188,159 읽음
댓글0
번역beta

Translated by kakao i

번역할 언어 선택

*<사피엔스>, <호모 데우스>의 저자인 유발 하라리 교수가 가디언에 기고한 글입니다.


학자는 오직 진실에만 충실해야 할까요? 설사 그 진실이 사회 문제를 일으키더라도? 아니면 사회 질서가 유지되도록 거짓말을 해야 할까요? 나는 <21세기를 위한 21가지 제언(21 Lessons for the 21st Century)>이라는 책을 쓰면서 자유주의(liberalism)와 관련해 이런 고민을 해야 했습니다. 


한편으로 나는 자유주의에 오류가 있고 이 이론이 인간에 대한 진실을 말하지 않는다고 생각합니다. 따라서 21세기를 성공적으로 살아가기 위해서는 이 자유주의를 넘어서야 한다고 생각합니다. 


그러나 다른 한편으로 자유주의는 여전히 세계 질서의 기본적인 원리입니다. 특히, 종교와 민족 근본주의라는, 더 위험하고 해로운 오래된 이념이 자유주의를 공격하고 있기도 합니다. (자유주의를 넘어서자는 학자의 비판적인 주장을 이들은 반길 수 있겠죠.) 


그렇다면 어떻게 해야 할까요? 선동가와 독재자들이 자유주의를 공격하기 위해 내 의도와 무관하게 내 주장을 사용하게 될 위험을 감수하고도 내가 하고자 하는 말을 해야 할까요? 아니면 이를 감안해 자신을 검열해야 할까요? 이런 분위기가 퍼질 때 우리는 인류의 미래에 대한 냉철한 사고를 할 수 없게 됩니다.

나는 자유민주주의의 힘을 믿기 때문에, 그리고 이 자유주의를 개선해야 한다고 생각하기 때문에 자기 검열보다는 자유로운 토론을 택했습니다. 자유주의는 다른 이념보다 더 유연하고 덜 교조적이라는 장점이 있습니다. 다른 어떤 이념보다도 비판을 잘 받아들일 수 있죠. 


사실 자유주의는 사람들이 그 체제에 의문을 제기하도록 허용하는 유일한 이념입니다. 자유주의는 이미 세 번의 큰 위기, 곧 1차 세계대전, 1930년대 파시스트들의 도전, 그리고 1950년에서 70년대까지 공산주의자들의 도전을 겪었습니다. 지금 자유주의가 위기를 겪고 있다고 생각한다면 1918년, 1938년, 1968년의 위기가 얼마나 컸는지 생각해보면 됩니다. 


1968년 자유민주주의는 지구상에서 사라질 뻔했습니다. 자유민주주의 국가 내부에서 폭동, 암살, 테러 공격 그리고 첨예한 이념 갈등이 있었습니다. 만약 여러분이 마틴 루터 킹이 암살당한 날 워싱턴에서 일어난 폭동, 1968년 5월의 파리 그리고 1968년 8월 시카고에서 있었던 민주당 전당대회를 목격했다면 자유민주주의의 종말이 가까웠다고 생각했을 겁니다.


워싱턴, 파리, 시카고가 혼란에 빠져 있는 동안 모스크바와 레닌그라드는 조용했고 소비에트 사회주의는 영원할 것처럼 보였습니다. 하지만 20년 뒤 붕괴한 것은 소비에트 사회주의였습니다. 1960년대의 혼란을 겪으며 자유민주주의는 오히려 더 단단해졌습니다.

따라서 우리는 자유주의가 지금의 위기 또한 이겨낼 것이라 믿습니다. 하지만 오늘날 자유주의가 겪는 위기는 파시즘이나 공산주의 혹은 마치 비가 내린 뒤 여기저기에서 우는 개구리처럼 전 세계 곳곳에 등장한 선동가나 독재자들 때문에 생겨난 것이 아닙니다. 지금의 위기는 바로 실험실에서 출발한 것입니다. 


자유주의는 인간이 가진 자유에 대한 믿음에 기초하고 있습니다. 쥐나 원숭이와 달리 인간은 '자유의지'를 가지고 있다고 믿습니다. 바로 이 사실이 우리의 감정이나 선택에 궁극적인 도덕적, 정치적 권위를 부여합니다. 자유주의는 투표권자가 최선의 결과를 알고 있으며 고객은 언제나 옳고 우리는 자신의 마음이 가는 대로 행동해야 한다고 가르칩니다. 


하지만 자유의지는 과학적으로 검증된 사실이 아닙니다. 이는 기독교 신학이 만든 신화일 뿐입니다. 신학자들은 어떻게 신이 죄인을 벌하고 성자에게 상을 줄 권리가 있는지 설명하기 위해 자유의지를 발명했습니다. 


우리의 선택이 의지에 의한 게 아니라면 신이 사람들에게 벌을 주거나 상을 줄 이유가 없을 겁니다. 신학자들은 바로 이 선택이 어떤 물리적, 생물학적 속박과 무관한 우리 영혼의 자유에 의한 것이며 바로 이 때문에 신이 우리를 벌할 수 있다고 말했습니다. 


그러나 과학은 호모 사피엔스와 다른 동물들에 대해 신학자의 설명과 전혀 다른 사실을 말해줍니다. 인간은 분명 의지를 가지고 있지만, 그 의지는 자유로운 것은 아닙니다. 우리는 자신이 어떤 욕망을 가질지 결정하지 못합니다. 자신이 내성적일지 외향적일지, 순할지 까칠할지, 동성애자일지 이성애자일지를 결정할 수 없습니다. 

출처ⓒShutterstock/Photobank gallery

인간은 선택하지만 그 선택은 독립적이지 않습니다. 모든 선택은 자신이 선택하지 않은 생물학적, 사회적, 개인적 조건에 영향을 받습니다.


무엇을 먹을지 정할 수 있고 누구와 결혼할지 누구를 대통령으로 뽑을지 선택할 수 있지만, 이러한 선택은 자신의 유전자, 생화학적 조건, 성별, 가족력, 자신이 속한 문화권 등의 영향을 받습니다. 자신이 어떤 유전자를 가질지 어떤 가족의 구성원으로 태어날지도 선택할 수 없습니다. 


추상적인 말이 아닙니다. 구체적인 사례들을 쉽게 확인할 수 있습니다. 지금 당장 머릿속에 어떤 생각이 떠오르는지 기다려봅시다. 그 생각은 어디에서 왔을까요? 무엇을 떠올릴지 당신은 선택할 수 있나요? 


그렇지 않을 겁니다. 당신이 자신의 마음을 찬찬히 살펴보면 자신이 무엇을 생각할지에 관해 당신이 진정으로 선택할 수 있는 것은 거의 없습니다. 따라서 무엇을 생각할지 무엇을 느낄지 무엇을 원할지를 자유롭게 선택할 수 없다는 것을 알게 될 겁니다. 


이 자유의지는 항상 신화처럼 존재했지만, 적어도 지난 세기에는 인류에 도움을 줬습니다. 자유의지에 대한 믿음 덕분에 사람들은 종교재판관 혹은 신으로부터 권리를 부여받았다고 믿었던 국왕 또는 KGB나 KKK와 싸울 수 있었습니다. 


이 신화를 유지하는 데는 큰 비용도 들지 않았습니다. 1776년이나 1945년에는 자신의 감정이나 선택이 생화학, 뇌과학의 결과가 아니라 어떤 자유의지의 결과라 믿는다고 해도 큰 문제가 없었습니다. 


하지만 오늘날 자유의지에 대한 믿음은 이제 위험한 존재가 됐습니다. 정부와 기업이 '인간이라는 생명체의 의식을 해킹'하는 데 성공하게 될 경우 가장 조종하기 쉬운 상대는 바로 이 자유의지를 믿는 이들이 될 것이기 때문입니다.

인간을 제대로 해킹하기 위해서는 두 가지가 필요합니다. 바로 생물학에 대한 깊은 이해와 강력한 컴퓨터 성능입니다. 종교재판관이나 KGB는 생물학 지식도 컴퓨터도 없었습니다. 하지만 이제 곧 기업과 정부는 이 두 가지를 모두 가지게 될 것이며 일단 그들이 인간을 해킹하는 데 성공하게 될 경우 당신의 선택만이 아니라 당신의 감정 또한 그들의 조종을 받게 될 것입니다.


이를 위해 기업과 정부가 당신을 완벽하게 알 필요도 없습니다. 그것은 불가능한 일입니다. 단지 당신 자신보다만 당신을 더 잘 알면 됩니다. 대부분 사람들은 자신을 그렇게 잘 알지 못하기 때문에 충분히 가능한 일입니다. 


만약 당신이 기존의 자유주의 이념을 잘 알고 있다면 이런 주장을 쉽게 무시하며 이렇게 말할 것입니다.

그런 일은 일어나지 않을 겁니다. 유전자나 뉴런, 알고리듬보다도 훨씬 더 깊숙한 곳에 진정한 내가 있으며 따라서 누구도 인간의 정신을 해킹할 수 없습니다. 내 선택은 내 자유의지에 의한 것이고 누구도 내 선택을 예측하거나 조종할 수 없습니다.

하지만 불행하게도 과학적 사실은 바뀌지 않습니다. 오히려 이런 믿음을 지닌 당신은 더 쉽게 조종할 수 있는 대상이 되고 말 뿐입니다.

출처ⓒGetty images

이미 이런 일은 일어나고 있습니다. 인터넷을 서핑하다가 눈에 띄는 기사 제목을 보게 됩니다.

이민자들이 여성을 강간했다.

기사를 클릭합니다. 바로 그 순간 당신의 이웃은 다른 기사 제목을 보게 됩니다.

트럼프는 이란에 핵공격을 준비하고 있다.

그녀는 이 기사를 클릭합니다.


이 두 기사는 모두 가짜뉴스이며 러시아의 트롤, 혹은 사람들을 끌어들여 광고 수익을 올리는 어느 인터넷 언론이 만들었을지 모릅니다. 여러분과 여러분의 이웃은 그 기사를 자유의지에 따라 클릭했다고 생각할지 모르지만, 사실 두 사람은 모두 정신을 해킹당한 것입니다. 


물론, 선전과 조작은 새로운 것이 아닙니다. 하지만 과거에는 선전이 무차별 폭격의 방식으로 이뤄졌다면 이제는 정밀한 유도탄처럼 행해진다는 차이가 있습니다. 히틀러가 라디오를 통해 연설할 때 그는 자신이 말하고자 하는 바를 한 사람 한 사람에게 맞출 수 없었고 따라서 모두가 동의할 최소한의 공통분모만을 말해야 했습니다. 


하지만 이제는 한 사람 한 사람에게 맞는 선전과 조작이 가능해졌습니다. 알고리듬은 당신이 이민자에게 편견을 가졌다는 사실을, 당신의 이웃이 트럼프를 싫어한다는 사실을 이미 알고 있으며 바로 이 사실 때문에 두 사람은 서로 다른 기사를 보게 된 것입니다. 


오늘날 가장 영리한 사람들이 바로 이 작업, 사람들의 뇌를 해킹해 기사를 클릭하고 광고를 보게 만들며 물건을 사게 하는 일을 하고 있습니다. 이제 그들은 물건만이 아니라 정치인과 이념 또한 팔고 있습니다. 


이제 시작일 뿐입니다. 아직 해커들이 분석하는 신호와 행동은 바깥 세계의 정보로 당신이 무엇을 사고 어디를 가고 어떤 단어를 검색하는지 하는 것들입니다. 하지만 몇 년 이내에 생체인식 센서는 해커들이 당신의 내적 세계에 접속할 수 있게 해줄 것이며 당신의 마음속에 어떤 일이 일어나는지를 관찰하게 될 것입니다.

출처ⓒ월간조선

자유주의라는 판타지가 애정해 마지않는, 마음이라는 은유를 가진 심장은 그저 당신의 뇌 활동에 피를 공급하는 근육 펌프로 격하될 것입니다. 해커들은 당신의 심박과 신용카드 사용을 연관 지을 것이고 혈압과 구글 검색 내용의 관계를 보게 될 것입니다.


종교재판관이나 KGB가 당신의 기분과 감정을 실시간으로 관찰할 수 있는 생체인식 팔찌를 가질 수 있었다면 도대체 어떤 일이 벌어졌을까요? 


자유주의는 억압적인 정부와 편협한 종교로부터 독립적인 개인을 지킬 수 있는 훌륭한 논리와 제도를 만들어냈지만, 개인의 자유라는 자유주의의 가장 중요한 가치를 내부에서 붕괴시키는, 곧 '개인'과 '자유' 두 개념이 더 이상 성립하지 않게 되는 상황에 대해서는 아무런 준비를 하지 못했습니다. 


21세기를 살아남고 성공하기 위해서는 근대 계몽 시대의 유산일 뿐 아니라 기독교의 유산이기도 한 이 ‘자유로운 개인’이라는 순진한 개념에서 벗어나, 인간은 해킹될 수 있으며 곧 타의에 의해 조종될 수 있는 동물이라는 불편한 진실을 받아들여야 합니다. 우리는 우리 자신을 더 잘 알아야 합니다. 


물론, 이는 새로운 조언이 아닙니다. 고대의 철학자와 성자들은 사람들에게 “너 자신을 알라”고 말해왔습니다. 하지만 소크라테스, 부처, 공자의 시대에는 자신보다 자신을 더 잘 아는 이는 없었습니다. 자신에 대해 충분히 잘 알지 못해도 여전히 자신을 가장 잘 아는 사람은 자기 자신이었습니다만 이제는 다릅니다. 여러분이 이 글을 읽고 있는 순간에도 정부와 기업은 당신을 해킹하기 위해 노력하고 있습니다. 그들이 여러분보다 여러분에 대해 더 잘 알게 된다면 이제 그들은 원하는 모든 것을, 그것이 제품이든 정치인이든 당신에게 팔 수 있게 됩니다. 


자신의 약점을 아는 것은 특히 중요합니다. 약점은 그들에게 당신을 해킹할 수 있는 지름길을 안내해줄 것이기 때문입니다. 컴퓨터 해킹은 코드상의 오류를 이용해 이뤄집니다. 인간에 대한 해킹은 인간이 가진 공포, 혐오, 편견, 그리고 욕망을 통해 이뤄집니다. 해커들이 공포나 혐오를 만들어낼 순 없습니다. 하지만 누군가가 어떤 것을 두려워하고 싫어하는지 알게 되면 그 감정을 적절히 자극해 무척 쉽게 이를 더 큰 공포로 키워낼 수 있습니다.

순전한 노력으로 자기 자신을 잘 알기 어렵다면 해커가 사용하는 것과 같은 기술을 이용해 자신을 이해하고 보호할 수 있을 것입니다. 컴퓨터에서 백신 프로그램이 바이러스를 막아내듯 우리에게도 뇌를 위한 백신 프로그램이 필요해질 것입니다. 당신의 인공지능 비서는 당신의 약점이 무엇인지를 – 그것이 유쾌한 고양이 비디오든 짜증 나는 트럼프 이야기든간에 – 파악해 당신이 거기에 반응하는 것을 막아줄 것입니다.


하지만 이 모든 이야기는 사실 곁가지에 불과합니다. 인간이 정말 조종 가능한 동물이라면, 우리의 선택과 의견이 우리의 자유의지가 아니라면 정치는 도대체 어떤 의미가 있을까요? 지난 300년 동안 자유주의자들은 많은 사람이 꿈을 추구하고 자신의 욕망을 좇을 수 있는 환경을 만드는 것을 정치적인 이상으로 삼아왔습니다. 지금 우리는 이 꿈을 이루게 될 순간을 눈앞에 두고 있지만, 이 모든 것이 그저 환상일 뿐이라는 사실을 깨달을 순간도 동시에 눈앞에 와 있습니다. 개인이 자신의 꿈을 추구할 수 있게 만들어준 바로 그 기술에 의해 정부와 기업은 사람들의 꿈을 자신의 입맛에 맞게 바꿀 수 있게 됐습니다. 이제 내 꿈이 진정한 나 자신의 꿈인지를 과연 어떻게 알 수 있을까요? 


어떤 이들은 이러한 발견이 인간에게 완전히 새로운 종류의 자유를 줄 것이라고 말합니다. 앞서 우리는 자신의 욕망을 이해하는 것을 최우선으로 삼았고 그 욕망을 실현할 자유를 추구했습니다. 우리의 마음속에 어떤 생각이 떠오르든 간에 우리는 이를 실행하기 위해 최선을 다했습니다. 하루하루를 이 생각과 감정, 욕망이 진정한 자신의 자유의지의 결과라 믿고 이를 실천하기 위해 모든 것을 바쳤습니다. 만약 우리가 자신의 욕망을 더 이상 추구하지 않게 된다면 어떻게 될까요? 우리가 자신의 마음을 주의 깊게 지켜보다가 어떤 생각이 떠오를 때마다 “나는 왜 이 생각을 하게 됐을까?”라고 묻게 된다면 어떨까요?

일단 생각과 욕망이 자신의 자유의지를 반영하지 않는다는 사실을 알게 될 경우 우리는 이에 덜 얽매일 수 있을 것입니다. 자기 자신을 완전히 독립된 개체로 보고 자신의 욕망이 세상과 무관한 것으로 생각하는 사람은 자신을 다른 개체와 다른 존재로 생각하게 됩니다. 곧, 자신은 독립된 존재이며 따라서 나머지 세상은 중요하게 생각하지 않게 될 뿐더러 자신의 변덕을 가장 중요한 기준으로 여기게 돼 자신이 이 우주에서 가능한 모든 욕망 중에 바로 그 욕망을 선택했다고 생각하게 됩니다. 바로 이런 생각이 다른 세상을 자신이 원하는 대로 조종하고 바꾸도록 노력하게 만듭니다. 우리는 자신의 변덕에 기반해 전쟁을 일으키고 숲을 태웠으며 생태계를 파괴해왔습니다. 하지만 우리가 자신의 욕망이 자유의지에 의한 것이 아님을 알게 된다면 그 욕망을 덜 추구하게 될 것이며 또한 나머지 세상과 더 연결된 느낌을 가질 수 있게 될 것입니다.


어떤 이들은 우리가 자유의지 개념을 버리게 될 경우 감정이 없는 존재가 될 것이며 막다른 골목에 갇혀 멸종을 맞이하게 될 것으로 생각합니다. 그러나 자유의지 개념에 대한 포기는 두 가지 반대되는 효과를 불러옵니다. 


첫째, 우리를 나머지 세상과 더 강력하게 연결하며 이웃과 주변 환경의 요구에 더 민감하게 만들어줍니다. 이는 우리가 다른 이와 대화할 때의 상황과 비슷합니다. 자신이 말하고자 하는 것만 생각하는 사람은 다른 사람의 말을 잘 듣지 않게 되며 이때 모든 사람은 자신이 말할 기회만을 찾게 됩니다. 하지만 우리가 자기 생각을 옆으로 제쳐둘 때 우리는 갑자기 다른 이의 말이 귀에 들어오는 경험을 하게 됩니다. 


둘째, 자유의지 신화를 포기함으로써 우리는 더욱 심오한 호기심을 가질 수 있습니다. 자신의 마음에 떠오르는 생각과 욕망에 매달리는 사람은 자신을 더 잘 알아보려고 노력하지 않습니다. 그리고 자기가 어떤 사람인지 충분히 잘 안다고 생각합니다. 하지만 “이건 내가 아니야, 그저 뇌의 생화학적 변화일 뿐이야!”라는 사실을 깨달은 사람은 비로소 자기 자신이 정말 어떤 사람인지 전혀 모른다는 사실 또한 알게 됩니다. 이는 모든 인류 각자가 반드시 거쳐야 할, 가장 힘들고 흥미로운 여정이 될 것입니다.


자유의지에 대한 의심이나 인간 본성에의 탐험은 아주 오래된 주제입니다. 인류는 수천 년 동안 이런 주제를 두고 이야기해왔습니다. 하지만 지금까지는 이를 구현하는 데 필요한 기술이 없었습니다. 그러나 새로운 기술이 이제 모든 것을 바꾸고 있습니다. 과거에는 철학의 문제였던 것이 이제 공학과 정치에서 다뤄야 할 실용적인 문제가 됐습니다. 철학자들이 이 문제를 천천히 생각하는 동안 – 그들은 한 주제로 어떤 결론 없이도 3천 년을 논쟁할 수 있는 사람들입니다 – 공학자들은 조바심을 내고 있습니다. 정치인은 그중에서도 가장 마음이 급한 이들입니다. 


정부와 기업이 인간을 해킹할 수 있게 된 이 시대에 자유민주주의는 어떤 의미가 있을까요? “유권자의 선택이 최선이다” 혹은 “고객은 언제나 옳다”와 같은 말은 어떤 의미가 있을까요? 당신이 해킹될 수 있는 동물이라는 사실, 당신의 지지가 정부의 조종에 의한 것일 수 있다는 사실, 당신의 편도(amygdala)가 푸틴을 위해 일하고 있고 당신의 마음속에 떠오르는 생각이 당신보다 당신을 더 잘 아는 알고리듬에 의한 결과라는 사실을 당신이 깨닫게 될 때 당신은 어떻게 살아야 할까요? 이는 오늘날 인류가 직면한 가장 흥미로운 질문들입니다. 


그러나 불행히도 우리는 대개 이런 질문을 여전히 피하고 있습니다. 자유의지라는 환상 뒤에 무엇이 있는지를 탐험하기보다 더 오래된 환상이 제공하는 피난처를 찾아 숨고 있습니다. 인공지능과 생체공학의 도전에 응전하기보다 자유주의보다도 더 과학적 현실과 거리가 먼 종교적, 민족적 환상에 빠져들고 있습니다. 새로운 정치적 모델을 찾는 대신 20세기 혹은 더 오래된 사상의 찌꺼기를 다시 모으고 있습니다. 


이러한 추억 속 환상에 젖어있는 나라에서는 성경의 진실성이나 민족의 신성함(특히 당신이 나처럼 이스라엘 같은 나라에 살고 있다면)에 대한 논쟁을 보게 됩니다. 학자로서 이는 정말 실망스러운 일입니다. 성경은 볼테르의 시대에나 의미 있는 학문이었고 민족주의는 20세기 최신 사조였습니다. 하지만 2018년인 지금 이를 두고 논쟁하는 것은 심각한 시간 낭비일 뿐입니다. 인공지능과 생체공학은 진화 과정 자체를 바꾸고 있으며 이 기술을 어떻게 써야 할지 우리가 결정할 수 있는 시간은 불과 몇십 년밖에 남지 않았습니다. 이 문제에 대한 답을 어디에서 발견할 수 있을지는 모르지만, 적어도 수천 년 전에 쓰여진 이야기에서 발견하게 되는 일은 없을 겁니다. 


그럼 우리는 어떻게 해야 할까요? 우리는 두 가지 전선에서 동시에 싸워야 합니다. 먼저 자유민주주의를 지켜야 합니다. 이는 자유민주주의가 다른 어떤 체제보다도 더 인간적인 정부를 가진다는 것이 증명됐기 때문일 뿐 아니라 또한 인류의 미래에 대해 가장 제한을 덜 가하는 체제이기 때문입니다. 동시에 우리는 자유주의의 전통적인 믿음에 대해 질문을 던지고 21세기의 과학적 진실 및 기술의 진보와 일관성을 지니는 새로운 정치적 시스템을 개발해야 합니다.


그리스신화에서 가장 강력한 신 제우스와 포세이돈은 여신 테티스를 두고 싸웠습니다. 하지만 테티스가 그의 아버지보다 더 강력한 아들을 낳을 것이라는 예언이 내려지자 모두 테티스를 포기합니다. 그들은 영원히 세상을 지배하고 싶었기에 그들과 경쟁하게 될 더 강력한 존재가 나타나기를 원치 않았던 것입니다. 테티스는 인간인 펠레우스 왕과 짝지어졌고 아킬레스를 낳았습니다. 인간은 자신의 자손이 더 훌륭한 존재가 되는 것을 좋아했던 것입니다. 이 신화는 우리에게 중요한 사실을 말해 줍니다. 권력을 영원히 가지려는 지배자는 자신을 밀어낼 수 있는 아이디어가 탄생하는 것을 반기지 않는다는 것입니다. 하지만 자유민주주의는 새로운 아이디어의 탄생을, 설사 그 아이디어가 자신의 존재 기반을 무너뜨리는 것이라 해도 이끌어낼 수 있을 것입니다.

* 외부 필진 뉴스페퍼민트 님의 기고 글입니다.

<직썰 추천기사>

작성자 정보

직썰

    실시간 인기

      번역중 Now in translation
      잠시 후 다시 시도해 주세요 Please try again in a moment