알고리즘이 우리네 일상 언어 생활 속으로 들어왔다. 알고리즘을 활용한 알파고의 충격 때문이다. 유발 하라리는 새 책 『호모 데우스』에서 데이터이즘(Dataism)이 기존의 종교와 이념을 대체할 가능성이 있다고 주장한다. 이메일로 그를 만나 21세기 인간의 진로를 물었다.

▎유발 하라리는 세계적인 영향력을 가진 재레드 다이아몬드, 마크 저커버그, 빌 게이츠, 버락 오바마가 열렬한 후원자·애독자·추종자다.

알고리즘은 “어떤 문제의 해결을 위하여, 입력된 자료를 토대로 하여 원하는 출력을 유도하여 내는 규칙의 집합”이다. 지난해 이 알쏭달쏭한 말이 우리네 일상 언어 생활 속으로 들어왔다. 알고리즘을 활용한 알파고의 충격 때문이다. 『사피엔스』로 일약 세계적인 공공지식인으로 부상한 유발 하라리 히브리대 교수에 따르면 인간 또한 일종의 알고리즘이다. 최근 ‘인간 신(神)’(human god)이라는 뜻의 『호모 데우스』가 우리말로 출간됐다. 『사피엔스』가 인류 과거의 핵심을 설파했다면, 『호모 데우스』는 인류의 미래를 미리 가본다. 새 책에서 그는 데이터이즘(Dataism)이 기존의 종교와 이념을 대체할 가능성이 있다고 주장한다. 종교를 대체한 휴머니즘을, 데이터주의·데이터 교(敎)가 대체한다는 것이다.

데이터주의자들은 기술을 통한 인간 영생을 꿈꾼다. 신들을 숭배해온 인간이 ‘가까운’ 미래에 스스로 신 같은 존재가 되려고 한다. 인류는 전쟁·기아·전염병을 거의 극복했다. 앞으로 의학의 문제는 병을 고치는 게 아니라 더 건강하게 될 수 있게 하는 것이라는 게 하라리 교수의 전망이다. 하지만 하라리 교수가 그리는 미래가 마냥 밝은 것은 아니다. 지구를 지배하게 된 인간이 그 어느 때보다 더 큰 취약성에 노출 됐기 때문이다. 재레드 다이아몬드, 마크 저커버그, 빌 게이츠, 버락 오바마 등이 하라리 교수의 열렬한 후원자·애독자·추종자다.

『호모 데우스』는 ‘사람이 신처럼 된다’는 뜻

▎『호모 데우스』는 ‘인간 신(神)’(human god)이라는 뜻으로 유발 하라리 교수는 이 책에서 데이터이즘(Dataism)이 기존의 종교와 이념을 대체할 가능성이 있다고 주장한다. / 사진 : 김영사 제공

한국 독자들을 위해 새 책 『호모 데우스』의 내용을 요약한다면.

전작 『사피엔스』는 석기시대부터 오늘날까지 인간의 역사를 요약했다. 『사피엔스』는 우리가 어떻게 의미 없는 유인원에서 행성 지구의 지배자로 스스로를 탈바꿈시켰는지 설명했다. 또한 ‘왜 대부분의 인류 사회에서 남성이 여성을 지배했는가’, ‘자본주의는 어떻게 전 세계로 퍼져 나갔는가’, ‘사람들은 오늘날 석기시대 때보다 더 행복한가’와 같은 핵심적인 질문에 답을 주려고 시도했다.

새 책 『호모 데우스』는 21세기 사람들에게 벌어질 일들을 추측해봤다. 포커스는 기술·정치·사회·종교 사이의 상호작용이다. 다음 같은 질문에 답하려고 한다. ‘빅데이터 알고리즘이 우리 자신보다 우리의 욕망과 생각에 대해 더 잘 알게 되면 정치에 무슨 일이 벌어질까’, ‘점점 더 많은 작업 분야에서 컴퓨터가 인간을 능가하고 인공지능(AI)이 택시기사·의사·교사·경찰관을 대체하면 고용시장에 어떤 일이 벌어질까’, ‘경제적으로 쓸모없게 된 수십억 명의 사람들을 어떻게 해야 할까’, ‘유전자 엔지니어링이나 수퍼휴먼의 탄생, 노화나 죽음의 극복에 대해 그리스도교나 이슬람은 어떻게 반응할 것인가’, ‘실리콘밸리는 결국 신기한 IT기기보다는 새로운 종교들을 생산하게 될 것인가’ 등이다.

자유주의·보수주의·마르크스주의와 같은 세속 ‘이즘(ism)’은 아마 틀림없이 ‘호모 데우스의 시대’의 도래에 반응해 영향력을 행사하려고 할 것이다. 이들 이념의 노력은 성공할 것인가. 아니면 우리는 전혀 새로운 이즘이 필요한가.

기술 발전 속도가 가속화되고 있다. 우리가 20세기로부터 물려받은 여러 정치 체제와 이데올로기는 연관성을 상실하게 될 수 있다. 기술 혁명이 정치 과정보다 더 빠른 속도로 움직이기 때문에 정치인들과 유권자들은 세상사에 대한 장악력을 상실했다. 인터넷의 부상은 앞으로 벌어질 일들에 대해 우리가 미리 맛볼 수 있는 기회를 준다. 사이버 공간은 이제 우리의 일상생활·경제·안보를 위해 결정적이다. 하지만 인터넷의 기본적인 모습이나 특질에 대한 지극히 중요한 선택을 결정한 것은 통상적인 정치 과정이 아니었다. 인터넷에 관한 중차대한 여러 선택은 주권·일자리·프라이버시·안보와 같은 전통적인 정치 사안들과 직결됐다. 하지만 여러분이 사이버 공간이 어떤 모습이어야 할지에 대해 투표한 적이 있는가. 공중의 이목으로부터 멀리 떨어진 결정을 웹의 설계자들이 했다. 그 결과 오늘날 인터넷은 국가의 주권을 약화시키고, 국경을 무시하고, 고용시장을 혁명적으로 변화시키고, 프라이버시를 폐기시키며, 어쩌면 글로벌 안보에 대한 최대의 위협을 제기하는 자유로운 무법지대가 됐다.

우리는 앞으로 기술이 정치에 앞서 달려가는 인터넷 같은 혁명을 여러 번 접하게 될 것이다. AI와 바이오기술은 조만간 우리 사회와 경제뿐만 아니라 우리의 몸과 마음까지 재편성할 것이다. 많은 일자리가 자동화될 것이며 수많은 사람들이 고용시장에서 밀려나 ‘쓸모없는 계급(useless class)’으로 전락할 것이다. 새로운 직업이 생길 수도 있지만, 2050년의 고용시장이 어떤 모습일지 아는 사람은 아무도 없다. 학교에서 아이들에게 무엇을 가르쳐야 할지 아는 사람 또한 아무도 없다. 오늘날 아이들이 학교에서 배우는 것의 대부분은 아이들이 40세가 될 무렵 전혀 쓸모 없게 될 것이다. 그럼에도 다가올 혁명에 대한 정치적인 토론이 거의 없다. 전통적인 민주주의 정치는 여러 사안에 대한 통제력을 상실하고 있으며 미래를 위한 의미 있는 비젼을 우리에게 제시하지 못하고 있다.

평범한 유권자들은 민주주의 메커니즘이 그들에게 더 이상 힘을 부여하지 않는다고 느끼기 시작했다. 주변 세상이 바뀌고 있지만 그들은 세상이 어떻게 그리고 왜 변화하는지 이해하지 못한다. 그들은 권력을 빼앗겼지만 그들은 권력이 어디로 갔는지 확신할 수 없다.

영국 유권자들은 권력이 유럽연합(EU)으로 떠났다고 상상했다. 그래서 브렉시트(Brexit·영국의 유럽연합 탈퇴)에 찬성했다. 미국 유권자들은 기득권층이 모든 권력을 독점한다고 상상했다. 그래서 반기득권층으로 보이는 도널드 트럼프 같은 후보들을 지지했다. 슬픈 진실은 권력이 어디로 갔는지 아무도 모른다는 것이다. 영국이 EU를 탈퇴하거나 트럼프가 백악관을 차지한다고 해서 권력이 보통 유권자들에게 되돌아갈 일은 없다.

그렇다고 해서 우리들이 20세기 스타일의 독재로 회귀하는 것은 아니다. 권위주의 정권들 또한 기술발전과 정보의 속도와 양에 압도당하고 있다. 20세기 독재자들은 미래를 위한 거대한 비전을 가지고 있었다. 공산주의자들과 파시스트들은 구세계를 완전히 파괴하고 그 자리에 신세계를 건설하려고 했다. 우리가 레닌·히틀러·마오쩌둥(毛澤東)에 대해 어떻게 평가하건, 우리는 그들이 비전이 없었다고 비난할 수는 없다.

오늘날 독재자들은 민주주의 정당들과 마찬가지로 의미 있는 미래 비전이 없다. 독재정권이나 민주정부나 퇴행적인 비전을 제시할 뿐이다. 트럼프는 1980년대나 1950년대처럼 미국이 다시 위대하게 되기를 바란다. 푸틴은 19세기 제정 러시아를 다시 건설하려고 한다. 이슬람국가(IS)는 7세기 칼리프 국가를 복원하려고 한다. 이스라엘에서 어떤 이들은 성경 시대의 유대 왕국을 재건하려고 한다.

정치는 행정에 불과한 것이 됐다. 정부는 나라를 운영하지만 더 이상 나라를 이끌지 않는다. 정부는 선생님들이 제때에 월급을 받게 하고 하수구가 넘치지 않게 한다. 하지만 나라가 30년 후에 어떻게 될지 아이디어가 없다. 우리는 새로운 이념적 비전이 필요하다.

실리콘밸리가 ‘테크노종교’로 기성 종교 대체해

▎유발 하라리 히브리대 교수에 따르면 인간 또한 일종의 알고리즘이다. 사진은 지난해 방한했던 유발 하라리 교수 강연 장면.

사람이 신처럼 된다는 ‘호모 데우스’ 개념은 과격한 종교 분파뿐만 아니라 지금까지는 온건한 분파들까지 과격하게 만들지 않을까.

근본주의적이건 온건주의적이건 새로운 상황에 적응하지 못하는 종교는 연관성(relevance)을 상실할 것이다. 종교는 ‘영원한 진리’가 아니라 인간의 목표를 위해 인간이 발명한 이야기이기 때문이다. 종교는 어떤 특정한 기술적·경제적 맥락에서 매우 큰 도움을 줄 수 있다. 하지만 기술과 경제가 변화하면 종교 또한 바뀌고 적응해야 한다. 그렇지 않으면 종교는 세상과 무관한 것이 된다.

그리스도교는 농업사회에서 발전했기 때문에 산업사회가 생성시킨 새로운 문제들에 별다른 솔루션을 제공하지 못했다. 그래서 자유주의나 사회주의 같은 새로운 이념에 밀려났다. 이제 AI와 생명공학의 부상으로 산업사회가 급격하게 변화하고 있다. 따라서 자유주의와 사회주의는 한물갔다. 21세기의 전례 없는 문제들에 대해 답을 주지 못한다. 자유주의와 사회주의가 21세기에 적응하지 못한다면, 사람들은 자유주의와 사회주의를 대체할 새로운 종교나 이념을 창출할 것이다.

종교적 관점에서 가장 흥미로운 곳은 중동이 아니라 실리콘밸리다. 구글·페이스북·애플·마이크로소프트의 엔지니어들은 IT기기나 알고리즘을 훨씬 뛰어넘는 것을 창조하고 있다. 그들은 차세대 물결이 될 새로운 보편적 종교를 창조하고 있다. ‘테크노종교(technoreligions)’다. 테크노종교는 기성 종교들과 마찬가지로 행복·정의·풍요·영생을 약속한다. 게다가 테크노종교는 기술의 도움으로 약속을 지상에서 실현하려고 한다. 약속이 사후에나 실현되는 것도 초자연적인 존재의 도움이 필요한 것도 아니다.

『호모 데우스』는 결정론의 함정으로부터 자유로운가.

『호모 데우스』는 미래를 예측하려는 게 아니다. 미래 예측은 불가능하다. 30년이나 50년 내에 어떤 일이 발생할지 아무도 모른다. 대신 『호모 데우스』는 여러가지 다른 시나리오를 독자들에게 제시한다. 일부 시나리오가 두렵다면 독자들은 그런 일이 실제로 발생하는 것을 막기 위해 뭔가 할 수 있다.

기술은 결정론과 항상 무관하다는 것을 인식할 필요가 있다. 우리는 동일한 기술적 돌파구로 매우 다른 사회나 상황을 창조할 수 있다. 예컨대 20세기 사람들은 기차·전기·라디오·전화와 같은 산업혁명의 기술을 사용해 공산주의 사회, 파시스트 사회, 자본주의 사회를 만들었다. 한국과 북한을 보라. 한국과 북한은 동일한 기술에 접근할 수 있었지만 기술을 매우 다른 방식으로 활용했다.

‘AI와 생명공학을 인류가 어떻게 하면 현명하게 사용할 것인가’가 인류가 오늘 직면한 가장 중요한 질문이다. 인류뿐만 아니라 아마도 생명 자체의 미래가 걸려있다. 글로벌 경제 위기나 중동 전쟁이나, 유럽의 난민 위기보다 훨씬 중요하다.

예를 들어보자. 생명공학은 가축을 대하는 우리의 태도에 어떤 의미일까. 우리는 생명공학으로 더 빨리 자라고 고기를 더 많이 생산하는 소·돼지·닭을 설계할 수 있다. 가축이 겪을 고통은 전혀 생각하지 않고 말이다. 다른 한편으로 우리는 생명공학으로 ‘청정 고기(clean meat)’를 만들 수도 있다. 동물 세포를 배양해 고기를 생산하면 가축을 기르고 도살할 필요가 없다. 사이언스 픽션(SF)이 아니다. 최초의 실험실 배양 햄버거가 2013년에 생산됐다. 생산비가 33만 달러였다. 지금은 11달러다. 수년 내로 일반 햄버거보다 낮은 비용으로 생산할 수 있을 것이다. 비용·환경·윤리 측면에서 훨씬 낫다.

우리는 생명공학·AI·나노기술을 활용해 낙원을 만들 수도 있고 지옥을 만들 수도 있다. 인류 자체가 멸망할 수도 있다. 현명한 선택은 우리에게 달렸다.

인생의 중요한 결정을 구글에 의존할 수도

▎유발 하라리 교수가 펴낸 『사피엔스』. ‘자본주의는 어떻게 전 세계로 퍼져나갔는가’ 에 대한 대답을 찾고자 했다. / 사진 : 김영사 제공

알고리즘이 중심이 되는 사회의 좋은 점과 나쁜 점을 예시한다면.

매년 수많은 젊은이들이 대학에서 무엇을 공부할 것인지 결정해야 한다. 매우 중요하고 매우 어려운 결정이다. 부모·친구·선생님으로부터 압력을 받게 되는데 그들은 각기 관심이나 의견이 다르다. 여러분 또한 바라는 게 따로 있다. 현명한 결정이 특히 힘든 이유는 사실 여러분이 어떤 직업분야에서 성공하려면 무엇이 필요한지 모른다는 점이다.

많은 학생들이 법률가가 어떤 일을 하는지도 모르고 법대에 진학한다. 그들은 자신의 능력 중 일부는 과대평가하고 또 다른 능력은 과소평가한다. 한편 어떤 학생들은 어릴적 꿈을 실현하기 위해 예컨대 무용가가 되려고 한다. 무용가가 되는 데 필요한 재능이나 자제력이 없는 데도 말이다. 우리는 우리 인생에 가장 중요한 결정을 내릴 때 끔찍한 실수를 한다. 이를 막기 위해 수십년 내로 구글에 의존해 중요한 결정을 할 수 있을 것이다.

알고리즘에는 큰 위험성도 있다. 독재 정부들은 알고리즘을 통해 나치 독일보다 더한 통제를 시민에게 강요할 수 있다. 알고리즘 독재에 저항하는 것은 불가능할 수도 있다. 민주주의 국가에서도 사람들은 새로운 유형의 압제와 차별의 희생자가 될 수 있다. 이미 점점 더 많은 은행·회사·기관이 알고리즘을 사용해 우리들과 관련된 데이터를 분석하고 결정을 내린다. 은행에 대출을 신청하면 사람이 아니라 알고리즘이 심사할 가능성이 크다. 알고리즘은 당신에 대한 데이터와 수많은 다른 사람들과 관련된 통계를 바탕으로 당신을 믿을 수 있는지 결정한다. 종종 알고리즘이 인간 은행원보다 판단력이 더 뛰어나다. 문제는 특정의 사람들을 부당한 이유로 차별해도 그 이유를 알기가 어렵다는 점이다. 은행이 대출을 거절하면 당신은 “왜요?”라고 물을 것이다. 은행의 대답은 “알고리즘이 안 된다고 했습니다”이다. “왜 알고리즘이 안된다고 했나요”라는 물음에 대한 대답은 다음과 같다. “모릅니다. 누구도 이 알고리즘을 이해하지 못합니다. 첨단 머신러닝을 기반으로 했기 때문이죠. 하지만 우리는 알고리즘을 신뢰하기 때문에 당신에게 대출을 해드릴 수가 없습니다.”

과거에 사람들은 여성·게이·흑인 같은 집단 전체를 차별했다. 그래서 여성·게이·흑인들은 조직을 결성해 그들에 대한 집단적 차별에 항의할 수 있었다. 알고리즘이 당신을 차별한다면 당신은 이유를 알 수 없다. 어쩌면 알고리즘은 당신의 DNA나 과거의 특정 부분을 싫어할 수 있다. 당신은 이유를 알 수 없고 이유를 알아도 조직화된 항의를 할 수 없다. 21세기에는 어떤 개인에 대한 차별이 큰 문제가 될 것이다.

인류는 글로벌 사회안전망을 구축해야 한다

홉스·로크·루소 같은 사상가들은 사회의 탄생을 설명하기 위해 ‘사회계약론’을 제시했다. ‘호모 데우스 사회’의 도래는 새로운 사회계약을 요구하는가.

21세기 사회계약은 홉스·로크·루소가 말한 사회계약과 다를 것이다. 그들이 말한 사회계약은 특정 국가에 한정된 것이었다. 21세기 사회계약은 글로벌 사회계약이어야 한다. 우리가 오늘 직면한 모든 주요 문제들은 그 본질이 전세계적이기 때문에 우리는 효과적인 글로벌 협력이 필요하다.

명백한 사례는 인류 문명의 번영과 생존 자체를 위협하는 기후변화다. AI와 생명공학과 같은 ‘와해성 기술(disruptive technology)의 경우에 있어서도 마찬가지다. 특정 국가가 단독으로 할 수 있는 게 별로 없다. 과학기술은 국가 차원이 아니라 글로벌 프로젝트다. 단 한 나라라도 고위험 고수익 정책을 채택하면 다른 나라들 또한 뒤쳐지지 않기 위해 같은 길을 선택할 수밖에 없다.

우리는 또한 AI가 야기시킬 경제 충격으로부터 사람들을 보호하기 위해 글로벌 사회안전망을 구축해야 한다. 자동화는 엄청난 부를 실리콘밸리와 같은 첨단기술 허브에 안겨줄 것이지만, 온두라스나 방글라데시 같은 개발도상국은 최악의 영향을 받을 것이다. 캘리포니아에는 새로운 소프트웨어 엔지니어 일자리들이 생겨나겠지만 온두라스·방글라데시의 의류산업 노동자나 트럭 운전사의 일자리는 줄어든다. 미국 정부는 실직한 방글라데시 노동자를 지원하기 위해 실리콘밸리 기업들에게 더 많은 세금을 부과할까. 그럴 가능성은 없다. 우리는 글로벌 경제 속에 살고 있지만 정치는 아직도 지극히 ‘내셔널(national)’하다. AI가 야기시킬 급변 사태를 글로벌 차원에서 해결할 방안을 찾아내지 못하면 나라 전체가 붕괴하는 사례들이 생길 것이다. 그렇게 되면 무질서와 폭력과 이민의 물결이 세계 전체를 불안정한 상황으로 몰고 갈 것이다.

- 김환영 중앙일보 심의실장 whanyung@joongang.co.kr