인공지능에 종속된 미래 ‘인간다움 지키기’ 해법찾기 분주
“기술의 습격보다 기술을 악용하는 인간의 탐욕 더 경계해야”

▎AI를 활용한 딥페이크 기술이 정교해지면서 인간임을 증명할 유일한 방법은 홍채 인식뿐이다. 챗GPT를 개발한 샘 알트먼은 홍채 인식을 통한 기본소득 지급 실험을 시작했다. / 사진:로이터

지난 2월 26일 서울 마포구 공덕역 4번 출구 앞. 점심시간이 되자 근처 직장인들로 보이는 이들이 건물 안으로 서둘러 발걸음을 옮겼다. 이들을 따라 들어가자 1층 로비에 있는 커피숍에 이미 길게 줄이 늘어서 있었다. 저마다 휴대전화를 꺼내 만지작거리며 차례가 오기를 기다렸다. 늘어선 대기줄 바로 옆의 음료 주문대는 한산했다.

대기하던 사람들은 자기 차례가 오자 직원의 안내에 따라 휴대전화를 들어 앞에 놓인 동그란 기계 장치에 비췄다. “눈 감지 마시고 앞에 있는 장치를 응시해주세요.” 직원의 말에 따라 약 10초 정도 응시하고 나면 ‘절차’가 끝난다. 챗GPT 개발사인 오픈AI 설립자 샘 알트먼이 만든 암호화폐 ‘월드코인(WLD)’을 받는 현장의 모습이다.

월드코인을 받으려면 자신의 홍채 정보를 제공해야 한다. ‘오브’라고 불리는 인식 장치를 응시하면 자동으로 홍채 정보를 읽는다. 그 대가로 월드코인을 받는다. 기자도 현장에서 홍채 정보를 인식시켜 월드코인을 받았다. 스마트폰에 ‘월드앱’을 깔고 신원을 인증한 뒤 홍채 정보를 오브에 읽히면 신청 절차가 간단히 끝난다. 약 5분 뒤 13개의 월드코인이 앱에서 확인됐다. 월드코인은 매달 3개씩 총 75개 지급된다.

월드코인은 작년에 출시됐지만, 관심을 받지 못하다가 최근 AI와 암호화폐 열풍이 불면서 인기가 치솟았다. 2월 초까지도 월드코인 시세는 개당 3000원대에 불과했다. 그러나 중순부터 가격이 치솟더니 한 달도 채 되지 않아 1만3000원대에 안착했다. 돈 된다는 소문이 나면서 너도나도 신청대열에 합류했다. 이날 코인을 받으려는 청년들 사이에 나이 지긋한 노인들도 더러 눈에 띄었다. 차례를 기다리던 한 노인은 “뭐하는 건지 물어봤더니 돈 되는 코인 준다고 해서 줄을 섰다”며 멋쩍게 웃었다.

당장엔 ‘돈 되는’ 코인에 관심이 쏠려 있지만, ‘AI의 아버지’라고 불리는 샘 알트먼이 암호화폐를 만든 이유는 제법 심오하다. AI 기술이 눈부신 발전을 거듭해 인간의 노동을 대체했을 때 노동을 통한 소득활동을 할 수 없게 된 인간의 생존을 어떻게 보장하느냐는 질문이 그 출발점이다.

최소한의 생활을 영위할 수 있도록 기본소득을 지급하는 방안이 유력한 대안이란 점에는 이견이 없어 보이지만, 알트먼의 문제 제기는 그 뒤부터다. AI가 인간을 흉내 낼 수 있는 수준에 이르렀을 때 인간임을 증명할 수 있는, AI가 도저히 모방할 수 없는 유일한 방법은 무엇인가. 알트먼은 홍채를 유일한 방법이라고 본 것이다. 따라서 홍채 정보를 통해 인간임을 증명한 사람에 한해 위·변조가 불가능한 블록체인 기술을 이용한 암호화폐로 기본소득을 제공하자는 게 알트먼이 내린 결론이다.

AI에게 일을 빼앗긴 인간은 무엇으로 먹고살까

▎2월 말 서울시 마포구 공덕동의 라운지카페에서 한 직장인이 월드코인을 받기 위해 홍채 인식 장치에 홍채 정보를 등록하고 있다. / 사진:유길용 기자

알트먼의 말이 맞는다면 AI의 속임수를 막고 ‘인간다움’을 확인할 수 있는 유일한 방법은 홍채뿐이다. 일반적으로 홍채는 지문이나 얼굴보다 위조하기가 더 어려워 가장 보안성이 뛰어난 바이오 정보로 알려져 있다. 월드코인 재단 측은 홍채 정보를 인간 증명 용도로만 사용한 뒤 폐기한다고 밝혔지만, 해킹에 의한 탈취 가능성은 여전히 남아 있다.

홍채를 활용해 인간다움을 증명한다는 알트먼의 아이디어는 불과 10여 년 전이었다면 허황된 공상과학 영화 소재로 치부됐겠지만, 지금은 누구도 이를 허튼 생각이라고 여기지 않는다. AI의 위·변조 기술이 하루가 다르게 진화하고 있기 때문이다.

얼마 전까지 딥페이크 사진과 영상은 주로 연예인의 얼굴을 합성해 스캔들을 유발하는 가십거리 정도였지만, 최근에는 정치·사회적 혼란을 일으키려는 목적으로 활용되곤 한다. 특히 이스라엘-하마스 전쟁과 러시아-우크라이나 전쟁 등 국제 분쟁에서 딥페이크가 여론전의 무기로 등장했다. 황폐해진 도시와 참혹한 시신 등 공포와 분노를 불러일으키는 사진 한 장 때문에 국제적인 여론이 움직이는 경우도 종종 생기곤 한다. 글로벌 검증 플랫폼 섬서브(Sumsub)가 지난해 말 발표한 보고서에 따르면 2022년부터 2023년까지 전 세계 딥페이크 범죄는 모든 산업분야에 걸쳐 10배나 증가했다.

인간다움을 침해하는 AI에 맞서는 무기 ‘규제’

▎‘챗GPT(ChatGPT)의 아버지’로 불리는 샘 알트먼 오픈AI 최고경영자(가운데)가 지난해 6월 서울 강남구 해시드라운지에서 열린 ‘월드코인 서울 밋업’(Worldcoin Seoul Meetup) 행사에서 월드코인 프로젝트를 소개하고 있다. / 사진:연합뉴스

‘인간다움’을 지키기 위해 인간이 선택한 첫 번째 조치는 ‘규제’다. 미래를 알 수 없으니 기술의 습격을 방어해낼 기술이 확보될 때까지 일단 막고 보자는 것이다. 기술의 진보를 막아 통제기술을 확보한다는 발상은 모순적이지만, 다른 선택지가 없는 인류의 처지를 보여주는 자화상이다.

유럽연합 의회는 3월 13일 세계 최초로 인공지능(AI) 규제 법안을 마련했다. 이 법안에 따르면 AI 활용분야는 4단계 위험등급으로 나눠 차등 규제를 적용하는데 의료·교육 등 공공서비스, 선거, 핵심 인프라, 자율주행 등은 고위험등급으로 분류됐다. 고위험등급에서 AI 기술을 사용할 때에는 사람이 반드시 감독해야 하고 위험관리시스템을 구축해야 한다. 범용AI(AGI)를 개발할 때에는 AI 오·남용을 막을 장치인 투명성 의무를 이행해야 한다. AI를 활용해 실시간으로 CCTV 등을 통해 개인의 신원을 파악하는 것도 금지된다. 또 딥페이크 영상이나 이미지에는 AI로 조작된 콘텐트라는 걸 반드시 표시하도록 했다.

EU의 이런 조치는 19세기 후반 영국에서 증기자동차가 처음 등장했을 때 마차산업 보호를 위해 자동차를 규제했던 발상에서 조금도 벗어나지 않는다. 당시 자동차가 마차를 대체하면서 마부 등 관련 일자리와 산업이 사라질 위기에 처하자 붉은 기를 든 기수의 통제에 따라 자동차 운행 속도를 시속 2마일로 제한했다. 결국 영국의 자동차 산업은 독일 등 주변 국가에 주도권을 넘겨준 결과를 초래했다.

EU의 이런 조치가 유난스럽게 보이지 않는 건 AI가 지배하는 세상에 대한 막연한 두려움과 거부감을 누구나 갖고 있기 때문이다. 이는 낯선 존재에 대한 본능적인 두려움이기도 하다. 더욱이 전문가들이 내놓는 AI와 공존하는 미래상은 이런 심연의 공포를 자극한다.

이처럼 경험해보지 못한 낯선 미래가 조만간 현실이 될 거란 전망들은 ‘불쾌한 골짜기’(인간을 닮은 로봇이나 가상의 물질을 봤을 때 느끼는 불안감)를 깊게 한다. AI의 일자리 대체는 이미 현실이 됐고 그 속도가 빨라지고 있다. 산업연구원은 최근 펴낸 ‘AI 시대 본격화에 대비한 산업인력 양성 과제’ 보고서에서 2022년 기준 국내 기업의 AI 도입률은 4%에 수준에 불과하지만, 챗GPT 등 생성형 AI의 성능 향상 속도를 고려할 때 AI 시대가 빠르게 열릴 것이라고 전망했다.

특히 AI로 인해 국내 전체 일자리의 13.1%인 327만 개가 사라질 가능성이 높다고 연구원은 분석했다. 분야별로는 제조업이 93만 개로 가장 많았고, 건설업(51만 개), 전문·과학·기술서비스업(46만 개), 정보통신업(41만 개) 등의 순이었다. 금융업의 경우 일자리 소멸 위험군의 99.1%가 경영·금융전문가 직종에 몰려 있었다. 송단비 산업연구원 부연구위원은 “AI의 노동 대체 양상은 과거 로봇이 생산직 일자리를 대체한 것과 매우 다를 것”이라며 “AI가 이미 석·박사급 개발인력을 중심으로 실질적인 노동 수요 변화를 유발하고 있다”고 말했다.

빠르게 진화를 거듭하고 있는 생성형 인공지능의 발전상에 관련 기업 주가가 폭등하며 시장의 기대가 한껏 부풀고 있지만, 전문가들이 그리는 AI의 미래상은 그리 희망적이지 않다. 오히려 준비되지 않은 미래는 영화적 상상력이 현실이 되는 디스토피아에 가까울 수 있다는 경고의 목소리가 높아지고 있다.

최근 미국 국무부가 공개한 용역 보고서는 재앙적 미래를 점치고 있어 충격을 주고 있다. 보고서는 오픈AI, 구글 딥마인드 등 주요 AI 기업 최고 경영진과 무기 전문가 등 200명 이상과 인터뷰를 정리한 내용을 담고 있다. 보고서는 첨단 AI 시스템이 무기화할 경우 돌이킬 수 없는 피해를 줄 수 있다고 경고했다. 예컨대 ‘전력망 붕괴를 위해 추적 불가능한 공격을 실행하라’와 같은 간단한 명령만으로 AI를 이용해 재앙적인 효과를 낼 수 있다. 특히 인간의 개입 없이 스스로 추론하는 범용인공지능(AGI)이 통제를 벗어났을 때 막대한 위험을 초래할 수 있다고 지적했다. 오픈AI의 창립에 참여하기도 한 일론 머스크는 일찍이 성능 제한 등 AI에 대한 통제 장치를 확보할 필요가 있다고 경고해왔다.

전문가들의 이 같은 경고가 예사롭지 않은 건 먼 미래에나 일어날 일이 아니라 몇 년 안에 현실화할 수 있기 때문이다. 지난해 마이크로소프트(MS) 과학자들은 AI가 AGI로 진화하는 데 거의 접근했다고 주장하기도 했다. 이는 인공지능이 인간에 의존하지 않고 스스로 성장하는 단계에 근접했다는 의미다. 인공지능이 인간의 지능을 뛰어넘는 순간을 ‘특이점(Singularity)’이라고 부른다. 특이점 이후 세상을 예측하기란 쉽지 않지만, AI가 인류에게 마냥 우호적이지만은 않을 거라는 데 전문가들도 대체로 동의하고 있다.

인간 뛰어넘는 AI는 인류에 우호적일까

▎딥페이크 제작앱인 ‘리페이스(Reface)’ 조작화면, AI가 사진의 얼굴을 자동인식하면 사용자가 다른 사진으로 얼굴을 대체할 수 있다. / 사진:리페이스 캡처

한편으로는 AI의 발전이 막대한 사회적 부(富)를 가져올 거라고 예측하기도 한다. AI에 의한 완전한 자동화가 사회적 비용을 크게 줄이는 대신 부를 축적시킬 거라는 전망이다. 이런 낙관론자의 대표 인물이 암호화폐를 이용한 기본소득 도입을 주장한 샘 알트먼이다.

샘 알트먼은 꼭 3년 전에 “AI가 10년 안에 인간 노동력을 대체할 것”이라고 내다봤다. 온라인에 게시한 ‘모든 것에 대한 무어의 법칙(Moor’s Law of Everything)’이란 글을 통해서다. 무어의 법칙은 반도체 용량이 매 2년마다 두 배로 늘어날 것이란 이론이다. 무어의 법칙만큼 빠르게 진화하는 AI로 인해 고속 성장을 거듭하게 될 것이고, 이에 따라 사회적 비용이 크게 감소할 것이란 전망이다. 사회적 비용의 감소는 곧 사회적 부의 증가를 의미하는데, 이 게 알트먼이 구상한 기본소득의 재원이 된다.

알트먼의 예상은 이렇다. “5년 안에 AI가 법률 문서를 읽고 의학적 조언을 제공할 수 있을 것이고, 10년 안에 컴퓨터가 조립 라인 공정을 스스로 할 수 있다. 그다음 10년 안에는 AI가 과학적 발견을 포함한 ‘모든 것’을 할 수 있게 될 것이다.”

이런 예상이 현실화하면 주택, 교육비, 음식, 의류 등 모든 재화 가격이 2년마다 절반으로 떨어질 것으로 알트먼은 전망했다. 그렇다면 기본소득 재원은 어떻게 마련될까. 알트먼은 ‘AI 기업’과 ‘개인 토지’에 부과하는 세금을 꼽았다. 이를 18세 이상 시민에게 주식과 배당금 형태로 지급할 수 있는데, 알트먼의 계산법에 따르면 10년 뒤 미국 성인 2억5000만 명에게 매년 약 1만3500달러, 우리 돈으로 약 1500만원 정도의 기본소득을 지급할 수 있다.

재앙과 축복의 미래, 결국 인간의 선택에 달렸다

▎유튜브에 업로드된 김정은의 딥페이크 영상. / 사진:유튜브 캡처

우리나라에선 기본소득이 정치적 구호로 변질됐지만, 해외에선 활발히 논의되는 미래지향적인 담론 중 하나다. 특히 AI에 의한 일자리 대체 흐름이 가속화하면서 기본소득 논의도 이념적인 헤게모니를 벗어나 진지하게 접근하는 주제로 자리 잡았다. 유럽연합(EU)은 2016년부터 로봇을 자연인이나 법인과 동일한 법인격을 가진 ‘전자 인격(electronic person)’으로 규정했다. 이는 향후 ‘로봇세’ 도입을 염두에 두고 과세 근거를 마련한 조치였다.

인간의 외모를 닮았거나, 혹은 인간의 속성을 닮은 로봇이 가까운 미래에 제3의 법적 인격체로 자리잡을 것은 거스를 수 없는 흐름이다. 인간과 인공지능이 공존하는 미래에 새로운 균형점을 찾는 것은 현재 인류에게 남겨진 중차대한 과제다. 스티븐 호킹의 말대로 인공지능이 ‘인류의 종말을 가져올 최악의 기술’이 되지 않도록 하기 위해선 더욱 절실할 수밖에 없다. 김명주 서울여자대학교 정보보호학과 교수는 “인공지능이 몰고 올 미래를 대비하기 위해 인류 전체가 방어적 준비를 해야 한다”고 강조한다. AI는 우리가 기대하는 것만큼 윤리적이지도 않고 공정하지도 않다는 게 김 교수의 견해다.

[사피엔스]의 저자 유발 하라리 이스라엘 히브리대학교 교수는 “5000년 걸린 진화를 AI는 단 5년 안에 끝낼 수도 있다“고 단언한다. 하라리는 기술의 습격보다 기술을 악용한 인류의 반윤리가 몰고 올 재앙에 더 무게를 싣는다. AI를 앞세운 제국주의와 식민주의가 등장할 수 있다는 것이다. 결국 돌고 돌아 인간이다. AI가 축복이 될지, 재앙이 될지 선택권은 인간에게 있다.

- 유길용 월간중앙 기자 yu.gilyong@joongang.co.kr