‘딥페이크’ 통한 가짜 메시지 범람… 사회 혼란 가져오고 개인의 일상 뒤흔들어
AI로 인한 불안은 이제 상수(常數)… 사회적 약자일수록 피해에 더 많이 노출

▎우리는 AI라는 양날의 검을 통해 파괴도 치유도 가능한 시대를 맞았다. / 사진:getty images bank

AI, 그중에서도 인간이 사용하는 일상적인 언어로 단순한 정보 검색부터 프로그래밍과 같은 복잡한 일까지 시킬 수 있는 생성형 AI의 시대가 이미 다가왔다. AI가 점점 인간의 지능을 닮아가는 수준에 그치지 않고 인간을 추월해 모든 인류의 지적 능력을 합친 것보다 뛰어난 ‘초지능(수퍼인텔리전스)’이라 불리는 단계에 도달하게 되는 시점을 우리는 AI 특이점이라 부른다. 우리의 일자리가 사라지고, 저작권을 강탈당하며, 민주주의와 선거가 혼돈에 빠지고, 불안의 일상화를 초래한다 해도 AI는 어쩔 수 없이 받아들여야 하는 숙명과 같은 것일까? 이러한 우려에 잘 대처하기 위해서라도 우리는 AI를 깊이 이해해야 하는 딜레마에 빠져 있다.

할리우드 배우, 작가, 실무 인력들은 2023년의 거의 절반을 투쟁으로 보냈다. 챗GPT가 등장하면서 보여준 스토리텔링 능력에 놀란 작가들은 스토리를 구성하고 디테일을 채워넣는 능력이 더 이상 작가만의 것이 아님을 알아차렸다. 그래서 자신들이 그동안 창작했던 수많은 시나리오를 학습한 AI가 등장하면 앞으로 자신들의 일자리가 사라질 것을 우려했고 그러한 우려는 결코 과장된 것이 아니다.

미드저니, 스테이블디퓨전, 달리 같은 이미지 생성 AI는 원하는 이미지를 글로 묘사하면 순식간에 여러 개의 이미지로 만들어 내는 능력을 가졌다. 이미지가 마음에 안 들면 다시 명령을 내려 즉시 수정하게 할 수도 있다. 오픈 AI가 공개한 최신 버전의 AI는 단 몇 줄의 문장으로도 순식간에 실제 사람 같은 외양을 갖춘 다양한 가상 인물들이 일본 도쿄의 거리를 걸어가는 장면을 만들어낼 수 있음을 보여줬다. 창작(創作), 즉 새로운 것을 만든다는 의미의 능력은 오직 인간만이 가진 것이라는 자부심은 착각에 가까웠던 것일까. 이러한 AI의 괴력으로 인한 엄청난 불안과 위기의식은 할리우드의 작가, 배우, 현장인력들을 5개월 가까운 파업으로 몰아넣었다.

AI로 인간의 일자리 희생은 불가피

할리우드 배우노조(SAG-AFTRA)와 제작자연맹(AMPTP)은 장기간의 협상 끝에 가까스로 3년의 유효기간을 가진 합의에 이르렀다. 제작자들은 배우의 사전 동의 없이 AI를 사용하여 배우의 얼굴, 목소리 등을 복제하거나 합성할 수 없으며, 새로운 대사를 생성하거나 이미 연기한 대사의 내용을 수정할 수 없다. AI를 사용하여 대본을 수정할 경우 원작가에게 추가 보상을 지급해야 한다. 그리고 향후 AI 기술 사용에 관한 연구·개발을 공동으로 진행하기로 했다.

하지만 여전히 불씨는 남아 있다. 이미 스마트폰과 컴퓨터로 언제든 사용할 수 있는 생성형 AI가 여럿 있는데, 단지 할리우드 작가들의 작품을 정당한 대가 지불 없이 AI가 학습하는 것을 금지한다고 해서 AI로 인한 일자리 상실을 막을 수 있을 것인가? 19세기 초 기세등등했던 러다이트 운동(1811~1817년 영국 중·북부의 직물공업지대에서 일어났던 기계 파괴운동)이 결국 기술혁신의 파고를 넘을 수는 없었던 것처럼, 생성형 AI가 못 하는 영역이 급격히 줄어들고 있는 상황에서 인간의 일자리가 희생되는 것은 불가피해 보인다.

물론 생성형 AI 시대에 인간의 일자리가 사라지기만 하는 것은 아니다. 늘어나는 일자리도 있다. 세계경제포럼(WEF)의 ‘글로벌위험보고서 2024’에 따르면 인공지능 전문가, 지속가능성 전문가, 비즈니스정보 분석가, 정보보안 분석가, 핀테크 엔지니어, 데이터 과학자, 로봇 엔지니어, 전자공학 엔지니어, 농업 장비 운영자, 디지털 전환 전문가 등의 일자리가 2023~2027년 4년간 가장 빨리 성장할 것이라고 보았다. 세계경제포럼은 줄어드는 일자리보다 늘어나는 일자리가 더 많을 것이라고 보는 낙관적 입장이다.

AI의 일자리 탈취 주장을 뒷받침할 때 자주 인용되는 2013년 영국 옥스퍼드대 인터넷연구원 소속 칼프레이와 마이클 오스본의 연구에 따르면 미국 일자리의 47%가 20년 내 사라질 위기에 처해 있다. 그런데 이 두 연구자도 최근 일자리 감소 일변도의 입장에서 탈피한 것으로 보인다. 그들의 2024년 연구에 따르면 인간의 창의력이나 인간관계를 요구하는 직종일수록 AI의 영향을 덜 받을 것이며, 생성형 AI는 실수를 용납하지 않거나 고위험 직종에서는 도입되기 힘들 것이라고 보고 있다. 반면 AI로 대체 시 발생할 수 있는 사건·사고의 피해 정도나 확률이 낮은 고객 서비스업, 창고업 근무자들은 급속한 자동화로 인해 대체될 것이라고 주장한다. 이미 고객상담을 위한 콜센터는 무인화되고 있으며, 창고에는 사람 대신 AI 엔진을 장착한 로봇들이 활약하고 있다.

그렇다면 생성형 AI는 어떻게 기존 정보와 지식을 학습한 것일까? 한 실험에 따르면 일부 생성형 AI에게 [해리포터]의 첫 구절을 물었을 때, 즉시 정확한 답을 제시했다고 한다. 저작권이 엄연히 살아 있는 작품을 AI가 학습했다는 증거가 될 수 있겠다. 일부 AI는 조금 더 똑똑했다. 법으로 보호받는 저작물의 내용을 학습하지 않아서 답변할 수 없다는 반응을 보였다고 한다. 저작권 보호에 관해서는 생성형 AI 서비스 사이에도 차이가 있음을 알 수 있다.

향후 인공지능의 발전 방향은 규모의 거대화를 추구하는 초거대 AI, 일반 범용성을 지향하는 인공일반지능(AGI)으로 요약된다. 초거대 AI는 막대한 용량의 하드웨어와 첨단 소프트웨어를 필요로 하며, 이런 필요성 때문에 최근 양자컴퓨터의 잠재력이 부각되고 있다. 양자컴퓨터는 기존 컴퓨터보다 훨씬 더 많은 정보를 더 빠른 속도로 병렬처리할 수 있다. 0과 1을 기본 단위로 하는 비트(bit)를 처리하는 것이 아니라 큐비트(Qubit)를 통해 0과 1의 상태를 동시에 가질 수 있는 ‘중첩’ 상태까지 활용할 수 있기 때문이다.

인공일반지능(AGI)은 ‘만물박사’ 수준

▎AI 시대, 딥페이크 불안은 정보 과잉 불안과 함께 현대인의 일상을 지배해 가고 있다. / 사진:getty images bank

AI와 양자컴퓨터가 본격적으로 접목된다면, 그야말로 특이점에 더 가까워질 수 있을 것으로 일부 전문가는 예상하고 있다. 특정 용도에 탁월한 역량을 발휘하던 AI(인공특화지능 또는 ASI)도 AGI와 함께 발전하게 될 것이다. AGI가 막대한 분량의 정보를 학습해 점점 그 능력을 키워서 인간의 자연스런 일상대화를 이해하고 어떤 질문 또는 맥락에도 자연스럽게 답하는 능력을 갖추게 되면, 범용성이 극대화돼 ‘만물박사’ 같은 역할을 하게 될 것이다. 이 단계를 인공일반지능이라고 부른다.

맥락을 스스로 판단하는 AGI의 시대가 오게 되면 다양한 정보를 AI가 자체적으로 융합하고 구조화하여 습득할 것이다. 이 단계에 이르면, 어디까지가 저작권을 침해한 정보에 바탕을 둔 답변이고 어디까지가 공개정보에 근거한 답변인지 구별할 여지가 적어지게 된다. 따라서 AGI 개발자에게 저작권 침해를 추궁할 단서와 방법도 줄어들 수밖에 없다.

최근 소셜미디어에는 조 바이든 미국대통령이 스무살 남녀 대상으로 추첨을 통해 강제 징병할 필요성이 있다고 언급하는 영상이 널리 퍼졌다. AI를 이용해 실제 미국 대통령의 연설처럼 조작해낸 ‘딥페이크’ 영상이었지만, 이 영상 때문에 관련 부처는 곤욕을 치렀다. 전장에 더 많은 병력이 필요하다고 말하는 그의 메시지는 때마침 요르단에 있는 미군기지를 공습한 테러리스트를 응징해야 하는 미국의 입장과 절묘하게 맞아떨어져 마치 진짜인 것처럼 오인됐다. 작년에는 비슷한 내용의 가짜 영상에 러시아와 중국이 언급되기도 했다. 계속 등장하는 변종 가짜 메시지에 외교당국과 언론은 항상 촉각을 곤두세우고 있을 수밖에 없다.

딥페이크로 민주주의가 혼돈에 빠질 수도

이러한 국가원수 가짜 연설 영상은 생성형 AI 기술로 만들어진 것으로 추정되고 있다. 소셜미디어와 스마트폰을 통해 워낙 빠르게 확산되기 때문에 극단적인 경우에는 국가 간 전쟁을 일으킬 수도 있다. 확률상 낮지만 중대한 결과를 낳을 수 있는 국제분쟁 가능성에 주목하지 않을 수 없는 이유는 1898년 쿠바 하바나항에서 폭발, 침몰한 미국 전함 메인호 사례를 떠올리기 때문이다. 당시 메인호를 둘러싸고 황색언론들이 스페인의 공격이라고 몰아가면서 적개심을 고취하는 바람에 결국 미국-스페인 전쟁으로 치달을 수밖에 없었다. 그럴듯한 국면에서, 그럴듯한 메시지가 급조돼 확산될 경우, 일방이 다른 쪽을 선제공격하게 되고 이에 대해 반격을 하다 보면 결국 전쟁과 같은 상호 무력충돌로 이어질 확률이 높다. 황색언론의 폐해를 논할 때 자주 언급되는 미국-스페인 전쟁을 이제는 AI 딥페이크가 초래할 수 있는 결과를 보여주는 국제정치적 사례로 논의하는 시대가 됐다. AI 딥페이크가 황색언론의 역할을 할 수 있기 때문이다.

2021년에는 코로나19 백신을 맞는 사람들에게 추첨을 통해 총기를 나눠주겠다는 조 바이든 대통령을 가장한 딥페이크 영상 메시지가 유포되기도 했다. 바이든이 총기 소유에 비판적인 민주당원임을 고려하면 다소 우스꽝스럽기까지 한 이 메시지조차 온라인에서는 상당한 논란을 불러 일으켰다. 당시 미국의 일부 주에서는 실제로 백신을 맞는 사람들에게 추첨을 통해 경품을 나눠줬는데, 그러한 사실위에 교묘히 거짓을 얹어 영상을 만들다 보니 AP와 같은 대형 통신사도 팩트 체크에 나설 수밖에 없을 정도로 대중의 혼란이 가중됐던 것이다.

올해는 미국 대통령선거가 있는 해다. 지난 1월 평화로운 일요일 아침을 맞았던 뉴햄프셔 주민들은 조 바이든 대통령의 전화를 받았다. 역시 AI로 조작된 자동발신 전화 ‘로보콜’ 메시지였다. 하지만 그 주에 열리는 예비경선에 투표할 경우 11월 본선에서 트럼프 전 대통령의 당선을 돕게 된다는 그의 목소리에 많은 유권자들은 혼란에 빠졌다. 목소리 조작은 컴퓨터를 조금이라도 아는 사람이라면 누구나 접근 가능한 앱을 통해 쉽게 이뤄질 수 있기 때문에 앞으로 두고두고 경계해야 할 딥페이크 방식이다. 이미 점점 지능화되고 있는 보이스피싱도 AI 로보콜을 통해 낮은 비용으로 많은 이들의 지갑을 털려고 할 것으로 예상된다. 지금은 사기꾼이 직접 가족의 목소리를 흉내 내는 방식으로 당신의 지갑을 노리고 있지만, 당신 자녀나 부모의 목소리, 그리고 개인정보까지 미리 학습한 AI가 당신의 질문에 자유자재로 응답하며 당신을 속인다면 과연 속지 않을 자신이 있는가? 아무리 경계해도 지나치지 않은 AI의 공습이다.

앞서 언급한 딥페이크로 인해 엄청난 피해를 보는 것은 정치인, 유권자만이 아니다. 사회적 약자일수록 그 피해에 더 많이 노출돼 있다. 일반인 얼굴을 성행위 동영상에 합성해 어둠의 인터넷이라고 불리는 ‘다크웹’이나 성인 동영상 커뮤니티, 텔레그램과 같은 메신저에 공유하는 행위가 종종 일어나고 있다. 유명인을 합성하는 데서 일반인으로 확장된 것이다. 폭력을 저지르거나 마약을 하는 장면을 특정인의 얼굴과 합성해 그 사람이 반사회적 행위를 저지른 것으로 오도하게 된다면, 피해를 당한 당사자는 순식간에 사회의 공적(公敵)으로 몰리고, 결국 자해나 자살과 같은 극단적 선택으로 이어지는 경우가 늘게 될 것이다. 앞으로 AI, 그것도 인간과 자연스럽게 소통할 수 있는 생성형 AI가 딥페이크의 목소리와 외모를 갖추고 나타나 특정인을 궁지로 몰아간다면 어느 누가 대처할 수 있을까.

AI는 양날의 검, 파괴도 치유도 가능

▎도널드 트럼프 전 미국 대통령이 경찰에 체포되는 모습의 가짜 사진. 인공지능(AI)이 생성한 가짜 사진으로 소셜미디어를 통해 급속히 퍼졌다.

이러한 우려가 현실로 일어날 가능성이 높아짐에 따라 일상에서 활용하는 PC, 스마트폰, 그리고 스마트폰과 운영체제를 공유하는 자동차 내비게이션, 스마트워치, 태블릿PC, 소셜미디어 등을 통해 언제 어떤 방식으로 나의 사생활이 유출되거나 나를 가장한 가짜 메시지가 유포될지 모른다는 불안은 이미 우리 생활의 상수(常數)가 되었다. AI 시대의 ‘딥페이크’ 불안은 일상에 너무 많은 정보가 넘쳐서 스트레스를 가중시키는 ‘정보 과잉(information overload)’ 불안과 함께 이 시대를 살아가야 하는 우리들의 하루하루를 지배해 가고 있다.

AI는 그리스 신화에 나오는 켄타우로스 케이론의 검과 같다. 우리는 AI라는 양날의 검을 통해 파괴도 치유도 가능하며, 야수적 본능과 현자의 지혜까지 지닐 수 있다. AI는 상상할 수 있는 최극단의 파괴를 일으킬 수 있는 무시무시한 무기이자, 고속의 대량 정보처리를 통해 업무상 최고의 효율성도 달성할 수 있게 해주는 도깨비 방망이가 될 가능성도 갖고 있다. 더욱 극적인 부분은 우리가 아직 AI 시대의 초입에 서 있을 뿐이라는 점이다. 유아부터 노인까지 세대를 불문하고 AI 시대의 명암과 AI의 원리를 공부하지 않으면 우리는 머지않아 찾아올지 모를 AI 특이점의 희생자가 될 수도 있다. 우리에겐 AI 공부, AI 리터러시가 필요하다.

- 김장현 성균관대 소프트웨어융합대학 교수 alohakim@skku.edu