인공지능은 감정과 의지를 스스로 갖게 될 동기 없어… 그러나 전장에서 사용될 킬러로봇의 살상 능력은 가공할 것

▎계산주의와 연결주의를 모두 아우르는 구글의 ‘딥 러닝’은 인공지능의 대세로 자리 잡고 있다. / 사진·중앙포토

이세돌을 이겼다고 알파고를 두려워할 필요는 없다. 두려움이 생긴다면 그것은 인공지능 때문이 아니라 그것을 사용할 인간들 때문이다. 이런 인공지능의 능력을 부주의하게 사용하고, 그릇된 곳에 사용할 인간들, 작은 욕심에서 비롯되는 인간의 성급한 판단이 미래를 불안하게 한다.

▎영화 <미션 임파서블>에 등장하는 인공지능 콘택트렌즈. / 사진·중앙포토

21세기는 기술이 인간의 삶에 지배력을 강화하는 시대가 될 듯하다. 기술의 발전 속도 또한 예측하기 어려울 만큼 빠르다. 그래서인지 기술의 발전에 따른 미래사회 혹은 인간의 미래에 대한 논의가 활발하고, 불안감마저 커지고 있다. 최근에는 SF 영화가 양적으로나 질적으로 영화의 주요 장르가 되어가고 있다. SF의 소재는 다양하다. 미래 세계의 변화를 주도할 과학기술이 한두 가지가 아니기 때문이다.

대표적으로 생명공학도 있고, 나노기술도 있고, 정보통신 기술도 있다. 하지만 그중에서 요즘 특히 많이 등장하는 소재가 인공지능 혹은 지능 로봇이다. <그녀(her)> <엑스 마키나> <채피> <터미네이터 제네시스> 등이 그런 영화인데, 하나같이 인공지능의 미래를 상상하고 있다. 레이 커즈와일(Ray Kurzweil)이 예견한 ‘특이점(singularity)’의 인공지능을 그리고 있다. 특이점이란, 간단히 말해 인공지능이 인간의 자연적 지능을 모든 면에서 능가하는 지점을 말한다.

21세기 들어 인공지능 분야의 ‘기계학습(machine learning)’에 전기가 마련됐다. 2006년에 캐나다 토론토 대학 컴퓨터과학자인 제프리 힌턴이 심층신경망(DNN)이라는 딥러닝(Deep Learning) 기술을 개발했기 때문이다. 2012년, 세계적인 이미지 인식 경연대회인 ‘ILSVRC’에서 첫 참가한 토론토 대학의 슈퍼비전이 도교 대학, 옥스퍼드 대학, 독일의 예나 대학, 제록스 등 유명 연구기관에서 개발한 인공지능 프로그램들을 압도적인 차이로 누르고 우승을 자치했다. 이 경연대회는 어떤 이미지를 보고 그것이 동물인지 식물인지, 고양이인지 개인지, 요트인지 여객선인지 등을 판별하는 게임이다. 그때까지 세계 최고의 인공지능이 26% 대의 에러율을 보였는데, 슈퍼비전은 15% 대의 에러율을 보였다. 슈퍼비전은 힌턴이 개발한 딥러닝 기술을 채용해 제작된 것이었다.

이제 딥러닝은 인공지능(계산주의와 연결주의를 모두 아우르는 넓은 의미)의 대세로 자리 잡고 있다. 구글의 딥러닝 프로젝트인 구글 브레인(Google Brain)은 2012년 컴퓨터가 스스로 고양이를 식별하도록 학습시키는 데 성공했다. 페이스북의 딥러닝 기술인 딥 페이스(Deep Face)가 사람의 얼굴을 인식하는 정확도는 97.25%이다. 딥러닝 기술로 개발된 앱인 구글 포토(Google Photos)는 스마트폰 속의 사진들을 자동 분류한다. 딥러닝 기술로 개발된 구글의 인공지능 알파고(AlphaGo)는 바둑 실력에서 인간을 이미 뛰어넘은 것처럼 보인다.

과연 기계가 생각할 수 있는가?

▎IBM의 인공지능 수퍼컴퓨터 ‘왓슨’은 환자의 DNA를 분석해 맞춤 치료법을 제시한다. / 사진·중앙포토

철학자 비트겐슈타인(Ludwig Wittgenstein, 1889∼1951)은 저서 <철학적 탐구>에서 “기계는 생각을 할 수 없다”고 단정했다. 더욱이 그는 이 진술을 경험적인 진술이 아니라고 말했다. 이 말은 기계가 생각할 수 있는지 없는지를 알기 위해 경험에 의지할 필요가 없다는 뜻이다. 생각한다는 말은 오직 인간에 대해서만, 그리고 인간과 비슷한 존재에 대해서만 붙일 수 있는 술어다.

18세기 말에 유럽인들은 생각하는 기계를 목격하는 놀라운 경험을 했다. 일명 ‘터키 사람(The Turk)’이라고 불린 체스 두는 자동인형이 등장해 내로라하는 체스 고수들을 꺾었다. 터키 사람 복장을 한 이 자동인형은 헝가리의 귀족 볼프강 폰 켐펠렌(Wolfgang von Kempelen)이 고안한 것이다. 1809년 황제에 등극해 비엔나를 방문한 나폴레옹과도 대국을 가졌던 이 자동인형은 1834년 프랑스의 한 잡지를 통해 비밀이 폭로되기 전까지 유럽인들에 의해 생각하는 기계로 인식되었다. 사실 이 자동인형은 스스로 생각하여 체스를 둔 것이 아니라 사람이 안에 들어가서 기계 장치를 조작해 체스를 둔 것이었다.

켐펠렌의 체스 두는 자동인형은 사기극이었지만 20세기에 들어와 컴퓨터의 등장으로 생각하는 기계에 대한 꿈은 다시금 부풀어올랐다. 수많은 연구자가 생각하는 기계를 구현하기 위해 몰두했다. 인간의 사고능력을 가진 기계, 즉 인공지능이 정말 가능할까? 미국의 철학자 존 서얼(John Searle)은 인공지능 연구를 궁극적으로 도달하려는 목표에 따라 약한 인공지능(weak AI)과 강한 인공지능(strong AI)으로 구분했다.

약한 인공지능은 컴퓨터를 이용한 시뮬레이션을 인간의 인지과정을 이해하는 주요 수단이라고 보는 입장이다. 이 입장은 지지한 서얼은 인공지능은 인간의 마음을 연구하는 도구로 활용될 수 있는 것이지 인공지능이 정말로 인간처럼 마음을 가진 것으로 이해될 수 없다고 보았다. 약한 인공지능을 연구하는 사람들은 인간처럼 생각하는 컴퓨터라는 의미에서 인공지능이 가능하다는 데 동의하지 않는다.

강한 인공지능은 쉽게 말하면, <바이센테니얼 맨> <아이로봇> <채피> 등의 영화에서 볼 수 있는 인공지능을 목표로 한다. 이 영화들에 등장하는 인공지능은 인간처럼 사고하고 감정을 느낀다. 강한 인공지능을 주장하는 이들은 컴퓨터로 인간의 인지능력을 구현해낼 수 있다고 본다. 커즈와 일처럼 특이점을 주장하는 이들은 강한 인공지능을 지지한다. 초지능(superintelligence)을 주장한 닉 보스트롬 같은 트랜스휴머니스트들 또한 강한 인공지능 옹호자들이다.

계산작업이 핵심인 영역에선 인공지능이 압도

기계가 인간처럼 생각할 수 있다고 보여주는 가장 좋은 방법은 인간과 대결하여 승리하는 것이다. 인공지능이 생각할 수 있는지를 판정하는 시험인 튜링 테스트도 일종의 인간과 컴퓨터의 대결이다. 인간을 속이려는 컴퓨터와 컴퓨터에게 속지 않으려는 인간의 대결 말이다. 튜링 테스트 장면을 간단히 상상하면 이렇다. 우리가 컴퓨터가 있는 방에 혼자 앉아 있고 다른 두 개의 방에 각각 사람과 컴퓨터가 있다. 우리는 이 두 방의 사람 혹은 컴퓨터와 모니터를 통해 대화한다. 우리가 질문하고 두 방의 사람과 컴퓨터가 각각 답변을 한다. 이런 식으로 대화를 한 후에 우리는 어느 방에 사람이 아닌 컴퓨터가 있는지를 판정한다. 우리가 컴퓨터를 정확히 가려낸다면 그 컴퓨터는 사고능력이 없는 것이다. 그런데 만일 충분한 시간 동안 여러 가지 질문을 했음에도 불구하고 우리가 컴퓨터와 사람을 분간하지 못한다면 컴퓨터가 인간처럼 사고한다고 결론지을 수밖에 없다.

1997년 인간과 컴퓨터 간의 세기의 체스 대결에서 세계 체스 챔피언 카스파로프가 IBM의 딥블루(Deep Blue)에게 첫판을 내주었다. 카스파로프는 22세 때 최연소 세계 체스 챔피언이 됐고 그 후 적수가 없을 만큼 놀라운 실력을 보여주었던 인물이다. 딥블루는 방대한 기억 용량과 경이로운 연산 속도라는 슈퍼컴퓨터의 장점을 최대한 살려 인간과의 대결에서 승리했다. 딥블루는 1초에 2억 가지 수를 읽을 수 있었으며, 지난 100년간 체스 고수들의 기보를 모두 저장하고 있었다. 그래서 카스파로프가 한 수 한 수 둘 때마다 그것과 가장 유사한 수를 찾아내고 가장 확률이 높은 시나리오를 구성해서 대응했다. 인간과 컴퓨터의 체스 대결은 튜링 테스트의 체스 버전이라고 할 수 있을 것이다. 그런 의미에서 1997년에 이미 인공지능은 적어도 체스 게임과 관련된 지능에 관해 튜링 테스트를 통과했다.

이후 인간과 컴퓨터의 대결은 게임의 종류를 바꿔가며 계속됐다. 카스파로프도 명예회복을 위해 컴퓨터와 대결을 재차 펼쳤지만 복수에 성공하지 못했다. 2012년에 일본장기의 영세기성 요네나가 구니오와 세계 컴퓨터 장기선수권 우승 소프트웨어인 본클러즈의 대결에서 컴퓨터가 승리했다. 천재 기사 이세돌과 구글의 인공지능 알파고의 대결에서도 알파고가 승리를 거두었다. 이제 체스나 바둑 류의 수를 계산하는 작업이 핵심인 게임에서는 인공지능이 인간을 능가할 것으로 보인다.

5년 전인 2011년에는 좀 더 놀라운 일이 있었다. 미국에서 국민적인 인기를 얻고 있는 퀴즈 프로그램인 ‘지오파디(Jeopardy)’에서 인간과 컴퓨터의 대결이 이루어졌다. IBM이 개발한 왓슨(Watson)은 초당 500GB의 데이터를 처리할 수 있는 성능을 지닌 슈퍼컴퓨터다. 500GB는 책 100만 권 분량의 데이터 용량이다. IBM 왓슨은 딥블루와 마찬가지로 전문가 시스템이다. 이와 달리 알파고는 신경망 컴퓨터다.

왓슨은 역사, 예술, 시사, 건축 등 다양한 분야에서 출제된 문제를 풀었지만 사실 왓슨이 그 문제들 가운데 한 문제라도 제대로 이해하고 있을지 의문이다. 정확히 말하면, 왓슨은 은유적이고 복잡한 ‘지오파디’의 퀴즈 문제를 하나도 이해하지 못한다. 놀라운 것은 그럼에도 불구하고 퀴즈대회에서 우승했다는 것이다. 딥블루가 카스파로프에게 승리했을 때 IBM 관계자는 딥블루가 “가장 어리석은 사람보다도 지능이 떨어진다”고 말했다. 알파고 역시 바둑의 가치에 대해 알고 있을 것 같지 않다. 이세돌 9단이 어떤 수를 두었을 때 그 의도를 알지 못할 것이다. 그냥 가능한 다음 수를 계산할 따름이다. 이세돌이 어떤 의도를 가지고 그 수를 두었는지는 알파고의 관심 밖이다. 정확히 말하면 알파고는 관심 자체가 없다.

미국 철학자 존 서얼(John Searle)은 튜링 테스트가 인공지능이 생각할 수 있는지 여부를 판정하는 지표로 적합하지 않다는 것을 보여주기 위해 ‘중국어방 논변’이라는 사고 실험을 제안했다. 한 중국인이 어떤 방에 앉아 있고 중국어를 전혀 모르는 미국인이 가림판 뒤에 있다고 가정한다. 중국인은 그 사람과 중국 문자로 대화를 주고받는다. 가림판 뒤에 있는 미국인에게는 대화에 사용되는 중국어 문자의 나열에 답변할 수 있는 완벽한 규칙 목록이 있다. 그는 그 목록에서 중국인이 보내온 문자열에 대응하는 답변을 찾아서 다시 중국인에게 보낸다. 이런 식으로 대화를 진행하면, 중국인은 가림판 뒤에 있는 사람이 중국어를 할 줄 안다고 생각하겠지만, 가림판 뒤의 미국인은 중국어를 전혀 이해하지 못한다. 이 사고실험은 인간과 대화가 가능한 것처럼 보이는, 즉 튜링 테스트를 통과한 인공지능 시스템도 언어를 이해한다고 볼 수 없다는 점을 보여준다.

‘특이점의 시대’는 과연 도래하는가?

▎우리의 운명을 결정하거나 도덕적인 책임이 따르는 일은 인공지능에 맡겨선 안될 것이다. / 사진·중앙포토

미국의 컴퓨터 이론가이자 미래학자인 레이 커즈와일에 의해서 유명해진 말이 ‘특이점’이다. 한마디로 특이점은 인간의 능력을 전반적으로 뛰어넘는 인공지능이 출현하는 시기를 말한다. 트랜스휴머니스티인 영국의 닉 보스트롬(Nick Bostrom)은 2014년에 출간한 <초지능(Superintelligence)>이라는 책에서 다른 방식으로 특이점에 대해 언급한다. 오늘날 인공지능은 특정한 기능에 특화되어 있다. 인간의 지능에 속하는 모든 기능을 한꺼번에 지니고 있는 기계는 아직 생각하기 어렵다. 보스트롬은 인간 가운데 지능의 거의 모든 영역에서 가장 뛰어난 사람을 ‘초지능’이라고 불렀다. 하나의 인공지능이 이런 지능을 지니고 있다면 인공일반지능(artificial general intelligence)이라고 한다.

2006년 개최된 ‘다트머스 인공지능대회: 그후 50년’에서 참석자들을 대상으로 인공일반지능의 실현 가능성에 대해 설문조사가 이루어졌다. 다트머스회의 100주년이 되는 2056년까지 인공일반지능이 실현될 것이라는 응답자가 18%였다. 2056년이 조금 지나 실현될 것이라는 답변이 41%였다. 합하면 조사대상 전문가의 59%가 50년 내에 인공일반지능이 실현된다고 예상한 것이다.

특이점주의자들의 주장처럼 가까운 미래에 특이점이 도래할지 의문이다. 사실, 특이점의 기준을 무엇으로 볼 것인지가 문제다. 그리고 이 물음은 ‘인간의 본성을 무엇으로 볼 것인가?’, ‘인간의 가치가 진정 어디에 있는가?’, ‘인간의 지능, 혹은 마음이 무엇인가?’ 등의 물음과도 연관돼 있다. 계산적 지능은 이미 컴퓨터가 인간을 압도했다. 직관 능력과 영감 능력, 상식 추론 능력, 창의성, 감정, 자율성 혹은 도덕성, 공감 능력 등 의식이나 자아를 제외하고도 인간의 지능은 광범위하다.

미국의 로봇공학자 한스 모라벡은 <로봇>(1999)이라는 책에서 2050년 이후 지구의 주인이 인류에서 인공지능 로봇으로 바뀌게 될 것이라고 주장했다. 영국의 로봇공학자 케빈 워릭도 <로봇의 행진>(1997)이라는 책에서 21세기 지구의 주인은 로봇이 될 것이라고 단언한 바 있다. 그는 2050년 기계가 인간보다 더 똑똑해져서 인류의 삶은 기계에 의해 통제될 것이라고 예측했다. 많은 SF 영화가 이런 디스토피아적 상상 위에서 제작됐다.

하지만 이런 상상은 쉽게 실현될 것 같지 않다. 인공일반 지능이 정말 가능하다고 생각할 증거가 없다. 그리고 아무리 인공지능이 똑똑해지고, 인간의 지능을 압도적으로 뛰어넘는다고 해도 인공지능은 인간의 도구에 불과할 것이다. 로봇이라는 단어를 처음 사용한 체코슬로바키아 출신의 극작가 카렐 차페크가 <로섬의 만능로봇>에서 보여준 통찰이 의미 있어 보인다. 차페크는 로봇이 감정을 가질 때 인간에게 반기를 들 수 있다고 말한다. 로봇이 인간보다 지능이 더 뛰어나다고 해서 로봇이 인간을 지배하는 일은 없을 것이다.

인공지능이 감정과 의지를 갖게 되어, 스스로 무언가를 욕망하고 탐낼 때 문제가 생길 것이다. 그런데 인공지능에 무엇이 아쉬운 것이 있을까? 인간은 기본적으로 신체를 가진 존재이므로, 다시 말해 생물학적인 존재이므로 끊임없이 결핍을 느끼지만 인공지능은 신체가 없지 않나? 오히려 문제는 인간이다. 막강한 인공지능의 능력을 인간이 어떻게 사용하는지, 어떤 인간이 사용하는지, 이런 것들이 문제일 것이다. 감정을 느낄 수 없고, 아무런 욕망도 없는 무심한 인공지능은 그 자체로는 해가 될 것이 없다.

인간의 운명을 인공지능에 맡겨선 안 된다

오늘날 진보된 인공지능이 다양하게 응용되고 있다. 이제는 신문 기사의 상당부분을 인공지능이 쓴다. 이른바 로봇 저널리즘 혹은 알고리즘 저널리즘이라고 부르는 이것은 보도 기사를 자동으로 생성하는 소프트웨어에 기반한 저널리즘이다. 미국의 온라인 콘텐츠 회사인 오토메이티드 인사이츠는 2013년에 총 3억 개의 기사를 생산해, 월평균 1만5000개의 기사를 미국 주요 언론사에 판매했다. 내러티브 사이언스라는 회사는 스포츠 기사는 물론 금융기사까지 생산했다. 미국의 <뉴욕타임스>를 비롯해 주요 언론사들이 로봇 저널리즘을 채택하고 있다.

운전자 없이 자동차 스스로 운행하는 자율주행자동차가 자동차의 미래로 지목되고 있다. 이미 미국과 영국 등지에서 자율주행자동차가 시험 운행되고 있으며, 세계 유수의 자동차 업체들이 무인자동차 개발에 박차를 가하고 있다. 자율주행 자동차는 운전자의 실시간 조작 없이도 운행하는 것으로, 이상적인 형태는 사용자(인간)가 목적지만 지시하면 자동차가 자율적인 판단으로 도로를 주행하여 목적지에 도달하는 시스템이다. 2014년 5월 구글이 발표한 무인차는 출발 버튼과 비상정지 버튼만 장착되어 있었으며, 스마트폰을 통해 사용자 위치와 목적지를 전송하면 차량이 자율적으로 사용자를 태워서 목적지에 데려다준다.

IBM 왓슨이 퀴즈 프로에서 보여준 실력을 의료 분야에 응용하면 유용하다. 축적된 방대한 데이터를 기반으로 증상에 따른 진료 패턴을 분석하여 좀 더 정확하게 환자를 진단하는 데 도움을 줄 것이다. 예컨대, 암 치료의 경우에 수십 개의 전문의학지에 실린 데이터나 임상의료 데이터를 수집해 수십만 건의 의학적 근거나 수백만 명의 환자 진료 및 치료 기록을 판단 근거로 삼을 수 있다.

최근 인공지능의 발전은 인공지능 연구의 새로운 붐을 불러올 것으로 보인다. 그리고 인공지능이 우리 생활의 다양한 영역에 응용됨으로써 여러 가지 문제를 불러올 것이고, 이런 문제들 가운데 일부는 전례가 없는 것들이다. 인공지능의 활용과 관련해 윤리 논쟁이 가장 뜨거운 것은 전투로봇이다. 이른바 킬러로봇이라고 불리는 인공지능 로봇은 전장에서 적군을 살상할 것이다. 킬러로봇은 아무런 감정이 없으며, 의지도 없다. 기계적인 판단에 의해 인간이 프로그램 해 놓은대로 적군을 살상할 뿐이다.

인공지능이 아무리 진화해도 그것은 도구일 뿐이다. 알파고가 이세돌을 이겼다고 알파고를 두려워할 필요가 없다. 급속하게 발전하는 계산 능력과 정교한 알고리즘은 놀랄 만하다. 이것은 앞으로 더욱 발전할 것이다. 그래서 두려움이 생긴다면 그것은 인공지능 때문이 아니라 그것을 사용할 인간들 때문이다. 이런 인공지능의 능력을 부주의하게 사용하고, 그릇된 곳에 사용할 인간들, 작은 욕심에서 비롯되는 인간의 성급한 판단이 우리를 두렵게 한다. 아무리 인공지능이 발전하더라도 우리의 운명을 결정하는 일, 도덕적인 책임이 따르는 일은 절대로 인공지능에 맡기지 않기를 바란다.

이상헌 - 서강대학교 철학과를 졸업하고 동 대학원에서 철학 박사학위를 받았다. 현재 세종대 교양학부에 재직 중이다. 주요 저서와 역서로 <융합시대의 기술윤리> <철학, 과학기술에 말을 걸다>(이상 저서), <임마누엘 칸트>(역서), <나노윤리>(공역) 등이 있다. 철학과 과학의 제문제에 대하여 끊임 없는 연구와 사색을 거듭하고 있다.