AI 알고리즘이 인간에게 선택을 제안하고 결정을 대신하면 인간의 수고는 줄어든다. 하지만 그 부작용은 심각하다. 인간의 세계관은 자율적인 선택과 결정의 무수한 집합체다. 세계관의 상실은 나다움의 소멸이다. 김기현 서울대 철학과 교수는 “AI의 도전에 맞서지 않는다면 인간다움은 물론 나다움까지 잃고 말 것”이라고 단언했다.
“새로운 변화 속에서 도전적인 측면에 대한 응전도 있어야 하지 않을까요?”

철학, 그중에서도 인간다움에 천착한 김기현 서울대 철학과 교수의 말에는 힘이 있었다. 인공지능(AI)이 보편화된 시대에 인간다움이 소실될 가능성에 대한 답변이었다. 그는 AI의 공습을 도전이라 칭했다. 김 교수는 “AI가 주도하는 변화 자체를 막을 수는 없다”며 “인간다움은 시대적인 변화 속에서 도전받는 과도기에 놓여 있다”고 말했다. 그에게서 인간다움이 처참히 무너지지 않으리란 믿음이 전해졌다. 인간이 스스로의 힘으로 응전할 것을 확신하는 듯했다.

철학자이면서도 승부사의 면모를 풍기는 김 교수를 지난 11월 14일 만났다. AI 시대 인간다움의 모습을 묻기 위한 자리였다. 김 교수는 인간다움의 개념부터 조목조목 설명해나갔다. 인간다움의 정의와 구성 요소, 기술의 도전 등 인간 본질에 대한 그의 통찰은 깊고 넓었다. 그에게 AI의 구체적인 도전과 인간다움의 위기, 인간의 응전 전략 등을 물었다.

인간다움의 상실과 ‘나다움’의 부재

‘공감을 연료로 하고 이성을 엔진으로 해 자율적으로 공동체적인 규범을 구성해 공존하는 성품.’

김 교수는 저서에서 인간다움을 이렇게 정의했다. 공감과 이성, 자율이 삼각 편대가 되어 인간다움을 이룬다는 설명이다. 그와 함께 인간다움의 구성 요소부터 차근차근 밟아나갔다.

공감과 이성의 만남이 선행돼야 한다고 했다.

공감의 방향성을 잡아주는 것이 이성이다. 공감에도 부족함이 있는데 이성이 이를 보완해준다. 우선 공감은 다른 존재도 자신처럼 희로애락을 느끼며 저마다의 세계관을 가진 존재라는 사실을 이해하는 것이다. 타인도 자신과 비슷한 존재라는 점을 인정하는 마음가짐이다. 공감 능력이 떨어지는 사람을 흔히 사이코패스나 소시오패스라고 부르지 않나. 또 공감은 소속감, 타인과의 공존, 도덕적 감정, 윤리적 판단의 출발점이기도 하다.

문제는 소속감이 잘못된 방향으로 흐를 경우다. 내부 분열이 심한 사회에서 소속감이 정파적으로 변질되면 공감은 오히려 상대방에 대한 적대적 감정을 부추긴다. 결국 모든 인격체가 존중받지 못하는 상황에 처한다. 이때 이성은 공감의 편향성을 바로잡고 공감을 보편적으로 널리 확장한다. 저명한 실천윤리학자 피터 싱어 미국 프린스턴대 명예교수는 문명의 발전 과정을 자신이 속한 서클(단체)이 확장되는 과정이라고 주장했다. 공감이 확장될수록 동료라고 여겨지는 사람이 많아지고 서클이 커지는 것이다.

공감이 AI의 도전을 받는다면.

AI는 인간의 비대면화를 심화한다. 우리는 상대방과 마주할 때 더 쉽게 감정이입을 한다. 상대방의 표정과 제스처, 목소리의 떨림 등을 종합적으로 파악할 수 있기 때문이다. 또 지역, 문화마다 특정 감정을 표현하는 방식이 다르다는 점도 중요하다. 이렇듯 누군가와 공감하려면 감정과 표현 양식의 상관관계, 감정과 문화적 배경의 상관관계를 배워야 한다. 문제는 이를 학습할 기회가 줄어든다는 점이다. 비대면화 추세에 따라 인간의 공감 능력은 손상되고 있다.

AI 시대에 자율이 겪을 변화는 무엇인가.

20년 전의 나와 지금의 나는 다르다. 세계관도 변했고 그에 따라 사고방식과 선호 대상이 달라졌다. 왜 변할까. 그동안 해온 나의 선택과 결정이 나다움을 새롭게 구성했기 때문이다. 인간의 주체적인 선택과 결정이 바로 자율이다. 그런데 오늘날 우리는 선택과 결정을 AI에 외주화(아웃소싱)한다. 예를 들어 넷플릭스에서 콘텐트를 선택할 때 우리는 수많은 콘텐트 앞에서 당황하다가 알고리즘이 추천해주는 것을 택한다. 어떻게 보면 AI가 인간의 수고를 덜어준 셈이다. 빅데이터 시대에 AI 알고리즘 추천에 의존하는 건 불가피한 현상이다. 하지만 이는 편리함이란 포장에 불과하다. 알고리즘에 선택과 결정을 의탁하는 현상이 늘어나면 ‘나다움’을 만드는 자율이 상실되기 때문이다. 인간과 유사한 AI 로봇의 등장을 우려하기보다 인간이 공감 능력과 자율성을 잃고서 로봇화되는 현상을 걱정해야 한다.

AI가 문제인 것인가.

아니다. AI는 도구일 뿐이다. 도구에 어느 정도 의존할지는 인간이 결정할 사안이다. AI를 설계할 때 어떤 알고리즘을 채택하느냐에 따라 선택의 방향성과 의존도는 달라진다. 따라서 자신이 쓸 AI에 어떤 알고리즘을 선택하고 알고리즘 속에 어떤 변수를 둘지 직접 개입할 수 있어야 한다. 현재는 테크 기업이 알고리즘을 공개하지 않아 개인이 개입할 수 없다. 자율이 침해받는 셈이다. 또 기업이 상업적 이익에 따라 알고리즘을 컨트롤하면 인간의 선택은 조작될 수 있다. 이때 인간은 자신의 존재에 대해 주인이라고 할 수 없다. 해결책은 테크 기업이 AI 알고리즘과 변수에 대한 정보를 투명하게 공개하고, 개인이 알고리즘과 변수 설계에 개입할 수 있도록 법제화하는 것이다.

AI가 인간을 흉내 낼 만큼 발전한다면.

상당한 물리적 파워를 가진 존재가 인간다움이 없다면 어떻게 되겠나. 사이코패스의 탄생이다. 인간과 유사하지만 인간이 채 되지 못한 존재다. 인간이 인간다움을 잃는 것만큼 위험성이 상당하다. AI는 자기 보존을 위해 엄청난 지능을 갖추고 있지만 공감 능력이 부족하다. 서로 공감하고 상호 존중하기 위한 윤리성을 스스로 만들어낼 수 없다. 앞으로도 AI에 인간만큼의 공감 능력을 구현하기는 어려울 것이다.

그렇다면 AI 시대를 디스토피아로 예견하는가.

그렇지 않다. 그런 주장은 가능성 낮은 일에 대한 호들갑으로 보인다. 격변기에는 항상 디스토피아적 이야기가 나오기 마련이다. 1차 산업혁명 초기에 수많은 사람이 반발했다. 기계가 인간의 삶을 황폐하게 만들 것이란 공포감에 휩쓸려 기계를 파괴하려는 움직임이 있었다. 그런데 어땠는가. 삶은 훨씬 윤택해졌다. 4차 산업혁명 시대 초창기인 지금도 똑같은 일이 벌어지고 있다. 재앙적인 결과가 나타나리란 예견은 과도한 주장이다. 신기술이 삶을 더 편하게 만들어줄 것이다. 전 세계인의 삶의 수준이 전체적으로 향상되리라 생각한다. 다만 정보 소유가 소득 격차를 결정하기 때문에 부가 불균등하게 분배될 가능성은 분명히 있다. 절대적인 삶의 질이 높아지겠지만 상대적인 빈부격차는 심화될 수 있다. 그런데 삶에 대한 만족감은 상대적으로 평가된다. 상대적 빈부격차로 오히려 빈곤감과 박탈감을 느끼는 사람이 늘어날 수 있다.

어떻게 인간다움을 지킬 수 있을까.

우선 AI를 이용하는 모든 사람이 그것에 의해 조종당하지 않는다고 확신해야 한다. 이를 위해서는, 앞서 말했듯이 AI 알고리즘과 변수를 공개해 투명성을 확보해야 한다. 또 개개인의 노력도 필요하다. 인간이 다른 동물과 구분되는 ‘플러스 알파’를 향상하려는 노력이다. 관계 속에서 어떻게 다른 존재와 공존할 수 있을지 고민하는 것도 인간다움이다. 아름다운 관계를 위해서는 공감 능력이 선행돼야 하는데, 소설과 연극, 단체 운동 등으로 타인의 입장에서 생각하는 훈련을 하면 공감 능력이 향상된다. 또 상호 존중하는 능력은 창의성으로 이어진다. 타인의 시각에서 상황을 다각도로 바라보면 창의성이 높아진다. 방정식 문제 한 개를 더 푼다고 해서 창의적인 사람이 되진 않는다. 타인과 함께 호흡하는 일이 중요하다.

- 노유선 기자 noh.yousun@joongang.co.kr _ 사진 최기웅 기자