생성형 AI로 만든 콘텐트가 무분별하게 확산돼 아동의 인간다움을 훼손한다는 지적이 수면 위에 올랐다. 아동뿐만 아니다. 모든 인간은 AI로 인해 존엄성과 인간다움을 상실할 위험에 처했다. AI를 사용하는 우리의 자세도 문제지만 AI를 만드는 목적도 중요하다. AI 사용보다 AI 이용(대상을 필요에 따라 이롭게 씀)에 가깝도록 게임의 룰을 바꿔야 한다. 어떤 게임을 어떻게 바꿔야 하는지 살펴본다.

▎ 사진:GETTYIMAGESBANK

“여러분이 겪은 모든 일에 대해 사과합니다.”

지난 1월 31일(현지 시각) 열린 미국 상원 법사위원회 온라인 아동안전청문회에서 마크 저커버그 메타 최고경영자(CEO)는 이같이 말하며 고개를 숙였다. 그의 머리는 몇몇 가족을 향했다. 그들은 자녀가 소셜미디어 콘텐트 때문에 자해하거나 스스로 목숨을 끊었다고 호소했다.

CNN에 따르면 이날 열린 청문회에는 메타 외에도 틱톡, 스냅챗, 엑스, 디스코드 등 5개 소셜미디어 기업 대표들이 증인으로 출석했다. 양당 상원의원들은 4시간 가까이 그들을 심문했다. 특히 페이스북과 인스타그램 등을 운영하는 메타에 대한 질타가 이어졌다. 메타는 아이들의 소셜미디어 중독을 유지하기 위해 의도적으로 심리 조작 기능을 만들었다는 혐의로 뉴욕과 캘리포니아, 조지아, 워싱턴 등 수십 개 주에서 연방 소송을 당한 상황이었다.

이날은 소셜미디어 중독이 아닌 온라인 성 착취(학대)물 등 유해 콘텐트에 초점이 맞춰졌다. 인공지능(AI)이 보편화되면서 이를 악용해 딥페이크(AI로 만든 진짜 같은 가짜 콘텐트) 등을 생성·배포하는 일이 늘어난 탓이다. 의원들은 별다른 제재 없이 온라인 성 착취물에 노출된 아이들이 자해하거나 스스로 목숨을 끊는 사례가 빈번한 것에 대해 기업의 책임을 물었다. 실제로 미국 실종·학대아동센터(NCMEC)에 따르면 2022년 접수된 온라인 성 착취물 신고 건수는 3200만 건에 달한다. 그해 메타에는 2100만 건이 넘는 성 착취물 신고가 들어왔고 기업별 신고 건수는 구글 220만 건, 스냅챗 55만 건, 틱톡 29만 건, 디스코드 17만 건 순이었다. 이날 저커버그 CEO는 “아무도 그들이 겪은 일을 마주하지 않도록 업계에서 선도적으로 노력하겠다”고 약속했다.

이후 온라인 성 착취물 배포뿐 아니라 생성을 막는 일도 중요하다는 경고가 나왔다. 그러자 지난 4월 메타는 비영리단체 ‘올 테크 이즈 휴먼(All Tech Is Human)’, 아동보호 단체 ‘손(Thorn)’과 함께 AI 기반 성 착취 콘텐트로부터 아동을 보호하기 위한 새로운 조치에 합의했다. 메타는 자사 AI가 아동 성 착취물 생성에 이용되지 않도록 조치를 취하겠다고 밝혔다.

인간은 인간에게 이로운 기술을 개발하지만 기술의 활용 방향이 늘 바람직한 것은 아니다. AI가 과연 아동의 존엄성과 인간다움만 위협하고 있을까. AI는 인간의 삶에 빠르게 스며들고 있다. AI가 전 연령대의 인간다움에 미치는 영향을 면밀히 살펴봐야 한다는 지적이 나오는 이유다. 이런 우려가 기우인지 확인하기 위해 지난 10월 말 경북 안동에서 열린 [21세기 인문가치포럼]을 찾았다.

도대체 인간다움이 뭐길래

포럼에는 ‘인간다움, 사회적 관계의 회복’을 주제로 다양한 세션이 마련됐다. 그중 ‘디지털 시대의 새로운 인간다움’ 세션에서 김세호 경상국립대 조교수는 “AI 시대가 도래하며 앞날은 더욱 예측 불가능한 도전에 직면했다”며 “이러한 현실에서 인간다움을 어떻게 규정할 수 있을지 고민해야 한다”고 말했다.

그는 인간다움을 시대가 달라져도 절대 변하지 않는 가치라고 봤다. 그는 자기 성찰 능력과 자연 앞의 겸손함, 진실된 사회적 관계, 공동체를 위한 기여 등을 인간다움의 요소로 꼽았다. “AI가 가사 노동과 단순 반복적인 일을 대신하면서 인간의 시간을 아껴주는 것으로 보입니다. 하지만 오히려 시간을 빼앗는 건 아닐까요? 과연 자아를 마주하는 시간적 여유가 넉넉해졌는지 의심해봐야 합니다.”

김 교수는 “인간은 일상적 활동을 하면서 자아를 성찰할 수 있다”며 “인간이 기술의 굴레에서 벗어나 자신과의 시간을 확보하도록 노력해야 한다”고 당부했다. 인간다움이 손상됐을 경우에는 진실된 관계를 맺으며 자연 속에서 어우러지는 것이 최선의 길이라고 했다. 이날 함께 자리한 김희경 한국외대 학술연구교수도 ‘인간 사이의 대면 관계’를 중요하게 봤다. 그는 “인간은 대면 관계를 통해 진정한 감정의 연결을 경험한다. 이때 인간의 자아 정체성도 형성된다”며 “하지만 AI는 이러한 관계를 대체하지 못하고 외로움과 소외감을 가중한다”고 강조했다.

AI가 보편화된 시대는 곧 인간다움의 위기라는 해석이 전문가들의 중론이다. 하지만 위협의 당사자인 AI는 반대 의견을 내놨다. 오픈AI의 챗GPT에게 ‘AI 시대의 인간다움’을 물었다. 챗GPT는 인간다움이 인간의 고유한 본성이라면서도 AI 시대의 인간다움은 인간의 노력에 달려 있다고 주장했다.

“인간다움은 단순히 기술적 능력이나 효율성으로는 대체할 수 없는 인간 고유의 본질적인 특성과 가치를 의미합니다. AI 시대의 인간다움은 기술과의 경쟁이 아니라, 기술을 활용하면서도 인간 고유의 가치를 지키고 확장하려는 노력에 달려 있습니다. 이를 위해 교육, 철학, 윤리와 같은 분야에서 인간성을 지속적으로 탐구하는 것이 중요합니다.’ -오픈AI, 챗GPT

그렇다면 인간은 스스로 인간다움을 지키기 위해 어떤 노력을 기울여야 할까. 이상욱 한양대 인문과학대학원 AI학과 교수는 “게임의 룰을 바꾸면 된다”고 힘주어 말했다. 현재까지 AI는 인간과 유사하게 행동하는, 즉 인간을 흉내 내는 방향으로 개발돼왔다. 이 같은 이미 테이션 게임이 문제라는 설명이다. 이 교수는 “인간도 100% 완전한 존재가 아니고 인간이 몸담고 있는 사회도 불완전하다”며 “인간을 흉내 내는 AI는 인간의 단점과 사회의 편향성까지 학습할 수 있다. 결국 AI는 인간에게 해악을 가져올 수 있는 존재로 발전할 것”이라고 경고했다.

이 교수는 해결책으로 이미테이션 게임을 어시스턴트 게임으로 바꾸길 제안했다. 인간을 돕는 방향으로 AI 아키텍처(설계·구성 방식)를 바꾸는 것이다. 물론 세상에 정답은 없다. 인간다움과 AI의 위협, 인간에게 필요한 노력 등을 바라보는 시각은 전문가마다 다르다. 다양한 의견을 듣고자 김기현 서울대 철학과 교수와 이상욱 한양대 인문과학대학원 AI학과 교수, 김지현 SK경영경제연구소 부사장을 만났다.

- 노유선 기자 noh.yousun@joongang.co.kr