■ 딥페이크임 표시 않는 경우 공직선거법 위반으로 처벌
■ 전문가 “얼마든지 악의적 조작과 유포가 가능한 상황”

▎AI윤석열은 ‘문재인 대통령과 이재명 후보가 동시에 물에 빠지면 누구를 구할 것이냐는 질문에 “저는 멀리서, 멀리서 두 분을 응원하겠습니다. 에너지 넘치게, 파이팅!”이라고 답변해 웃음을 자아냈다. / 사진:윤석열 후보 공약위키 사이트 캡처

온라인 커뮤니티를 중심으로 윤석열 국민의힘 대선후보를 구현한 ‘AI윤석열’이 화제다. AI윤석열은 지난해 12월 6일 국민의힘 선거대책위원회 출범식에 깜짝 공개된 뒤 1월 7일부터 본격 활동에 나섰다.

AI윤석열은 윤석열 후보의 공약 사이트인 ‘위키윤’에 매일 3편씩 게시되고 있다. 유권자들이 자유롭게 질문을 입력하면 선대위 측에서 그중 일부를 선정한다. 이어 선대위 측에서 답변을 달아 윤 후보의 음성으로 출력되도록 하는 방식이다.

AI윤석열은 왜 ‘도리도리’를 하지 않느냐는 질문엔 “아쉽지만 프로그램의 한계”라며 “도리도리가 구현될 수 있도록 AI산업 부흥을 함께 이끌어나가겠다”고 답했다. 문재인 대통령과 이재명 더불어민주당 대선후보가 동시에 물에 빠지면 누구를 구할 것이냐는 질문엔 “멀리서 두 분을 응원하겠다”고 답하기도 했다.

국민의힘이 운영하는 AI윤석열처럼 딥페이크 영상을 이용한 선거운동 자체는 문제가 없다. 1월 11일 중앙선거관리위원회(선관위)는 “딥페이크 영상을 이용해 법적 허용 범위 내의 선거운동을 할 수 있다”고 공지했다. 그러나 해당 영상에 'AI ○○○‘ 등 딥페이크임을 표시하지 않는 경우 공직선거법 위반으로 처벌된다고 밝혔다. AI임을 표시하더라도 영상물의 내용에 허위사실이 포함되거나 비방하는 경우엔 허위사실공표죄와 후보자비방죄에 위반돼 처벌 대상이 된다. 제3자가 후보자 동의 없이 딥페이크 영상을 만들 경우는 허위표시죄에 해당된다.

‘AI ○○○입니다’ 구체적으로 밝혀야

선관위의 가이드라인이 발표됐지만 전문가들은 상세한 AI 표기가 필요하다고 조언한다. 제3자의 악의적인 조작 가능성과 유권자들의 혼동을 우려해서다. 김명주 서울여대 바른인공지능연구센터장은 월간중앙과의 e메일 인터뷰에서 딥페이크 영상에 대해 “얼마든지 악의적 조작과 유포가 가능한 상황”이라며 “선거 승리를 목적으로 달려드는 제작자들을 법으로 처리하겠다는 것에 실효성이 있는지 의문”이라고 강조했다.

이어 “AI윤석열처럼 음성으로만 AI임을 밝히는 것으로는 부족하다”며 “유권자들의 혼란을 막으려면 AI를 사용한 가상 인물이라는 사실, 적용된 기술의 범위, AI의 답변이 구성되는 과정과 AI의 운영 주체를 모두 명시하는 ‘디스클레이머 선언’이 필요하다”고 전했다.

후보의 부정적 이미지를 제거함으로써 유권자들에게 혼란을 일으킨다는 지적도 있지만, 선관위 기준에 따르면 후보의 개선된 이미지를 딥페이크 영상으로 활용하는 것은 가능하다. 선관위는 딥페이크 이미지를 동영상으로 제작하는 것은 공직선거법상 허위 사실에 해당하지 않는다고 밝혔다.

고삼석 전 방송통신위원회 상임위원은 지난해 12월 7일 자신의 페이스북을 통해 “(AI윤석열 도입은) 좋지 않은 후보의 이미지와 부족한 언변을 감추기 위한 것 아니냐”며 강하게 비판한 바 있다.

- 이민준 월간중앙 인턴기자 19g2970@naver.com