딥페이크 정치 콘텐츠 확산…"현실 혼동만으로도 불법"

[이데일리 최연두 기자] 오는 6월 3일 조기 대선을 앞두고, 인공지능(AI) 기반 딥페이크 기술을 활용한 정치 선전·홍보물이 소셜미디어를 중심으로 빠르게 확산되고 있다. 특히 실제 인물의 얼굴과 음성을 정교하게 모방한 콘텐츠가 사실처럼 제작·유포되면서, 유권자의 정치적 판단을 왜곡할 수 있다는 우려가 커지고 있다.

소셜미디어 플랫폼 틱톡 화면(사진=틱톡 캡처)

주요 소셜미디어 플랫폼에서 특정 정치인의 이름과 ‘딥페이크’를 함께 검색하면 합성 영상과 음성 콘텐츠가 다수 확인된다. 일부 영상은 ‘AI 생성 콘텐츠’라고 표기돼 있지만, 실제 연설 장면이나 뉴스 클립에 AI로 생성한 음성을 교묘하게 삽입해 사실과 허구의 경계를 흐리는 사례도 적지 않다.

이에 따라 한국인터넷자율정책기구(KISO)와 중앙선거관리위원회는 지난 11일 공동 개최한 ‘선거기간 인터넷 정보서비스 운영 간담회’에서, AI 딥페이크를 활용한 선거 콘텐츠가 공직선거법 위반에 해당할 수 있다는 점을 분명히 했다.

선관위는 2023년 1월 개정된 공직선거법을 통해 △AI 기술로 생성됐고 △실제와 구분하기 어렵고 △음향·이미지·영상 형태인 콘텐츠를 ‘딥페이크’로 정의하며, 이를 활용한 선거운동을 명시적으로 금지하고 있다.

이번 간담회에서 선관위는 “일반 유권자가 실제 영상으로 오인할 가능성만 있어도 위법에 해당한다”는 엄격한 해석 기준을 강조했다. 선관위 관계자는 “‘실제와 구분하기 어렵다’는 기준은 유권자가 직관적으로 가짜임을 인식할 수 있어야 한다는 뜻”이라며 “현실과 조금이라도 혼동될 여지가 있다면 공직선거법 위반”이라고 밝혔다.

KISO 역시 “1분 미만의 짧은 영상이나 이미지(‘짤’)도 딥페이크에 해당될 경우 제재 대상이 될 수 있다”고 경고했다.



실제로 숏폼 영상 플랫폼 틱톡에서 넷플릭스 드라마 시리즈를 패러디한 ‘AI 윤석열’을 검색하면, 윤석열 전 대통령, 김건희 여사, 안철수 국민의힘 의원 등을 등장인물로 합성한 콘텐츠가 다수 확인된다.

특히 올해 1월 17일 게시된 한 영상에는 윤 전 대통령이 드라마 속 참가자로 등장해 게임에 참여하는 모습이 담겼는데, 풍자나 패러디의 수준을 넘어선 영상도 포함돼 있어 선거 시기 여론에 영향을 미칠 가능성이 제기된다.

실제 인물의 얼굴과 음성을 모방한 딥페이크 콘텐츠는 인격권 및 명예를 침해할 소지가 크며, 경우에 따라 형사처벌이나 민사상 손해배상 청구로 이어질 수 있다.

이성엽 고려대 기술경영전문대학원 교수(기술법정책센터장)는 “공직선거 과정에서 유권자가 딥페이크 기반 허위 영상에 노출될 경우 사실과 다른 정보를 바탕으로 판단할 위험이 있다”며 “능력 있고 도덕적인 후보를 선택하는 것이 민주주의의 핵심인데, 딥페이크는 그 전제를 훼손해 민주주의 자체를 위협할 수 있다”고 지적했다.

이 교수는 “이 같은 문제의식에 따라 공직선거법은 딥페이크 콘텐츠에 대해 형사처벌 규정을 두고 있으며 일정한 정보 표시 의무도 함께 부과하고 있다”고 덧붙였다.