DGIST, AI 생성 글 판별 기술 개발…가짜뉴스·저작권 위변조 대응 기대

[대구=이데일리 홍석천 기자] DGIST 연구진이 생성형 인공지능(AI)이 작성한 글에 디지털 워터마크를 삽입해 문장이 일부 수정되거나 훼손돼도 AI 생성 여부와 출처를 정확하게 확인할 수 있는 기술을 개발했다.

DGIST는 전기전자컴퓨터공학과·인공지능전공 김영식 교수 연구팀이 AI 생성 텍스트의 위·변조를 추적하는 워터마킹 기술 ‘BREW(Block-wise Reliable Embedding for Watermarking)’를 개발했다고 2일 밝혔다.

생성형 AI 활용이 빠르게 확산되면서 뉴스와 문서, 과제, 창작물 등의 출처를 검증하는 기술의 중요성이 커지고 있지만 기존 텍스트 워터마킹 기술은 사람이 작성한 글까지 AI 생성물로 잘못 판단하는 오탐률이 높아 실제 활용에 한계가 있었다.

연구팀은 텍스트를 여러 개의 블록으로 나눠 각각 독립적으로 검증하는 방식을 적용했다. 여기에 문장의 배열이 바뀌거나 단어가 교체되는 경우에도 원래 구조를 복원하는 ‘윈도우 시프팅(Window-Shifting)’ 기술을 결합해 워터마크를 안정적으로 추적할 수 있도록 했다.

실험 결과도 높은 성능을 보였다. AI가 생성한 글의 10%를 동의어로 바꾸는 등 의도적으로 내용을 수정한 환경에서도 96.5%의 탐지율을 유지했다. 또 약 200단어 분량의 비교적 짧은 문장에서도 안정적인 성능을 보였으며, 사람이 작성한 글을 AI 생성물로 잘못 판단하는 오탐률은 약 2% 수준까지 낮췄다.

이번 기술은 생성형 AI를 악용한 가짜뉴스와 허위정보 확산을 방지하는 것은 물론 AI 창작물의 저작권 보호와 출처 확인, 디지털 포렌식 등 다양한 분야에서 활용될 수 있을 것으로 기대된다.

연구 성과는 인공지능 분야 최고 권위 학술대회인 ‘ICML 2026(International Conference on Machine Learning)’에 채택됐으며, 연구팀은 오는 7월 서울 코엑스에서 열리는 학술대회에서 연구 결과를 발표할 예정이다.

텍스트 워터마킹 기술 ‘BREW’를 개발한 DGIST 김영식(가운데) 교수와 김호은(왼쪽), 김조은 대학원생(사진=DGIST)

이번 연구는 DGIST 김영식 교수 연구팀과 울산대 진동섭 교수 연구팀이 공동 수행했으며, 과학기술정보통신부와 정보통신기획평가원(IITP)의 양자보안 및 미래 통신보안 관련 국가 연구개발사업의 지원을 받아 진행됐다.

김영식 DGIST 교수는 “이번 연구는 사람이 작성한 글을 AI 생성물로 잘못 판단하는 기존 기술의 한계를 극복하고, 텍스트가 악의적으로 수정되더라도 워터마크를 안정적으로 검출할 수 있도록 한 것이 가장 큰 성과”라며 “향후 AI 기반 가짜뉴스 대응과 디지털 저작권 보호를 위한 핵심 AI 포렌식 기술로 활용될 것으로 기대한다”고 말했다.