서울시, 미성년자 온라인 그루밍 'AI 탐지기술'로 잡는다

[이데일리 함지현 기자] 서울시는 온라인 그루밍으로부터 아동·청소년을 보호하기 위해 전국 최초로 인공지능(AI)에 기반한 ‘서울 안심아이(eye)’를 개발, 24시간 탐지 및 대응에 나선다고 1일 밝혔다.

(사진=서울시)

서울 안심아이는 아동·청소년이 주로 이용하는 사회관계망서비스(SNS), 오픈채팅방 등 온라인 공간에서 발생하는 성적 유인과 성착취 시도를 AI가 24시간 실시간으로 탐지한다. 위험 징후를 포착하는 즉시 피해지원기관에 긴급 알림을 전송하면 피해지원기관에서 개입해 피해 확산을 초기에 차단한다.

시는 지난 2023년 온라인상에 유포된 디지털 성범죄 영상의 모니터링과 신속한 삭제 지원을 위해 전국 최초로 AI 기술을 도입한데 이어, 2024년에는 아동·청소년 AI 안면인식 나이 예측 기술을 개발하여 성착취물을 선제적으로 삭제지원했다. 올해는 온라인 그루밍 정황 탐지를 위한 AI 기술을 서울연구원과 함께 연내 개발할 계획이다.

해당 기술은 대화 흐름 속에서 성범죄의 시발점이 되는 표현 패턴을 감지한다. 단순히 특정 단어를 감지하는 수준을 넘어, 멀티모달 지원 경량화된 언어모델을 결합해 다양한 은어·축약어·연속된 대화 맥락까지 함께 분석하도록 설계한다.

이와 관련, 서울시는 오는 2일 AI 기반 온라인 그루밍 탐지 기술과 함께 온라인 그루밍에 대한 사회적 인식 확산과 대응방안 모색을 위한 토론회를 개최한다.

토론회에서는 김준철 서울연구원 연구위원이 ‘AI 기반 온라인 그루밍 탐지 및 선제 대응 기술’을, 서울시여성가족재단 김보화 책임연구원이 ‘서울시 아동·청소년 온라인 그루밍 실태와 정책방향’에 대해 각각 발표한다. 이어서, KBS ‘시사기획 창’의 김도영 기자, 한국형사·법무정책연구원 성유리 부연구위원, 시립다시함께상담센터 이은정 부소장이 참여해 랜덤채팅 실태, 피해사례 등을 공유한다.

마채숙 서울시 여성가족실장은 “디지털성범죄가 갈수록 진화하면서 최근 몇 년간 온라인 그루밍을 매개로 한 성착취가 증가하는 추세를 보이고 있다”며 “미성년자 대상 성범죄의 상당수가 온라인 그루밍에 뿌리를 두고 있는 만큼, 피해자도 모르는 사이에 돌이킬 수 없는 피해로 이어지지 않도록 선제적 예방에 더욱 힘쓰겠다”고 말했다.

서울시가 서울시여성가족재단에 의뢰해 실시한 온라인 그루밍 설문조사(서울시내 초등학교 5학년~고등학교 3학년 총 2,316명 대상, 2025년)에 따르면, 응답자의 19%가 ‘온라인에서 말 걸기, 선물 제공, 성적 대화 요구 등’ 온라인 그루밍 접근을 경험한 것으로 나타났다. 접근 경로는 SNS, 1:1·오픈채팅, 게임 순으로 빈도가 높았다. 접근한 사람의 특징으로는 ‘온라인에서 처음 만났고 전혀 모르는 사람’이 35.5%로 가장 많았고 ‘친구·선후배 등의 또래’가 34.2%였다.