9일 정보기술(IT) 업계에 따르면 네이버 AI랩과 KAIST 공동 연구진은 논문 ‘스테이블 지플로우넷: 대조적 궤적 균형 기반의 다양하고 안정적인 LLM 레드티밍 기술’로 ICML 2026 메인 컨퍼런스 스포트라이트 세션에 이름을 올렸다.
|
스포트라이트는 채택 논문 중에서도 학술적 주목도가 높은 연구에 부여되는 발표 형식이다. 올해 ICML 2026에서는 심사에 들어간 논문 2만3918편 가운데 6352편이 채택됐고, 이 중 스포트라이트 논문은 536편에 그쳤다. 전체 심사 논문의 약 2.2% 수준이다.
이번 연구는 LLM 배포 전 안전 취약점을 찾아내는 자동 레드티밍 기술을 다룬다. 레드티밍은 AI 모델이 유해하거나 부적절한 답변을 내놓도록 유도하는 공격 프롬프트를 사전에 찾아내고, 이를 바탕으로 모델의 방어 성능을 높이는 안전성 검증 과정이다.
생성형 AI 서비스가 검색, 업무, 교육, 금융 등 실제 서비스로 확산되면서 모델의 취약점을 배포 전에 얼마나 폭넓게 발견하느냐가 중요한 과제로 떠오르고 있다.
연구진은 기존 생성 흐름 네트워크 지플로우넷 기반 방식이 다양한 공격 유형을 찾는 과정에서 학습이 불안정해지거나 일부 유사한 공격만 반복 생성하는 문제를 개선했다.
|
업계에서는 이번 성과가 네이버 AI 연구의 글로벌 경쟁력을 보여주는 사례라는 평가가 나온다. 특히 생성형 AI 경쟁의 축이 모델 크기와 성능뿐 아니라 안전성, 효율성, 실제 서비스 적용성으로 넓어지는 상황에서 AI 안전성 분야 연구 성과를 국제 학회에서 인정받았다는 점에 의미가 있다.
네이버는 이번 ICML 2026 현장에서 네이버 AI랩뿐 아니라 네이버클라우드, 네이버랩스 등 팀네이버 차원의 AI 연구 성과를 소개했다. 네이버클라우드는 비전·파운데이션 모델 연구를, 네이버랩스는 월드모델·피지컬 AI 관련 연구인 ‘서울 월드 모델’을 앞세웠다.
서울 월드 모델은 실제 도시 환경을 기반으로 AI가 물리 세계를 학습·시뮬레이션하는 방향의 연구로, 네이버랩스와 KAIST, 서울대 AI연구원 등이 참여했다.
이번 ICML 성과는 네이버가 글로벌 AI 연구 무대에서 꾸준히 존재감을 키워온 흐름의 연장선에 있다. 네이버는 지난해 뉴립스 2025에서도 현장 부스를 운영하며 연구 논문과 기술 데모를 소개했다.
공개 논문 목록 기준으로도 최근 뉴립스, ICLR, ICML 등 주요 AI·머신러닝 학회에 초거대 AI 효율화, 생성형 AI 안전성, 비전·멀티모달, 피지컬 AI 관련 연구를 잇따라 선보이며 글로벌 AI 연구 무대에서 존재감을 넓히고 있다.
