|
ASF 2.0은 네이버가 2024년 AI 서울 정상회의에서 공개한 AI 안전성 체계 ASF를 최신화한 것이다. 기존 ASF가 AI 기술 모델의 성능과 위험 수준 관리에 초점을 맞췄다면, ASF 2.0은 이용자가 실제로 경험하는 서비스를 중심으로 안전성을 관리하는 것이 핵심이다.
네이버는 이날 서울 강남구에서 열린 인공지능안전 서울 포럼에서 ASF 2.0의 방향성과 구성 요소, 강화된 분류·관리·실행 체계, 향후 활동 계획을 공유했다.
발표를 맡은 송대섭 네이버 AI 세이프티 폴리시 리더는 “AI를 둘러싼 기술과 서비스, 정책·제도 환경이 변화하며 하나의 모델을 안전하게 만드는 문제를 넘어 다양한 AI 모델을 결합해 수천만명이 사용하는 서비스를 어떻게 안전하게 설계하고 운영할 것인지의 문제로 확장되고 있다”고 설명했다.
ASF 2.0에는 네이버의 ‘온서비스 AI’ 전략과 글로벌 AI 생태계의 멀티 모델 환경 확산, AI기본법 제정 등 정책·제도 환경 변화가 반영됐다. 온서비스 AI는 네이버가 보유한 검색, 쇼핑, 로컬, 콘텐츠 등 서비스 안에 AI를 접목해 이용자 경험을 고도화하는 전략이다.
ASF 2.0은 AI 서비스의 출시부터 운영 전반에 이르는 모든 단계에서 안전성을 관리하는 것을 목표로 한다. 이를 위해 기존 기술 모델 중심의 관리 범위를 멀티 모델 환경 기반 AI 서비스로 확장했다.
평가 기준도 성능 중심의 단일 기준에서 맥락, 활용 사례, 영향 등으로 세분화했다. 구체적으로 AI 위험 분류 체계를 통해 AI 서비스에서 발생할 수 있는 위험을 유형화한다. 이후 AI 영향 평가 매트릭스에 따라 활용 영역과 범위에 따른 예상 영향을 평가한다. 마지막으로 지속적인 안전성 평가와 사용자 피드백을 바탕으로 이용자들이 AI 서비스를 안전하게 사용할 수 있도록 관리한다.
네이버는 ASF 2.0이 서비스 출시 과정에서 일관되게 적용될 수 있도록 전사 실행 체계 ‘CHEC 2.0’도 마련했다. CHEC 2.0은 인간 중심 AI의 윤리와 안전성을 검토하기 위한 협의 체계다.
지난 6월 선보인 ‘AI탭’에도 CHEC 2.0이 적용됐다. 네이버는 AI탭 설계부터 출시 단계까지 모든 과정에서 AI 안전성을 점검했다고 설명했다.
네이버는 AI탭을 포함해 출시 예정이거나 이미 출시된 AI 기반 서비스의 안전성을 CHEC 2.0을 통해 지속적으로 점검할 방침이다.
송 리더는 “네이버는 2021년 네이버 AI 윤리 준칙, 2024년 NAVER ASF 베타를 공개하며 AI 윤리 글로벌 흐름과 국내 정책 환경에 맞춰 AI 안전성 체계를 지속적으로 구체화해 나가고 있다”며 “앞으로도 AI 안전성에 대한 경험과 노하우를 축적하며 학계, 정책, 외부 전문가, 다양한 기관과의 협업을 통해 이를 공유하고 발전시켜 나가겠다”고 강조했다.
