앤스로픽, 외부 전문가에 내부 시스템 개방…AI 안전성 직접 검증

[이데일리 신수정 기자] 인공지능(AI) 기업 앤스로픽이 외부 평가기관에 자사 직원과 유사한 수준의 내부 시스템 접근 권한을 부여했다. 외부 전문가들이 AI 모델의 위험성과 안전관리 체계를 직접 조사하고 평가 결과를 독립적으로 공개할 수 있도록 한 것이다. AI 기업들이 기술 개발 속도를 늦추지 않으면서도 안전성을 확보하기 위해 외부 검증을 확대하는 움직임이다.

미국 캘리포니아주 샌프란시스코에서 열린 ‘드림포스 2026(Dreamforce 2026)’ 기술 서밋 기간 중 모스콘 센터에 앤트로픽(Anthropic) 로고가 전시되어 있다. (사진=로이터)

15일(현지시간) 로이터통신에 따르면 앤스로픽은 비영리 AI 평가기관인 모델평가위협연구소(METR) 직원 6명에게 사내 업무 공간과 장비, 내부 시스템 접근 권한을 제공했다고 밝혔다. 접근 범위는 앤스로픽의 자체 위험평가 조직과 대체로 비슷한 수준이다.

METR는 앤스로픽 내부에서 AI 모델의 위험성과 사고 사례, 안전관리 관행 등을 조사한다. 앤스로픽 직원들도 METR 평가자들에게 내부 위험평가 담당자와 협업하는 수준으로 정보를 공유하도록 권고받았다.

평가 결과의 공개 여부도 METR가 결정한다. 앤스로픽은 METR의 보고서 발표를 거부하거나 막을 수 없다고 밝혔다. 다만 고객정보와 법적으로 보호되는 기밀, AI 모델의 설계 구조 등 사전에 정한 일부 민감정보는 삭제를 요구할 수 있다.

METR는 정보 삭제 요구가 정당했는지에 대해서도 공개적으로 문제를 제기할 수 있다. 단 삭제된 정보 자체를 외부에 공개해서는 안 된다. METR는 평가 보고서에 조사 범위와 접근 권한, 정보 제한 사항을 명시하겠다는 입장이다.

앤스로픽은 외부 평가기관에 제공하는 접근 권한을 3단계로 나누는 체계도 마련하고 있다. 1단계 기관은 제한된 범위에서 위험성을 조사하며 보고서를 공개하려면 앤스로픽의 승인을 받아야 한다.

2단계 기관은 더 많은 내부정보에 접근하고 사전 승인 없이 결과를 발표할 수 있다. 기업의 민감정보 삭제 요구에 이의를 제기하는 것도 가능하다. 가장 높은 3단계는 METR처럼 직원에 준하는 내부 접근 권한까지 제공한다.

앤스로픽은 생물보안 전문 비영리기관 시큐어바이오(SecureBio)와 글로벌 컨설팅 기업 액센츄어의 AI 사업 조직 패컬티(Faculty)와도 협력하고 있다. 허깅페이스 등 다른 기관과도 협의를 진행 중이다.

시큐어바이오는 현재 1단계 평가기관으로 앤스로픽이 지난 8월 발표한 위험평가 보고서 가운데 화학·생물학 무기 관련 내용을 검토하고 있다. 앤스로픽은 평가가 끝난 뒤 시큐어바이오의 정보 접근권과 보고서 공개 권한 확대를 검토할 방침이다.

이번 조치는 AI 기업의 외부 검증 독립성을 둘러싼 논란 속에 나왔다. 로이터는 지난 13일 앤스로픽과 오픈AI가 영업비밀 유출을 우려해 외부 평가기관의 보고서 공개 범위에 상당한 통제권을 요구해 왔다고 보도했다.

AI 기업들이 영업비밀이라고 판단하는 정보가 모델의 위험성을 평가하는 데에도 필요할 수 있어 공개 범위를 놓고 이해관계가 충돌한다는 지적이다. 기업이 평가기관을 직접 선정하는 구조에서 독립성을 충분히 확보할 수 있는지도 쟁점이다.

METR는 전날 AI 개발사들이 외부 평가기관에 직원과의 비공개 면담을 허용하고, 평가 결과를 적시에 공개하며, 정보 접근과 삭제 제한을 투명하게 밝혀야 한다고 제안했다.

앤스로픽은 외부 평가기관과의 협력을 확대하겠다는 방침이지만 현재 METR 이외 기관과의 협력은 초기 단계다. 외부 검증의 실효성은 평가기관이 내부 위험정보에 얼마나 접근하고 조사 결과를 독립적으로 공개할 수 있는지에 따라 달라질 전망이다.