앤스로픽·오픈AI·구글, ‘AI 안전 표준기구’ 설립 논의…7월부터 물밑 협의

[이데일리 김현아 기자] 앤스로픽과 오픈AI, 구글이 최첨단 인공지능(AI) 모델의 안전성을 평가하고 테스트·감사 기준을 마련하기 위한 업계 공동 표준기구 설립을 논의해 온 것으로 알려졌다. 아직 구체적인 조직 출범이나 운영 방식이 확정된 단계는 아니지만, 주요 AI 기업들이 경쟁을 넘어 공통의 안전 기준을 마련하기 위해 물밑 협의에 나섰다는 점에서 주목된다.

미국 IT 전문매체 디 인포메이션은 13일(현지시간) 앤스로픽과 오픈AI, 구글이 AI 산업을 위한 표준기구를 만드는 방안을 논의해 왔다고 보도했다. 세 회사의 최고경영자급 임원 아래 실무진으로 구성된 워킹그룹이 지난 7월부터 정기적으로 만나 AI 모델을 어떻게 테스트하고 감사할지, 이를 담당할 표준기구를 어떻게 만들지 등을 논의했다는 것이다. 최근까지 회의가 이어졌으며 지난주에도 관련 논의가 있었던 것으로 전해졌다.

다만 표준기구의 구체적인 명칭이나 출범 시점, 운영 방식, 참여 기업 등에 대한 최종 합의가 이뤄졌는지는 알려지지 않았다.

2024년 노벨 화학상 수상자인 데미스 허사비스 구글 딥마인드 공동 창립자 겸 최고경영자(CEO)(사진=로이터)

AI판 FINRA 논의와 맞물려

이번 논의는 AI 업계에서 제기돼 온 ‘AI판 FINRA’ 구상과 맞물려 있다.

데미스 허사비스 구글 딥마인드 CEO는 지난 7월 금융산업규제당국(FINRA)과 유사한 AI 업계 자율규제기구가 필요하다고 공개적으로 제안했다. 금융업계가 공동의 규칙과 감독체계를 마련하는 것처럼 AI 업계도 최첨단 모델의 안전성을 평가할 공통 기준을 만들자는 취지다.

특히 AI 모델이 출시되기 전에 사이버보안이나 생물학적 위험 등 고위험 능력을 평가하고, 일정한 안전 기준을 충족했는지를 독립적으로 검증할 수 있는 체계가 필요하다는 주장이다.

허사비스의 제안은 정부 규제가 마련되기를 기다리는 대신 업계가 먼저 자율적인 안전 기준을 만들고, 이후 정부와 연계하는 방식에 무게를 둔 것이다.

아모데이 “AI 개발 속도 조절해야”

앤스로픽의 다리오 아모데이 CEO도 최근 AI 개발 속도를 조절하고 독립적인 외부 평가체계를 마련해야 한다고 주장하면서 논의에 힘을 보탰다.

아모데이 CEO는 최첨단 AI가 빠르게 강력해지고 있는 만큼 기업 내부의 안전성 평가만으로는 충분하지 않다며, 독립적인 외부 평가기관이 AI 기업 내부 직원과 비슷한 수준으로 모델에 접근해 안전성을 검증할 수 있어야 한다고 제안했다.

정부가 AI 규제를 마련하는 동안 기업들이 자발적으로 안전 기준을 먼저 도입하고, 정부는 기업 간 협의를 지원하거나 중재하는 방안도 제시했다.

오픈AI의 샘 올트먼 CEO 역시 AI 산업을 위한 테스트·감사 조직 설립에 긍정적인 입장을 밝힌 것으로 전해졌다. 다만 미국 정부의 지원 없이 주요 AI 연구소들이 먼저 협력해 표준기구를 만드는 방안이 현실적이라는 취지의 설명을 한 것으로 알려졌다.

대형 AI 기업 주도에 대한 우려도

업계가 공동 안전기준을 만드는 데 대한 우려도 있다.

대형 AI 기업들이 자체적으로 규칙을 만들 경우 후발주자나 중소 AI 기업의 시장 진입을 제한하는 새로운 장벽이 될 수 있기 때문이다.

캐나다 AI기업인 코히어의 에이든 고메스 CEO는 대형 AI 기업들이 공동으로 규칙을 만들 경우 경쟁을 제한할 수 있다며 이러한 움직임이 대형 기업 중심의 ‘카르텔’로 변질될 가능성을 경고해 왔다.

이번 논의에서 중요한 점은 AI 기업들이 공통의 안전 기준을 만들 수 있느냐와 함께, 그 기준을 누가 만들고 누가 평가하며 누가 감독할 것인지에 있다.

AI가 단순한 대화형 서비스를 넘어 코드를 작성·실행하고 외부 시스템에 접근하는 에이전트 형태로 발전하면서 모델의 위험성을 사전에 평가할 필요성은 갈수록 커지고 있다.

앤스로픽과 오픈AI, 구글이 실제 표준기구 설립에 합의한 것은 아직 아니다. 그러나 세계 주요 AI 기업들이 최첨단 AI 모델의 테스트와 감사 기준을 놓고 공동 논의에 들어갔다는 사실 자체가 AI 안전 규칙을 둘러싼 산업계의 고민이 한 단계 구체화하고 있음을 보여준다.