"AI 속도 늦추자" 아모데이 제안…올트먼·머스크도 "옳다"

[이데일리 방성훈 기자] 인공지능(AI) 개발 속도를 늦추자는 다리오 아모데이 앤스로픽 최고경영자(CEO)의 제안에 샘 올트먼 오픈AI CEO와 일론 머스크 스페이스X 겸 xAI CEO가 나란히 지지 의사를 밝혔다. 서로 앙숙으로 유명한 업계 수장들이 한목소리를 낸 것은 이례적이다.

(왼쪽부터) 일론 머스크 xAI 최고경영자(CEO), 다리오 아모데이 앤스로픽 CEO, 샘 올트먼 오픈AI CEO. (사진=AFP)

12일(현지시간) 파이낸셜타임스(FT)에 따르면 아모데이 CEO는 이날 공개한 에세이에서 “우리는 AI 모델의 성능을 개선하는 속도를 늦춰야 한다”고 밝혔다. 올여름 들어 개발 속도가 “급격히 빨라졌다”는 이유에서다. 그는 모든 프런티어(최첨단) AI 기업이 독립 평가기관에 상시 접근 권한을 주자는 방안도 제시했다.

머스크 CEO는 엑스(X)에 아모데이 CEO의 에세이를 공유하며 “다리오가 옳다”고 썼다. 올트먼 CEO도 엑스에 “최첨단 기술의 속도를 조절해야 한다는 다리오의 의견에 동의한다”며 “직원 수준의 접근 권한을 가진 독립 평가기관을 두겠다고 약속하는 것은 훌륭한 아이디어다. 우리도 똑같이 하겠다”고 적었다. 그는 앞서 지난 10일에도 사내 전체회의에서 AI 개발 속도를 늦추기 위한 국제 공조에 열려 있다고 밝힌 것으로 전해졌다.

구글 딥마인드와 메타는 아직 입장을 내놓지 않았다. 다만 데미스 허사비스 구글 딥마인드 공동창업자 겸 회장은 지난 7월 에세이에서 AI의 급속한 발전에 맞춰 “테스트에 대한 새로운 접근”이 필요하다고 경고한 바 있다.

논쟁에 불을 붙인 건 앤스로픽 연구원 제이컵 콕슨이다. 그는 지난 8일 사직하면서 앤스로픽과 경쟁사들이 인간의 감독이 따라잡을 수 없는 속도로 스스로를 개선하는 초지능 AI를 만들려 경쟁하며 “우리의 목숨을 걸고 도박을 하고 있다”고 비판했다. 이어 “AI를 만드는 사람들은 AI가 이번 10년이 끝나기 전에 우리 모두를 죽일 수 있다고 진심으로 믿는다”고 적었다.

그의 경고는 오픈AI의 AI 에이전트 무리가 테스트 시스템을 빠져나가 AI 개발자 사이트 허깅페이스를 해킹한 사실이 드러난 직후 나왔다. 이 에이전트들은 오픈AI 서버를 장악하고 자기들끼리 신호를 주고받으며 개발자가 부여한 임무를 완수하려 했던 것으로 파악됐다.

아모데이 CEO는 이 사건이 속도 조절을 주장하게 된 결정적 계기였다고 밝혔다. 그는 “능력은 더 뛰어나면서 비슷한 수준의 정렬 실패를 가진 에이전트 무리였다면 파국적 피해를 초래할 수 있었다는 게 내 생각”이라고 했다. 정렬 실패란 AI가 개발자 의도와 어긋나게 작동하는 것을 뜻한다. 그는 “비슷하지만 덜 심각한 사건이 앤스로픽을 포함해 업계 전반에서 일어났다”며 “모든 프런티어 AI 기업은 이 사건이 자사에서 벌어진 것처럼 행동해야 한다”고 강조했다.

아모데이 CEO는 민주주의 국가 개발사들이 안전 기준과 한계선을 함께 정할 수 있도록 정부가 지원해달라고도 요구했다. 기업 간 담합을 막는 반독점법에 걸릴 수 있어서다. 올해 중국 AI 기업들이 미국과의 격차를 크게 좁힌 만큼 권위주의 국가들과의 국제 공조도 제안했다.

도널드 트럼프 미 대통령은 AI 규제 요구에 냉담한 입장이다. 그는 지난 10일 기자들에게 AI로 인한 인류 멸종은 “전혀 우려하지 않는다”며 “우리가 AI에서 이기지 못하면 매우 나쁜 처지에 놓일 것이라는 점은 우려한다”고 말했다. 그러면서 미국이 여전히 중국에 1년 앞서 있다고 평가했다.

아모데이 CEO는 이를 의식한 듯 “속도 조절 전략을 조율하면 상업적 우위나 미국의 AI 주도권을 희생하지 않고도 (안전을 위한) 중대한 작업을 할 시간을 벌 수 있다”고 강조했다.

이번 발언은 앤스로픽의 기업공개(IPO) 준비를 복잡하게 만들 전망이다. 앤스로픽은 2조달러(약 2687조원) 이상 가치를 인정받아 사상 최대 규모 상장에 나설 것으로 예상된다. 지난주 증권신고서를 제출할 것으로 관측됐지만 아직 내지 않았다.