앤스로픽 CEO "공정한 규제가 빅테크 독점 막는다…美정부 AI 규제 지지"

다리오 아모데이 앤스로픽(Anthropic) 최고경영자(CEO). (사진=AFP)

[이데일리 한광범 기자] 다리오 아모데이 앤스로픽(Anthropic) 최고경영자(CEO)가 16일 AI 규제에 대한 도널드 트럼프 행정부의 최근 행보를 긍정적으로 평가하며, 프론티어 AI 기업의 권력을 제한하고 위험을 제어하기 위한 객관적 규제의 필요성을 재확인했다.

아모데이 CEO의 이번 언급은 유명 투자자 개빈 베이커가 엑스(X·옛 트위터)에 올린 글에 답글을 남기는 과정에서 나왔다. 앞서 베이커는 아모데이 CEO의 공개 소통 노력을 평가하면서도, 리스크를 강조하는 소통 방식이 대중에게 지나치게 부정적인 인상을 줄 수 있다고 우려했다. 그러면서 업계가 대중의 신뢰를 얻는 가장 확실한 길은 말뿐인 메시지가 아니라 ‘실제로 암을 치료하는 성과’를 내는 것이라고 덧붙였다.

이에 아모데이 CEO는 장문의 답변을 통해 최근 규제 지형의 변화에 대해 깊은 지지의 뜻을 나타냈다. 그는 “도널드 트럼프 행정부가 검토 중인 배포 전 테스트나 오픈소스 모델 검증 방식, 그리고 데미스 허사비스 구글 딥마인드 CEO가 제안한 미국 금융산업규제기구(FINRA) 형태의 독립적 규제 기구 구상 등을 매우 지지한다”며 “6개월 전만 해도 업계 전체가 주 정부 규제 무력화만 요구했던 것과 비교하면 의미 있는 변화”라고 적었다.

이어 규제가 빅테크의 독점을 가속화한다는 일각의 주장에 대해 “규제는 곧 권력 집중이라는 프레임은 지나치게 단순화된 그림”이라며 “객관적이고 공정한 제도적 절차가 가진 권력 분산의 힘을 저평가하는 것”이라고 짚었다. 법원 시스템이 때로는 딱딱해 보여도 군중 재판보다 취약한 개인의 권리를 잘 보호하는 것과 같은 이치라는 설명이다.

그는 앤스로픽이 지지해 온 입법 정책들을 예로 들며 “프론티어(최첨단) AI 기업을 더디게 만들면서 중소 경쟁사에는 유리하도록 매우 신중하게 제안을 만들어왔다”고 강조했다.

대표적인 예가 캘리포니아의 SB 1047과 SB 53 법안이다. 과거 거센 논란 끝에 주지사 거부권 행사로 무산됐던 SB 1047은 대규모 자본이 투입된 AI 모델에 법적 책임과 비상 정지(킬 스위치) 의무를 부여하려 했던 선도적 규제안이었다. 이후 새로 수립된 SB 53은 개발사의 투명성을 높이고 내부 고발자를 보호하는 현실적 가이드라인으로 개정·입법화됐다. 아모데이 CEO는 이들 법안이 일정 규모 이상의 대형 개발사만을 규제 대상으로 삼고 스타트업이나 소규모 후발 주자는 전면 제외했다는 점에 주목했다.

아모데이 CEO는 “캘리포니아 AI 안전 연구소(CAISI)나 백악관에서 추진하는 테스트 프로세스, 그리고 ‘프론티어의 속도 조절(Pacing the Frontier)’ 서한 등은 선두 업체의 발목을 잡는 대신 후발 주자와 오픈소스 생태계가 추격할 수 있는 공간을 마련해 준다”며 “이는 프론티어 랩의 사업적 이익에는 손해지만 도전자들에게는 유리하다”고 강조했다.

또 AI 기술 자체의 구조적 위험도 명확히 짚었다. 그는 “AI는 규제와 무관하게 스케일링 법칙의 파급력 때문에 본질적으로 권력이 집중되는 기술”이라며 “오픈소스 모델도 컴퓨팅 파워와 칩을 많이 가진 자들에게 권력을 이동시킬 뿐 완벽한 해결책이 되지 못하므로, 정교한 ‘도로의 규칙’이 있어야 사이버·바이오 안보 위험을 막고 거대 기업을 제어할 수 있다”고 소신을 밝혔다.

메시지가 지나치게 부정적이라는 지적에는 “동의하지 않는다”며 강하게 반박했다. 그는 “기술의 긍정적 잠재력을 보여주기 위해 에세이 ‘사랑의 자비로운 기계들(Machines of Loving Grace)’을 썼고, 그곳에서 5~10년 내 대부분의 인간 질병을 치료할 수 있다는 비전을 제시했다”며 “최근 쓴 에세이에서도 AI가 촉발할 신약 개발 가속화가 규제 장벽에 막히지 않도록 미 식품의약국(FDA) 절차를 간소화하는 구체적 정책을 제안했다”고 밝혔다. 인터뷰 영상이 소셜미디어에서 자극적인 리스크 부분만 짧게 편집돼 유통된다는 아쉬움도 표했다.

베이커가 강조한 ‘암 치료’ 성과에 대해서는 개인적 경험을 털어놓으며 깊은 공감을 나타냈다. 아모데이 CEO는 “C형 간염 치료제(소포스부비르)가 나오기 불과 몇 년 전 아버지를 여읨으로써 신약 개발의 시급성을 누구보다 절실히 느낀다”며 “대중의 불신은 단순한 마케팅 부족이 아니라 테크 기업과 정부 전반에 대한 누적된 ‘신뢰의 위기’ 때문”이라고 진단했다.

이어 “화려한 마케팅 문구는 이제 식상하고 속임수처럼 보일 뿐이며, ‘실제로 암을 치료하는 것’만이 신뢰를 회복하는 유일한 길”이라고 단언했다. 그는 “앤스로픽은 생물학과 의학 분야 노력을 급격히 늘리고 있고, 수개월 내 초기 성과를 보여줄 수 있기를 기대한다”며 “실제 무언가를 성취하기 전까지는 공수표를 남발하지 않고 현실적인 위험을 정직하게 말하겠다”고 덧붙였다.

한편 일론 머스크 테슬라 CEO는 해당 토론 게시물을 공유하며 “흥미로운 교환(Interesting exchange)”이라는 반응을 남겼다.