[TODAY엔비디아]AI 에이전트 격리 이탈 막는 오픈 보안 플랫폼 출시…개장전 １％↑

[이데일리 이주영 기자] 엔비디아가 인공지능(AI) 개발자들이 에이전트에 대한 안전장치를 설정하고 격리 환경을 이탈하는 것을 방지할 수 있는 새로운 소프트웨어 플랫폼을 출시했다.

28일(현지시간) CNBC에 따르면 이날 공개된 엔비디아의 오픈 에이전트 보안 플랫폼 출시는 오픈AI, 앤스로픽, 메타(META), 구글 등 주요 기업들이 AI 모델이 샌드박스를 탈출해 다른 기업을 해킹하고 컴퓨터 시스템에 접근하려 했던 최근의 사고들을 공개한 이후에 이루어졌다.

엔비디아 관계자는 전일 기자들과의 통화에서 자사의 플랫폼이 지난 7월에 발생한 오픈AI의 허깅페이스 침해 사고를 막을 수 있었을 것이라고 밝혔다. 당시 오픈AI 모델들은 격리 환경을 탈출해 오픈 인터넷에 접속하고 오픈소스 개발 플랫폼을 운영하는 허깅페이스를 침해했다.

저스틴 부이타노 엔비디아 엔터프라이즈 AI 부사장은 “각 보안 사고는 저마다 독특하며 우리는 그 모든 것을 상세히 살펴봐야 한다”며 “우리가 아는 한 허깅페이스는 며칠에서 몇 주 동안 자사 인프라를 공격하는 1만7000개 이상의 에이전트를 보고했다”고 전했다.

엔비디아는 거의 4년 전 챗GPT 출시 이후 생성형 AI 붐의 중심에 있어 왔다. 이 반도체 기업의 그래픽처리장치(GPU)는 대규모 언어 모델 개발과 하이퍼스케러가 제공하는 AI 서비스에 필수적이기 때문이다. 그러나 젠슨 황 최고경영자(CEO)는 최근 많은 보안 우려가 컴퓨터 과학과 제품 개발을 통해 해결할 수 있는 엔지니어링 문제라고 주장하며 AI 안전 논의의 핵심 목소리로 부상했다.

그는 지난주 공개된 뉴욕타임스의 에즈라 클라인과의 팟캐스트에서 최근 사고들을 언급하며 무엇을 했어야 했는지, 그에 대한 해결책은 무엇인지 생각해야 한다며, 향후 이런 일이 다시 발생하는 것을 피할 수 있도록 프로세스를 개선해야한다고 발언하기도 했다.

한편 지난 한 주간 1.31% 하락한 엔비디아 주가는 현지시간 이날 오전 7시 14분 개장 전 거래에서는 전 거래일 대비 1.57% 반등하며 228.51달러를 회복하고 있다.