레드햇은 엔비디아와 협력을 확대해 ‘레드햇 AI 팩토리 위드 엔비디아’를 기반으로 엔터프라이즈 에이전틱 AI의 보안과 운영 기반을 확대한다고 22일 밝혔다.
|
이를 통해 에이전트가 외부 시스템이나 도구를 사용할 때 적용할 가드레일과 운영 가시성, 런타임 안전성을 제공한다. 레드햇은 오픈셸을 자사 AI 플랫폼과 레드햇 AI 팩토리 위드 엔비디아의 기본 기능으로 통합할 계획이다.
AI 모델 추론 환경도 공동으로 고도화한다. 양사는 서비스형 모델(MaaS) 접근 제어와 AI 게이트웨이, vLLM·llm-d 기반 추론 기능을 엔비디아 다이나모와 NIM 마이크로서비스, GPU 오케스트레이션 기술과 결합한 레퍼런스 설계를 개발했다.
기업은 이를 활용해 필요한 AI 모델을 직접 선택해 이용하면서 사용자별 접근 권한과 요청량, 사용량 등을 관리할 수 있다. 모델 실행과 접근 통제를 분리해 하이브리드 클라우드 환경에서 성능과 운영 거버넌스를 함께 확보하도록 설계했다.
엔비디아의 오픈 웨이트 AI 모델 ‘네모트론’ 지원도 확대한다. ‘네모트론 3.5 슈퍼 VL’을 비롯한 모델을 vLLM과 레드햇 AI 팩토리에서 지원하며, 레드햇의 LLM 압축 기술을 활용해 추론 속도와 효율을 높일 수 있도록 한다.
차세대 AI 하드웨어 지원도 강화한다. 레드햇은 엔비디아의 차세대 플랫폼 ‘베라 루빈’을 출시 당일부터 지원할 예정이다. 이를 통해 새 하드웨어가 출시되는 즉시 레드햇 엔터프라이즈 리눅스와 AI 플랫폼에서 활용할 수 있도록 운영체제와 플랫폼 호환성을 제공한다.
엔비디아용 레드햇 엔터프라이즈 리눅스는 엔비디아 ‘베라’ 중앙처리장치(CPU)도 지원한다. 장시간 추론이나 강화학습, 샌드박스 실행 등 에이전틱 AI 특유의 연산 작업에 대응하기 위한 것이다.
조 페르난데스 레드햇 AI 사업부 부사장 겸 총괄은 “자율형 에이전트를 확장하려면 신뢰와 안전성, 원활한 인프라 통합이 뒷받침돼야 한다”며 “최적화된 추론 아키텍처와 출시 당일 하드웨어 지원을 통해 기업이 AI 에이전트를 대규모로 도입할 수 있는 기반을 제공하겠다”고 말했다.
존 파넬리 엔비디아 엔터프라이즈 소프트웨어 부문 부사장은 “에이전트가 스스로 자신의 행동 범위를 정해서는 안 된다”며 “통제는 에이전트 외부의 런타임과 기반 인프라에서 구현돼야 한다”고 말했다.
