|
에임인텔리전스는 지난 27일 열린 한국 준결승에서 AI가 답변을 생성하는 단계를 넘어 스스로 판단하고 행동하며 물리 세계와 연결되는 환경에 대응하기 위한 엔드투엔드(end-to-end) AI 보안·통제 체계를 발표했다.
AI 보안 체계의 핵심은 AI의 취약점을 발견하고 실제 운영 환경의 통제로 연결하는 ‘에임 컨트롤 루프’ 시스템이다. 자동화 레드티밍 플랫폼 ‘스팅어’가 텍스트, 음성, 이미지, 영상부터 AI 에이전트와 피지컬 AI 환경까지 취약점과 위험 행동을 탐색하면 실시간 AI 보안 솔루션 ‘가디언’이 AI의 입출력뿐만 아니라 도구 호출과 시스템 실행, 물리적 행동 과정에서 발생하는 위험을 탐지하고 통제한다. 이을라 발견된 취약점은 새로운 통제 정책으로 반영되고, 적용된 통제는 다시 공격 테스트를 거친다. 이를 통해 일회성 안전성 평가에 머무르지 않고 AI의 개발, 배포, 운영 전 과정에서 위험을 지속적으로 발견하고 방어 체계를 강화하는 순환 구조를 구현한다.
에임 컨트롤 루프는 ‘엔비디아 DGX 스파크’를 활용한 소규모 온프레미스(On-premiss ·구축형) 환경부터 엔비디아 그래픽처리장치(GPU) 기반의 대규모 엔터프라이즈 인프라까지 동일한 공격·방어 체계를 확장할 수 있도록 설계됐다. 이를 통해 기업은 AI 시스템의 규모와 배포 환경에 관계없이 일관된 방식으로 위험을 검증하고 통제할 수 있다.
에임인텔리전스는 생성형AI와 AI 에이전트를 넘어 자율적으로 판단하고 현실 세계에서 행동하는 피지컬AI 영역까지 보안 범위를 확장하고 있다. 현재까지 AI 안전성과 보안 분야에서 36편 이상의 논문을 발표하고 160개 이상의 AI 모델을 평가했다. 이러한 연구 역량을 기업 환경에 실제 배포할 수 있는 자동화 레드티밍 및 실시간 통제 기술로 제품화하고 있다.
엔비디아 인셉션 그랜드 챌린지의 결승 행사는 오는 9월 22일 진행된다. 결승을 통해 선정되는 톱10 기업에는 글로벌 혁신 행사에서 기술을 선보이고 기업 파트너와 실증 및 사업 협력을 추진할 기회가 제공된다.
박하언 에임인텔리전스 최고기술책임자(CTO)는 “AI가 화면 속에서 답변하는 도구를 넘어 기업 시스템과 물리 세계에서 직접 행동하는 주체로 진화하면서 AI 통제가 관건이 되고 있다”며 “이번 결승 진출을 계기로 생성형 AI부터 에이전틱 AI와 피지컬 AI까지 포괄하는 글로벌 AI 보안·통제 기업으로 도약하겠다”고 말했다.
