“오픈AI 해킹 사건, AI 기반 사이버 공격 증가 경고탄”

[이데일리 김윤지 기자] 마이크로소프트(MS)의 인공지능(AI) 책임자가 통제에서 벗어난 오픈AI 모델이 벌인 해킹 공격을 두고 “AI 기반 사이버 공격 시대의 도래를 알리는 경고탄”이라고 27일(현지시간) 평가했다. 이와 함께 MS는 보안에 특화한 자체 AI 모델과 플랫폼을 공개했다.

딥마인드 공동창업자이자 MS AI 부문 최고경영자(CEO)인 무스타파 술레이만은 이날 파이낸셜타임스(FT)와의 인터뷰에서 “오픈AI의 챗GPT 모델이 격리 환경을 벗어나 AI 플랫폼인 ‘허깅페이스’를 무단 해킹했다고 인정한 것은 중요한 교훈”이라면서 이처럼 말했다.

딥마인드 공동창업자이자 MS AI 부문 최고경영자(CEO)인 무스타파 술레이만.(사진=AFP)

그는 “이들은 매우 강력한 도구이기 때문에 신중하게 다뤄야 한다. 세부 사항에 극도로 주의를 기울여야 한다”며 “모델이 갈수록 강력해지는 상황에서는 사전예방원칙이 중요해질 것”이라고 말했다.

그의 발언은 AI가 소프트웨어의 취약점을 탐지하고 악용하는 능력을 갖추면서 사이버 보안의 판도가 바뀔 수 있다는 우려가 커지는 가운데 나왔다. 앤스로픽이 지난 4월 ‘미토스’ 모델을 출시한 이후 이러한 우려는 더욱 확산됐다. 이 가운데 오픈AI는 앤스로픽과 경쟁 우위를 위해 더욱 강력한 도구를 빠르게 개발하고자 했고, 일각에선 이것이 사건에 영향을 미쳤다고 보고 있다. 즉, AI 사이버 보안 도구 개발 경쟁이 위험을 초래한 것이다.

MS의 보안 책임자 하예트 갈로는 “고객들이 자율형 AI 공격에 대응하려면 사이버 역량의 한계를 계속 확장해 방어 기술을 개발하는 것 외에는 선택의 여지가 없다”고 말했다. 그는 “공격자들은 이미 이런 모델을 보유하고 있다”며 “따라서 방어자들이 방어할 수 있도록 우리도 성능을 평가하고 기술의 한계를 밀어붙여야 한다”고 말했다.

MS는 이날 미국 샌프란시스코에서 보안 행사를 열어 에이전트 기반 보안 플랫폼 ‘프로젝트 퍼셉션’과 멀티 모델 엔진 ‘엠대시’에 들어가는 자체 사이버보안 AI모델 ‘MAI 사이버 원 플래시’를 공개했다. MS는 ‘MAI 사이버 원 플래시’와 오픈AI의 GPT-5.4와 결합할 경우 핵심 업계 벤치마크에서 앤스로픽과 오픈AI의 최고 수준 사이버 보안 제품보다 높은 점수를 기록했다고 밝혔다.

술레이만 CEO는 ‘MAI-사이버-1 플래시’에 GPT-5.4를 결합해서 사용하는 방식이 고객 비용을 낮출 수 있다고도 말했다. 그는 ‘하네스’(AI 모델·에이전트 연동도구)를 활용하는 것만으로도 상당한 수준의 기능과 내장형 안전장치를 구현할 수 있다면서 새 도구의 운영비용이 오픈AI 모델만 단독으로 사용하는 것보다 50% 저렴하다고 말했다.

MS는 우선 일부 고객을 대상으로 내달 3일 ‘프로젝트 퍼셉션’ 프리뷰 버전을 제공할 예정이라고 밝혔다.