이를 위해 오라클 및 전문 스타트업 크루소와 계약을 체결하고, 일론 머스크의 xAI의 멤피스 시설을 초월하는 인프라를 구축해 AI일반인공지능(AGI) 개발에 박차를 가할 예정이다.
오픈AI는 크루소와 협력해 데이터센터 구축을 진행 중이며, 크루소는 오라클과의 그래픽처리장치(GPU) 공급 계약을 통해 GB200 공급을 확보한 뒤 오픈AI와 임대 계약을 체결했다.
이번 데이터센터는 내년 1분기까지 GB200 5만 개로 구성된 단일 슈퍼컴퓨팅 클러스터를 구축할 예정이며, 2025년 가을까지 이를 10만 개로 확장할 계획이다.
GB200 5만 개는 xAI의 멤피스 데이터센터에 투입된 H100 10만 개보다 성능이 뛰어날 것으로 예상된다. 엔비디아는 블랙웰 칩이 H100 대비 최대 30배의 성능 향상을 제공한다고 밝혔으며, 최근 ML펄프 추론 테스트에서도 H100보다 최대 4배의 성능을 기록했다.
오픈AI가 데이터센터에 주목하는 이유는 AI 모델의 학습과 추론을 위해 대량의 데이터를 실시간으로 분석하고 처리할 수 있는 고성능 컴퓨팅 자원이 필요하기 때문이다. 이를 위해 GPU와 TPU(Tensor Processing Unit)와 같은 특화 프로세서가 대규모로 요구된다. 또한, AI 작업은 전력 소모가 크고 발열이 많기 때문에 효율적인 전력 관리 시스템과 냉각 시스템이 필수적이다. 그 외에도 AI 작업에 적합한 소프트웨어 체계의 구축도 중요한 요소로 꼽힌다.
한편 AI 데이터센터를 만들려는 수요는 오픈AI, 마이크로소프트 등 민간 기업뿐 아니다. 국방부 역시 ‘국방 인공지능(AI) 시대’에 대비하기 위해 AI 데이터센터 설립을 타진하고 있는 것으로 전해졌다.
이를 위해 국방부는 지난달 국내 주요 AI 및 클라우드 사업자들을 대상으로 AI 데이터센터 설립 추진을 위한 설명회를 개최했으며, 삼성SDS, 한화시스템 등 주요 IT서비스 기업과 KT, 네이버클라우드, NHN클라우드, 카카오엔터프라이즈 등의 AI 전문 기업이 참여한 것으로 전해졌다.
그러나 국방부의 AI 데이터센터 구체적인 규모와 활용 방안은 아직 확정되지 않았으며, 필요한 예산 확보도 숙제로 남아 있다. 국방부는 민간자본 유치를 통한 다양한 예산 확보 방안을 고민하고 있으며, 이 사업을 위한 인프라 투자에 최소 1000억 원 이상의 자금이 필요할 것으로 추정되고 있다.