|
인텔은 지난 9일(현지시간) 미국 애리조나에서 ‘인텔 비전 2024’ 행사를 열고 AI 학습 및 추론용 반도체 ‘가우디 3’를 발표했다.
인텔에 따르면 가우디3는 엔비디아의 주력 AI반도체인 ‘H100’ 대비 학습 시간을 50% 단축할 수 있고 추론 처리량이 50% 빠르다. 전력 효율은 40% 향상됐다.
특히 엔비디아 H100의 단점으로 꼽히는 가격 문제도 해결할 수 있다. 현재 엔비디아 H100은 수급난으로 웃돈이 붙어 제품 한 개당 최대 4만달러(약 5500만원)에 거래되는 것으로 알려졌다. 반면 인텔 가우디3는 이보다 훨씬 낮은 가격으로 추정된다.
국내에서도 네이버와 협력을 맺고 공동 연구와 거대언어모델(LLM) 학습 인프라 구축도 추진하기로 했다.
삼성전자는 지난달 주주총회에서 자체 개발 AI반도체인 마하-1을 첫 소개했다. 이는 삼성전자의 첫 AI 반도체로 저전력 D램으로도 거대언어모델(LLM) 추론이 가능해 전력 효율과 가격 경쟁력이 높다. 마하-1 가격은 500만원 수준으로 추정되며 이는 H100의 10분의 1 수준이다.
당시 경계현 삼성전자 반도체(DS)부문장(사장)은 “AI 시대엔 컴퓨터와 메모리가 대규모로 결집할 수밖에 없는데 현존하는 AI 시스템은 메모리 병목으로 인해 성능 저하와 파워 문제를 안고 있다”며 현재 개발 중인 마하-1을 소개했다. 마하-1은 데이터 병목 현상을 8분의 1로 줄이면서도 전력 효율을 8배 높였다.
업계에선 이 제품들의 양산 시점에 집중하고 있다. 마하-1의 경우 삼성전자가 네이버와 개발 중이며 연내 양산 예정이다. 가우디3는 올해 2분기부터 델, HPE, 레노버, 슈퍼마이크로 등 빅테크 시스템에 탑재될 예정이다.