code:068h
device:
close_button
X

'포스트 HBM' SOCAMM 급부상…AI 메모리 다변화한다

김응열 기자I 2025.04.02 17:04:53

저전력 D램 기반 모듈…엔비디아 제품 탑재
더 빠르게 CPU 연산 지원…AI 메모리 확대
마이크론과 협업 중…한 발 늦은 삼성·SK

[이데일리 김응열 기자] 새로운 D램 모듈 ‘SOCAMM’이 ‘포스트 HBM’으로 떠오르고 있다. 연산장치 주변에서 더 빠른 데이터 처리를 돕는 차세대 제품으로, 고대역폭메모리(HBM) 중심의 AI 메모리 시장이 보다 다변화할 전망이다. 이미 마이크론은 엔비디아와 SOCAMM 협력을 진행 중으로, 이 시장에서 먼저 치고 나갈 수 있는 발판을 다졌다. 이에 대비해 삼성전자(005930)와 SK하이닉스(000660)도 개발에 속도를 내야 한다는 목소리가 나온다.

마이크론의 SOCAMM. (사진=마이크론)
2일 업계에 따르면 엔비디아는 차세대 AI 가속기 GB300에 HBM과 SOCAMM을 함께 탑재한다. GB300은 엔비디아 중앙처리장치(CPU) ‘그레이스’와 그래픽처리장치(GPU) ‘블랙웰 울트라’를 결합한 서버용 플랫폼이다.

평소라면 엔비디아의 차세대 칩에 탑재하는 HBM에 업계 관심이 쏠렸겠지만, 올해는 SOCAMM으로 시선이 더 모아진다. SOCAMM은 ‘Small Outline Compression Attached Memory Module’의 약어로, 저전력 LPDDR D램 기반의 탈부착식 D램 모듈이다. D램 모듈은 여러 개의 D램을 모아 기기의 컴퓨팅 시스템과 연결하는 제품이다. 종류에 따라 대역폭과 전력소모, 성능 등이 다르다.

그간 LPDDR D램 메모리 모듈 중에서는 노트북용 LPCAMM이 널리 쓰였다. 저전력이면서 탈부착이 가능하지만 AI 연산의 데이터 처리에는 다소 한계가 있다. 이에 엔비디아는 LPCAMM보다 데이터 이동통로(I/O) 숫자를 늘린 SOCAMM을 독자 표준으로 개발 중이다. LPCAMM의 I/O는 644개지만 SOCAMM은 694개다. 또 LPCAMM보다 크기가 작고 메모리 용량을 늘리기 용이하다.

병렬연산 특성상 많은 데이터를 한 번에 처리하는 GPU는 데이터 통로가 많은 HBM이 필요한 반면 CPU는 직렬연산 방식이어서 D램 모듈만으로도 충분하다. 다만 CPU 역시 AI 데이터 연산으로 전보다 더 많은 정보를 처리해야 하는 만큼 보다 고성능의 D램 모듈이 필요한 상황이다.

요리하는 과정으로 비유하면 주방 요리사를 CPU, 식재료를 손질해 전달하는 보조 요리사를 D램 모듈로 가정할 수 있다. LPCAMM을 쓰면 보조 요리사가 하나의 도마(I/O) 위에서 한 가지 식재료(데이터)를 손질한 뒤 요리사에 전달하고 다음 재료를 또 썰기까지 시간이 걸린다. 그러나 SOCAMM을 사용할 경우 두 개의 도마 위에서 두 가지 식재료를 미리 손질해놓고 요리사가 원하는 식재료를 즉시 전달할 수 있는 셈이다.

젠슨 황 엔비디아 최고경영자(CEO)가 지난 19일(현지시간) 엔비디아 연례 개발자 회의(GTC 2025)가 열리고 있는 미국 캘리포니아주 새너제이에서 가진 글로벌 기자간담회에서 답변하고 있다. (사진=연합뉴스)
엔비디아는 앞으로도 CPU와 GPU를 결합한 차세대 AI 가속기를 내놓을 것으로 보인다. 아울러 자사가 개발 중인 AI PC ‘디지츠(Digits)’에도 SOCAMM을 탑재할 것으로 예상된다. 디지츠는 손바닥 크기의 PC로 블랙웰 GPU와 그레이스 CPU 등을 적용했다. 젠슨 황 엔비디아 최고경영자(CEO)는 지난 1월 세계 최대 IT·가전 전시회 ‘CES 2025’에서 소개했다. 현재 삼성전자, SK하이닉스와 SOCAMM 협력에 관한 논의를 진행하고 있다.

이에 HBM뿐 아니라 SOCAMM 수요 역시 지속 증가할 전망이다. 메모리 기업으로선 HBM 외에 AI 메모리 먹거리가 새로 늘어나는 상황이다. 다만 SOCAMM은 마이크론이 일찌감치 입지를 다지고 있다. 마이크론은 GTC 2025 기간이던 지난 18일 “SOCAMM을 양산하고 있다”고 공개했다. 마이크론은 엔비디아 GB300에 탑재할 SOCAMM을 공급하는 것으로 알려졌다.

삼성전자와 SK하이닉스는 아직 SOCAMM을 개발 중인 단계다. SK하이닉스는 SOCAMM 양산 목표 시점을 연내로 잡았다. 마이크론이 이미 엔비디아와 협력관계를 구축한 만큼, 현재로선 향후 SOCAMM 공급에서 마이크론이 앞서 나갈 수 있는 상황이다.

업계에선 마이크론의 위협이 보다 커질 것을 우려한다. SOCAMM을 발판삼아 전체 D램 시장에서 마이크론이 보폭을 넓힐 수 있다는 관측이다. 그만큼 삼성전자와 SK하이닉스도 개발에 속도를 내야 한다는 목소리가 나온다

김형준 차세대지능형반도체사업단장(서울대 명예교수)은 “엔비디아의 AI칩 물량이 많은 만큼 SOCAMM도 향후 HBM 만큼 시장이 커질 수 있다”며 “한 발 먼저 엔비디아와 협력한 마이크론이 유리한 형국”이라고 말했다.

[이데일리 김일환 기자]


배너

주요 뉴스

ⓒ종합 경제정보 미디어 이데일리 - 상업적 무단전재 & 재배포 금지