딥엑스 NPU, 라즈베리 파이서 3W로 영상·언어 AI 구현

[이데일리 김현아 기자] 국내 AI 반도체 기업 딥엑스(DEEPX)의 신경망처리장치(NPU) 기술이 글로벌 개발자 플랫폼 라즈베리 파이(Raspberry Pi)의 공식 뉴스룸에 소개됐다. 약 3W의 낮은 전력으로 영상 속 사물을 인식하는 것은 물론, 장면을 해석하고 언어로 설명하는 AI까지 구현할 수 있다는 점이 주목받았다.

딥엑스는 라즈베리 파이가 공식 뉴스룸에 딥엑스와 디자인 파트너사 식스팹(Sixfab)의 기술 소개 글을 게재했다고 15일 밝혔다. 라즈베리 파이 5에 연결하는 AI 가속 보드 ‘식스팹 AI HAT+’에 딥엑스의 NPU ‘DX-M1M’을 탑재해 기기 내부에서 AI를 실행하는 방식과 활용 사례를 소개했다.

딥엑스 라즈베리파이. 사진=딥엑스

DX-M1M은 최대 25TOPS(초당 1조 회 연산)의 성능을 제공하며, NPU 자체 소비전력은 일반적인 지속 구동 기준 약 3W다. 라즈베리 파이 본체와 주변 장치의 소비전력은 포함하지 않은 수치다. 전력 소비와 발열을 줄여야 하는 소형 기기에서 AI를 지속적으로 구동하는 데 적합하다는 게 회사 측 설명이다.

활용 범위는 단순한 사물 인식에서 상황 이해와 설명으로 넓어진다. 합성곱신경망(CNN)은 영상 속 사물이나 이상 징후를 탐지하고, 소형 비전언어모델(VLM)은 장면의 맥락을 해석한다. 소형언어모델(SLM)은 명령을 이해하거나 분석 결과를 문장으로 정리하는 데 활용할 수 있다.

예를 들어 3D 프린터의 출력 상태를 카메라로 관찰해 오류를 감지하고, 문제 상황을 사용자에게 설명하는 시스템을 구현할 수 있다. 생산라인의 품질 검사와 로봇의 주변 환경 인식, 스마트 공간의 상황 분석 등에도 응용할 수 있다. 기기 내부에서 AI를 실행하면 외부 서버로 데이터를 보내는 과정을 줄여 실시간 대응과 개인정보 보호에도 도움이 될 수 있다.

딥엑스는 개발자들이 AI 응용 서비스를 구현할 수 있도록 모델 변환·최적화 도구와 실행 소프트웨어, 영상 처리 도구, 사전 최적화된 AI 모델 등을 제공하고 있다. 개발 보드에서 검증한 AI 모델을 산업용 장비로 확장할 수 있도록 소프트웨어 환경도 지원한다.

식스팹 AI HAT+와 엣지 AI 확장 보드, 산업용 AI 게이트웨이 ‘ALPON X5 AI’ 등에 공통 런타임과 모델 형식을 적용해 개발 단계에서 검증한 모델을 다른 제품에도 활용할 수 있도록 한다는 구상이다.

딥엑스는 라즈베리 파이뿐 아니라 바이두의 패들패들(PaddlePaddle), 울트라리틱스(Ultralytics) 등 하드웨어·AI 소프트웨어 생태계와의 협력도 확대하고 있다. 개발자가 익숙한 플랫폼에서 AI 모델을 시험하고 이를 시제품과 산업용 제품으로 발전시킬 수 있도록 해 AI 반도체 도입 장벽을 낮추겠다는 전략이다.

앞서 딥엑스는 지난 6월 식스팹과 함께 DX-M1M을 탑재한 라즈베리 파이 5용 AI 가속 보드 식스팹 AI HAT+를 출시했다. 25TOPS 제품을 판매 중이며, 13TOPS 제품은 올해 말 출시할 예정이다.

딥엑스 관계자는 “피지컬 AI가 확산되려면 전 세계 개발자들이 필요한 AI 기능을 쉽게 구현하고 이를 실제 제품으로 연결할 수 있어야 한다”며 “라즈베리 파이에서 시작한 실험이 세계 시장에서 판매되는 제품으로 이어지도록 반도체와 소프트웨어, 양산까지의 개발 환경을 함께 지원하겠다”고 말했다.