한전 변전소에 리벨리온 NPU…‘K-Perf’ 첫 실전 검증

[이데일리 신영빈 기자] 국산 인공지능(AI) 반도체 성능지표 ‘K-Perf’가 처음으로 실제 공공기관의 반도체 도입 검증에 활용된다. 한국전력 변전소에 리벨리온의 국산 신경망처리장치(NPU)를 적용해 현장 성능과 비용 절감 효과 등을 확인한다.

과학기술정보통신부는 2일 경기 성남 리벨리온 본사에서 열린 한전·리벨리온·한국정보통신기술협회(TTA)의 ‘K-Perf 활용 국산 AI반도체 기반 전력분야 AI 영상분석 기술협력’ 업무협약 체결식에 참석했다고 밝혔다.

10월 2일 경기 성남시 리벨리온 본사에서 열린 '국산 NPU 기반 전력분야 AI 영상분석 기술협력 업무협약식'에서 (왼쪽부터) TTA 장종표 연구소장, 과기정통부 이도규 실장, 한국전력 주재각 단장, 리벨리온 신성규 부사장이 협약서를 들고 기념촬영을 하고 있다. (사진=과학기술정보통신부)

협약에 따라 한전은 전력현장 시범운영과 활용모델 개발을 맡는다. 리벨리온은 NPU 성능 최적화와 기술지원을, TTA는 실제 전력현장 운영환경을 반영한 성능·신뢰성 검증을 담당한다.

한전은 현재 변전소별로 분산 운영하는 AI 영상분석 인프라를 NPU 기반 통합 관제 시스템으로 전환해 실증한다. 단순한 칩 연산성능뿐 아니라 실제 운영환경에서 영상분석 처리 성능과 안정성, 비용 절감 효과 등을 종합적으로 검증할 계획이다.

이번 실증에서는 국산 AI반도체 성능을 비교하기 위해 마련된 ‘K-Perf’가 처음으로 실제 도입 과정의 검증 기준으로 사용된다.

K-Perf는 수요기업이 국산 AI반도체 도입 여부를 판단할 수 있도록 실제 서비스 환경을 반영해 성능을 측정하는 지표다. 지난해 12월 수요·공급기업과 관계기관이 참여해 측정 모델과 시험 조건, 첫 토큰 생성시간(TTFT), 출력 토큰당 처리시간(TPOT), 처리량 등의 세부 지표를 마련했다.

과기정통부와 TTA, 정보통신기획평가원(IITP)은 지난 6월 리벨리온과 퓨리오사AI의 국산 AI반도체를 대상으로 AI 챗봇과 문서 검색, 보고서 생성 등 생성형 AI 서비스 환경에서 K-Perf 시범 검증을 진행했다. 당시 두 제품 모두 수요기업이 요구한 서비스별 성능 기준을 충족한 것으로 확인됐다.

이번에는 검증 범위를 생성형 AI에서 전력현장의 AI 영상분석으로 넓힌다. 정부는 한전 실증 결과를 국산 AI반도체의 공공·산업 현장 확산을 위한 참고 사례로 활용할 계획이다.

이도규 과기정통부 정보통신정책실장은 “K-Perf의 검증 결과가 도입 판단의 근거가 된다는 것은 수요기관과 공급기업이 하나의 기준으로 성능을 논의하는 체계가 현장에서 작동하기 시작했다는 의미”라며 “이번 협력 성과를 공공부문 전반으로 넓혀갈 수 있도록 지원하겠다”고 말했다.