|
노타는 SK텔레콤이 주관하는 컨소시엄의 AI 모델 인프라 분야에 참여한다. 사업에 활용되는 AI 모델의 경량화와 최적화를 맡아 실제 서비스 환경에서 모델이 빠르고 안정적으로 구동될 수 있도록 지원할 계획이다.
독자 AI 파운데이션 모델 프로젝트가 글로벌 경쟁력을 갖춘 국가 AI 모델 개발에 초점을 맞춘 사업이라면, 모두의 AI는 AI 역량을 국민이 실제 사용하는 서비스로 구현하는 사업이다. 노타는 두 국가 AI 프로젝트에 모두 참여하면서 모델 개발 단계와 서비스 운영 단계에 필요한 최적화 기술을 제공하게 됐다.
국가 AI 모델에서 대국민 서비스로
SK텔레콤 컨소시엄은 이용자의 상황과 필요를 이해해 공공·생활 정보를 맞춤형으로 안내하고, 필요한 후속 행동까지 연결하는 AI 서비스를 구현할 계획이다. 향후 공공 서비스 탐색·신청, 증명서 발급을 비롯해 의료, 교통, 금융, 교육 등 다양한 생활 영역의 예약·신청·결제까지 지원하는 실행형 AI로 확대하는 것이 목표다.
노타는 이 과정에서 AI 모델의 연산량과 메모리 사용량을 줄이고, 대규모 이용자 요청을 안정적으로 처리할 수 있도록 서비스 운영 효율을 높이는 역할을 맡는다. 국가 AI 모델의 기술 경쟁력을 국민이 체감할 수 있는 서비스로 연결하겠다는 구상이다.
전 국민 대상 AI 서비스는 다수 이용자의 다양한 요청을 동시에 처리해야 한다. 단순 정보 검색부터 여러 단계의 판단과 도구 활용이 필요한 복잡한 업무까지 요청 유형이 다양해 하나의 고성능 모델만으로 모든 작업을 처리하면 인프라 부담과 운영 비효율이 커질 수 있다.
따라서 여러 AI 모델과 AI 에이전트가 동시에 동작하는 환경에서는 제한된 연산 자원을 효율적으로 쓰는 최적화 기술이 중요하다. 모델 성능뿐 아니라 응답 속도, 안정성, 메모리 사용량, 연산 효율을 함께 고려해야 실제 서비스 품질을 높일 수 있다는 설명이다.
넷츠프레소 기반 최적화 지원
노타는 자체 AI 모델 경량화·최적화 플랫폼 ‘넷츠프레소’를 기반으로 모델 성능을 유지하면서 연산량과 메모리 사용량을 줄인다. AI 모델의 특성과 목표 하드웨어 환경을 함께 분석해 데이터센터, 기업 서버, 엣지 디바이스 등 다양한 인프라에서 효율적으로 구동될 수 있도록 지원한다.
노타는 이번 사업 참여를 계기로 국가 AI 개발부터 실제 서비스 운영까지 AI 전 주기에서 최적화 기술의 역할을 확대한다는 방침이다. 모델 개발 단계에서는 연산량과 메모리 사용량을 줄이고, 서비스 단계에서는 대규모 사용자를 안정적으로 처리할 수 있는 운영 효율을 높이는 데 집중한다.
채명수 노타 대표는 “국가 AI 경쟁력은 우수한 모델 개발을 넘어 국민이 실제 사용하는 서비스를 구현하고, 이를 대규모 환경에서도 빠르고 안정적으로 운영하는 역량에서 완성된다”며 “모두의 AI 프로젝트에서도 모델 개발부터 실제 서비스 운영까지 최적화 역량을 폭넓게 적용해 대한민국이 독자적인 AI 기술과 활용 기반을 갖추는 ‘소버린 K-AI’ 실현에 기여하겠다”고 말했다.
