|
런웨이는 파편화된 데이터와 모델, 현장 시스템을 하나로 엮어 AI가 실제 업무 현장에서 원활히 작동하도록 지원하는 AI OS다. 개발부터 배포, 재학습에 이르는 AI 전 생애주기를 통합 관리하며, 보안 수준이 높은 폐쇄망 환경에서도 동일한 운영 품질을 보장한다.
이번 2.4.0 업데이트는 기업이 AI의 성능·자원·비용을 스스로 파악하고 통제할 수 있는 ‘거버넌스’ 구축에 초점을 맞췄다. 주요 추가 기능은 △토큰 사용량 통합 대시보드 △입력 데이터 드리프트 감지 △추론 요청·응답 로깅 △추론 성능(정확도) 모니터링 △워크로드 파드(Pod) 단위 자원 모니터링 △계층별 자원 사용 통계 △스토리지 브라우저 업로드·다운로드 등이다. 기업은 런웨이를 통해 외부 플랫폼 종속 없이 자사 AI를 주도적으로 운용할 수 있게 된다.
핵심 기능으로 꼽히는 ‘토큰 사용량 통합 대시보드’는 최근 LLM 확산 및 토큰 단가 인상에 따른 기업 비용 부담을 줄이기 위해 도입됐다. 그간 각 부서나 프로젝트별로 분산돼 실시간 관리가 어려웠던 토큰 소비 현황을 온프레미스와 클라우드 등 인프라 환경 구분 없이 단일 화면에서 조직·프로젝트·모델 단위로 집계·관리한다.
배포 후 모델 성능 저하를 방지하기 위한 관측 체계도 대폭 향상됐다. ‘입력 데이터 드리프트 감지’는 실시간 입력 데이터의 분포를 학습 당시 기준 데이터와 자동 비교해 정답 데이터가 확보되기 전이라도 모델 성능 저하 징후를 감지하고 사용자에게 자동 알림을 발송한다. 여기에 ‘추론 요청·응답 로깅’과 ‘추론 성능 모니터링’을 결합해 데이터에 기반한 재검증·재학습 시점을 직관적으로 파악할 수 있도록 돕는다.
인프라 가시성 측면에서는 개별 파드(Pod) 단위로 GPU·CPU·메모리·스토리지 사용량 및 재시작 횟수를 측정하는 ‘워크로드 파드 단위 자원 모니터링’과 워크스페이스·프로젝트·생성자별 통계를 다루는 ‘계층별 자원 사용 통계’가 신규 도입됐다. 데이터 직접 업로드·다운로드가 가능한 ‘스토리지 브라우저’ 기능도 포함돼 작업 편의성 역시 한층 향상됐다.
올해 초 2.0 버전 출시를 통해 개방형 아키텍처 및 보안·권한 체계를 다진 런웨이는 국방과학연구소, 한국수자원공사, 보험개발원 등 고보안·고규제 환경의 공공·금융·제조 분야로 적용 범위를 점차 확장하고 있다.
심상우 마키나락스 CTO(최고기술책임자)는 “이번 업데이트로 고객은 AI 도입 이후의 성능 저하 여부는 물론, 자원과 비용이 효율적으로 쓰이고 있는지까지 투명하게 들여다보고 문제가 생기기 전에 대응할 수 있게 됐다”며 “성능·자원·비용에 대한 자율적 통제권 확보는 자사 AI를 주도적으로 운영하는 ‘기업 AI 주권’ 실현의 핵심이며, 이것이 바로 마키나락스와 런웨이가 지향하는 방향”이라고 밝혔다.
