AI 인프라 소프트웨어 전문 오케스트로 그룹(의장 김민준)이 퓨리오사AI(대표 백준호)와 협력해 국산 NPU AI 인프라를 상용화, 시장 확대에 나선다. 

오케스트로 그룹은 AI 반도체 전문 퓨리오사AI와 ‘NPU 기반 AI 인프라 및 플랫폼 기술·사업 협력’ MOU를 체결했다고 21일 밝혔다.

양사는 올해 초부터 퓨리오사AI의 2세대 NPU ‘레니게이드(RNGD)’와 오케스트로 AI 인프라 소프트웨어 간의 긴밀한 기술 협력을 이어왔다. 퓨리오사AI NXT 레니게이드 서버를 오케스트로 AI 인프라 환경에 구축해 호환성과 주요 기능을 검증하고, 레니게이드 기반 대형언어모델(LLM)을 실제 서비스 환경에서 안정적으로 배포·서빙·운영하기 위한 기술을 단계적으로 구현해 왔다.

그 결과, 오케스트로는 기존 GPU 중심으로 제공해 온 AI 추론 운영 플랫폼 ‘콘체르토 AI(CONCERTO A.I.)’의 지원 범위를 NPU까지 확장할 수 있었다. 콘체르토 AI는 AI 모델의 배포와 서빙, 컴퓨팅 자원 관리, 서비스 모니터링 등을 통합 지원하는 AI 추론 인프라 플랫폼이다. 이제 플랫폼 사용자는 NPU 기반 LLM 서빙 환경 구축 부담을 줄이고 AI 서비스를 더 손쉽게 운영할 수 있다는 설명이다.

앞으로는 기술 검증을 넘어 본격적인 사업 확장에도 나선다. 다양한 AI 모델과 워크로드를 대상으로 퓨리오사AI 레니게이드 환경의 AI 인프라의 성능과 안정성을 지속 검증하고, 고객 대상 벤치마크테스트(BMT)와 실증을 통해 실제 서비스 환경에 적합한 구축·운영 모델을 구체화할 계획이다.

사업 협력 범위도 넓힌다. 공공·금융·기업 고객의 AI 서비스 요구와 워크로드 특성에 맞춰 레니게이드 AI 인프라를 공동 설계·제안하고, BMT와 실증을 실제 구축 사업으로 연결해 산업별 레퍼런스를 확보한다는 전략이다. 공동 영업과 마케팅, 기술 지원도 연계해 레니게이드 인프라의 시장 적용을 확대하고 신규 사업 모델 발굴도 추진한다.

김민준 오케스트로 그룹 의장은 “이번 협약을 계기로 기술 검증을 고객 실증과 사업화로 연결하고, 양사의 기술 경쟁력을 결합해 공공·금융·기업 시장에서 새로운 AI 인프라 레퍼런스를 만들어 나가겠다”라고 말했다.

장세민 기자 semim99@aitimes.com