엑세스랩(대표 유명환)이 오는 21일 서울 코엑스에서 열리는 '2026 OCP 코리아 테크 데이'에 참가해 Arm 기반 NPU 서버 라인업을 선보이고, 최근 시장 수요에 최적화된 AI 인프라 솔루션을 소개한다.

최근 AI 산업 현장에서는 사전 학습된 AI 모델을 활용하는 생성형 AI 추론 서비스에 대한 수요가 급증하고 있다. AI 산업이 지속 가능하게 성장하기 위해서는 가속기의 성능 향상이나 데이터센터 확장 외에도 핵심 과제인 전력 사용량 및 구축·운영 비용(OPEX) 절감이 필수적이다. 

엑세스랩은 이러한 지속 가능한 AI 인프라 구현을 위해 저전력 서버 기술 노하우를 바탕으로 차별화된 솔루션 개발에 힘써 왔다고 밝혔다. 

특히 최근 출시한 'V-Raptor NEO' 서버에는 국내 대표 NPU 개발사인 퓨리오사AI의 'RNGD' NPU 카드가 탑재된다. RNGD 카드는 48GB 용량의 1.5TB/s의 초고속 대역폭 HBM3 메모리를 기반으로 대규모 AI 모델 추론에서 뛰어난 처리 성능을 발휘하며, 최대 512TFLOPS(FP8)의 연산 성능을 제공하면서도 TDP(열설계전력)는 180W에 불과한 전력 효율을 자랑한다. 

또, 고객의 다양한 AI 모델과 서비스 환경에서 안정적인 구동을 여러 차례 검증하고 시연하며 호환성과 안정성을 입증했다고 전했다.  

다양한 고객 요구를 충족하기 위해 국내외 NPU 개발사들과 협력하고 있다. 최대 870TOPS(INT8)의 연산 성능 대비 TDP(열설계전력)은 150W인 글로벌 IT 기업 퀄컴의 'Cloud AI 100 Ultra'부터 80TOPS(INT8)의 연산 성능을 제공하면서 TDP(열설계전력은) 25W에 불과해 컴팩트한 1U 엣지 서버에 탑재 가능한 모빌린트의 'MLA100'까지 다양한 라인업을 제공한다. 이를 통해 엑세스랩의 AI 인프라 솔루션은 범용 AI 추론부터 엣지 AI 환경까지 폭넓게 대응할 수 있으며, 기업 고객은 자사 서비스 목적과 운영 환경에 맞춰 유연하게 AI 인프라를 구성할 수 있다고 강조했다.

유명환 엑세스랩 대표는 “국내외 선두 NPU 기업들과의 긴밀한 협력을 통해 지속 가능한 AI 인프라 생태계를 구축하고 있다”며 “기업의 초기 구축 비용과 장기 운영 비용을 획기적으로 절감할 수 있는 효율적인 AI 솔루션을 지속적으로 제공해 AI 인프라 혁신을 이끌어 나갈 것”이라고 밝혔다. 

임대준 기자 ydj@aitimes.com