AI 전문 비드래프트가 신경망처리장치(NPU)의 추론 성능을 극대화하고 기존에 불가능하다고 여겨졌던 학습까지 구현하는 가속 소프트웨어 계층 ‘VKORE’를 13일 공개했다. 엔비디아 GPU의 CUDA처럼 NPU 환경에서 연산 효율과 활용 범위를 넓히는 구조로, 반도체 칩 교체 없이 소프트웨어 적용만으로 성능을 끌어냈다는 설명이다.

실제로 트랜스포머 모델의 LoRA 학습 테스트에서 엔비디아 B200 GPU 1장이 1시간 걸리는 작업을 서버 CPU는 약 320시간 소요했으며, NPU를 기본 방식으로 구동했을 때는 CPU보다도 오랜 시간이 걸렸다. 그러나 VKORE를 적용한 NPU 환경에서는 동일 NPU 기준 1인 응답 속도가 3.8배, 서버 동시 처리량이 4.1배 향상되었으며 트랜스포머 학습까지 성공적으로 마쳤다. 그동안 NPU 제조사들이 추론 중심 활용을 안내해 온 한계를 소프트웨어로 극복한 셈이다.

비드래프트는 VKORE를 발판 삼아 판정에 특화된 의사결정 AI와 모델이 스스로 성능을 높이는 재귀적 자가개선(RSI) 기술을 NPU 환경으로 확장한다. 특히 자체 판정 엔진 ‘다윈(Darwin)-27B-ZTC-v5’는 이날 글로벌 공개 벤치마크 ‘S1MB’의 152개 모델 중 종합 1위를 기록했다.

퍼플렉시티는 2위, 클라우드플레어는 17위, 메타는 27위에 올랐으며, 제브(JEV) 공식 모델보다 9.72점 높은 점수를 획득했다. 137개 벤치마크 1대 1 비교에서도 97개 항목에서 우세를 점했다.

다윈 ZTC는 생성 토큰을 출력하지 않고 한 차례의 순전파로 판정을 완료해 전력 효율이 높다. LLM 운영 환경에서 응답 품질 평가와 작업 분배 등에 하루 수백만 회 쓰이는 판정 기술을 NPU에서 더욱 효율적으로 실행할 수 있게 된다.

또 두 번째 과제인 재귀적 자가개선(RSI) 기술은 수학 분야인 'AIME 2026'과 'HMMT 2026'에서 100% 만점을 기록해 공인 수학 리더보드 첫 만점 사례를 만들었다. 과학 추론 평가인 'GPQA 다이아몬드'에서도 500B 이하 규모 모델 중 1위에 올랐다.

회사는 VKORE를 통해 낮에는 서비스 추론을 처리하고 밤에는 당일 축적한 판정 기록을 바탕으로 모델을 학습하는 순환 구조를 데이터센터 안에서 구현할 계획이다. GPU 추가 확보 부담을 줄이고, GPU와 NPU를 함께 사용하는 데이터센터 운영 환경에도 대응한다는 방침이다.

관련 기술 개발은 과학기술정보통신부와 정보통신산업진흥원(NIPA)이 추진하는 ‘사이버보안 특화 AI 파운데이션 모델 개발 사업’에 네이버클라우드 컨소시엄 참여로 고도화되고 있다. 핵심 기술과 관련해서는 특허 16건을 출원했다.

김민식 비드래프트 대표는 “NPU는 추론만 한다는 정설을 칩을 바꾸지 않고 소프트웨어만으로 넘어섰다”며 “퍼플렉시티와 클라우드플레어, 메타를 제친 세계 1위 판정 엔진과 수학 만점의 자가개선 모델을 국산 NPU 위에서 함께 구동해 GPU에 의존하지 않고 스스로 발전하는 AI 데이터센터를 한국에서 먼저 만들겠다”고 말했다.

비드래프트는 이번에 측정한 성능 결과를 논문으로 공개할 예정이다.

임대준 기자 ydj@aitimes.com