비드래프트(VIDRAFT·대표 김민식)는 자사가 공개한 비전 판단 인공지능(AI) 모델 ‘Darwin-35B-ZTC-Vision’의 체험용 데모를 허깅페이스(Hugging Face) 본사 오픈소스팀이 직접 제작해 기증했다고 30일 밝혔다.
허깅페이스 오픈소스팀 소속 아폴리나리오(Apolinário)는 지난 10월 27일 해당 모델의 공개 페이지에 글을 올려 공개를 축하하고 작업에 감사를 표했다. 이어 모델을 인상적으로 평가하며, 무료 GPU 서비스인 제로GPU(ZeroGPU)에서 실행되는 대화형 데모 앱을 제작했다고 밝혔다. 아울러 해당 데모를 비드래프트 계정으로 넘기겠다고 제안했다. 비드래프트는 이를 수락하고 현재 FINAL-Bench 조직으로 이관하는 절차를 진행하고 있다.
이번 사례는 비드래프트가 별도로 요청하지 않은 상황에서 플랫폼 운영사 측이 먼저 모델을 확인하고 체험용 데모를 제작했다는 점에서 특징이 있다. 비드래프트는 최근 허깅페이스 공인 벤치마크 53개 가운데 15개에서 1위를 기록했으며, 자사 집계 기준으로 세계에서 가장 많은 공인 벤치마크 1위 기록을 보유하고 있다고 밝혔다.
허깅페이스 오픈소스팀은 약 690억 바이트 규모의 모델을 데모 서버 메모리에 적재하기 위해 별도의 저메모리 로더도 개발했다. 이에 따라 이용자는 별도로 GPU를 갖추지 않아도 웹 브라우저에서 해당 모델을 체험할 수 있게 됐다.
Darwin-35B-ZTC-Vision은 문장을 생성하는 대신 주어진 질문에 대한 판단 결과를 확률로 제시하는 이른바 ‘디시전 AI(Decision AI)’ 모델이다. 사용자가 최대 4장의 사진과 질문을 입력하면 예·아니오, 복수 선택지 가운데 하나, 1~5등급 등 정해진 응답 항목별 확률을 한 번의 계산으로 산출한다.
예를 들어 부품 사진을 입력하고 결함 여부를 질문하면 ‘예 0.82, 아니오 0.18’과 같이 각 선택지의 확률을 제공한다. 자연어 답변을 길게 생성하는 방식과 달리 판단 결과를 수치로 직접 제시하는 구조다.
핵심 기술인 ZTC(Zero-Token Confidence)는 답변을 생성하기 전에 모델 내부 상태를 한 차례 읽어 판단의 확신도를 산출하는 기술이다. 추가 토큰을 생성하거나 별도의 검증 모델을 사용하는 과정 없이 확률을 제공하는 것이 특징이다.
확률값을 활용하면 업무 시스템에서 별도의 판단 기준을 설정할 수 있다. 예를 들어 확률이 0.3~0.7 사이에 해당하면 사람이 다시 검토하도록 설정하는 방식이다. 제조업의 불량 검사, 영상 품질 판정, 이상 탐지 등 정해진 선택지 안에서 신속하고 일관된 판단이 필요한 업무에 활용할 수 있다.
모델은 총 350억 개의 파라미터로 구성된 전문가 혼합(Mixture of Experts·MoE) 구조를 적용했다. 실제 계산에는 토큰당 약 30억 개의 파라미터가 사용된다. 상업적 이용이 가능한 아파치 2.0(Apache 2.0) 라이선스로 공개됐으며, 10월 28일 기준 허깅페이스 다운로드 수는 8940회다.
비드래프트의 ZTC 시리즈는 판단 AI 관련 주요 벤치마크에서도 상위 기록을 냈다. 허깅페이스 공인 벤치마크인 ‘Typed Decisions’에서는 판단 엔진 모델 Darwin-27B-ZTC-v5가 0.812점으로 1위를 기록했다. ‘Decision Index’에서는 Darwin-27B-ZTC가 63.03점으로 1위에 올랐으며, 비전 판단 성능을 평가하는 ‘Decision Index Vision’에서는 Darwin-35B-ZTC-Vision이 66.02점으로 1위를 기록했다.
판단 엔진 벤치마크인 S1MB(System One Mosaic Benchmark)에서도 성과를 냈다. 영어판에서는 Darwin-27B-ZTC-v9가 보르다(Borda) 점수 90.38점으로 총 197개 모델 가운데 1위를 차지했다. 일본어판에서는 Darwin-27B-ZTC-v5가 84.57점으로 1위를 기록했으며, 해당 기록의 기준일은 10월 14일이다.
S1MB 비전판에서는 Darwin-35B-ZTC-Vision이 필수 과제 20개를 모두 실패 없이 완료해 10월 19일 정식 등재됐다. 제출 당시 공개된 결과를 기준으로는 보르다 점수 91.00점을 기록해 1위에 올랐다. 다만 이후 참가 모델이 추가되면서 순위가 변동될 수 있어 현재 순위는 실시간 순위표를 기준으로 확인해야 한다.
비드래프트 관계자는 “허깅페이스 본사 팀이 먼저 모델을 찾아 데모를 제작한 것은 판단 AI라는 새로운 범주의 가능성을 플랫폼이 알아본 사례라고 생각한다”며 “누구나 브라우저에서 바로 모델을 시험해 볼 수 있게 된 만큼 산업 현장의 판단 자동화 수요에 빠르게 대응하겠다”고 말했다.
임대준 기자 ydj@aitimes.com