마이크로소프트(MS)가 AI 에이전트의 의사결정을 빠르고 효율적으로 처리하는 전용 모델을 공개했다. 

MS는 9일(현지시간) 구조화된 의사결정 작업에 특화한 AI 모델 '마이크로소프트 디시전-1(Microsoft-Decision-1)'을 공개했다.

초기 버전은 '큐원3.5-9B'를 기반으로 구축됐으며, 앞으로 마이크로소프트의 'MAI'와 오픈AI의 다른 모델을 기반으로도 확장할 계획이다.

이 모델은 모델 선택과 요청 분류, 작업 우선순위 지정, 결과 검증, 에이전트 제어 등 다양한 작업에서 기존 대형언어모델(LLM)보다 빠르고 효율적인 의사결정을 지원한다.

고정된 선택지에 대한 보정(calibration) 확률 점수를 한 번의 추론으로 산출하도록 설계됐다. 예/아니요 판정, 객관식 선택, 등급 평가를 지원하며, 평가 기준표에 따라 AI 응답이나 에이전트의 행동을 채점할 수도 있다. 개발자는 구조화된 API 호출을 통해 결과를 받아 기존 애플리케이션과 AI 에이전트, 업무 흐름에 적용할 수 있다.

특히 최대 3만2000 토큰의 긴 입력 컨텍스트를 한 번에 처리할 수 있어, 방대한 로그나 문서 검토에서 강점을 보인다.

MS는 이 모델이 반환하는 보정된 확률 점수를 활용해 "확신도가 높으면 자동으로 작업을 처리하고, 애매한 경우 사람에게 검토를 요청하거나 재시도·우회하는 제어 레이어로 효과적으로 활용할 수 있다"고 전했다.

모델의 정확도뿐 아니라 일관성과 신뢰도도 주요 설계 목표로 삼았다. 동일한 요청의 표현이나 선택지 순서, 형식 등을 바꿔도 결과가 달라지지 않는지 평가한 결과, 8가지 방식으로 입력을 변형했을 때 판단이 바뀌는 비율은 평균 1.3%였다. 선택지 설명을 바꾸거나 순서를 뒤집고 섞은 경우에는 판단이 바뀌지 않았다고 밝혔다.

학습 데이터에 포함되지 않은 평가 항목을 활용해 약 15만개의 질문과 36개 벤치마크에서 성능을 검증한 결과, 비교 대상 가운데 가장 높은 정확도를 기록했다.

속도도 가장 빨랐다. 측정 결과 디시전-1이 2위 모델인 '퀘옛-1.0-라지(Quyet-1.0-Large)'보다 4.5배, 'GPT-6 솔'보다 최대 35배 빠르게 작동했다고 설명했다.

안전성 평가에서는 유해 콘텐츠와 탈옥 시도, 프롬프트 인젝션 등을 포함한 11개 벤치마크의 5250개 요청을 테스트했다. 유해한 요청을 거부하면서도 정상적인 요청에 대한 활용성을 유지했다는 설명이다.

실제 업무 적용에서도 속도와 비용 절감 효과가 확인됐다. X박스 연구팀은 설문과 스팀(Steam), X 등에 올라온 1만건 이상의 사용자 의견을 주제별로 분류하는 데 디시전-1을 활용했다. GPT-6 솔과 비슷한 수준의 품질을 유지하면서 처리 속도는 14배 이상 빨랐고 비용은 200분의 1 수준으로 줄었다.

코파일럿 팀의 응답 품질 평가에서도 디시전-1은 'GPT-5.6 루나'와 경쟁할 만한 품질을 보이면서 속도는 100배 빨랐다. 긴급 장애 대응을 위한 지식 검색에서도 기존 LLM보다 빠르고 나은 성능을 보였으며, MS 디스커버리의 과학 실험 계획 조정 작업에서는 LLM 기반 평가보다 일관성이 46배 높았다고 MS는 밝혔다.

디시전-1은 MS 파운드리와 오픈라우터를 통해 이용할 수 있다. 입력 토큰 가격은 100만개당 0.042달러이며, 출력 토큰은 무료다.

한편, 오픈AI는 지난달 데브데이 행사에서 제한적 프리뷰로 선보였던 '디시전스 API(Decisions API)'를 7일 공개 베타 버전으로 정식 출시했다.

'GPT-6 루나'를 거치는 기존 '리스폰스 API(Responses API)' 방식 대비 약 10배 빠른 응답 속도를 제공하는 이 API는 텍스트나 이미지 분석 시 산문 형태의 답변 대신 정해진 선택지나 확률, 점수만을 반환하여 소프트웨어가 즉시 처리할 수 있도록 지원한다.

박찬 기자 cpark@aitimes.com