오픈AI가 최신 모델 'GPT-5.6 솔(Sol)'을 기존 표준 처리 방식보다 최대 14배 빠르게 구동하는 '울트라패스트(Ultrafast)' 모드를 공개했다.
오픈AI는 13일(현지시간) GPT-5.6 솔을 위한 새로운 API 서비스 등급인 울트라패스트의 제한적 프리뷰를 시작한다고 밝혔다.
울트라패스트는 표준 처리 방식 대비 최대 14배 빠른 속도로 작동하며, 출력 속도는 최대 초당 750토큰에 달한다.
기존에는 AI 모델을 실시간 수준으로 빠르게 사용하려면 상대적으로 작은 모델이나 특정 작업에 최적화된 전용 모델을 선택하는 경우가 많았다. 속도를 높이는 대신 모델의 추론 능력이나 범용성을 어느 정도 포기해야 했다.
하지만 오픈AI는 울트라패스트를 통해 이러한 선택의 폭을 줄이고, 최상위 수준의 지능과 초저지연 처리 속도를 동시에 제공하는 방향을 제시했다.
실시간성이 중요한 기업용 업무에 적합다는 점을 강조했다. 대표적인 활용 사례로 사고 대응 및 시스템 안정성 관리, 금융·보안 분석, 고객지원과 음성 서비스, 전자상거래, 실시간 연구 및 실험 등을 꼽았다.
예를 들어 기업의 핵심 시스템에 장애가 발생하면 울트라패스트는 애플리케이션 로그와 추적 데이터, 최근 코드 변경 내용, 엔지니어들의 보고 등을 빠르게 분석해 장애 원인을 추정하고 해결책을 준비하는 데 활용될 수 있다. 장애 상황에서는 시스템과 관련 증거가 계속 변화하기 때문에 분석 속도가 곧 대응 능력으로 이어지는 만큼, 고성능 모델의 빠른 응답이 특히 중요하다는 설명이다.
금융과 보안 분야에서도 실시간성이 강조된다. 시장 신호와 거래 정보를 분석하거나 의심스러운 활동을 탐지하는 과정에서 분석 결과가 몇 분 또는 몇 초 늦어지는 것만으로도 가치가 떨어질 수 있기 때문이다. 울트라패스트는 변화하는 상황을 따라가면서 분석과 판단을 지원하는 것을 목표로 한다.
고객지원과 음성 인터페이스도 주요 활용 분야다. 고객의 질문이 여러 단계의 검색이나 시스템 조회가 필요해도 대화가 끊기지 않는 수준의 속도로 응답을 제공할 수 있다는 것이다. 전자상거래에서는 고객이 구매를 결정하는 동안 상품 정보를 확인하고 재고를 조회하며 개인화된 추천을 제공하거나 결제 과정의 문제를 해결하는 데 활용할 수 있다.
연구와 실험 분야에서는 기존의 작업 주기를 단축하는 효과가 기대된다. 오픈AI는 기존에는 밤새 실험을 실행한 뒤 다음 날 아침 결과를 확인하던 연구 과정이 울트라패스트를 활용하면 하루 업무 시간 안에 여러 차례 실험하고 결과를 확인한 뒤 다시 조건을 변경해 실험하는 방식으로 바뀔 수 있다고 설명했다.
오픈AI 내부에서도 이미 울트라패스트를 시험하고 있다. 사고 대응 과정에서는 로그와 추적 정보를 읽고 관련 대화를 종합하거나 추가 점검 항목을 제시하고 수정 사항을 검증하는 작업 등에 활용하고 있다. 연구팀은 연결된 여러 도구에서 지식과 데이터를 검색하고 정보를 정리·요약하는 데 사용하고 있다. 다만 실제 시스템에 대한 최종 판단과 배포 책임은 여전히 엔지니어가 맡는다.
이번 서비스는 오픈AI와 AI 칩 기업 세레브라스의 협력을 기반으로 한다. 세레브라스의 초저지연 추론 인프라를 활용해 GPT-5.6 솔의 처리 속도를 크게 끌어올린 것이다. 오픈AI는 이번 협력을 통해 그동안 고성능 모델의 약점으로 지적돼 온 응답 지연 문제를 줄이고, 최상위 모델을 실시간 업무에 직접 투입할 수 있는 기반을 마련한다는 전략이다.
초기 테스트에는 금융기업 제인 스트리트(Jane Street), 고객지원 플랫폼 포디움(Podium), 금융·AI 기업 베이시스(Basis), 금융 리서치 플랫폼 로고(Rogo) 등이 참여한 것으로 알려졌다. 초기 사용자들은 집중적인 코딩 작업, 복잡한 음성 대화의 응답 속도 개선, 초저지연 AI 애플리케이션, 실시간에 가까운 금융 리서치 등에 울트라패스트의 가능성을 확인하고 있다.
다만 아직 제한된 고객을 대상으로 한 프리뷰 단계다. 현재는 선별된 기업과 개발자에게만 API를 통해 제공되며, 오픈AI는 인프라 용량이 확보되는 대로 접근 대상을 확대할 계획이다.
구체적인 가격과 정식 출시 일정은 아직 공개되지 않았다.
박찬 기자 cpark@aitimes.com