기사를 읽어드립니다.

'챗GPT' 개발의 핵심 역할을 맡았던 연구원이 공개한 ‘글 못 쓰는 AI’가 전 세계 엔지니어들을 열광시키고 있다. 텍스트 생성이라는 생성 AI의 기본 기능을 과감히 버리고, 소프트웨어 백엔드에 직접 이식 가능한 구조화된 판단(Typed Decisions)만 내리는 새로운 AI 모델에 개발자들의 관심이 쏟아지는 모습이다.

타입세이프 AI(TypeSafe AI)가 지난 15일(현지시간) 선보인 첫 번째 AI 모델 ‘제브(Jev)’는 공개 직후 기술 전문 커뮤니티인 해커뉴스 상단에 오르며 수백개의 댓글과 추천을 이끌어냈다. 

디오고 알메이다 대표가 X에 올린 모델 소개 글은 3700만회가 넘는 조회수와 수천개의 인용 트윗이 달리며 글로벌 기술 커뮤니티의 최대 화두로 떠올랐다.

그동안 엔지니어들은 데이터 분류, 위험도 평가, 에이전트의 다음 행동 결정 같은 단순 라우팅 작업을 위해 느리고 비싼 대형언어모델(LLM)을 호출해 문장이 나오기를 기다려야 했다. 특히 LLM이 문장을 작성하는 과정에서 지정된 형식(JSON 등)을 벗어나거나 존재하지 않는 메서드를 지어내는 문법적 환각이 발생해 백엔드 서버에서 런타임 에러가 터지는 일이 비일비재했다.

제브는 이 같은 생성 단계를 아예 제거했다. 비구조화 데이터와 사전 정의된 질문을 입력하면 단어를 하나씩 생성하는 디코더를 거치지 않고, 단 한 번의 패스로 선택지, 확률 분포, 신뢰도 점수만 즉각 반환한다. 이로 인해 기존 LLM 대비 수십 배 이상 빠른 70~500밀리초(ms) 수준의 초저지연 응답 속도를 자랑하며, 입력 비용은 100만 토큰당 0.042달러 수준으로 극단적으로 낮아졌다. 출력 토큰 과금도 없다.

엔지니어들은 정규표현식의 한계와 느리고 비싼 LLM 사이에서 갈팡질팡하던 백엔드 조건 판단을 완벽히 대체하는 '스마트한 if문'이 드디어 탄생했다고 입을 모았다. 또 제브는 자유 텍스트 생성이 불가능하고 사전에 정의한 타입 범위 내에서만 확률값을 반환하기 때문에, 가짜 도구명을 지어내거나 JSON 규격을 깨뜨려 전체 시스템을 멈추게 하는 식의 '유형 에러(Type Error)'가 근본적으로 불가능하다는 점에 환호하는 분위기다. 

자율형 AI 에이전트 개발자들도 수백개에 달하는 중간 의사결정 단계를 제브로 대체했더니 에이전트의 전체 응답 지연이 수 초에서 수백 밀리초로 줄고 비용은 수백분의 일로 절감됐다는 후기를 공유하고 있다.

이 같은 반응은 오픈소스 생태계로 이어졌다. 모델이 공개된 지 불과 48시간 만에 X와 깃허브 등에는 제브의 동작 원리를 본떠 만든 오픈소스 클론 프로젝트만 6개 이상 등장했다. 맥북 같은 로컬 환경에서 가볍게 동작하는 모델부터 고전 게임 '둠'이나 '스타크래프트'의 게임 상황을 프레임 단위로 입력받아 1초에 10번씩 움직임을 제어하는 실시간 제어 데모까지 속속 공개되며 커뮤니티를 달궜다.

다만 개발자들 사이에서는 형식 에러가 나지 않는다는 '타입 안전성'과 모델이 내린 판단 자체가 100% 옳다는 것은 별개라는 냉철한 구분도 등장하고 있다. 제브도 잘못된 선택을 내릴 확률은 여전히 존재하므로 반환되는 신뢰도 점수를 바탕으로 임계값을 설정하는 엄격한 시스템 설계가 병행되어야 한다는 지적이다.

전문가들은 제브의 등장으로 AI 아키텍처가 빠르고 직관적인 판단을 내리는 '시스템 1'과 깊은 추론과 창작을 담당하는 '시스템 2'로 명확히 분리되기 시작했다고 보고 있다. 

수많은 데이터의 실시간 라우팅, 모니터링, 신뢰도 판별은 제브 같은 시스템 1 모델이 밀리초 단위로 가볍게 처리하고, 고도의 창작이나 복잡한 논리가 필요한 시점에만 챗GPT나 클로드 같은 LLM을 호출하는 구조가 향후 소프트웨어 개발의 새로운 표준으로 자리 잡을 것이라는 관측이다.

임대준 기자 ydj@aitimes.com