기사를 읽어드립니다.

구글이 AI 칩 시장에서 엔비디아에 맞서기 위해 자체 개발한 텐서처리장치(TPU) 제품군을 확대했다. 대규모 정보를 처리하는 AI 에이전트와 민감한 데이터를 다루는 기업용 보안 시스템에 특화한 신제품 2종을 추가하며, 약 100곳으로 늘어난 고객을 기반으로 AI 인프라 시장 공략을 강화하고 있다.

구글은 9일(현지시간) 공식 블로그를 통해 8세대 TPU 제품군에 'TPU 8i Max'와 'TPU 8tx'를 추가했다고 발표했다. 지난 4월 대규모 AI 모델 학습용 'TPU 8t'와 실시간 추론용 'TPU 8i'를 공개한 데 이어, 올해에만 4종의 TPU 시스템을 선보인 것이다.

이번 신제품은 완전히 새로운 반도체를 설계한 것이 아니라 기존 8세대 TPU 칩을 기반으로 패키징과 메모리, 네트워크, 보안 기술을 조합해 특정 작업에 맞게 구성한 시스템이다. 반도체 설계에는 수년이 걸리지만, 기존 칩의 활용 방식을 바꾸면 수개월 만에 새로운 시스템을 개발할 수 있다는 설명이다.

'TPU 8i Max'는 대규모 정보를 동시에 처리하는 AI 에이전트에 초점을 맞췄다. 기존 TPU 8i 칩 2개를 하나의 패키지에 결합해 연산 성능과 SRAM 용량, 고대역폭 메모리(HBM) 대역폭을 각각 2배로 높였다. 같은 랙 공간에 두 배의 반도체를 집적할 수 있어 데이터센터의 공간당 연산 능력도 높일 수 있다.

여러 AI 에이전트가 방대한 코드나 장시간 분량의 영상을 동시에 분석할 때는 연산 능력뿐 아니라 데이터를 빠르게 읽어오는 메모리 성능이 중요하다. 구글은 연산 성능과 메모리 대역폭을 함께 높여 대규모 작업에서 발생하는 데이터 처리 지연을 줄이는 데 집중했다.

'TPU 8tx'는 보안과 기밀성이 중요한 기업용 AI 작업을 겨냥했다. 정부 기관이나 금융회사처럼 민감한 데이터와 자체 AI 모델을 다루는 조직이 주요 대상이다. 기존 TPU 8t와 동일한 칩에 AMD의 5세대 에픽(EPYC) CPU 호스트를 결합하고, 하드웨어 수준에서 데이터와 모델 가중치를 보호하도록 설계했다.

일반적으로 데이터는 저장하거나 전송할 때 암호화되지만, 실제 연산 과정에서는 메모리에서 복호화해야 한다. TPU 8tx는 데이터가 사용 중일 때도 보호와 격리가 유지되도록 했다. 구글은 기존 TPU 8t보다 최대 2배 낮은 지연시간을 제공하면서 성능 저하는 거의 없다고 설명했다.

또 기업이 민감한 데이터를 다른 시스템으로 옮기지 않고 AI 모델을 미세조정하거나 대형 모델을 소형 모델로 압축하는 증류, 강화학습까지 수행할 수 있도록 했다. 자체 데이터를 활용한 AI 에이전트 개발부터 운영까지 하나의 보안 환경에서 처리하도록 지원하는 것이다.

아민 바닷 구글 AI·인프라 부문 수석부사장은 AI 에이전트의 활용이 늘면서 고객별 작업에 맞춘 특화 시스템의 중요성이 커지고 있다고 강조했다. 대규모 모델 학습과 실시간 추론에 이어 데이터 보안과 대용량 정보 처리까지 제품군을 세분화한 것도 이러한 수요에 대응하기 위한 것이다.

소프트웨어 생태계 확대도 병행하고 있다. 구글은 지난달 파이토치(PyTorch) 코드를 별도로 수정하지 않고 TPU에서 실행할 수 있도록 지원하는 오픈소스 도구 '토치TPU(TorchTPU)'를 공개했다. AI 에이전트가 외부 도구의 응답을 기다리는 동안 연산 자원을 자동으로 중단했다가 재개하는 '에이전트 컴퓨트 엔진'과 메모리 활용을 개선하는 'TPU 싱크(TPU Sync)'도 선보였다.

이는 엔비디아 GPU에 익숙한 개발자들이 기존 소프트웨어를 큰 변경 없이 TPU에서도 활용하도록 해 도입 장벽을 낮추려는 전략이다.

TPU 사업도 빠르게 성장하고 있다. 현재 TPU 고객은 AI 모델 개발사와 금융회사, 유통기업, 대학 등을 포함해 약 100곳에 이른다. 당초 검색과 유튜브, 제미나이 등 자체 서비스에 주로 활용하던 TPU를 구글 클라우드를 통해 외부에 공급하는 데 이어, 고객이 자체 데이터센터에 직접 설치하도록 하는 사업도 확대하고 있다.

또 지난 3분기 실적에서 TPU 판매가 실적에 의미 있는 기여를 했다고 밝혔다. 구글 클라우드 매출도 307억1000만달러로 전년 동기 대비 두 배 이상 증가했다.

그러나 엔비디아와의 경쟁에는 여전히 과제가 남아 있다. 반도체 생산 능력과 메모리 확보에 제약이 있으며, 엔비디아에 비해 수익성도 낮다는 이유다.

구글은 이번 신제품의 가격이나 엔비디아 경쟁 제품과 동일한 조건에서 비교한 성능 수치는 공개하지 않았다.

이번 발표는 구글이 범용 AI 가속기 경쟁에만 집중하는 대신 학습과 추론, AI 에이전트, 보안 등 용도별로 TPU 제품군을 세분화하고 있음을 보여준다. 고객 수가 100곳으로 늘고 자체 데이터센터 공급 사업까지 확대되면서, 엔비디아가 주도하는 AI 인프라 시장에서 구글의 영향력도 커지고 있다.

박찬 기자 cpark@aitimes.com