미국 테네시주 멤피스의 ‘콜로서스 2’ 데이터센터 (사진=SELC)

일론 머스크 CEO가 스페이스XAI의 대규모 AI 컴퓨팅 클러스터 ‘콜로서스 2’에 탑재되는 엔비디아 GPU를 연말까지 현재의 두 배 이상으로 늘리겠다는 계획을 밝혔다.

머스크는 25일(현지시간) X를 통해 콜로서스 2에 현재 엔비디아 GB200 11만개와 GB300 44만개가 가동되고 있다고 밝혔다. 여기에 다음 주까지 GB300 22만개를 추가 가동하고, 11월에도 22만개를 더 투입할 계획이다.

이어 “운이 좋다면(if we get lucky)” 12월 말에는 추가로 22만개를 가동할 가능성도 있다고 말했다.

계획대로 진행되면 콜로서스 2의 GPU 수는 현재 55만개에서 연말에는 최대 121만개 수준으로 늘어난다. 스페이스XAI가 당초 목표로 제시했던 2026년 100만 GPU 구축 계획을 넘어서는 규모다.

여기에 콜로서스 1에서 가동 중인 'H100' 15만개, 'H200' 5만개, 'GB200' 3만개까지 더하면 스페이스XAI가 운영하는 전체 GPU는 140만개를 넘어설 수 있다.

콜로서스 2는 엔비디아의 최신 블랙웰 계열 GPU 중심으로 구축돼 AI 모델 학습에 최적화된 구조를 갖추는 데 초점을 맞췄다.

반면 콜로서스 1은 호퍼와 블랙웰 GPU가 혼합돼 있어 '그록' 학습에 효율적이지 않은 것으로 알려졌다. 이에 스페이스XAI는 일부 컴퓨팅 자원을 경쟁 AI 기업인 앤트로픽에 추론용으로 임대한 바 있다.

대규모 GPU를 확보하는 것과 함께 전력 공급도 핵심 과제다. 스페이스XAI는 콜로서스 2에 자체 전력 설비를 구축했지만, 허가 없이 천연가스 터빈을 운영했다는 논란과 지역사회의 반발도 겪었다. 스페이스XAI는 기존 터빈을 단계적으로 철거하고 1.2기가와트(GW) 규모의 자체 발전소를 가동한다는 계획을 제시했다.

머스크 CEO의 목표는 100만 GPU에서 끝나지 않는다. 그는 2027년까지 데이터센터 용량을 현재보다 7배 확대하고, 2030년까지 5000만개의 H100급 GPU에 해당하는 컴퓨팅 능력을 확보하겠다는 구상도 제시했다.

지상 데이터센터를 넘어 장기적으로는 우주에 AI 데이터센터를 구축하는 방안까지 추진하고 있다.

박찬 기자 cpark@aitimes.com