AMD가 AI 모델을 반도체 회로에 직접 구현하는 기술을 보유한 스타트업 탈라스(Taalas)를 인수하며 AI 추론(Inference) 칩 시장 공략을 강화한다. 범용 GPU 중심 전략에서 나아가 특정 AI 모델에 최적화된 전용 칩까지 포트폴리오를 확대하면서, AI 데이터센터 시장에서 엔비디아와의 경쟁을 가속하려는 행보다.

AMD는 6일(현지시간) 캐나다의 AI 반도체 스타트업 탈라스를 인수하기로 최종 합의했다고 발표했다.

인수 금액은 공개하지 않았다. 2023년 설립된 탈라스는 지금까지 약 2억1900만달러(약 3100억원)의 투자금을 유치한 AI 반도체 스타트업이다.

탈라스의 핵심 기술은 AI 모델을 범용 프로세서에서 실행하는 대신, 특정 모델 자체를 반도체 회로에 직접 구현하는 것이다. 이를 통해 "어떤 AI 모델이든 맞춤형 실리콘으로 변환할 수 있는 플랫폼을 개발했다"고 설명한다. 새로운 AI 모델이 등장해도 약 두 달 안에 해당 모델 전용 칩을 설계할 수 있다는 주장이다.

이 같은 방식은 범용 GPU처럼 다양한 모델을 실행할 수 있는 유연성은 떨어지지만, 특정 모델만을 위해 설계된 만큼 추론 속도와 전력 효율을 크게 높일 수 있다. 탈라스는 자체 칩이 기존 GPU보다 특정 AI 모델에서 수천배 빠른 성능을 낼 수 있으며 비용도 크게 절감할 수 있다고 강조하고 있다.

현재 탈라스는 메타의 소형 '라마 3.1' 모델을 실행하는 전용 칩을 개발했으며, 앞으로 더 큰 규모의 AI 모델을 지원하는 제품도 준비 중이다. 또 최신 공정보다는 비교적 성숙한 TSMC 공정을 활용하고, 칩 내부에 고속 SRAM 메모리를 배치해 메모리 병목 현상을 최소화하는 구조를 채택했다.

이번 인수는 AI 산업의 무게중심이 학습에서 추론으로 이동하는 흐름에 따른 것이다. AI 서비스가 실제 사용자 요청을 실시간으로 처리하는 추론 단계에서는 응답 지연 시간을 최소화하고 운영 비용을 줄이는 것이 핵심 경쟁력으로 떠오르고 있다. 특히 챗봇이나 AI 검색처럼 첫 응답 속도가 중요한 서비스에서는 GPU 외에 추론 전용 가속기의 중요성이 빠르게 커지고 있다.

AMD도 GPU만으로는 모든 AI 워크로드를 처리하기 어렵다고 판단하고 있다. 리사 수 AMD CEO는 최근 "모든 AI 칩을 하나의 방식으로 해결할 수는 없다"며 다양한 형태의 AI 칩이 공존할 것이라는 전망을 내놓은 바 있다. 다만 새로운 AI 모델을 유연하게 지원할 수 있는 GPU는 앞으로도 AI 시장의 중심을 유지할 것으로 예상했다.

AMD는 탈라스 기술을 자체 로드맵에 통합해 인스팅트(Instinct) GPU, CPU와 함께 시스템 수준의 AI 플랫폼을 구축할 계획이다. 특히 최근 출하를 시작한 랙 단위 AI 시스템 '헬리오스(Helios)'에도 추론 전용 칩을 포함한 다양한 가속기를 결합해 엔비디아의 통합 AI 서버 전략에 맞설 방침이다.

최근 AI 경쟁력 강화를 위해 공격적인 인수 전략을 이어가고 있다. 지난해 AI 모델 개발 기업 실로 AI(Silo AI)를 6억6500만달러(약 9200억원)에 인수했고, 랙 시스템 전문업체 ZT 시스템즈(ZT Systems)도 49억달러(약 7조원)에 사들였다. 추론 소프트웨어 스타트업 MK1을 비롯해 MEXT, FastFlowLM 등 AI 관련 기업도 잇따라 확보했다. 지난달에는 AI 반도체 업체 세레브라스와 협력해 자체 시스템에 세레브라스의 AI 칩을 통합하겠다는 계획도 발표했다.

한편, 엔비디아도 추론 시장 확대에 적극 나서고 있다. 지난해 말 추론 칩 전문 그로크(Groq)의 자산을 200억달러(약 28조원)에 인수하며 관련 기술 확보에 나선 바 있다.

박찬 기자 cpark@aitimes.com