AI 코딩 에이전트가 반도체 업계의 가장 강력한 진입장벽 중 하나로 꼽히는 엔비디아의 소프트웨어 생태계 ‘쿠다(CUDA·Compute Unified Device Architecture)’에 도전장을 내밀고 있다. 수년이 걸리던 AI 칩용 시스템 소프트웨어 개발을 단 몇 시간 만에 자동화하는 사례가 등장하면서, 엔비디아가 지난 20년간 구축해 온 소프트웨어 경쟁력이 새로운 시험대에 올랐다는 분석이 나온다.

3일(현지시간) 비즈니스인사이더에 따르면, 구글 브레인 출신 연구원이자 AI 소프트웨어 스타트업 인피니티(Infinity)를 창립한 제레미 닉슨은 최근 AI 코딩 에이전트를 활용해 반도체 스타트업 D-매트릭스(d-Matrix)를 위한 CUDA 유사 소프트웨어를 약 10시간 만에 개발했다고 밝혔다.

닉슨은 이를 두고 “과거에는 수년간의 전문 개발 작업이 필요했던 시스템 소프트웨어 구축이 이제는 AI 에이전트를 통해 단 몇 시간 안에 가능해지고 있다”라며 “이는 엔비디아의 가장 강력한 경쟁 우위 중 하나인 소프트웨어 장벽이 허물어지기 시작했다는 신호”라고 평가했다.

엔비디아의 핵심 경쟁력으로 꼽혀온 CUDA는 단순한 개발 도구를 넘어 AI 생태계 전체를 지탱하는 기반 소프트웨어 플랫폼이다. 엔비디아 GPU에서 AI 모델을 효율적으로 학습하고 실행할 수 있도록 최적화된 라이브러리, 디버깅 도구, 병렬 처리 기술 등을 제공하며, 지난 20년 동안 수많은 개발자와 기업이 CUDA 위에 AI 서비스를 구축해 왔다.

특히 CUDA의 경쟁력은 단순한 코드가 아니라 그 위에 쌓인 거대한 생태계에 있다. 기업들이 수백만줄의 코드와 내부 업무 시스템을 CUDA 기반으로 구축하면서 다른 반도체 플랫폼으로 이동하기 어렵게 만드는 강력한 ‘락인(lock-in)’ 효과가 발생했다.

하지만 AI가 AI 소프트웨어 개발 자체를 자동화하기 시작하면서 이 구조가 흔들릴 가능성이 제기되고 있다.

구글, 아마존, 마이크로소프트 등 주요 클라우드 기업들은 이미 자체 AI 칩에 최적화된 소프트웨어 생태계를 구축하며 엔비디아 의존도를 낮추기 위한 움직임을 강화하고 있다. 아마존은 자체 AI 가속기인 '트레이니엄(Trainium)'과 '인퍼렌시아(Inferentia)' 확장의 가장 큰 장애물 중 하나로 CUDA 생태계를 지목한 것으로 알려졌다.

오픈AI와 앤트로픽 등 AI 모델 개발 기업들도 시스템 소프트웨어를 생성할 수 있는 고성능 모델을 선보이며 반도체 소프트웨어 개발 방식 자체를 변화시키고 있다.

량원펑 딥시크 창립자도 AI 코딩 에이전트와 자체 프로그래밍 언어 ‘타일랭(TileLang)’이 AI 소프트웨어 개발을 아주 쉽게 만들고 있다고 언급했다.

AI 산업의 중심이 모델 학습(training)에서 추론(inference)으로 이동하고 있다는 점도 CUDA의 영향력을 약화할 요인으로 꼽힌다. 기업들은 더 강력한 GPU 성능보다 비용 효율적으로 AI 서비스를 운영하는 데 관심을 두고 있으며, 이에 따라 다양한 칩에서 동작할 수 있는 범용 소프트웨어 수요가 커지고 있다.

국내 AI 반도체 스타트업 리벨리온의 마셜 최 최고 사업책임자는 “AI 추론 시대에는 기업들이 특정 칩에 종속되지 않는 소프트웨어를 원하게 될 것”이라며 “CUDA가 추론 영역에서 중요성이 줄어들면 엔비디아의 소프트웨어 장벽도 약화할 수 있다”라고 말했다.

다만 AI 코딩 에이전트가 곧바로 CUDA의 지위를 무너뜨릴 것이라는 전망에는 반론도 있다.

AI 소프트웨어 스타트업 INT21의 창업자 빙 쉬는 “AI 에이전트는 빠르게 많은 코드를 생성할 수 있지만, 가장 어려운 부분은 검증과 최적화”라고 지적했다. 그는 CUDA가 이미 방대한 검증 도구와 개발 생태계를 갖추고 있어, 오히려 AI 코딩 에이전트 시대에 새로운 강점이 될 수 있다고 주장했다.

여기에 엔비디아도 AI 에이전트를 활용해 CUDA 개발 속도를 높이고 있으며, 개발자들이 CUDA 라이브러리를 활용해 AI 애플리케이션을 제작하는 사례가 계속 증가하고 있다고 강조했다. 안킷 파텔 엔비디아 개발자 생태계 담당 부사장은 “AI가 추론과 에이전트 작업 중심으로 발전할수록 하드웨어와 소프트웨어를 함께 최적화하는 풀스택 접근 방식의 중요성은 더 커진다”라고 밝혔다.

전문가들은 AI 코딩 에이전트가 CUDA를 약화하는 동시에 엔비디아에도 새로운 기회를 제공할 수 있다고 분석한다. AI가 경쟁사의 칩 소프트웨어 개발 속도를 높일 수 있지만, 엔비디아도 같은 기술을 활용해 CUDA 생태계를 더 발전시킬 수 있기 때문이다.

퀄컴의 AI 소프트웨어 자회사 모듈러(Modular)의 크리스 래트너 CEO는 “AI가 칩 소프트웨어 개발을 쉽게 만드는 것은 사실이지만, 실제 제품 수준으로 최적화하는 작업은 여전히 매우 어렵다”라며 “현재 AI 코딩 에이전트가 CUDA의 위협이 된다는 평가는 다소 과장된 측면이 있다”라고 말했다.

박찬 기자 cpark@aitimes.com