데일리연합 (SNSJTV) 박영우 기자 | 대규모 AI 모델 학습과 생성형 AI 개발을 위해 반드시 자체 GPU와 데이터센터를 보유해야 하는 시대는 빠르게 저물고 있다.

클라우드 기반 GPUaaS(GPU as a Service)가 AI 인프라의 새로운 대안으로 부상하면서 개발 환경과 비용 구조 전반을 바꾸고 있다.

GPUaaS는 클라우드 서비스 제공자가 고성능 GPU 자원을 가상화해 필요한 만큼만 제공하는 방식이다.

사용자는 GPU 하드웨어를 직접 구매하거나 데이터센터를 구축하지 않고도 AI 연산 자원을 즉시 활용할 수 있다. 사용량 기반 과금 구조로 초기 투자 부담을 대폭 줄일 수 있는 것이 핵심이다.

AI 업계에서는 GPU 확보가 경쟁력의 핵심 요소로 꼽힌다.

엔비디아 H100 등 최신 AI 가속기는 단일 장비 가격만 수천만 원에 이르고 대규모 학습 환경을 구축할 경우 전체 시스템 비용이 수십억 원대까지 치솟는다. 전력 인프라와 냉각 설비, 운영 인력까지 고려하면 중소 기업이나 스타트업이 감당하기는 쉽지 않다.

GPUaaS는 이러한 진입 장벽을 낮춘다. 프로젝트 규모와 개발 단계에 따라 GPU 자원을 유연하게 확장하거나 축소할 수 있고 다양한 GPU 모델과 아키텍처를 선택할 수 있다. 단기 실험부터 대규모 학습까지 동일한 환경에서 대응할 수 있다는 점에서 AI 개발 효율성을 높인다.

시장 성장세도 가파르다.

글로벌 시장조사업체 포춘 비즈니스 인사이트에 따르면 GPUaaS 시장은 2032년까지 연평균 성장률 35퍼센트 이상이 예상된다. 생성형 AI 확산과 함께 AI 인프라 수요가 폭증하면서 GPU를 소유하지 않는 전략이 표준으로 자리 잡고 있다는 분석이다.

글로벌 빅테크는 이미 GPUaaS 경쟁을 본격화했다.

아마존(Amazon Web Services: AWS), 마이크로소프트 (Microsoft), 구글 클라우드(Google Cloud)는 엔비디아의 최신 GPU를 기반으로 AI 학습 전용 인스턴스를 확대하며 기업 고객을 확보하고 있다. 최근에는 GPU 공급 부족 문제를 해소하기 위해 자체 인프라 투자도 병행하고 있다.

국내 기업들의 움직임도 빨라지고 있다.

삼성SDS는 삼성 클라우드 플랫폼을 통해 GPUaaS를 제공하며 업스테이지와 슈퍼톤 등 AI 기업의 모델 학습을 지원하고 있다. 시간 단위 요금 체계를 적용해 고성능 GPU를 유연하게 사용할 수 있도록 했다.

카카오엔터프라이즈는 클라우드와 온프레미스를 결합한 하이브리드 GPUaaS 전략을 내세운다. 고사양 GPU와 데이터센터 인프라를 카카오클라우드 플랫폼으로 통합 제공해 보안과 성능을 동시에 요구하는 기업 수요를 겨냥하고 있다.

SK텔레콤은 엔비디아 B200 표준 아키텍처 기반 GPU 인프라를 앞세워 AI 데이터센터 경쟁력을 강화하고 있다. 통신과 AI 인프라를 결합한 GPUaaS 모델을 통해 기업용 AI 서비스 확대를 노리고 있다.

전문가들은 GPUaaS가 단순한 비용 절감 수단을 넘어 AI 산업 구조를 재편하는 핵심 인프라로 자리 잡고 있다고 평가한다. GPU 공급이 제한적인 상황에서 효율적인 자원 활용과 서비스 품질을 동시에 확보하는 전략이 기업 경쟁력을 좌우할 것이라는 분석이다.

AI 업계 관계자는 GPUaaS는 AI 개발과 배포 과정에서 필수적인 클라우드 요소로 자리 잡았다며 충분한 GPU를 자체적으로 확보하기 어려운 기업이 많은 만큼 특정 산업과 용도에 특화된 GPUaaS 전략을 가진 기업이 AI 시대의 새로운 성장 기회를 잡을 수 있을 것이라고 말했다.