by Wizard

AI 데이터 센터 구축 비용 폭증, 지속 가능성 빨간불?

인공지능(AI) 기술 발전과 함께 AI 모델 학습 및 운영을 위한 데이터 센터 구축 경쟁이 치열해지고 있습니다. 하지만 천문학적인 초기 투자 비용과 짧은 하드웨어 교체 주기 등이 맞물리면서 AI 데이터 센터의 경제적 지속 가능성에 대한 우려가 커지고 있습니다.

1기가와트(GW) AI 시설 구축에 800억 달러?

IBM CEO 아빈드 크리슈나는 현재 AI 데이터 센터 확장 속도와 규모가 기존 전제 하에서 재정적으로 지속 가능할 수 있을지 의문을 제기했습니다. 그는 1GW 규모의 AI 시설을 구축하는 데 필요한 비용이 800억 달러에 육박한다고 추정합니다. 또한, 공개된 자료와 비공개 계획을 종합해 볼 때, 향후 고급 모델 학습을 위한 AI 데이터 센터 구축 용량은 100GW에 이를 것으로 예상됩니다. 이는 8조 달러에 달하는 천문학적인 투자 규모입니다.

5년마다 하드웨어 전면 교체, 경제적 부담 가중

문제는 AI 데이터 센터에 사용되는 고성능 GPU 하드웨어의 짧은 교체 주기입니다. 대부분의 하이엔드 GPU 하드웨어는 약 5년의 감가상각 기간을 갖습니다. 하지만, 운영자들은 장비 수명을 연장하는 대신, 5년마다 하드웨어를 전면 교체합니다. 이는 일회성 자본 지출이 아닌 반복적인 의무가 되면서 경제적 부담을 가중시킵니다.

가속기의 중요성 증가, 규모의 경제 변화

CPU도 여전히 AI 데이터 센터에 사용되지만, GPU와 같은 특수 가속기의 중요성이 더욱 커지고 있습니다. 가속기는 범용 프로세서보다 훨씬 빠른 속도로 대규모 병렬 워크로드를 처리할 수 있기 때문입니다. 이러한 변화는 AI 데이터 센터의 규모에 대한 정의를 바꾸고, 전통적인 엔터프라이즈 데이터 센터보다 훨씬 더 많은 자본을 필요로 합니다.

감가상각의 함정, 기능적 노후화 vs 경제적 노후화

크리슈나는 시장 참여자들이 감가상각의 중요성을 간과하고 있다고 지적합니다. 기술 발전 속도가 빨라지면서 하드웨어 성능은 빠르게 향상됩니다. 따라서, 아직 기능적으로는 문제가 없더라도, 경제적으로는 쓸모없어지는 경우가 발생합니다. 즉, 하드웨어의 물리적 수명이 끝나기 전에 경제적 노후화가 먼저 발생하는 것입니다.

클라우드 기업의 고민, 투자 부담 vs 수익성 확보

마이클 버리와 같은 투자자들은 클라우드 기업들이 모델 규모와 학습 요구 사항 증가에 맞춰 자산 수명을 계속 늘릴 수 있을지 의문을 제기합니다. AI 데이터 센터 구축 및 운영 비용은 에너지 소비나 부지 매입 비용보다, 하드웨어 교체 비용에 더 큰 영향을 받습니다. 크리슈나는 멀티 기가와트 규모의 AI 데이터 센터 캠퍼스에 대한 자본 비용을 충당하려면, 연간 수천억 달러의 이익을 내야 한다고 추정합니다. 이는 장기적인 효율성 향상에 대한 추측이 아닌, 현재 하드웨어 경제에 근거한 추정입니다.

과도한 투자 경쟁, 지속 가능한 성장 전략 필요

최근 주요 기술 기업들은 수십 기가와트 규모의 AI 캠퍼스 구축 계획을 발표하고 있습니다. 이는 국가 전체의 전력 수요와 맞먹는 수준이며, 장기적인 에너지 가격 상승에 대한 우려를 불러일으키고 있습니다. 크리슈나는 현재의 대규모 언어 모델(LLM)이 하드웨어의 근본적인 변화 없이 일반 지능(AGI)에 도달할 가능성이 거의 없다고 평가합니다. 따라서, 현재의 투자 경쟁은 기술적 필연성보다는 경쟁 압력에 의해 주도되는 것으로 해석될 수 있습니다. 결국, 막대한 투자를 감당할 만큼 미래 수익이 증가할 것이라는 기대 하에 투자가 이루어지고 있는 것입니다. 하지만, 하드웨어 교체 주기가 짧아지고 전력 소비 제한이 강화되는 상황에서, 재정적 기대치가 경제적 메커니즘보다 앞서 나갈 위험이 있습니다.