데이터센터, AI 도입 주저하는 이유는? 비용, 용량, 그리고 신뢰의 문제

데이터센터 업계가 인공지능(AI)을 적극적으로 도입하며 효율성과 생산성을 높이고 있지만, 핵심 시스템에서는 여전히 신중한 태도를 유지하고 있습니다. 업타임 인스티튜트의 ‘2025 제15회 연례 글로벌 데이터센터 설문조사’ 결과를 통해 데이터센터 운영자들이 AI 도입을 망설이는 이유와 그들이 느끼는 주요 고민을 자세히 살펴보겠습니다.

데이터센터 운영, 비용과 용량 계획이 가장 큰 고민

데이터센터 운영 관리자들은 운영 비용 상승과 예측 불가능한 용량 계획에 대한 어려움을 가장 크게 느끼고 있습니다. 특히 AI 워크로드에 대한 관심이 높아지면서, 데이터센터 운영 환경은 더욱 복잡해지고 있습니다. 응답자들은 향후 12개월 동안 디지털 인프라 관리에서 가장 우려되는 문제로 비용 문제(76%), 데이터센터 용량 예측(71%), 설비 장비 에너지 성능 개선(67%) 등을 꼽았습니다.

AI 워크로드, 예측 불가능한 수요 증가의 원인

업타임 인스티튜트의 앤디 로렌스 리서치 총괄 책임자는 IT 수요의 지속적인 증가와 AI 워크로드가 야기하는 예측 불가능한 수요가 복합적으로 작용하여 데이터센터 용량 계획에 대한 우려가 커지고 있다고 분석했습니다. 그는 AI가 데이터센터에 미칠 영향, 배치 장소, 필요한 전력량, 공간 및 냉각과 같은 인프라 자원 소요량 등 여러 요소의 불확실성을 강조했습니다. 이는 코로케이션 시설, 일반 기업, 하이퍼스케일러 모두에게 영향을 미칠 수 있는 문제입니다.

데이터센터, AI 도입은 신중하게

현재 데이터센터 운영자의 약 1/3이 AI 학습 또는 추론 작업을 수행하고 있으며, 향후 AI 기반 소프트웨어 도입이 증가함에 따라 이러한 추세는 더욱 확산될 것으로 예상됩니다. 하지만 데이터센터 업계는 새로운 기술 도입에 있어 느리고 신중한 태도를 보이는 경향이 있으며, AI에 대해서도 예외는 아닙니다. 데이터센터 업계는 현재 AI를 신중하게 채택하고 테스트하며 검증하는 단계에 진입해 있습니다.

AI, 데이터센터 운영 효율성 향상에 기여

설문 조사 참여자들은 AI가 데이터센터 운영에서 가장 큰 효과를 발휘할 분야로 설비 효율 향상(58%), 휴먼 에러 위험 감소(51%), 인력 생산성 향상(48%) 등을 꼽았습니다. AI는 데이터센터 운영의 자동화를 통해 효율성을 높이고, 인적 오류를 줄이며, 인력 생산성을 향상시키는 데 기여할 수 있을 것으로 기대됩니다.

데이터센터 업무별 AI 신뢰 수준 차이

데이터센터 운영자들은 AI가 결정하도록 맡길 수 있는 업무 유형에 따라 신뢰 수준에 큰 차이를 보였습니다. 운영 센서 데이터/알람 분석(73%)이나 예측 유지보수 작업(70%)에는 비교적 높은 신뢰도를 보였지만, 데이터센터 장비 제어(35%)나 인력 배치/근무교대(21%), 구성 변경(14%) 등의 업무에는 낮은 신뢰도를 보였습니다. 이는 데이터센터 운영자들이 AI의 역량에 대한 인식이 높아지고 있으며, AI 종류와 성능 차이를 인지하고 있다는 것을 보여줍니다.

AI, 모든 작업에 적합한 것은 아니다

업타임 인스티튜트의 맥스 스몰락스 리서치 애널리스트는 데이터센터 운영자들이 AI로 어떤 작업은 매우 기꺼이 수행하지만, 어떤 작업은 절대 맡기지 않으려 한다는 점이 흥미롭다고 언급했습니다. 그는 어떤 AI는 미션 크리티컬 환경처럼 정밀한 작업에 적합한 반면, 어떤 AI는 문서 생성 등에는 적합하지만 장비 제어에는 적합하지 않다고 덧붙였습니다.

맺음말

데이터센터 업계는 AI 도입에 대한 기대와 우려를 동시에 가지고 있습니다. AI는 데이터센터 운영의 효율성을 높이고 비용을 절감하는 데 기여할 수 있지만, 동시에 용량 계획의 어려움을 가중시키고 신뢰성 문제도 야기할 수 있습니다. 데이터센터 운영자들은 AI의 역량과 한계를 명확히 인식하고, 신중한 검토와 테스트를 거쳐 AI를 도입해야 할 것입니다. 앞으로 데이터센터 운영에 AI가 어떻게 활용될지, 그리고 AI가 데이터센터 업계에 어떤 변화를 가져올지 주목해야 합니다.