데이터센터 랙의 미래: AI 시대, 냉각과 전력 공급의 혁신
데이터센터의 기본 단위였던 랙이 인공지능(AI)의 등장으로 빠르게 변화하고 있습니다. 2030년에는 AI에 특화된 랙 하나가 최대 1MW의 전력을 소비할 것으로 예상되며, 이는 과거 데이터센터 전체 시설에서나 볼 수 있었던 규모입니다. 일반적인 데이터센터 랙의 전력 소비량 역시 꾸준히 증가하여 30-50kW에 이를 것으로 예상됩니다.
AI 랙, 전력 및 냉각 인프라에 새로운 요구를 불러오다
AI 랙은 일반적인 랙보다 20~30배 더 많은 에너지를 소비합니다. 이는 전력 공급과 냉각 인프라에 대한 새로운 요구를 불러일으키고 있습니다. 렉스 데이터센터 솔루션의 이사인 테드 펄퍼는 "냉각은 더 이상 지원 인프라의 일부가 아니라, 컴퓨팅 밀도 증가, AI 워크로드, 액체 냉각과 같은 접근 방식에 대한 관심 증가로 인해 대화의 최전선으로 이동했습니다."라고 말합니다.
업계 협력, 복잡한 냉각 문제 해결의 열쇠
제조업체, 엔지니어, 최종 사용자는 그 어느 때보다 긴밀하게 협력하여 통찰력을 공유하고 실험하고 있습니다. 이러한 협력은 우리가 직면한 가장 복잡한 냉각 문제를 해결하는 데 도움이 됩니다. 1MW의 전력을 랙에 공급하는 목표는 시스템 구축 방식도 바꾸고 있습니다.
고전압 DC 전력, 전력 손실 및 케이블 크기 감소
기존의 저전압 AC 대신, 업계는 +/-400V와 같은 고전압 DC로 이동하고 있습니다. 이는 전력 손실과 케이블 크기를 줄여줍니다. 냉각은 랙 매니폴드로 액체 흐름을 관리하는 시설 ‘중앙’ CDU에서 처리됩니다. 거기에서 유체는 서버의 가장 뜨거운 구성 요소에 직접 장착된 개별 콜드 플레이트로 전달됩니다.
마이크로플루이딕스, 칩 냉각의 혁신
오늘날 대부분의 데이터센터는 콜드 플레이트에 의존하지만, 이 접근 방식에는 한계가 있습니다. 마이크로소프트는 칩 뒷면에 작은 홈을 새겨 냉각수가 실리콘을 직접 가로질러 흐르도록 하는 마이크로플루이딕스를 테스트하고 있습니다. 초기 시험에서 이는 워크로드에 따라 콜드 플레이트보다 최대 3배 더 효과적으로 열을 제거하고 GPU 온도 상승을 65% 줄였습니다.
AI 기반 냉각, 더 정확한 냉각수 전달
마이크로소프트는 이 설계를 칩 전체의 핫스팟을 매핑하는 AI와 결합하여 냉각수를 더 정확하게 전달할 수 있었습니다. 펄퍼는 "공장을 통해 이동하는 주문량이 병목 현상을 일으켜 다른 사람들이 개입하여 가치를 더할 수 있는 문을 열 수 있습니다. 이 빠르게 변화하는 시장에서 민첩성과 혁신은 업계 전반에 걸쳐 핵심적인 강점으로 유지되고 있습니다."라고 언급했습니다.
발열 해소, 데이터센터의 지속 가능한 운영을 위한 필수 요소
분명한 것은 전력과 발열 해소가 이제 컴퓨팅 성능에 부차적인 문제가 아니라 핵심적인 문제라는 것입니다. 펄퍼는 "발열 해소는 세계 디지털 기반을 원활하고 안정적으로 지속 가능하게 유지하는 데 필수적입니다."라고 말합니다.
결론
결국, 데이터센터 랙의 형태와 규모는 디지털 인프라의 미래를 결정할 수 있습니다. AI 시대에 발맞춰 데이터센터는 냉각 및 전력 공급 시스템의 혁신을 통해 고성능, 고효율, 지속 가능한 운영을 추구해야 할 것입니다.