데이터 주권 시대, AWS AI 팩토리가 제시하는 새로운 해법: 온프레미스 AI 인프라의 혁신

민감한 데이터를 AI로 처리해야 하는 기업들은 데이터 주권과 규제 준수라는 난제에 직면합니다. 막대한 비용을 들여 온프레미스 AI 인프라를 구축하거나, 퍼블릭 클라우드 환경에서 데이터 주권 문제를 해결해야 하는 딜레마에 빠지곤 합니다. 이러한 상황 속에서 AWS는 AI 팩토리라는 새로운 솔루션을 제시하며 기업들에게 새로운 선택지를 제공하고 있습니다.

AWS AI 팩토리란 무엇인가?

AWS AI 팩토리는 완전 관리형 온프레미스 AI 인프라 서비스입니다. AWS 아웃포스트와 유사하게, 고객의 데이터센터에 전용 하드웨어와 소프트웨어를 직접 설치하여 AI 및 에이전트 기반 애플리케이션을 데이터 주권 규정을 준수하면서 운영할 수 있도록 지원합니다. AWS CEO 매트 가먼은 AI 팩토리를 통해 고객이 AWS 전용 AI 인프라를 자체 데이터센터에 구축하고 독점적으로 사용할 수 있다고 강조했습니다.

AI 팩토리의 핵심 구성 요소

AI 팩토리는 엔비디아의 최신 GPU, AWS의 트레이니움 칩, 고성능 네트워크, 세이지메이커, 베드록 등 최첨단 하드웨어와 소프트웨어 스택으로 구성됩니다. 가먼 CEO는 AI 팩토리를 '프라이빗 AWS 리전'이라고 정의하며, 기업이 데이터센터의 공간과 전력 용량을 활용하여 데이터 주권 요구 사항을 충족하면서 클라우드와 같은 탄력성을 누릴 수 있다고 설명합니다.

데이터 주권과 혁신, 두 마리 토끼를 잡다

하이퍼프레임 리서치의 스티븐 소프코 애널리스트는 AWS AI 팩토리가 클라우드 네이티브 혁신 속도와 주권 통제 사이의 긴장을 해소하려는 시도라고 평가했습니다. 과거에는 온프레미스 보안과 퍼블릭 클라우드의 비용 및 속도 중 하나를 선택해야 했지만, AI 팩토리는 이러한 딜레마를 해결하고 기업들이 데이터 주권을 완전히 통제하면서도 클라우드의 장점을 활용할 수 있도록 돕습니다.

경쟁 구도 속 AWS의 차별점

AWS AI 팩토리는 오라클의 클라우드 앳 커스터머, 마이크로소프트의 애저 로컬, 구글 디스트리뷰티드 클라우드 등 유사한 서비스들과 경쟁합니다. 또한 엔비디아의 AI 팩토리, 델의 AI 팩토리 스택, HPE의 프라이빗 클라우드 포 AI 등 온프레미스 AI 플랫폼을 지향하는 제품들과도 경쟁하게 될 것입니다. 소프코 애널리스트는 하드웨어와 소프트웨어 통합 및 운영 성숙도 측면에서 AWS가 경쟁사보다 우위에 있을 것이라고 전망하며, 그 비결은 인프라가 아닌 소프트웨어에 있다고 강조했습니다.

유연성과 잠재적 제약

옴디아의 알렉산더 해로웰 애널리스트는 AWS AI 팩토리가 온프레미스 인프라의 통제력을 제공하는 아웃포스트와 다양한 서비스를 운용할 수 있는 로컬 존의 유연성을 결합할 것으로 예상했습니다. 하지만 소프코 애널리스트는 오라클의 OCI 전용 리전처럼 AWS AI 팩토리도 높은 약정 비용을 요구할 수 있다고 경고했습니다. AWS는 아직 구체적인 약정 조건을 공개하지 않았지만, 하드웨어, 네트워크, 관리 기능 배치에 따른 비용을 고려하면 다년 약정이 필요할 가능성이 높습니다.

맺음말

AWS AI 팩토리는 데이터 주권과 규제 준수라는 과제를 해결하면서 AI 혁신을 추진하고자 하는 기업들에게 매력적인 대안이 될 수 있습니다. 하지만 초기 투자 비용과 장기적인 약정 조건을 신중하게 고려하여 기업의 상황에 맞는 최적의 선택을 해야 할 것입니다. AI 팩토리가 온프레미스 AI 인프라 시장에 어떤 변화를 가져올지 앞으로의 행보가 주목됩니다.