by Wizard

AI 시대, 데이터 보안은 더 이상 외면할 수 없는 문제: 기밀 컴퓨팅의 부상

인공지능(AI) 에이전트가 IT 환경 내에서 내부 데이터 이동을 주도하면서, 데이터 보안의 중요성이 더욱 강조되고 있습니다. AI 활용에 대한 규제 강화 움직임과 함께, 기업들은 데이터 보안을 강화할 방안을 모색해야 합니다. 특히 의료, 금융 등 규제가 엄격한 산업에서는 AI 모델 및 에이전트 소프트웨어에 대한 감사 가능성이 중요해질 것입니다.

기밀 컴퓨팅이란 무엇인가?

기밀 컴퓨팅은 AI 모델과 데이터를 하드웨어 경계 내에 잠그는 기술입니다. 허가된 모델 및 에이전트에게만 정보를 제공하여 보호된 데이터의 무단 사용을 방지합니다. 이 기술은 수년간 존재해 왔지만, 생성형 AI(GenAI)의 부상과 함께 새로운 주목을 받고 있습니다. 기업들은 기밀 컴퓨팅을 통해 AI 보안에 대한 우려를 일부 해소할 수 있습니다.

기업의 프라이빗 클라우드 AI 선호도 증가

기업들은 프라이빗 클라우드 AI를 선호하며, 기밀 컴퓨팅은 이러한 추세와 밀접하게 관련되어 있습니다. 기업들은 데이터에 대한 통제력을 확보하고자 하며, 기밀 컴퓨팅은 이러한 요구를 충족시키는 데 도움을 줄 수 있습니다. Google은 자사의 Gemini 모델을 기업 내부에서 운영할 수 있도록 허용하고 있습니다. 이는 인터넷이나 Google Cloud 연결 없이 Gemini를 실행할 수 있게 된 것을 의미합니다.

Nvidia GPU 기반 기밀 컴퓨팅

Nvidia GPU의 기밀 컴퓨팅 기술은 Google의 AI 모델을 Google Cloud 인프라 외부의 신뢰할 수 없는 하드웨어에서 실행할 수 있도록 합니다. Gemini는 원래 Google Cloud의 TPU에서 실행되도록 설계되었지만, 이제는 Nvidia GPU의 기밀 가상 머신에서 실행될 수 있습니다. 이는 Google Gemini의 IP를 보호하고, 기업의 IP 또한 보호합니다.

기밀 컴퓨팅의 활용 사례

사용자 인증 및 정보 접근 권한 부여를 위한 특정 기술이 개발되고 있습니다. 또한, 낮은 지연 시간으로 로컬 데이터 및 로컬 의사 결정을 원하는 애플리케이션에 대한 관심이 증가하고 있습니다. 데이터 상주 및 데이터 규정 준수는 이러한 사용 사례를 촉진하는 요인입니다. GPU는 고성능과 강력한 보안을 결합하여 의료, 금융, 정부 등 규제 산업에 이상적입니다. HIPAA 및 GDPR과 같은 규정 준수가 필수적입니다.

WhatsApp의 기밀 컴퓨팅 도입

WhatsApp은 최근 사용자의 최신 메시지에 대한 빠른 요약을 생성할 수 있는 GenAI 도구를 도입했습니다. 이러한 요약은 비공개이며 Meta 또는 다른 당사자에게는 보이지 않습니다. 이 기능은 Meta의 초기 기밀 컴퓨팅 활용 사례이며, Meta는 이를 "Private Processing"이라고 부릅니다. Meta는 AMD 및 Nvidia GPU를 사용하여 개인 컴퓨팅 환경을 구축했으며, 개인 WhatsApp 정보는 이 환경에 입력되어 요약이 생성됩니다. 이는 WhatsApp에서 클라우드로 데이터가 이동하는 동안 데이터 가로채기를 최소화합니다.

Anthropic의 "기밀 추론"

Anthropic은 Claude GenAI 기술을 사용하는 고객에게 보안을 제공하는 "기밀 추론"을 발표했습니다. 이 기능은 AI 체인을 따라 데이터가 이동할 때 신뢰 체인을 만들고 추론에서 점점 더 브로커가 되는 AI 에이전트를 고려합니다. Apple 또한 Private Cloud Compute 생태계를 구축하고 있습니다. (기밀 컴퓨팅은 비 AI 애플리케이션에도 사용할 수 있습니다. AMD 및 Intel은 가상 머신을 통해 사용할 수 있는 CPU용 기밀 컴퓨팅 기술을 보유하고 있습니다.)

기밀 컴퓨팅의 한계점

기밀 컴퓨팅 사용이 증가하고 있지만, 클라우드 환경에서의 도입에 대한 우려도 여전합니다. 데이터는 CPU를 통해서만 GPU로 이동하며, 모든 취약점은 해커가 데이터를 훔칠 수 있는 큰 격차를 남길 수 있습니다. CPU 기반 기술 또한 측면 채널 공격에 취약하여 신뢰성에 대한 우려를 제기합니다. Google은 작년 12월 AMD 기밀 컴퓨팅에 영향을 미치는 취약점을 공개했으며, 마이크로코드 업데이트가 필요했습니다.

맺음말

AI 시대에 데이터 보안은 기업의 생존과 직결되는 문제입니다. 기밀 컴퓨팅은 데이터 보안을 강화하는 효과적인 방법이지만, 완벽한 해결책은 아닙니다. 기업들은 기밀 컴퓨팅의 장단점을 명확히 이해하고, 자사의 환경에 맞는 최적의 보안 전략을 수립해야 합니다. 또한, 기술 발전과 함께 새로운 위협이 등장할 수 있으므로, 지속적인 보안 강화 노력이 필요합니다.