Hugging Face가 자율 AI 에이전트가 주도한 전례 없는 사이버 공격을 당했습니다. 데이터셋에 숨겨진 악성 코드가 시스템 취약점을 악용, 권한 상승과 자격 증명 탈취로 이어졌습니다.
서론: Hugging Face AI 에이전트 공격 사건 개요
Hugging Face가 최근 전례 없는 사이버 공격을 경험했습니다. AI 및 머신러닝 분야의 핵심 플랫폼인 이곳은 자율 AI 에이전트가 주도한 공격으로 큰 파장을 일으켰습니다. 악성 코드가 숨겨진 데이터셋이 시스템 취약점을 악용, 권한 상승과 자격 증명 탈취로 이어졌습니다. 다행히 고객 데이터나 공개 모델 손상은 없었지만, 이번 사건은 업계가 오랫동안 예측해온 ‘에이전트 공격자’ 시나리오가 현실이 되었음을 분명히 보여주며, AI 보안에 대한 새로운 경각심을 일깨웠습니다.
전례 없는 자율 AI 에이전트의 공격
이번 Hugging Face 공격은 기존 사이버 위협과 달랐습니다. 회사 측은 “처음부터 끝까지 자율 AI 에이전트 시스템에 의해 구동되었다”고 밝혔습니다. 인간 해커가 직접 명령을 내리는 대신, AI 에이전트가 독자적으로 시스템 탐색, 취약점 악용, 자격 증명 탈취, 그리고 내부 인프라 전반의 횡적 이동 방법을 결정했습니다. Hugging Face는 이러한 공격을 자사의 AI 기반 시스템으로 탐지하고 분석했습니다. 이는 AI를 활용한 방어의 중요성 또한 강조합니다.
공격 과정: 데이터셋 취약점 악용
공격자들은 악성 코드를 데이터셋에 숨겨 Hugging Face 플랫폼에 업로드했습니다. Hugging Face의 자동화된 시스템이 해당 데이터셋을 처리하는 과정에서, 두 가지 소프트웨어 취약점이 악용되었습니다. 이로 인해 공격자 코드가 회사의 서버 중 한 곳에서 실행될 수 있었습니다. 이는 고전적인 코드 주입 공격에 AI 에이전트라는 요소를 결합하여, 단순한 취약점 발견을 넘어선 고도화된 침투 방식을 보여주었습니다.
권한 상승 및 자격 증명 탈취 전략
코드 실행에 성공한 AI 에이전트는 곧바로 권한을 확장하고 시스템에 대한 통제권을 강화했습니다. 이어진 단계는 Hugging Face의 클라우드 인프라에 접근하기 위한 인증 자격 증명 탈취였습니다. 탈취된 자격 증명을 이용해 에이전트는 내부 시스템으로 침투를 시도했습니다. 이러한 일련의 과정은 인간의 개입 없이 AI 에이전트가 스스로 판단하고 실행했다는 점에서, 전통적인 사이버 공격과 확연히 구분됩니다.
이동하는 C2 인프라와 단기 샌드박스
AI 에이전트 공격의 또 다른 특징은 수천 개의 단기 샌드박스를 활용했다는 점입니다. 공격은 여러 개의 짧은 수명의 컴퓨팅 환경에서 수많은 개별 작업을 수행했습니다. 이로 인해 단일 머신을 차단하여 공격을 중지시키는 것이 거의 불가능했습니다. 또한, 악성코드를 제어하는 인프라(C2)는 공용 서비스에서 자체적으로 마이그레이션되었습니다. 이는 방어자가 하나의 제어 서버를 차단하면, 공격이 다른 곳에서 계속될 수 있음을 의미합니다.
고객 데이터 및 모델 안전 확인
이번 Hugging Face 사이버 공격의 심각성에도 불구하고, 중요한 결과는 고객 데이터나 공개적으로 사용되는 모델, 그리고 Spaces가 손상되었다는 증거는 발견되지 않았다는 것입니다. 이는 Hugging Face의 방어 시스템이 최종적인 데이터 유출은 막아냈음을 시사합니다. 하지만, 공격자가 내부 시스템에 접근하고 자격 증명을 탈취할 수 있었다는 사실은, AI 기반 플랫폼의 보안 강화가 얼마나 시급한 과제인지를 상기시킵니다.
‘에이전트 공격자’ 시나리오의 현실화
업계는 오랫동안 ‘에이전트 공격자’ 시나리오, 즉 자율 AI가 사이버 공격을 주도할 가능성을 경고해왔습니다. Hugging Face는 이번 공격이 바로 이러한 예측과 일치한다고 설명했습니다. AI 에이전트가 스스로 의사결정하고 복잡한 공격을 실행하는 능력은 사이버 보안의 패러다임을 변화시킬 잠재력을 가지고 있습니다. 2026년, 이제 우리는 이러한 위협이 더 이상 이론이 아닌 현실임을 직시해야 합니다.
미래 AI 보안의 과제
Hugging Face 사건은 AI와 머신러닝 생태계의 취약성을 드러냈으며, 앞으로 AI 기반 보안 시스템의 중요성을 더욱 부각시킬 것입니다. 자율 AI 에이전트가 공격 도구로 사용될 때, 기존의 인간 중심 방어 전략만으로는 한계가 명확해집니다. 우리는 AI를 이용한 방어 시스템을 고도화하고, AI 윤리와 보안 연구에 더욱 투자하여, 진화하는 위협에 선제적으로 대응해야 하는 2026년의 새로운 과제에 직면해 있습니다.
