by Wizard

AI 에이전트 보안, 기업의 딜레마: 활용 확대 속 숨겨진 위협과 해결책

최근 기업들의 AI 에이전트 활용이 급증하고 있지만, 보안 정책은 여전히 미흡한 수준이라는 보고서가 발표되어 주목받고 있습니다. 기업들은 AI 에이전트의 혁신적인 가능성에 주목하면서도, 보안 위협에 대한 우려를 동시에 느끼는 딜레마에 빠져 있습니다. 본 글에서는 AI 에이전트의 정의, 보안 위협 요인, 그리고 기업이 나아가야 할 방향에 대해 자세히 살펴보겠습니다.

AI 에이전트란 무엇인가? 자율적인 의사결정 시스템

세일포인트는 AI 에이전트를 특정 목표 달성을 위해 스스로 인식하고, 의사 결정을 내리며, 행동하는 자율 시스템으로 정의합니다. 이러한 AI 에이전트는 데이터, 애플리케이션, 서비스에 접근하기 위해 다양한 머신 아이덴티티를 필요로 하며, 스스로 수정하거나 하위 에이전트를 생성하는 등 복잡한 특성을 지닙니다. 이러한 복잡성 때문에 AI 에이전트는 기존 시스템보다 더 큰 보안 위협으로 간주됩니다.

AI 에이전트 보안 위협 요인: 데이터 접근부터 의사 결정까지

AI 에이전트가 보안 위협으로 인식되는 주요 요인은 다음과 같습니다. 첫째, 기밀 데이터에 대한 접근 능력입니다. 둘째, 의도치 않은 행동을 수행할 가능성입니다. 셋째, 기밀 데이터 공유 위험입니다. 넷째, 부정확하거나 검증되지 않은 데이터에 기반한 의사 결정입니다. 다섯째, 부적절한 정보에 대한 접근 및 공유 가능성입니다. 이러한 요인들은 AI 에이전트가 기업의 핵심 자산을 위협할 수 있음을 보여줍니다.

기업의 상반된 인식: 활용 확대 vs 보안 우려

전체 기업의 82%가 이미 AI 에이전트를 활용하고 있지만, 보안 정책을 마련한 곳은 44%에 불과합니다. 더욱이 전문가의 96%가 AI 에이전트를 보안 위협으로 인식함에도 불구하고, 기업의 98%는 향후 1년 내 AI 에이전트 활용을 확대할 계획이라고 밝혔습니다. 이는 기업들이 AI 에이전트의 잠재력을 높이 평가하면서도, 보안 문제에 대한 대비는 부족한 상황임을 시사합니다.

아이덴티티 중심 접근 방식: AI 에이전트 거버넌스의 핵심

세일포인트는 AI 에이전트 사용 확대에 따라 ‘아이덴티티 중심’ 접근 방식을 채택해야 한다고 강조합니다. 이는 AI 에이전트를 인간과 마찬가지로 실시간 권한 관리, 최소 권한 원칙 적용, 모든 활동에 대한 완전한 가시성 확보 등 엄격한 거버넌스 아래 관리해야 함을 의미합니다. AI 에이전트는 독립적인 아이덴티티 유형으로 간주되어야 하며, 휴먼 아이덴티티 뿐만 아니라 AI와 머신 아이덴티티까지 포괄적으로 관리할 수 있는 아이덴티티 보안 솔루션 도입이 필수적입니다.