에이전틱 AI의 그림자: CISO의 사이버보안 악몽이 현실로 다가오다
인공지능(AI) 기술이 발전하면서 자율적으로 작동하는 에이전틱 AI의 도입이 빠르게 확산되고 있습니다. 이러한 변화는 기업의 생산성을 향상시키고 새로운 가능성을 열어주지만, 동시에 사이버보안 분야에 심각한 위협을 초래하고 있습니다. 특히, CISO(최고정보보안책임자)는 급증하는 에이전틱 AI와 관련된 보안 문제에 대한 심각한 고민에 빠져 있습니다.
통제 불능의 비인간 ID 증가
에이전틱 AI의 확산은 기업 내 비인간 ID(Non-Human Identity, NHI)의 폭발적인 증가를 야기합니다. 서비스 계정, API 키, 자동화 인증 정보 등 다양한 형태로 존재하는 비인간 ID는 인간의 통제를 벗어나 자체적으로 활동하며, CISO는 이들의 정체성, 활동 내역, 의사결정 과정을 제대로 파악하기 어려워집니다. 전문가들은 비인간 ID의 수가 CISO의 통제 범위를 훨씬 넘어설 것이라고 경고합니다. 이는 기업이 오랫동안 비인간 ID 거버넌스를 방치해온 결과이기도 합니다.
가시성 부족으로 인한 보안 공백
비인간 ID의 급증만큼이나 심각한 문제는 CISO가 이들을 제대로 파악하지 못한다는 점입니다. AI 에이전트는 특히 가시성이 낮은 영역으로 꼽히며, 상당 부분이 '그림자 영역'에 숨어 있습니다. 일부 부서나 외부 파트너가 IT 또는 보안팀에 보고 없이 에이전틱 AI 실험을 진행하는 경우가 대표적입니다. 이러한 그림자 영역은 완전한 비인가 활동뿐만 아니라 잠재적인 위험 요소도 포함하고 있어, 기업의 보안을 심각하게 위협할 수 있습니다.
과거의 유산, 현재의 위협
현재의 사이버보안 위기는 단순히 에이전틱 AI 때문에 발생한 것이 아닙니다. 수년 동안 기업들은 서비스 계정, API 키, 자동화 인증 정보 등을 만들어 시스템을 유지하면서, 점차 잊어버리는 과정을 반복해왔습니다. 에이전틱 AI는 이러한 과거의 유산에 '속도'와 '범위'를 더했을 뿐입니다. 이제 레거시 ID는 시스템, 업체, 워크플로우 전반에 걸쳐 작동하는 실행 계층이 되어, 과거에는 제한적이었던 위험을 증폭시키고 있습니다.
새로운 시대, 새로운 접근 방식
폭발적으로 증가하는 비인간 ID를 관리하기 위해 기업은 기존의 인간 중심적인 절차를 그대로 적용하는 것은 불가능합니다. 전문가들은 완벽한 통제를 추구하기보다는 현실적인 목표를 설정하고, 새로운 접근 방식을 도입해야 한다고 조언합니다. 모든 ID를 완벽하게 관리하는 것은 불가능하지만, 지금부터라도 신규 비인간 ID에 대한 철저한 아이덴티티 전략을 수립하고, 통제되지 않은 ID의 비율을 점진적으로 낮춰나가는 것이 중요합니다.
통제와 분리, 그리고 새로운 시작
기존 시스템을 고치려고 노력하기보다는, 과거의 레거시 문제는 건드리지 않는 것이 효율적일 수 있습니다. 대신, 앞으로 생성될 모든 비인간 ID를 통제하고, 분리하고, 이미 침해됐다고 가정하고 적대적인 환경으로 다뤄야 합니다. 모든 비인간 ID를 목록화하고, 상시 접근 권한과 JIT(Just-In-Time) 접근을 구분하고, 각각에 명확한 소유권을 부여하는 것이 중요합니다. 복잡한 솔루션보다는 끔찍할 정도로 방대한 스프레드시트라도 ID를 정리하는 것이 훨씬 큰 도움이 될 수 있습니다.
신뢰를 관리하는 시스템으로의 전환
비인간 ID가 인간 ID를 압도하는 시대에는 ID 관리를 넘어 신뢰를 관리하는 시스템으로 전환해야 합니다. 단순히 ID의 수를 관리하는 것이 아니라, 각 ID가 실행하는 행위에 대한 의도, 소유권, 책임을 명확히 증명하는 것이 중요합니다. 또한, 속도와 가동 시간을 우선시하는 현재의 보상 구조를 재검토하고, 머신에 과도한 권한이 부여되지 않도록 견제해야 합니다.
CISO의 과제: 위기를 기회로
에이전틱 AI의 확산은 CISO에게 큰 도전이지만, 동시에 사이버보안 체계를 혁신할 수 있는 기회이기도 합니다. 비인간 ID 거버넌스 강화, 가시성 확보, 신뢰 기반 시스템 구축 등을 통해 CISO는 에이전틱 AI 시대의 사이버보안 위협에 효과적으로 대응하고, 기업의 안전한 디지털 전환을 이끌어낼 수 있을 것입니다. 리더십의 정렬을 통해 CIO와 협력하여 균형을 이루는 것이 중요합니다.
