by Wizard

기업 내 AI 오용 급증: 그림자 AI 시대, 당신의 정보는 안전한가?

최근 CalypsoAI가 발표한 보고서 "내부자 AI 위협 보고서"는 미국 기업 내 AI 사용 실태의 어두운 면을 조명했습니다. 보고서는 직급 고하를 막론하고 직원들이 AI를 오용하는 사례가 증가하고 있으며, 심지어 경영진조차 회사의 중요 정보를 AI 학습에 사용하는 등 위험한 행동을 보인다고 지적합니다. 이러한 ‘그림자 AI’의 확산은 기업의 보안을 심각하게 위협하며, 새로운 해결책 모색을 요구하고 있습니다.

경영진의 AI 선호와 인식 부족

보고서에 따르면 경영진의 절반(50%)이 인간 관리자보다 AI 관리자를 선호한다고 답했습니다. 이는 AI가 업무 효율성을 높일 수 있다는 기대감을 반영하지만, 동시에 AI에 대한 이해 부족을 드러내는 대목이기도 합니다. 34%의 경영진은 AI 에이전트와 실제 직원을 구별하지 못하며, 38%는 AI 에이전트가 무엇인지조차 모른다고 응답했습니다. 더욱 심각한 문제는 C-suite 임원진의 35%가 AI를 이용해 업무를 완료하기 위해 회사 기밀 정보를 제출한 경험이 있다는 것입니다. 이는 정보 유출의 심각한 위험을 초래할 수 있는 행동입니다.

규정 위반과 AI 신뢰도

전체 직원의 45%가 동료보다 AI를 더 신뢰하며, 52%는 회사 정책을 위반하더라도 AI를 사용해 업무를 더 쉽게 처리하고 싶어하는 것으로 나타났습니다. 특히 경영진의 67%는 규칙을 어기더라도 AI를 사용하겠다는 의지를 밝혔습니다. 금융 업계 응답자의 60%가 AI 관련 규정을 위반한 적이 있으며, 1/3은 AI를 이용해 접근이 제한된 데이터에 접근한 경험이 있다고 답했습니다. 보안 업계에서는 42%의 직원이 정책에 위배되는 AI 사용을 인지하고 있으며, 58%는 동료보다 AI를 더 신뢰한다고 응답했습니다. 의료 업계에서는 단 55%의 직원만이 조직의 AI 정책을 준수하며, 27%는 인간 관리자보다 AI에게 보고하는 것을 선호한다고 밝혔습니다.

그림자 AI, 새로운 보안 위협

Info-Tech Research Group의 Justin St-Maurice는 "그림자 AI가 새로운 그림자 IT가 되었다"고 지적합니다. 직원들은 승인되지 않은 AI 도구를 사용하여 실제 업무를 처리하고 있으며, AI는 인지적 부담을 줄이고 업무 속도를 향상시키는 데 도움을 주기 때문입니다. 그는 직원들이 조직 정책에 반하더라도 AI를 사용하겠다는 의지를 보이는 것은 AI가 제공하는 이점이 크기 때문이라고 분석합니다. 그러나 이러한 무분별한 AI 사용은 지적 재산, 기업 전략, 민감한 계약 정보, 고객 데이터 유출로 이어질 수 있다는 심각한 위험을 내포하고 있습니다.

구조화된 지원과 명확한 정책 필요

St-Maurice는 AI 서비스 차단이 오히려 직원들을 더 깊숙이 숨어들게 만들 수 있다고 경고하며, 구조화된 지원을 통해 문제를 해결해야 한다고 주장합니다. 그는 승인된 AI 게이트웨이를 제공하고, 신원 인증 시스템과 연동하며, 프롬프트와 결과물을 기록하고, 민감한 정보에 대한 수정 기능을 적용하고, 명확하고 이해하기 쉬운 규칙을 공지해야 한다고 강조합니다. 또한, 역할 기반의 짧은 교육과 승인된 모델 및 사용 사례 목록을 제공하여 직원들이 안전하게 AI를 활용할 수 있도록 지원해야 합니다.

AI 사용에 대한 통제와 감시

CalypsoAI CEO Donnchadh Casey는 기업들이 AI 사용을 완전히 차단하는 대신, AI에 대한 접근 권한을 부여하되, 정책 위반 행위에 대해서는 즉각적으로 개입할 수 있도록 AI 사용을 감시하고 통제해야 한다고 주장합니다. 그는 명확하고 시행 가능한 정책과 함께 실시간 통제 기능을 통해 AI 활동을 안전하게 보호해야 한다고 강조합니다. 이는 AI 에이전트의 사용에 대한 감시를 포함하며, 민감한 데이터에 접근하고 업무를 수행하는 AI 에이전트에 대한 감독을 강화해야 합니다. AI가 실제로 사용되는 환경에서 AI를 보호함으로써 기업은 가시성과 통제력을 유지하면서 AI를 활용할 수 있습니다.

결론

기업들은 AI 오용이라는 새로운 위협에 직면하고 있습니다. 직원들의 무분별한 AI 사용은 정보 유출과 같은 심각한 결과를 초래할 수 있습니다. AI 사용을 통제하고 감시하는 동시에, 직원들에게 안전하게 AI를 활용할 수 있는 환경을 제공하는 것이 중요합니다. 명확한 정책과 교육, 그리고 기술적인 솔루션을 통해 기업은 AI의 잠재력을 최대한 활용하면서도 보안 위험을 최소화할 수 있을 것입니다.