기업의 보안 위협, AI 브라우저 사용 금지해야 하는 이유

최근 Perplexity Comet, OpenAI의 ChatGPT Atlas와 같은 AI 브라우저가 등장하면서 업무 효율성을 높일 수 있다는 기대감이 커지고 있습니다. 하지만 Gartner는 이러한 AI 브라우저가 해결 불가능한 보안 위험을 내포하고 있어 기업에서 사용을 금지해야 한다고 강력하게 권고하고 있습니다. 왜 기업은 AI 브라우저 사용을 막아야 할까요?

AI 브라우저, 왜 위험한가?

AI 브라우저는 사용자의 웹 콘텐츠, 검색 기록, 열린 탭 정보 등을 클라우드로 전송하여 분석합니다. 이 과정에서 기업은 데이터 통제력을 상실하게 되며, 민감한 정보 유출의 위험이 커집니다. Perplexity의 문서에도 Comet이 사용자의 질의를 처리하기 위해 페이지의 텍스트나 이메일과 같은 로컬 데이터를 사용할 수 있다고 명시되어 있습니다.

데이터 유출, 돌이킬 수 없는 피해

Gartner의 분석가 Evgeny Mirolyubov는 "AI 서비스로의 민감한 데이터 유출은 돌이킬 수 없고 추적도 불가능할 수 있다"고 경고합니다. 유출된 데이터는 회수하기 어려우며, 기업은 심각한 피해를 입을 수 있습니다.

전통적인 보안 통제의 한계

AI 브라우저는 웹사이트 탐색, 양식 작성, 거래 완료 등을 자율적으로 수행할 수 있습니다. 이는 프롬프트 주입 공격, 부정확한 추론에 의한 오류, 피싱 웹사이트 유도 등 새로운 사이버 보안 위협에 취약하게 만듭니다. 기존의 보안 시스템으로는 이러한 위협을 효과적으로 방어하기 어렵습니다.

프롬프트 주입 공격의 위험성

OpenAI의 CISO인 Dane Stuckey 조차도 프롬프트 주입 공격은 해결되지 않은 보안 문제이며, 공격자들이 ChatGPT 에이전트를 속이기 위해 많은 노력을 기울일 것이라고 인정했습니다.

발견된 보안 취약점

ChatGPT Atlas 출시 직후, macOS에서 OAuth 토큰이 암호화되지 않은 채로 저장되는 취약점이 발견되었습니다. 또한, Comet에서는 사용자 데이터를 공격자가 제어하는 서버로 유출할 수 있는 "CometJacking"이라는 취약점이 발견되기도 했습니다. 이러한 취약점들은 AI 브라우저 기술의 미성숙함을 보여줍니다.

보안 및 개인 정보 보호, 설계 단계부터 고려해야

Mirolyubov는 보안 및 개인 정보 보호가 단순히 추가되는 기능이 아닌 핵심 설계 원칙이 되어야 한다고 강조합니다. AI 브라우저 공급업체는 기업 수준의 사이버 보안 통제를 처음부터 통합하고, 데이터 흐름 및 에이전트 결정에 대한 투명성을 높여야 합니다.

장기적인 관점에서의 접근 필요

AI 사용 제어 솔루션이 성숙하기까지는 수개월이 아닌 수년이 걸릴 것으로 예상됩니다. 위험 감수성이 낮은 조직은 AI 브라우저를 장기간 차단해야 할 수도 있습니다. 높은 위험 감수성을 가진 조직은 소규모 그룹을 대상으로 위험이 낮은 사용 사례에 대한 파일럿 테스트를 제한적으로 진행하고, AI 브라우저의 자율적인 탐색 과정을 면밀히 모니터링해야 합니다.

맺음말

현재 대부분의 사이버 보안 팀은 AI 브라우저 관련 위험이 더 잘 이해되고 통제가 더욱 성숙해질 때까지 도입을 늦추고 AI 브라우저를 차단하는 방법을 선택하고 있습니다. 기업은 기존 네트워크 및 엔드포인트 보안 통제를 사용하여 AI 브라우저 설치를 차단하고, AI 정책을 검토하여 AI 브라우저의 광범위한 사용을 금지해야 합니다.