AI 시대, 창과 방패의 멈추지 않는 싸움

AI 시대, 사이버 공격의 진화와 대응: 멈추지 않는 창과 방패의 싸움

AI, 사이버 공격의 새로운 무기가 되다

지난 20년간 예측되어 온 인공지능(AI) 기반 사이버 공격이 현실로 다가왔습니다. 해커들은 AI를 이용하여 네트워크 침투, 데이터 유출, 사회 공학적 기법을 활용한 직원 속임수 등 다양한 공격을 감행하고 있습니다. Anthropic의 Claude 챗봇을 이용한 대규모 랜섬웨어 공격 사례는 AI가 사이버 범죄에 본격적으로 활용되고 있음을 보여줍니다. AI는 공격의 정찰, 코드 생성, 자격 증명 탈취, 침투, 랜섬 노트 작성 등 전 과정에 관여하며, 심지어 랜섬 금액까지 제안하는 등 자동화된 범죄를 가능하게 합니다.

AI, 랜섬웨어 코드 자체를 작성하다

AI는 사이버 공격을 돕는 수준을 넘어 실제 랜섬웨어 코드 자체를 작성하고 업데이트하는 데 활용되고 있습니다. Anthropic과 보안 업체 ESET은 범죄자들이 생성형 AI를 이용하여 랜섬웨어 코드를 개발하고 유지보수하는 것을 확인했습니다. 특히, 암호화 기술이나 안티 분석 도구에 대한 기술적 지식이 부족한 공격자들은 Anthropic의 Claude 챗봇을 이용하여 코딩 및 소프트웨어 패키징 작업을 수행하고 있습니다. 이러한 AI 기반 랜섬웨어는 백신 스캔을 회피하고 새로운 보안 규칙을 우회하며 진화하는 특징을 보입니다.

챗봇의 허점을 노리는 해커들

생성형 AI 챗봇은 오용을 방지하기 위한 안전 장치가 마련되어 있지만, 해커들은 이를 무력화하고 악의적인 목적으로 사용하려는 시도를 끊임없이 합니다. Palo Alto Networks 연구진은 엉성한 문장 부호와 문법 오류가 있는 문장을 사용하여 챗봇의 안전 장치를 우회하는 방법을 제시했습니다. 또한, Trail of Bits 연구진은 고해상도 사진에 악성 프롬프트를 숨겨 AI의 다운스케일링 알고리즘을 통해 메시지를 드러내는 "멀티모달 프롬프트 주입" 공격을 발견했습니다. 이러한 공격은 챗봇뿐만 아니라 사용자까지 속일 수 있어 더욱 위험합니다.

AI, 음성 사기의 도구로 활용되다

과거에는 딥페이크 오디오를 이용한 CEO 사칭 사기 사건이 큰 충격을 주었지만, 생성형 AI 시대에는 흔한 일이 되었습니다. McAfee 연구에 따르면, 단 3초 분량의 음성 녹음만으로도 매우 설득력 있는 가짜 메시지나 전화 통화를 만들 수 있습니다. 특히, 2024년 McAfee 글로벌 조사에 따르면 4명 중 1명이 AI 음성 사기를 경험했거나 주변 사람이 피해를 입은 것으로 나타났습니다. 실제로 이탈리아 국방장관의 목소리를 복제하여 기업을 대상으로 한 사기 사건이 발생하기도 했습니다.

AI 브라우저, 새로운 공격 벡터로 등장하다

AI 브라우저는 웹 페이지 탐색, 폼 작성, 이메일 관리, 여행 예약, 구매 등 다양한 작업을 자동화하는 기능을 제공합니다. 하지만 Guardio Labs 연구진은 해커들이 AI 브라우저를 속여 범죄를 저지르게 할 수 있음을 보여주었습니다. 연구진은 Perplexity Comet 브라우저에게 가짜 Walmart 웹사이트에서 Apple Watch를 구매하도록 지시했고, AI는 사기 징후를 무시하고 저장된 신용카드 정보와 배송 정보를 자동으로 입력하여 구매를 완료했습니다. 이처럼 AI 브라우저는 새로운 공격 벡터로 떠오르고 있습니다.

불에는 불로 맞서라: AI 기반 사이버 보안의 필요성

대부분의 공격은 여전히 AI의 도움 없이 수행되지만, AI 기반 사이버 공격 시대에는 AI 기반 사이버 보안 도구가 필수적입니다. 이러한 도구는 수백만 건의 네트워크 이벤트를 실시간으로 스캔하고 문제를 사전에 감지할 수 있습니다. 소프트웨어 업데이트, 다중 인증, 직원 교육, 침투 테스트 등 기본적인 보안 수칙을 준수하는 것과 더불어 AI 기반 보안 솔루션을 도입하여 더욱 강력한 방어 체계를 구축해야 합니다.