AI 악용한 사이버 공격 진화

AI가 사이버 범죄 생태계를 재편하며 공격 자동화, 피싱 고도화, 악성코드 개발 지원 등 다양한 방식으로 악용되고 있습니다. 2026년 현재 AI 기반 사이버 공격의 진화 양상과 대응 전략을 분석합니다.

AI 악용한 사이버 공격 진화

AI는 기술 산업 전반을 재편하고 있으며 사이버 범죄 생태계 역시 예외는 아닙니다. 공격자는 생성형 AI를 활용해 전술 기법 절차를 개선하고 더 빠르고 강력하며 은밀한 공격을 수행하고 있습니다.

합법적 활용 사례와 마찬가지로 현재까지 생성형 AI의 악용은 전례 없는 새로운 공격 유형 창출보다는 생산성과 효율성 향상에 초점이 맞춰져 있습니다. 진입 장벽을 낮추고 자동화 가능한 작업을 기계에 맡김으로써 인간은 보다 고차원적 사고에 집중하는 구조입니다.

AI 악용, 기존 범죄 가속화 및 확장

AI 보안 테스트 업체인 마인드가드 CEO이자 영국 랭커스터대학교 교수 피터 개러건은 인터뷰에서 AI가 새로운 범죄 유형을 반드시 만들어내는 것은 아니다. 대신 기존 범죄를 가속화하거나 확장하고 새로운 위협 벡터를 추가하는 수단이 된다라고 밝혔습니다.

이어 합법 사용자가 자동화 복잡한 패턴 분석 기술 진입 장벽 완화 비용 절감 신규 콘텐츠 생성에 AI을 활용한다면 범죄자도 같은 방식을 택하지 않을 이유가 없다라고 설명했습니다. 다만 최근에는 자율적으로 행동하는 에이전트형 AI가 등장하면서 상황이 달라지고 있습니다. AI가 단순 보조 도구를 넘어 공격 자동화의 주체로 진화하고 있습니다.

공격 자동화의 주체로 진화하는 AI

시스디그 선임 사이버보안 전략가 크리스털 모린은 지난 1년간 가장 큰 변화는 AI가 단순 보조자를 넘어 완전 자율적이며 공격자의 공범처럼 전체 공격 체인을 실행할 수 있는 단계로 발전한 점이라고 말했습니다.

기업 시스템 공격에 악용되는 생성형 AI 사례

현재 기업 시스템 공격에 악용되는 생성형 AI 사례를 살펴보면 다음과 같습니다.

• 피싱 고도화: 생성형 AI는 매우 정교한 피싱 이메일을 제작할 수 있어 사용자가 사기 사이트에 민감 정보를 입력하거나 악성코드를 내려받을 가능성을 크게 높입니다. 과거처럼 어색하고 오류가 많은 일반적 이메일을 대량 발송하는 대신 공격자는 특정 수신자를 겨냥한 정교하고 개인화된 메시지를 빠르게 생성할 수 있습니다. 소셜미디어에서 수집한 표적 정보 등 다양한 데이터도 피싱 캠페인에 통합할 수 있습니다.

• 악성코드 개발 지원: AI는 더욱 정교하거나 개발 부담이 적은 악성코드 생성에도 활용됩니다. 예를 들어 공격자는 생성형 AI로 악성 HTML 문서를 제작합니다. 악성 코드를 포함해 악성코드를 다운로드 실행하는 X웜 공격은 HTML 스머글링 방식으로 시작되며 개발 과정에서 AI가 사용된 흔적이 확인됩니다.

• 취약점 탐색과 익스플로잇 가속화: 생성형 AI는 시스템 취약점 분석과 익스플로잇 개발도 단순화합니다. 공격자가 직접 시스템 경계를 정찰하는 대신 AI 에이전트에 자동 수행을 맡길 수 있습니다. 위협 인텔리전스 업체 릴리아퀘스트의 지난해 연구에 따르면 취약점 발견 후 실제 악용까지 걸리는 시간은 47일에서 18일로 62% 단축됐습니다.

• AI 기반 첩보 활동 자동화: 앤트로픽은 2025년 9월 정교한 AI 기반 자동화 사이버 첩보 캠페인을 차단했다고 밝혔습니다. 공격자는 클로드 코드를 악용해 캠페인 활동의 약 80%를 자동화했으며 약 30개 주요 기술 기업과 금융기관 정부 기관을 표적으로 삼았습니다.

• 범죄자 전용 대규모 언어 모델 등장: 사이버 범죄자는 주류 생성형 AI 플랫폼의 안전장치를 우회하기 위해 자체 대규모 언어 모델을 개발하고 있습니다. 대표 사례로 웜GPT 프로드GPT 다크버트 등이 있으며 피싱 이메일 작성과 악성코드 생성 등에 활용됩니다.

• LLM재킹을 통한 자원 탈취: 공격자는 고가의 대규모 언어 모델 자원을 탈취하기 위해 클라우드 자격 증명을 훔치는 LLM재킹 공격을 수행하고 있습니다. 시스디그의 모린은 성숙한 플랫폼과 달리 안전장치가 없는 신규 모델을 찾아 악성 코드 생성이나 지역 제재 우회를 시도하는 사례도 확인되고 있다고 밝혔습니다.

• AI 에이전트 암시장 등장: 보안 전문가는 여러 전문 에이전트가 협력하는 자동화된 범죄 구조를 추적하고 있습니다. 네트워크 기반 위협 탐지 업체 벡트라 AI 사이버위협 연구 매니저 루시 카르디에는 정찰 도구 제작 실행 데이터 이동 등 역할별 에이전트가 상호작용하는 초기 사례가 나타나고 있다고 설명했습니다. 대표 사례로 다크웹 형태의 AI 에이전트 마켓플레이스 몰트 로드가 있으며 현재 등록 수는 많지 않지만 구조적 위험성은 존재합니다.

AI 악용한 공격에 대한 대응 전략

생성형 AI 오남용은 숙련도가 낮은 범죄자의 진입 장벽을 낮추고 있습니다. 마인드가드 CEO 겸 CTO 피터 개러건은 AI 기반 위협을 시험 탐지 대응하기 위해 방어 측 역시 AI를 적극 활용해야 한다고 강조했습니다. 기업은 임직원 교육과 함께 생성형 AI 기반 위협을 실시간 탐지 무력화하는 체계를 구축해야 합니다.