by Wizard

AI 범죄의 급증: 사이버 보안에 대한 새로운 위협과 대응 전략

인공지능(AI) 기술의 발전은 우리 삶에 편리함을 가져다주었지만, 동시에 사이버 범죄의 새로운 가능성을 열었습니다. 이제 AI는 단순히 기술적인 도구가 아닌, 범죄자들이 사용하는 강력한 무기가 되었습니다. 본 글에서는 AI를 활용한 사이버 범죄의 현황과 그에 대한 대응 전략을 알아봅니다.

AI 범죄의 현실: 피싱 캠페인부터 딥페이크 사기까지

AI 기반 범죄는 급격히 증가하고 있으며, 피싱 캠페인의 설득력을 높이고 있습니다. 딥페이크 기술을 활용한 신원 공격은 전 세계적으로 3억 4,700만 달러 이상의 피해를 발생시켰습니다. 구독형 AI 범죄 도구는 안정적이고 성장하는 지하 시장을 형성하고 있습니다. 사이버 범죄자들은 AI를 사용하여 사기를 자동화하고, 피싱 캠페인을 확장하며, 이전에는 불가능했던 수준으로 개인을 사칭합니다. 이러한 AI 기반 공격은 기업이 직면한 가장 큰 보안 위협 중 하나가 될 수 있습니다. 하지만 경각심을 갖고 신속하게 대처하면 한발 앞서 나갈 수 있습니다.

AI 범죄의 진화: 다섯 번째 사이버 범죄 물결

Group-IB의 보고서에 따르면 AI를 범죄에 사용하는 것은 고립된 실험이 아닌, 상업적으로 이용 가능한 AI 도구에 의해 주도되는 다섯 번째 사이버 범죄 물결을 나타냅니다. 다크 웹 모니터링 결과, AI 관련 사이버 범죄 활동은 새로운 기술에 대한 단기적인 반응이 아님을 보여줍니다. 2019년에서 2025년 사이에 AI 관련 키워드를 언급하는 다크 웹 게시물이 371% 증가했습니다. 특히 2022년 말 ChatGPT의 공개 이후 관심 수준이 지속적으로 높게 유지되었습니다. 2025년에는 매년 수만 건의 포럼 토론에서 AI 오용을 언급하며 실험적인 호기심보다는 안정적인 지하 시장을 나타냅니다.

AI 범죄 시장의 구조화: 구독형 모델의 등장

Group-IB 분석가들은 대규모 언어 모델 악용에 초점을 맞춘 최소 251개의 게시물을 확인했으며, 대부분 OpenAI 기반 시스템과 관련되어 있습니다. 안전 제한 없이 자체 호스팅 Dark LLM을 제공하는 최소 3개의 공급업체가 있는 구조화된 AI 범죄 경제가 등장했습니다. 구독 가격은 월 30달러에서 200달러 사이이며, 일부 공급업체는 1,000명 이상의 사용자를 보유하고 있다고 주장합니다. 가장 빠르게 성장하는 분야 중 하나는 개인 사칭 서비스로, 신원 확인 우회와 관련된 딥페이크 도구에 대한 언급이 전년 대비 233% 증가했습니다. 입문용 합성 신분증 키트는 5달러에 판매되는 반면, 실시간 딥페이크 플랫폼은 1,000달러에서 10,000달러 사이입니다.

AI 기반 사기의 규모: 심각한 금전적 손실 발생

Group-IB는 2025년 1월에서 8월 사이에 단일 기관에서 8,065건의 딥페이크 기반 사기 시도를 기록했으며, 확인된 전 세계 손실액은 3억 4,700만 달러에 달합니다. AI 지원 악성 코드 및 API 악용이 급증했으며, AI가 생성한 피싱은 이제 서비스형 악성 코드 플랫폼 및 원격 액세스 도구에 내장되어 있습니다. 전문가들은 AI 기반 공격이 시스템을 지속적으로 모니터링하고 업데이트하지 않으면 기존 방어 체계를 우회할 수 있다고 경고합니다. 네트워크는 비정상적인 트래픽과 AI가 생성한 피싱 시도를 식별할 수 있는 방화벽으로 보호해야 합니다. 적절한 엔드포인트 보호를 통해 기업은 악성 코드 또는 원격 액세스 도구가 확산되기 전에 의심스러운 활동을 탐지할 수 있습니다.

AI 범죄에 대한 대응: 다층적 보안 전략

AI 기반 공격은 표준 방법보다 빠르게 실행되고 전파될 수 있으므로 신속하고 적응적인 악성 코드 제거가 중요합니다. 다층적 보안 접근 방식 및 변칙 탐지와 함께 이러한 조치는 딥페이크 통화, 복제된 음성 및 가짜 로그인 시도와 같은 침입을 막는 데 도움이 됩니다. AI 범죄에 효과적으로 대응하려면 지속적인 모니터링, 시스템 업데이트, 방화벽, 엔드포인트 보호, 신속한 악성 코드 제거, 다층적 보안 접근 방식 및 변칙 탐지를 포함하는 포괄적인 전략이 필요합니다.