AI 악용한 피싱 공격 등장: 마이크로소프트, AI 탐지 기술로 방어 성공

최근 마이크로소프트는 AI가 생성한 코드를 악용한 새로운 형태의 피싱 공격을 탐지하고 차단하는 데 성공했습니다. 공격자들은 SVG 파일에 악성 코드를 숨겨 PDF 파일로 위장하는 방식으로 공격을 시도했으며, 마이크로소프트의 보안 코파일럿은 AI가 생성한 코드의 특징을 감지하여 공격을 탐지했습니다. 이 사건은 사이버 보안 분야에서 AI의 활용이 공격과 방어 양쪽 모두에서 증가하고 있음을 보여줍니다.

AI, 피싱 공격의 새로운 무기가 되다

피싱 공격은 여전히 사이버 공격의 주요 수단 중 하나입니다. 공격자들은 더욱 정교하고 설득력 있는 공격을 위해 AI를 활용하기 시작했습니다. 이번 사례에서는 공격자들이 AI를 사용하여 악성 코드를 숨기고, PDF 파일로 위장한 SVG 파일을 만들었습니다. 이 파일은 마치 비즈니스 대시보드처럼 보이도록 디자인되었으며, 내부에 숨겨진 스크립트가 실행되면 사용자를 가짜 로그인 페이지로 리디렉션하여 계정 정보를 탈취하려 했습니다.

마이크로소프트 보안 코파일럿의 활약

마이크로소프트의 보안 코파일럿은 AI가 생성한 코드의 특징을 정확하게 포착했습니다. 과도하게 자세한 식별자, 반복적인 모듈 구조, 일반적인 주석, 그리고 XML 선언과 CDATA의 특이한 조합 등은 AI가 생성한 코드에서 흔히 나타나는 특징입니다. 이러한 특징들은 코드의 겉모습은 보기 좋게 만들지만, 실제로는 비효율적이라는 것을 나타냅니다. 보안 코파일럿은 이러한 특징들을 분석하여 해당 코드가 AI에 의해 생성되었을 가능성이 높다고 판단했습니다.

AI 기반 탐지 기술의 중요성

마이크로소프트는 AI 기반 탐지 도구인 Microsoft Defender for Office 365를 활용하여 공격자들이 숨기기 어려워하는 단서를 찾아냈습니다. 이 시스템은 특이한 자기 주소 지정 이메일 패턴, PDF 파일로 위장된 SVG 파일, 알려진 피싱 사이트로의 리디렉션, 파일 내부에 숨겨진 코드, 그리고 피싱 페이지에서 사용된 추적 방법 등을 식별했습니다. 이러한 다각적인 분석을 통해 마이크로소프트는 공격을 성공적으로 차단하고 피해를 최소화할 수 있었습니다.

공격의 제한적인 규모와 목표

이번 피싱 공격은 비교적 제한적인 규모로 진행되었으며, 주로 미국 내 조직을 대상으로 했습니다. 하지만 마이크로소프트는 이 사건이 공격자들이 AI를 활용하여 더욱 설득력 있는 미끼와 복잡한 악성 코드를 만들려는 시도의 시작을 알리는 중요한 사례라고 강조합니다. 사이버 보안 전문가들은 앞으로 AI를 악용한 공격이 더욱 증가할 것으로 예상하고 있으며, 이에 대한 대비가 필요하다고 지적합니다.

맺음말

AI 기술은 사이버 보안 분야에서 공격과 방어 양쪽 모두에 혁신적인 변화를 가져오고 있습니다. 공격자들은 AI를 활용하여 더욱 정교하고 설득력 있는 공격을 시도하고 있으며, 방어자들은 AI 기반 탐지 기술을 통해 이러한 공격에 대응하고 있습니다. 앞으로 AI 기술의 발전과 함께 사이버 보안 환경은 더욱 복잡하고 예측 불가능해질 것으로 예상됩니다. 따라서 사이버 보안 전문가들은 AI 기술에 대한 이해를 높이고, AI 기반 방어 시스템을 강화하여 끊임없이 진화하는 위협에 대응해야 할 것입니다.