by Wizard

AI 악용 방지: OpenAI, 챗GPT 악성 캠페인 차단 성공

OpenAI가 챗GPT를 이용한 악성 캠페인을 차단했다고 발표했습니다. 여기에는 취업 사기, 영향력 행사, 스팸 캠페인 등이 포함되며, 러시아, 중국, 이란과 관련된 사례도 있습니다. 자세한 내용을 살펴보고, AI 악용 방지를 위한 노력과 앞으로의 과제를 짚어보겠습니다.

챗GPT 악용 사례 적발 및 차단

OpenAI는 "AI의 악성 사용 차단: 2025년 6월 보고서"를 통해 2025년 초 몇 달 동안 챗GPT를 이용한 10건의 취업 사기, 영향력 공작, 스팸 캠페인을 적발하고 차단했다고 밝혔습니다. 많은 캠페인이 중국, 러시아, 이란과 관련된 국가 후원 행위자에 의해 수행되었습니다.

중국발 소셜 엔지니어링 및 사이버 위협

OpenAI가 차단한 캠페인 중 4건은 중국에서 시작된 것으로 보이며, 소셜 엔지니어링, 은밀한 영향력 공작, 사이버 위협에 초점을 맞추고 있었습니다. "Sneer Review"라는 캠페인에서는 대만 게임 "Reversed Front"에 대한 중국의 비판적인 댓글이 쏟아졌습니다. 이후 이 캠페인 배후의 네트워크는 해당 게임이 광범위한 반발을 받았다는 기사를 작성하여 게임과 대만 독립을 폄훼하려 했습니다.

러시아의 미국 및 NATO 비판 활동

"Helgoland Bite"라는 캠페인에서는 러시아 행위자들이 챗GPT를 사용하여 미국과 NATO를 비판하는 독일어 텍스트를 생성하고, 독일 2025년 선거에 대한 콘텐츠를 제작했습니다. 특히 이들은 챗GPT를 사용하여 반대 활동가와 블로거를 찾고, 조직적인 소셜 미디어 게시물과 지불을 언급하는 메시지를 생성했습니다.

미국의 정치적 분열을 조장하는 콘텐츠

OpenAI는 "Uncle Spam"이라는 작전에서 미국을 대상으로 한 영향력 계정과 관련된 여러 챗GPT 계정을 금지했습니다. 중국 행위자들은 미국 내 정치적 분열을 확대하기 위해 관세에 대한 찬반 주장을 담은 소셜 미디어 계정을 만들고, 미국 참전 용사 지원 페이지를 모방한 계정을 생성하는 등 분열적인 콘텐츠를 생성했습니다.

온라인 활동의 진실성 경고

OpenAI의 보고서는 온라인에서 보이는 모든 것이 실제 사람이 게시한 것이 아니며, 온라인에서 논쟁을 벌이는 사람이 원하는 대로 참여, 분노, 분열을 일으키고 있을 수 있다는 점을 상기시켜 줍니다. 이러한 AI 악용 사례는 온라인 활동의 진실성에 대한 경각심을 높이고, 정보 습득 과정에서 비판적인 사고를 갖도록 촉구합니다.