Gemini 3 Flash의 ‘환각’ 현상: 똑똑하지만 모르는 것을 인정하지 못하는 AI?

인공지능(AI) 챗봇이 답변을 만들어내는 ‘환각’ 현상은 초기부터 문제점으로 지적되어 왔습니다. 최근 Gemini 3 Flash가 ‘환각’ 현상 테스트에서 높은 비율을 기록하며 다시 한번 논란이 되고 있습니다. 이 글에서는 Gemini 3 Flash의 ‘환각’ 현상에 대해 자세히 알아보고, 이러한 문제가 AI 기술 발전에 어떤 의미를 가지는지 살펴봅니다.

Gemini 3 Flash, 높은 ‘환각’ 현상 비율 기록

독립적인 테스트 그룹인 Artificial Analysis의 최근 평가에 따르면, Gemini 3 Flash는 ‘AA-Omniscience’ 벤치마크의 ‘환각률’ 부문에서 91%를 기록했습니다. 이는 Gemini 3 Flash가 모르는 질문에 대해 ‘모르겠다’고 답하는 대신, 거의 항상 허구의 답변을 제시한다는 의미입니다. AI 챗봇에게 ‘모르겠다’고 말하는 능력은 정확한 답변을 제공하는 능력만큼 중요합니다. 하지만 Gemini 3 Flash는 아직 이 부분에서 미흡한 모습을 보이고 있습니다.

‘환각’ 현상, 실제 답변 오류 비율과는 차이

Gemini 3 Flash의 높은 ‘환각률’이 전체 답변의 91%가 거짓이라는 의미는 아닙니다. ‘환각률’은 정답이 ‘모르겠다’인 상황에서 허구의 답변을 제시하는 비율을 의미합니다. 이는 미묘하지만 중요한 차이이며, 특히 Gemini가 Google 검색과 같은 더 많은 제품에 통합될 때 실제적인 영향을 미칠 수 있습니다. 모르는 것을 아는 척하는 Gemini의 특성은 사용자에게 잘못된 정보를 제공할 가능성이 있습니다.

Gemini 3 Flash의 강점과 한계

Gemini 3 Flash의 ‘환각’ 현상은 분명 문제점이지만, 이 모델의 능력과 유용성을 깎아내려서는 안 됩니다. Gemini 3 Flash는 여전히 범용 테스트에서 가장 뛰어난 성능을 보이며, 최신 버전의 ChatGPT 및 Claude와 동등하거나 그 이상의 성능을 자랑합니다. 다만, 겸손해야 할 때 자신감을 보이는 경향이 있습니다. 이러한 과도한 자신감은 Gemini의 경쟁 모델에서도 나타나는 현상입니다.

‘환각’ 현상의 원인: 단어 예측 도구의 한계

생성형 AI 모델은 기본적으로 단어 예측 도구입니다. 새로운 단어를 예측하는 것은 진실을 평가하는 것과는 다릅니다. 따라서 AI는 ‘모르겠다’고 말하는 것보다 새로운 단어를 만들어내는 것을 기본 행동으로 설정합니다. OpenAI는 이러한 문제를 해결하기 위해 모델이 모르는 것을 인식하고 명확하게 말하도록 훈련하는 데 노력을 기울이고 있습니다. 이는 보상 모델이 자신감 있는 (하지만 틀린) 답변보다 빈 응답을 더 높게 평가하지 않기 때문에 어려운 훈련 과정입니다.

Gemini의 미래: 신뢰성을 높이기 위한 노력

Gemini는 일반적으로 출처를 인용하지만, 필요할 때 멈추지 못하는 경우가 있습니다. 이는 Gemini가 단순한 연구 모델이라면 큰 문제가 되지 않겠지만, Google의 다양한 기능에 통합되면서 자신감 있는 오류가 더 큰 영향을 미칠 수 있습니다. 사용자들은 AI 어시스턴트가 빠르고 원활하게 응답하기를 기대하지만, ‘잘 모르겠다’ 또는 ‘확인해 보겠다’라고 말하는 것이 잘못된 정보에 현혹되는 것보다 낫습니다.

맺음말

생성형 AI는 아직 완벽하지 않지만, AI 응답을 항상 다시 확인하는 것은 좋은 습관입니다. Gemini 3 Flash의 ‘환각’ 현상은 AI 기술의 한계를 보여주는 사례이지만, 동시에 개선해야 할 방향을 제시합니다. 앞으로 AI 모델이 더욱 발전하여 사용자에게 신뢰할 수 있는 정보를 제공할 수 있기를 기대합니다.