by Wizard

AI 신뢰성 위기: 환각 현상 심화와 데이터 품질 문제, 해결책은?

KPMG와 멜버른대학교의 최근 조사 결과는 AI에 대한 불안감이 팽배함을 보여줍니다. 응답자의 절반 이상이 AI의 안전성과 사회적 영향에 대해 우려하고 있으며, AI가 신뢰할 만한 답변을 제공하지 못한다고 생각합니다. 이러한 불신은 AI 교육 부족과 데이터 품질 문제, 그리고 환각 현상 심화와 같은 요인들이 복합적으로 작용한 결과입니다. AI 기술의 발전에도 불구하고 신뢰성 문제가 해결되지 않는다면, AI 도입과 활용에 큰 걸림돌이 될 수 있습니다.

AI 불신, 왜 생겨나는 걸까?

AI에 대한 불신은 크게 두 가지 요인에서 비롯됩니다. 첫째, AI에 대한 이해 부족입니다. 조사 결과, 응답자의 절반 가까이가 AI에 대한 지식이나 이해 수준이 낮다고 답했습니다. AI 작동 원리에 대한 이해 부족은 AI가 제공하는 정보에 대한 의구심으로 이어질 수 있습니다. 둘째, AI의 환각 현상입니다. AI는 종종 오류나 사실이 아닌 정보를 진짜처럼 만들어내는 환각 현상을 보입니다. 특히 생성형 AI 모델은 인간의 지시를 무시하고 자의적으로 판단하는 경향이 있어, 사용자에게 잘못된 정보를 제공할 수 있습니다.

데이터 품질, AI 신뢰성의 핵심

AI 모델의 정확도는 학습 데이터의 품질에 크게 좌우됩니다. 만약 학습 데이터에 오류나 편향이 포함되어 있다면, AI 모델 또한 잘못된 결과를 도출할 가능성이 높습니다. 최근 AI 모델은 초기 학습 데이터 고갈로 인해 품질이 낮은 데이터에 의존하는 경향이 있습니다. 모든 데이터를 동일한 가치로 취급하는 접근 방식은 문제를 악화시키고, 환각 현상의 원인을 추적하고 수정하는 일을 더욱 어렵게 만듭니다. 따라서 AI 신뢰성을 확보하기 위해서는 고품질 학습 데이터를 확보하고, 데이터 품질을 지속적으로 관리하는 것이 중요합니다.

환각 현상, 어떻게 해결해야 할까?

AI 환각 현상은 LLM의 '버그'가 아닌 본질적인 '특성'에 가깝습니다. LLM은 학습 데이터 내 통계적 패턴을 표현한 것에 불과하기 때문에, 정확하고 최신의 외부 데이터 세트를 기반으로 응답을 생성하도록 해야 합니다. RAG(Retrieval Augmented Generation)와 같은 기술을 활용하여 모델 외부에서 출처를 찾아 답변을 생성하는 것이 환각 현상을 줄이는 데 도움이 될 수 있습니다. 또한 AI 시스템의 동작을 원래 학습 데이터 수준까지 추적할 수 있어야 하며, 데이터의 품질과 맥락을 중요하게 고려해야 합니다.

SLM의 부상, AI 미래의 해답일까?

대형 언어 모델(LLM) 기반의 추론 시스템은 복잡한 추론에 적합하지만, 사실 기반의 질문응답에는 오히려 더 작고 단순한 모델이 적합합니다. 많은 전문가들이 AI의 미래는 거대한 모델이 아닌 소형 언어 모델(SLM)에 있다고 보는 이유입니다. SLM은 특정 과제를 더 효율적으로 해결하고 데이터센터의 연산 전력 부담을 줄일 수 있다는 장점이 있습니다. 기업들은 AI를 실제로 배포하기 전, 중, 후 단계에서 철저히 테스트하고, 사람이나 AI를 활용한 레드팀 방식의 검증을 활용하여 AI 시스템의 안전성을 확보해야 합니다.

책임감 있는 AI 사용을 위한 노력

AI 기술은 혁신적인 가능성을 가지고 있지만, 동시에 위험성도 내포하고 있습니다. 따라서 AI 개발과 활용에 있어서 책임감을 갖는 것이 중요합니다. AI 규제에 대한 요구가 높은 만큼, 국제적, 국가적 차원에서 AI 규제를 마련하고, 산업, 정부, 규제기관이 공동으로 협력하여 AI를 관리해야 합니다. 또한 AI 기반 허위정보에 대응하기 위한 법적 장치를 마련하고, AI 교육을 통해 AI에 대한 이해도를 높여야 합니다. 기업들은 AI 도입 시 투명성을 요구하고, 설명 가능하고 추적 가능한 AI에 투자하며, 성능을 실시간으로 모니터링해야 합니다.