by Wizard

생성형 AI 시대, 경쟁 우위를 확보하는 방법: 기술적 한계 극복 전략

최근 기업들은 생성형 AI(GenAI) 또는 에이전트 AI 활용에 대한 엄청난 압박을 받고 있습니다. 하지만 일부 경영진들은 빠르게 변화하는 기술을 활용하는 기업들과 경쟁할 방법이 없다고 불만을 토로합니다. 이러한 불만에 대해 저는 오히려 기회가 있다고 생각합니다. GenAI의 문제점을 파악하고 이를 극복하는 것이 경쟁 우위를 확보하는 가장 강력한 방법이기 때문입니다.

GenAI의 신뢰성 문제

GenAI 시스템은 아직 신뢰성이 낮습니다. 이는 GenAI가 제공하는 답변이나 추천 대부분이 틀렸다는 의미는 아닙니다. 단지 오류가 빈번하게 발생하며, 그 패턴을 예측하기 어렵다는 것입니다. 이러한 오류는 환각, 불충분하거나 오래되었거나 품질이 낮은 학습 데이터, 모델 미세 조정 데이터의 문제, 시스템의 쿼리 오해, 사용자의 잘못된 쿼리 표현 등 다양한 원인에서 비롯될 수 있습니다.

언어와 관련된 데이터 정확성 및 신뢰성 문제도 존재합니다. GenAI 모델의 정확성은 비영어권 정보를 처리할 때 급격히 떨어집니다. 다국적 기업의 경우 이는 심각한 문제가 될 수 있습니다. 또한 이러한 시스템은 종종 안전 장치를 무시하고, 사용자가 부과하려는 제한 사항을 무시할 수 있습니다. 이러한 모든 요소를 고려할 때 IT 책임자는 GenAI 시스템을 완전히 신뢰할 수 없습니다. 마치 중요한 보고서에서 주기적으로 허위 사실을 꾸며내는 뛰어난 직원을 고용한 것과 같습니다.

실제 경험과 전문성의 가치

일부 경영진은 GenAI에 대한 경쟁 우위 확보 방법으로 전문성 활용을 이야기합니다. 이는 타당한 지적이지만, GenAI를 능가하는 정보여야 합니다. 예를 들어 법률 회사를 생각해 봅시다. 변호사가 제시하려는 주장에 대한 선례를 찾는 판례법을 생각해 봅시다. GenAI 도구는 모든 법원 결정의 모든 단어를 기억할 수 있기 때문에 이 싸움에서 이길 수 있습니다. 하지만 판례법 연구는 단순히 판례를 읽는 것 이상입니다. 변호사는 판례의 의도, 뉘앙스, 관련 역사를 이해해야 합니다. GenAI 시스템은 이를 수행할 수 없습니다.

언론 분야도 마찬가지입니다. 일부 언론 매체는 GenAI를 활용하여 기사를 작성하려고 시도합니다. 일상적인 날씨 보고서, 스포츠 점수, 부고 기사와 같은 매우 기본적인 기사의 경우 GenAI가 효과적일 수 있습니다. 하지만 궁극적인 기사는 독자를 놀라게 하는 기사입니다. 이를 위해서는 기자가 독자가 모르는 것, 독자가 알고 있는 것과 모순되는 것을 찾아야 합니다. GenAI는 이미 언급된 내용을 재구성할 뿐이기 때문에 이러한 것을 할 수 없습니다.

데이터 유출 문제

데이터 유출 및 이와 관련된 "데이터 제어 부족"은 GenAI 시스템의 성장 방식과 관련이 있습니다. GenAI 시스템은 사용자의 쿼리를 학습에 활용할까요? 월요일에 공유된 정보가 금요일에 경쟁사에게 제공되는 답변에 포함될 수 있을까요? 오픈 소스, 사내 폐쇄 시스템, 에어 갭 시스템 사용과 같은 간단한 방법으로 데이터 유출을 제한할 수 있습니다.

만약 기업이 데이터 위험 없이 GenAI의 유연성을 제공하는 폐쇄 루프 시스템을 구축한다면 엄청난 성공을 거둘 수 있을 것입니다. 에이전트 AI 시스템은 기업이 엄청난 위험 없이 에이전트를 활용할 수 있는 잠금 시스템을 개발하도록 유도하고 있습니다.