by Wizard

기업의 AI 에이전트 도입 여정: 환멸의 골짜기를 넘어 현실적인 비즈니스 활용으로

최근 가트너의 하이프 사이클 보고서와 기업 현장의 시각 차이는 AI, 특히 생성형 AI와 AI 에이전트 기술에 대한 기대와 현실 간의 간극을 보여줍니다. 기업은 처음부터 AI를 ‘에이전트’ 관점에서 바라보며, 특정 비즈니스 운영 영역에 집중하는 전문가형 AI를 지향해왔습니다. 이는 범용적인 AI 툴보다 현실적인 비즈니스 활용에 초점을 맞춘 결과이며, ‘분리된 에이전트 개념’을 통해 강력한 비즈니스 성과를 창출할 수 있다고 믿습니다.

AI 에이전트 여정의 3가지 키워드: 임베디드, 리액티브, 워크플로우

AI 에이전트 기술 도입에 대한 기업의 여정은 세 가지 키워드, 즉 임베디드(Embedded), 리액티브(Reactive), 워크플로우(Workflow)로 요약됩니다. 이 세 가지 범주는 기업이 AI 에이전트 애플리케이션을 분류하는 데 사용하며, AI의 미래를 엿볼 수 있는 중요한 지표입니다. 이는 클라우드 기반의 범용 챗봇에 쏠린 대중적인 관심과 기업 IT의 실제 활용 방식 사이의 차이를 드러냅니다.

리액티브 AI 에이전트: 고객 지원에서 데이터 보안까지

리액티브 에이전트는 기업이 도입한 AI 에이전트 애플리케이션의 거의 절반을 차지합니다. 초기에는 고객 지원 챗봇으로 시작했지만, 데이터 보안 문제 등으로 인해 온라인 AI 챗봇에서 에이전트 애플리케이션으로 전환되는 추세입니다. 이 유형은 특화된 데이터를 학습시킨 ‘파운데이션 모델’과 기업 고유의 데이터를 연결하는 RAG(Retrieval-Augmented Generation) 방식을 사용합니다. 의료, 법률, 엔지니어링 등 전문직 종사자들이 주요 사용자입니다.

임베디드 AI 에이전트: 효용성 중심의 숨겨진 강자

현재 기업에서 사용하는 에이전트 애플리케이션의 약 1/3은 임베디드 범주에 속하며, 주로 서드파티 소프트웨어 형태로 도입됩니다. 임베디드 에이전트는 생성형 AI보다는 머신러닝(ML)에 가깝지만, 최근에는 SLM(small language model)이 전통적인 ML을 대체하는 경향이 있습니다. 사용자는 AI의 최신 기술보다는 구체적인 효용성을 더 중요하게 생각하며, 호스팅 요구사항이 적어 통합 및 리소스 공유가 용이합니다.

워크플로우 AI 에이전트: 기업 맞춤형 AI의 미래

워크플로우 에이전트는 기업이 직접 개발하는 경우가 많으며, 가장 빠르게 성장하는 유형입니다. 임베디드 에이전트가 애플리케이션 기능을 보조하는 역할에 그친다면, 워크플로우 에이전트는 기업이 AI 접근 방식 자체를 선택하고 호스팅 환경까지 고려해야 합니다. 오픈소스 모델 기반으로 운영되며, 에이전트 간 워크플로우(agent-to-agent workflow) 구현이 활발합니다. MCP(Model Context Protocol)와 A2A(Agent2Agent) 활용이 두드러집니다.

API의 중요성 확대와 프론트엔드 기술의 진화

기업이 AI를 자체 호스팅할 때 워크플로우 모델을 중심으로 활용하면서 에이전트 간 연계 및 API에 대한 관심이 높아지고 있습니다. A2A API의 중요성이 커지고 있으며, 프론트엔드 기술을 활용하여 리액티브 에이전트 모델을 보강하는 추세입니다. 프론트엔드 애플리케이션을 통해 프롬프트를 생성하면 동일한 에이전트로 다양한 범주의 에이전트 모델을 지원할 수 있습니다.

데이터 주권, 비용, 성능: 해결해야 할 과제

기업이 활용하는 AI 에이전트는 셀프 호스팅되는 경우가 많고, 기업 데이터에 지속적으로 접근해야 합니다. 이러한 데이터 통합 방식은 데이터 주권, 비용, 성능에 대한 우려를 야기하며, 클라우드 컴퓨팅, AI, 기업 인프라 간의 상호작용은 AI 관련 문제의 핵심 과제로 떠오르고 있습니다.

결론: 현실적인 AI 여정을 위한 지속적인 노력

AI 에이전트 기술은 기업의 비즈니스 모델에 맞춰 계속 진화하고 있습니다. 기업은 API의 중요성을 인지하고, 프론트엔드 기술을 활용하여 AI 모델을 보강하며, 데이터 주권, 비용, 성능 문제 해결을 위해 노력해야 합니다. 이러한 노력을 통해 기업은 환상적인 AI 기술에 매몰되지 않고 현실적인 비즈니스 성과를 창출하는 AI 여정을 성공적으로 이끌 수 있을 것입니다.