챗봇을 넘어: 엔터프라이즈 AI 혁신의 길
챗봇은 종종 AI의 대명사처럼 여겨지지만, 그 역할은 제한적입니다. 간단한 질의응답이나 자연어 인터페이스 제공 수준에 머무르는 경우가 많죠. 진정한 AI의 힘은 챗봇을 넘어, 기업 IT 스택에 깊숙이 통합되어 고급 필터링, 요약, 번역, 음성 인식 등 다양한 기능을 제공하는 데 있습니다.
AI, 기존 개발 스택의 확장으로
AI를 기존 개발 스택의 일부로 통합하는 것은 단순히 새로운 기술을 추가하는 것을 넘어, 소프트웨어의 가능성을 확장하는 혁신입니다. AI 솔루션은 체계적인 구현 방식을 통해 기업의 운영 효율성을 높이고 새로운 가치를 창출할 수 있습니다. 챗봇이 검색 툴의 확장이라면, AI는 애플리케이션의 핵심 구성 요소로서 엔터프라이즈 애플리케이션의 성능을 극대화하는 역할을 합니다.
에이전틱 AI: API로 다루는 AI
에이전틱 AI는 AI를 오케스트레이션 가능한 API로 취급하여 AI 활용의 유연성과 확장성을 높입니다. 데이터 소스는 MCP(Model Context Protocol) 서버에서 제공되고, 에이전트 간 인증 및 권한 부여는 A2A(Agent2Agent) 프로토콜을 통해 관리됩니다. 이러한 구조는 AI를 모듈화하고 관리하기 용이하게 만들어, 개발자들이 AI를 더욱 쉽게 통합하고 활용할 수 있도록 돕습니다.
링크드인의 접근 방식: 메시징 기반 플랫폼
링크드인은 2024년 11월, 생성형 AI 애플리케이션 스택에 대한 접근 방식을 공개하며 에이전틱 AI 애플리케이션 구축, 테스트, 모니터링에 집중하고 있습니다. 링크드인의 접근 방식은 기존 분산 애플리케이션 개발 방법을 기반으로 하며, 메시징 기반 플랫폼의 일부로 에이전트를 구현하는 방식을 채택하고 있습니다. 이는 AI를 새로운 기술로 분리하여 생각하기보다, 기존 시스템과의 통합을 중요하게 생각하는 접근 방식입니다.
익숙한 개념 다루기
링크드인 수석 엔지니어 카르틱 람고팔은 에이전트 구축 시에도 기존 애플리케이션 개발 방식을 활용하는 것이 중요하다고 강조합니다. 그는 "에이전트를 구축한다 해도 사용자와 접하는 애플리케이션이라는 현실은 여전히 마찬가지다. 즉, 백그라운드에는 여전히 대규모 분산 시스템이 존재한다. 따라서 모든 요소를 처음부터 새로 만드는 대신, 익숙한 기술을 활용하되 에이전트가 대규모로 작동하는 데 필요한 계층을 추가하면 된다"라고 말합니다. 메시징 아키텍처는 에이전트 기반 애플리케이션에서 중요한 역할을 합니다. 자연어 소통 능력은 매우 중요하며, 정형/비정형 정보를 함께 활용하는 것은 에이전트와 A2A 프로토콜에서 더욱 중요해지고 있습니다.
에이전트 라이프 사이클 서비스 구축
링크드인 에이전틱 AI 플랫폼의 핵심은 '에이전트 라이프 사이클 서비스'입니다. 이는 에이전트, 데이터 소스, 애플리케이션을 조율하는 상태 비저장(stateless) 서비스입니다. 상태와 맥락은 서비스 외부의 대화 및 경험 메모리 저장소에 보관되므로, 링크드인은 플랫폼을 빠르게 수평 확장하고 다른 클라우드 네이티브 분산 애플리케이션과 같은 방식으로 컴퓨팅과 스토리지를 관리할 수 있습니다. 에이전트 라이프 사이클 서비스는 메시징 서비스와의 상호작용을 제어하고 트래픽을 관리하며 메시지 누락을 방지합니다.
인간의 개입 유지
에이전트 라이프사이클 서비스는 권한 부여, 인증 관리, 역할 기반 인증을 지원합니다. 링크드인 플랫폼에 저장된 개인 데이터는 규제 대상이므로 보호되어야 합니다. 따라서 인간의 개입을 통해 의사결정을 내리고 작업을 지도하는 과정이 필요합니다. AI는 인간을 대체하는 것이 아니라, 인간이 더 효과적으로 일할 수 있도록 돕는 도구로 활용되어야 합니다. 기반 에이전트는 사용자와 협력하여 의사결정을 명확히 하고, 피드백을 수집하여 맥락 기반 메모리에 저장함으로써 향후 행동을 개선해야 합니다.
관찰가능성을 사용한 에이전트 관리
링크드인의 에이전틱 기술 스택은 에이전트 관리 및 오케스트레이션을 위한 아키텍처와 함께 관찰가능성 기능을 제공합니다. 이는 운영의 많은 부분을 계측하기 위해 오픈텔레메트리(OpenTelemetry)와 같은 기술을 기반으로 합니다. 관찰가능성 데이터를 사용하여 애플리케이션 작동 방식을 파악하고 디버깅, 안정성 확보, 규제 및 개인정보 보호 준수를 위한 필수 정보를 얻을 수 있습니다.
분산 아키텍처의 AI
링크드인 내부 툴은 상호작용이 비결정적일 수 있음을 개발자가 이해할 수 있도록 돕습니다. 개발자는 분산 에이전트 플랫폼 사용에 따른 일관성 절충을 확인하고, 지연과 일관성 사이의 균형을 맞추는 방법을 결정할 수 있습니다. 에이전틱 AI는 플랫폼에 유연성을 부여하여 고순위 후보자가 새로운 역할에 관심을 표현하는 경우 즉시 이를 표시하고 채용 담당자에게 알릴 수 있도록 합니다. 이 접근 방식의 핵심은 에이전틱 AI를 분산 애플리케이션으로 취급하는 것입니다.
결론
AI는 챗봇을 넘어 엔터프라이즈 IT 환경에 혁신적인 변화를 가져올 잠재력을 가지고 있습니다. 링크드인의 사례처럼, AI를 기존 시스템과의 통합을 통해 활용하고, 인간의 개입을 유지하며, 관찰가능성을 확보하는 것이 중요합니다. AI를 분산 아키텍처의 구성 요소로 이해하고 접근한다면, 기업은 AI의 다양한 가능성을 현실로 만들 수 있을 것입니다.
