AI 에이전트 시대, IT 운영의 새로운 도전: 에이전틱옵스(AgenticOps) 완벽 가이드
인공지능(AI) 기술의 발전은 우리 업무 환경에 혁신적인 변화를 가져오고 있습니다. 특히 AI 에이전트는 단순 반복 업무 자동화를 넘어, 복잡한 문제 해결, 의사 결정 지원 등 다양한 분야에서 활용될 잠재력을 보여주고 있습니다. 하지만 AI 에이전트의 도입은 IT 운영에 새로운 과제를 제시하며, 이를 효과적으로 관리하고 운영하기 위한 새로운 접근 방식, 즉 에이전틱옵스(AgenticOps)의 필요성이 대두되고 있습니다.
AI 에이전트, 혁신과 동시에 새로운 운영 과제 제시
AI 에이전트는 언어 모델과 추론 모델을 결합하여 자동화된 실행 능력을 제공합니다. 모델 컨텍스트 프로토콜(MCP)과 같은 에이전트 간 프로토콜은 다양한 시스템 간 연동을 가능하게 하며, 복잡한 작업을 조율할 수 있도록 지원합니다. HR 분야에서는 채용 과정을 지원하고, 운영 부문에서는 공급망 문제를 해결하는 데 활용될 수 있습니다. 그러나 AI 에이전트의 빠른 도입은 운영 및 보안 측면에서 위험을 증가시킬 수 있습니다. 이에 따라 IT 책임자들은 AI 에이전트를 안전하게 보호하고 관리하며, 관련 사고에 대응하기 위한 새로운 운영 접근법인 '에이전틱옵스'를 고민하고 있습니다.
에이전틱옵스(AgenticOps)란 무엇인가?
에이전틱옵스는 기존의 IT 운영 역량을 토대로 발전한 개념입니다. AI옵스(AIOps)는 분산된 모니터링 도구가 만들어내는 복잡성을 해결하기 위해 머신러닝을 적용하여 알림을 관리 가능한 사고 단위로 상관 분석합니다. 모델옵스(ModelOps)는 운영 환경에서 머신러닝 모델을 모니터링하고, 모델 드리프트와 같은 운영 이슈를 관리합니다. 에이전틱옵스는 이러한 흐름 위에서 AI 에이전트 관리라는 고유한 운영 요구사항을 지원하는 동시에 IT 조직에 새로운 AI 역량을 제공합니다. 시스코의 DJ 삼파스는 에이전틱옵스의 핵심 요건으로 데이터 통합, 사람과 AI 에이전트 간의 협업 지원, 네트워크와 인프라 이해를 위한 특화 언어 모델 활용을 제시했습니다.
에이전틱옵스 구축을 위한 5가지 핵심 프랙티스
IT팀이 운영 환경에서 AI 에이전트를 본격적으로 개발하고 배포하기 시작함에 따라, 단계적으로 도입할 수 있는 5가지 에이전틱옵스 베스트 프랙티스를 소개합니다.
- AI 에이전트의 정체성과 보안 프로필 수립: AI 에이전트에 명확한 정체성, 권한, 접근 권리를 부여하여 보안을 강화해야 합니다. 마이크로소프트 엔트라 ID, 옥타, 오라클 IAM 등과 같은 플랫폼을 활용할 수 있습니다.
- 플랫폼 엔지니어링, 관찰 가능성, 모니터링 확장: AI 에이전트의 복잡성을 고려하여 기존 데브옵스 역량을 확장해야 합니다. 플랫폼 엔지니어링은 비정형 데이터 파이프라인, MCP 연동, AI 모델을 위한 피드백 루프까지 고려해야 합니다.
- 사고 관리 및 근본 원인 분석 역량 고도화: AI 에이전트가 일으키는 문제의 근본 원인을 규명하기 위해 에이전트가 참조한 데이터 소스, 모델, 추론 과정 등을 추적해야 합니다.
- 모델 정확도, 드리프트, 비용에 대한 KPI 추적: AI 에이전트의 행동과 최종 사용자에게 제공되는 가치를 지속적으로 추적하기 위해 정확도, 토큰 사용량, 데이터 준비 상태 등 새로운 KPI와 지표를 설정해야 합니다.
- 사용자 피드백 수집을 통한 유용성 측정: AI 에이전트가 실제로 사용자에게 도움이 되었는지, 문제를 해결했는지 등을 사용자 경험과 연결하여 살펴봐야 합니다.
맺음말
AI 에이전트의 도입은 IT 운영에 새로운 도전과 기회를 동시에 제공합니다. 에이전틱옵스 구축을 통해 AI 에이전트를 효과적으로 관리하고 운영함으로써, 기업은 AI 기술의 잠재력을 최대한 활용하고 혁신을 가속화할 수 있을 것입니다. 지금부터 에이전틱옵스 구축을 위한 준비를 시작하여 AI 에이전트 시대의 주역이 되십시오.
