인공지능(AI) 도입 실패 사례 급증: CIO, 신중한 접근 방식으로 전환
최근 기업들이 인공지능(AI) 기술 도입에 어려움을 겪으면서, 최고정보책임자(CIO)들이 보다 신중한 접근 방식을 취하고 있다는 분석이 나오고 있습니다. AI 기술 자체의 결함보다는 기업과 공급업체가 AI 배포의 복잡성을 제대로 이해하지 못해 실패 사례가 늘고 있다는 지적입니다. 이번 블로그 글에서는 AI 도입의 현실적인 어려움과 성공적인 AI 전략 수립을 위한 CIO의 역할에 대해 자세히 살펴보겠습니다.
AI 실험, 성공적인 도입으로 이어지지 못하는 현실
옴디아(Omdia)의 조사에 따르면, 많은 기업들이 AI 실험 단계에 머물러 있으며, 실제로 프로토타입이 상용화되는 비율은 매우 낮은 것으로 나타났습니다. 상당수의 기업들이 6개에서 50개 사이의 AI 프로젝트를 실험하고 있지만, 40% 이상의 성공률을 달성한 기업은 10%에 불과했습니다. 이는 AI 기술 도입에 대한 높은 관심에도 불구하고, 실제 성과로 이어지는 데 어려움을 겪고 있음을 시사합니다.
CIO, 압박 속에서 신중한 의사 결정을 내려야
기업의 이사회와 CEO들은 AI를 최우선으로 하는 운영 방식을 원하지만, CIO는 이러한 압박 속에서도 신중한 의사 결정을 내려야 합니다. 하이퍼프레임 리서치(Hyperframe Research)의 스티븐 디킨스(Steven Dickens)는 검증된 가치에 집중하고, 내부 코드 생성이나 고객 서비스 분류와 같이 위험은 낮지만 영향력이 큰 영역에서 파일럿 프로젝트를 진행하는 것이 중요하다고 강조합니다.
데이터 전략과 거버넌스 구축의 중요성
성공적인 AI 도입을 위해서는 데이터 전략과 거버넌스 구축이 필수적입니다. 쿨한 챗봇이나 앱을 출시하기 전에, 데이터를 준비하고 관리하는 데 충분한 노력을 기울여야 합니다. J. 골드 어소시에이츠(J. Gold Associates)의 잭 골드(Jack Gold)는 일반적인 대규모 언어 모델(LLM)은 기업에 최적화되어 있지 않기 때문에, 자체 데이터를 보완해야 한다고 조언합니다. 그러나 많은 기업에서 데이터가 분산되어 있거나 쉽게 접근할 수 없어 모델을 미세 조정하는 데 어려움을 겪고 있습니다.
AI 도입, 비용 절감 이상의 가치를 창출해야
맥킨지(McKinsey)의 조사에 따르면, 응답자의 90%가 어떤 형태로든 AI를 활용하고 있으며, 보험 업계에서 정보 관리 및 서비스 운영에 가장 많이 사용되고 있습니다. 하지만 AI를 비용 절감의 수단으로만 바라보는 것은 AI의 잠재력을 제한할 수 있습니다. AI는 비즈니스를 재구상하는 데 활용될 때 더욱 큰 가치를 창출할 수 있습니다.
AI 도구, 플러그 앤 플레이 방식이 아니다
젠팩트(Genpact)의 진숙 한(Jinsook Han)은 AI 도구는 플러그 앤 플레이 방식이 아니라고 지적합니다. 화려한 데모와 개념 증명도 중요하지만, 기술이 실제로 사용 가능하고 관련성이 있어야 합니다. 또한, AI 프로젝트는 레거시 IT 시스템 위에 구축되는 경우가 많기 때문에, 기업의 기술 스택, 워크플로, 프로세스를 수정해야 AI의 효과를 극대화할 수 있습니다.
AI 에이전트, 아직 초기 단계
클린랩(Cleanlab)의 조사에 따르면, AI 에이전트가 실제로 상용화된 기업은 매우 적습니다. 많은 기업들이 AI 스택을 지속적으로 변경하고 있으며, 실제 AI 에이전트가 등장하기까지는 시간이 더 걸릴 것으로 예상됩니다. 클린랩의 CEO 커티스 노스컷(Curtis Northcutt)은 예산과 전문 지식이 부족한 CIO의 어려움을 공감하며, 성공적인 AI 시스템 구축을 위해 경험이 풍부한 기업과 파트너십을 맺는 것을 권장합니다.
맺음말
결론적으로, AI 도입은 복잡하고 어려운 과정입니다. CIO는 기술에 대한 깊은 이해를 바탕으로 신중한 접근 방식을 취해야 하며, 데이터 전략, 거버넌스 구축, 그리고 비즈니스 목표와의 연계성을 고려해야 합니다. 또한, AI를 비용 절감의 수단으로만 바라보는 것이 아니라, 비즈니스를 재구상하는 데 활용해야 더욱 큰 가치를 창출할 수 있습니다. 경험이 풍부한 기업과의 파트너십은 AI 도입의 성공률을 높이는 데 도움이 될 수 있습니다.
