생성형 AI 도입 실패율 증가: 기술 부채와 보안 위험 경고

최근 생성형 AI(GenAI) 기술 도입이 빠르게 확산되고 있지만, 동시에 높은 실패율과 그로 인한 기술 부채, 보안 문제에 대한 경고가 잇따르고 있습니다. 많은 기업들이 생성형 AI의 잠재력에 주목하고 있지만, 성급한 도입과 미흡한 준비는 예상치 못한 문제들을 야기할 수 있습니다.

높은 실패율과 기술 부채의 그림자

가트너는 2030년까지 기업의 50%가 지연된 AI 구축 또는 프로젝트 포기로 인한 유지 보수 비용 증가에 직면할 것으로 예측했습니다. 옴디아, 맥킨지, MIT, 포레스터 등의 연구 결과에 따르면 생성형 AI 프로젝트의 실패율은 최대 95%에 달할 수 있습니다. 이는 초기 투자 비용을 회수하지 못할 뿐만 아니라, 유지 보수 비용 증가, 불필요한 코드 및 애플리케이션 잔존, 보안 취약성 증가 등 다양한 문제로 이어질 수 있습니다.

기술 부채 가속화

생성형 AI는 빠른 속도로 발전하고 있으며, 새로운 기능이 끊임없이 추가되고 있습니다. 이러한 변화에 발맞춰 AI 시스템을 업그레이드하는 과정에서 부실한 아키텍처는 기술 부채를 가중시킬 수 있습니다. 단기적인 문제 해결에 집중하면 재사용 가치가 낮은 도구와 코드가 생성되어 유지 보수 비용이 증가하게 됩니다. 또한 기존 시스템과의 통합 과정에서 발생하는 문제 역시 기술 부채를 유발할 수 있습니다.

보안 및 규정 준수 문제

가트너는 2030년까지 기업의 약 40%가 승인되지 않은 섀도우 AI와 관련된 보안 또는 규정 준수 사고를 경험할 것으로 예측했습니다. 제대로 관리되지 않는 AI 프로젝트는 악성 앱이나 데이터 유출과 같은 보안 문제로 이어질 수 있습니다. 따라서 IT 리더는 AI 도구에 대한 사용 지침을 설정하고, 특정 벤더에 종속되는 것을 피하며, 시스템 간의 상호 운용성을 확보해야 합니다.

비즈니스 가치 중심의 접근

일부 기업들은 기술적인 측면보다 비즈니스 가치 창출에 초점을 맞춰 생성형 AI를 도입하고 있습니다. 루멘은 해결하고자 하는 비즈니스 문제를 먼저 정의한 다음, 이를 해결하기 위한 AI 도구와 기술을 찾는 접근 방식을 채택하고 있습니다. 화이자는 AI를 신뢰하고, 비즈니스 기능을 통합하는 방식을 통해 프로세스를 혁신하고 있습니다. BASF Agricultural Solution은 AI를 미래 비즈니스 전략의 핵심 요소로 간주하고 있습니다.

IT 리더의 역할

생성형 AI 도입의 성공을 위해서는 IT 리더의 역할이 매우 중요합니다. IT 리더는 AI 시스템의 구현 상황을 면밀히 검토하고, 아키텍처의 안정성을 고려해야 합니다. 보안 및 규정 준수와 같은 사각지대를 간과하지 않도록 주의해야 합니다. 또한 AI 도구에 대한 사용 지침을 설정하고, 시스템 간의 상호 운용성을 확보하는 것이 중요합니다.

결론

생성형 AI는 분명 혁신적인 기술이지만, 성공적인 도입을 위해서는 신중한 계획과 준비가 필요합니다. 높은 실패율과 기술 부채, 보안 문제에 대한 경고를 간과하지 않고, 비즈니스 가치 중심의 접근 방식과 IT 리더의 적극적인 참여를 통해 생성형 AI의 잠재력을 최대한 활용해야 할 것입니다.