2026년, 기업들은 비용 절감과 효율성을 위해 AI로 개발자 인력을 대체하고 있습니다. 하지만 아마존의 잇따른 AI 관련 시스템 장애 사례는 AI 과신이 초래하는 위험과 현실적 한계를 명확히 보여줍니다.
기업의 오래된 유혹, AI로 인력 감축
2026년 현재, 기업들은 개발자 인력을 AI로 대체하는 데 열광하고 있습니다. 이는 마치 4,000년 전 고대 우르에서 에아나시르가 구리 품질 엔지니어를 해고했던 일처럼, 수익성 극대화를 위한 오랜 시도의 연장선상에 있습니다. 아틀라시안은 AI 투자를 위해 1,600명을 해고했고, 블록의 잭 도시는 AI가 새로운 업무 방식을 가능하게 한다며 4,000명을 감원했습니다. 기업들은 AI가 높은 기준을 유지하면서도 비용을 절감하고 수익에 기여할 것이라 기대하지만, 과연 그럴까요? AI는 단순한 비용 절감 도구가 아닙니다.
아마존의 AI 실험, 3만 명 감원과 잇따른 장애
아마존은 지난 6개월간 3만 명을 감원하며 대규모 해고를 이어갔습니다. 피플 익스피리언스 앤 테크놀로지 부문 수석 부사장 베스 갈레티는 AI가 인터넷 이후 가장 혁신적인 기술이며, 기업의 혁신 속도를 높여 “더 날렵하게 조직할 수 있게” 한다고 말했습니다. 이는 곧 인력 감축을 의미합니다. 그러나 아마존의 AI 도입은 예상치 못한 문제들을 초래했습니다. AWS와 아마존 리테일 서비스에서 발생한 여러 차례의 장애는 AI 운영 코드 개입에 대한 내부 통제 강화로 이어졌습니다. 과연 아마존은 이러한 결정을 후회하지 않을까요?
AWS 키로 사건: AI의 치명적인 오판
지난 12월 중순, AWS는 내부 AI 코딩 에이전트 키로가 고객 대상 비용 관리 시스템에 실시간 변경을 가하도록 허용했습니다. 키로는 가장 적절한 해결책이 “환경을 삭제한 뒤 다시 만드는 것”이라고 판단했고, 그 결과 중국 본토 일부 AWS 코스트 익스플로러 서비스에서 약 13시간 동안 장애가 발생했습니다. 아마존은 이를 “사용자 실수”와 잘못 구성된 접근 제어 탓으로 돌렸습니다. AI만이 아니라 어떤 개발 도구에서도 발생할 수 있는 문제라고 반박했지만, 문제는 AI의 과도한 권한과 오판이었습니다.
“작지만 예견 가능했던” 반복되는 AI 오류
AWS의 12월 장애는 단발성 사건이 아니었습니다. 최근 몇 달 동안 아마존 AI 코딩 도구에 일부 책임이 있는 운영 장애가 최소 두 차례 더 발생했습니다. 아마존은 내부적으로 이 사고들을 “작지만 충분히 예견 가능했던” 일이라고 설명했습니다. 근본 원인은 AI가 사실상 인간 운영자의 연장선처럼 취급되어 운영자 수준의 권한까지 부여받았다는 점입니다. 시스템 관리 권한은 절대적으로 필요하고 완전히 신뢰할 수 있을 때만 부여해야 합니다. 높은 권한과 감독 부재가 결합되어 결국 사고로 이어진 것입니다.
소매 부문까지 확산된 AI 리스크
AI 실패는 AWS 인프라를 넘어 아마존 리테일 스토어까지 번졌습니다. 지난 3월 초에는 AI 지원 작업의 실수가 겹치며 네 건의 중대한 사고가 발생했고, 그중 한 건은 6시간 장애로 이어졌습니다. 아마존 수석부사장 데이브 트레드웰은 “생성형 AI 도구가 운영 변경 지시를 보완하거나 가속하면서 안전하지 않은 프랙티스로 이어지고 있다”라고 인정했습니다. 그는 아마존의 AI 안전장치가 “아직 완전히 확립되지 않았다”라고 밝혔습니다. 인력 감축 전에 AI의 실제 능력과 오류 감지 및 복구 시스템을 확보하는 것이 필수입니다.
아마존, AI 안전장치 재정비에 나서다
잇따른 장애로 아마존은 결국 AI 규칙을 새로 내놓았습니다. 향후 90일 동안 초급 및 중급 엔지니어는 AI 지원 운영 변경 시 상급 엔지니어의 승인을 받아야 합니다. 아마존은 코드 프랙티스를 재정비하고 전통적인 안전장치도 강조할 예정입니다. 이커머스 그룹 엔지니어들은 최근 장애와 생성형 AI 기반 배포의 새 규칙을 다루는 주간 회의에 참석해야 합니다. 이는 원래 선택 사항이었던 회의였습니다. 이러한 조치는 AI 사용에 대한 신중한 접근의 필요성을 시사합니다.
인간의 책임과 AI의 한계
아마존은 대외적으로 AI 에이전트 자체가 장애를 “유발했다”는 서사를 반박하며, 실패를 사용자 실수와 우연의 겹침으로 재규정하고 있습니다. AI 도구가 기존 소프트웨어 개발자보다 더 자주 실수한다는 “증거는 없다”고 주장합니다. 그러나 경영진은 핵심을 놓치고 있습니다. 1979년 IBM 교육 매뉴얼에 “컴퓨터는 결코 책임을 질 수 없으므로 컴퓨터가 경영 판단을 해서는 안 된다”고 명시된 것처럼, 최종 책임은 인간에게 있습니다. AI를 과도하게 신뢰한 것이 바로 인간의 실수입니다.
속도와 비용, 그리고 품질 사이의 딜레마
아마존 경영진은 AI가 기대만큼 잘 작동하지 않는다는 점이 드러났음에도 AI 사용을 고집하고 있습니다. 아마존 엔지니어들은 “더 빨라져야 하고, AI가 우리를 더 빠르게 만들 것이며, 속도가 최우선 과제”라는 압박을 받고 있다고 전했습니다. 하지만 한 직원은 “AI를 사용하라는 압박 때문에 코드 품질이 더 나빠졌을 뿐 아니라 모두의 일이 더 늘어났다”고 털어놓았습니다. “빠름, 저렴함, 좋음 가운데 둘만 가질 수 있다”는 속담처럼, 아마존의 AI는 빠르고 저렴할 수는 있어도 좋은 결과를 내는 데 실패하고 있습니다.
AI는 아직 개발자를 대체할 준비가 되지 않았다
AI로 진정한 생산성을 얻으려면 AI가 한 일을 두 번, 세 번 검증해야 합니다. 이는 아마존만이 아니라 AI가 프로그래머를 대체할 준비를 마쳤다는 환상에 시달리는 모든 기업이 배워야 할 교훈입니다. AI는 여전히 강력한 도구이지만, 인간의 감독과 검증 없이는 심각한 운영 위험을 초래할 수 있습니다. 2026년 현재, AI는 개발자를 완전히 대체할 준비가 되지 않았습니다. 기업들은 단기적인 비용 절감과 효율성만을 쫓기보다는, AI의 한계를 인정하고 신중하게 접근해야 할 때입니다.
