AI 도입, 기술 문제가 아닌 사람 문제로 접근해야 성공한다: 영국 정부의 새로운 프레임워크 집중 분석

최근 영국 정부는 기업들이 인공지능(AI) 도입을 단순히 기술적인 도전 과제가 아닌, ‘사람’의 문제로 인식해야 한다고 강조하며 새로운 프레임워크를 발표했습니다. 이는 책임감 있는 생성형 AI 도입을 위한 노력의 일환으로, 기업이 코드를 넘어 조직 문화, 구성원의 행동, 그리고 일상적인 의사 결정에 집중하도록 장려합니다. 이번 블로그 글에서는 이 프레임워크의 핵심 내용과 그 의미, 그리고 실제 적용에 대한 고려 사항들을 심층적으로 분석해 보겠습니다.

핵심 도구: '사람 요소'와 '숨겨진 AI 위험 완화'

이번 프레임워크의 핵심은 두 가지 실질적인 도구, 즉 "사람 요소(The People Factor)"와 "숨겨진 AI 위험 완화(Mitigating Hidden AI Risks)"입니다. 이 도구들은 자동화에 대한 과신, 인간의 판단력 저하, 사용자들의 소극적인 저항 등, AI 도입 과정에서 흔히 간과되는 문제들을 해결하도록 설계되었습니다. 영국 정부는 이러한 위험들이 편향된 모델이나 환각을 일으키는 챗봇만큼이나 위험하다고 경고합니다.

ASO 모델: 도입, 유지, 최적화

프레임워크는 ‘도입(Adopt)’, ‘유지(Sustain)’, ‘최적화(Optimize)’라는 세 단계로 구성된 ASO 모델을 중심으로 구축되었습니다. 이는 유럽연합(EU)의 AI 법과 같은 규제보다는 준비성, 내부 거버넌스, 그리고 실제 사용 가능성에 초점을 맞추고 있습니다. 이 프레임워크는 AI를 도입하고 확장하는 과정에서 인간의 감독을 놓치지 않도록 CIO, 디지털 리더, 그리고 거버넌스 책임자들을 대상으로 합니다.

자발적이지만 필수적인 프레임워크

프레임워크는 기술적으로는 비강제적이지만, 영국 정부의 AI 플레이북 및 서비스 표준을 보완하며 사실상 필수적인 지침으로 여겨집니다. 이미 영국 데이터 센터에 340억 달러, 그리고 산업 전반의 AI 도입을 촉진하기 위해 190억 달러가 투자된 상황에서, 이는 영국 국가 전략의 중요한 부분임을 알 수 있습니다.

정부 내 성공 사례: 'Assist'

실제로 영국 정부 내에서는 이미 이 프레임워크를 활용한 성공 사례가 나타나고 있습니다. 영국 정부 통신 서비스는 이 프레임워크를 기반으로 자체 생성형 AI 도구인 ‘Assist’를 구축하고 확장했으며, 현재 200개 이상의 부서 및 공공 기관에서 사용률이 70% 이상으로 증가하고 있습니다.

ASO 모델의 인간 중심적 핵심

ASO 모델은 AI 통합의 ‘인간적인’ 측면을 다루는 데 초점을 맞춥니다. ‘도입’ 단계에서는 직원들의 회의론을 식별하고 해결하기 위한 구체적인 프로토콜을 통해 도입 장벽에 정면으로 맞서도록 합니다. 프레임워크는 AI 구현이 기술 중심적으로만 이루어져서는 안 되며, 관련된 사람, 그들의 니즈, 그리고 AI를 효과적이고 안전하게 도입하고 사용하는 데 있어 겪을 수 있는 장벽을 고려해야 한다고 강조합니다.

'유지'와 '최적화' 단계

‘유지’ 단계에서는 지속적인 교육 및 지원 체계와 같은 장기적인 거버넌스 문제에 초점을 맞춥니다. 프레임워크는 기술적 구현이 단지 하나의 구성 요소일 뿐이며, 성공적인 도입을 위해서는 행동 적응과 프로세스 재설계에 동등한 주의를 기울여야 한다고 강조합니다. 마지막 ‘최적화’ 단계에서는 편향 모니터링 및 과도한 의존 방지와 같은 지속적인 개선을 위한 메커니즘을 도입합니다.

숨겨진 AI 위험 완화 툴킷

‘숨겨진 AI 위험 완화 툴킷’은 팀이 의사 결정에 스며드는 의도치 않은 편향을 포함하여 미묘한 문제를 발견하고 해결할 수 있도록 지원합니다. 이 툴킷은 사용자 행동, 직장 문화, 책임 격차, 의사 결정 피로 등 6가지 범주의 취약점을 매핑합니다. 이는 더 똑똑한 알고리즘을 구축하는 것에서 더 안전한 사용 시스템을 설계하는 것으로 사고방식을 전환하는 것입니다.

ASO 모델의 구현 장벽

ASO 모델의 인간 중심적 접근 방식은 AI 거버넌스에 있어 중요한 진전을 의미하지만, 실제 적용에는 상당한 어려움이 따릅니다. 전통적인 산업, 특히 제조와 같은 분야에서는 위계적인 문화로 인해 직원들이 AI 시스템에 대한 비판을 주저할 수 있어 심리적 안전성 감사를 수행하기 어렵습니다. 다국적 기업의 경우, 이 프레임워크는 이미 분열된 규제 환경에 복잡성을 더합니다.

글로벌 표준과의 연계 필요성

전문가들은 국가별 AI 규칙을 일일이 맞추는 것은 지속 가능하지 않다고 지적하며, ISO 42001 및 OECD AI 원칙과 같은 표준이 중요하다고 강조합니다. 이러한 표준은 기업이 여러 관할 구역에 적용할 수 있는 하나의 거버넌스 기반을 구축할 수 있도록 합니다. 혁신적이지만, 글로벌 규범과 일치하지 않으면 또 다른 사일로가 될 위험이 있으며, 국제적 도입을 저해할 수 있다는 우려도 제기됩니다.

맺음말

영국 정부의 새로운 프레임워크는 AI 도입에 있어 기술적인 측면뿐만 아니라 인간적인 요소를 고려해야 함을 강조합니다. ASO 모델과 ‘숨겨진 AI 위험 완화 툴킷’은 기업들이 AI를 책임감 있게 도입하고 활용할 수 있도록 실질적인 지침을 제공합니다. 하지만 이 프레임워크의 성공적인 적용을 위해서는 글로벌 표준과의 연계, 그리고 다양한 산업 및 조직 문화에 대한 이해가 필수적입니다. AI 시대, 기술과 인간의 조화로운 공존을 위한 노력이 더욱 중요해지고 있습니다.