2026년, 구글 딥마인드 CEO 데미스 허사비스가 미국 주도의 AI 자율규제와 국제 표준화를 제안합니다. AGI, 국가 안보가 핵심입니다.
데미스 허사비스의 AI 자율규제 제안
2026년, 구글 딥마인드 CEO 데미스 허사비스는 미국 주도의 AI 산업 자율규제를 강력히 추진하고 있습니다. 이는 국제적인 AI 표준을 마련하기 위한 첫걸음이 될 것으로 기대됩니다. 허사비스는 인공 일반 지능(AGI)의 급진적인 발전과 국가 안보에 대한 심도 깊은 논의를 강조하며, 신뢰할 수 있는 AI 개발의 필요성을 역설했습니다. 그는 빠르게 진화하는 프론티어 AI 모델의 역량을 평가하기 위한 역동적이고 유연하며 엄격한 새로운 접근 방식이 시급하다고 주장합니다.
미국 중심 AI 표준 기관 설립 구상
허사비스는 미국의 경제적, 기술적 위상을 바탕으로 이러한 프레임워크 개발에 선도적인 역할을 할 것을 제안했습니다. 그는 연방 정부가 감독하는 공공-민간 파트너십 또는 금융 산업 규제 당국(FINRA)과 유사한 자율 규제 기관을 모델로 한 새로운 표준 기관 설립을 구상합니다. 이사회에는 독립적인 기술 전문가와 오픈소스 대표가 포함될 예정입니다. 막대한 자금은 주로 업계에서 조달하여 세계 최고 수준의 인재와 대규모 테스트를 위한 컴퓨팅 자원을 확보해야 한다고 언급했습니다.
과거 AI 안전 논의와 딥마인드의 역할
이러한 제안은 허사비스가 AGI에 대한 우려를 표명한 첫 사례가 아닙니다. 딥마인드는 이미 마이크로소프트, xAI(현 SpaceXAI)와 함께 미국 상무부 산하 AI 표준 및 혁신 센터(CAISI)와 협력하여 AI 안전을 평가하는 미국 정부 이니셔티브에 참여한 바 있습니다. 이 협력은 CAISI가 프론티어 AI 역량을 더 잘 평가하고 AI 보안 상태를 발전시키기 위한 배포 전 평가 및 표적 연구를 수행할 수 있도록 했습니다. 이는 AI 안전과 규제에 대한 딥마인드의 지속적인 관심을 보여줍니다.
AI 자율규제에 대한 회의적 시각
하지만 업계 중심의 자율규제가 과연 공공의 이익을 최우선으로 할 수 있는지에 대한 우려의 목소리도 높습니다. 가트너 VP 애널리스트 나데르 헤네인은 자율규제는 모든 이가 스스로를 규제할 수 있고 공공의 이익에 부합하게 행동할 것이라는 전제를 깔고 있지만, 대부분의 기술 공급업체는 그럴 역량이 없다고 지적합니다. 영리 단체는 주주에게 최선을 다해야 하므로, 외부 규제가 없다면 주주 이익과 공공의 이익 사이에서 이해 상충이 발생할 수 있다고 덧붙였습니다.
국가 안보 초점의 국제적 한계
그레이하운드 리서치의 수석 분석가 산치트 비르 고기아는 AI 모델의 국제적 특성을 고려할 때, 미국 정부가 주도하는 노력은 다른 국가들을 소외시킬 수 있다고 경고합니다. 그는 "국가 안보는 워싱턴에서 제안을 가속화하는 요인이지만, 해외에서는 독약과 같다"며, 미국만의 전략적 도구로 비쳐질 수 있다고 분석했습니다. 이러한 국가 안보 중심의 프레임워크는 국제적 협력보다는 지정학적 경쟁을 부추길 수 있다는 우려가 제기됩니다.
글로벌 AI 규제 환경의 다양성
고기아는 이미 AI 규제 지형이 다양하다는 점을 강조합니다. 2026년 8월부터 유럽연합 브뤼셀은 범용 모델에 대한 강제 집행 권한을 발동하고, 런던은 AI 보안 연구소를 운영하며, 베이징은 자체적인 조건으로 라이선스를 부여합니다. 미국 내에서도 캘리포니아와 뉴욕은 프론티어 모델에 대한 법률을 제정했습니다. 그는 상호 인정에 기반한 공유된 기술 증거와 주권적 집행이 지속 가능한 경로이며, 인도 등 비서구 주요 시장도 저작권을 보유해야 한다고 주장합니다.
기업 IT 부문의 실질적 우려
또한, 고기아는 허사비스가 제안하는 방식의 미국 정부 주도 노력은 "정보 및 산업 정책에 가까운 테스트"를 초래할 것이며, 이러한 기능이 명확하게 분리되지 않을 것이라고 지적했습니다. 그는 "모델이 모든 치명적 위험 테스트를 통과하더라도 프라이버시, 신뢰성, 책임 측면에서 기업의 요구를 충족시키지 못할 수 있다"고 덧붙였습니다. 국가 안보에 초점을 맞춘 테스트가 기업이 직면하는 현실적인 운영 및 규제 문제를 간과할 수 있다는 점을 시사합니다.
FINRA 모델의 현실과 AI 산업의 속도
전 월마트 사이버 보안 책임자이자 독립 컨설턴트인 스티븐 에릭 피셔는 이 제안이 "선한 의도를 가졌지만, 상업적 이익이 전례 없는 정치적 영향력을 행사하는 시기에 매우 양극화된 주제를 다룬다"고 평가했습니다. 트리베카 소프트테크의 최고 전략 책임자 아만 마하파트라는 FINRA 운영 방식을 보면 규제 대상 기업의 이해관계가 규칙 제정 작업 그룹을 지배한다고 지적했습니다. 그는 AI 표준화 속도가 유례없이 빠르다는 점에서 독립적인 감독을 저해할 수 있다고 우려했습니다.
AI 자율규제 지지론과 INPO 모델
반면 컨설팅 회사 액셀리전스의 CIO 유리 고류노프는 허사비스의 제안을 적극 지지합니다. 그는 "산업 자율규제가 성공할 수 있는 드문 환경"이라며, 특히 "업계 모두가 치명적인 위험을 공유할 때 효과적"이라고 주장합니다. 고류노프는 1979년 스리마일 섬 원자로 사고 이후 원자력 산업이 설립한 INPO(원자력 발전소 운영 연구소)를 최적의 선례로 꼽았습니다. "어디서든 사고는 모든 곳의 사고"라는 논리 아래, INPO는 모든 미국 발전소를 동료 검토하고 보험료에 영향을 미치며 NRC의 법정 기준 위에 존재합니다.
불완전한 빠른 표준이 나은가?
고류노프는 프론티어 AI 역시 INPO와 유사한 구조를 가진다고 봅니다. 즉, "하나의 연구실에서 발생하는 치명적인 실패는 모든 곳에 규제를 가져온다"는 것입니다. 그는 이러한 모델이 기업 CIO들에게 큰 이점이 될 수 있다고 주장합니다. 현재 각 기업이 레드팀 테스트, 평가 스위트, 거버넌스 위원회 등 동일한 AI 실사를 정보 부족 상태로 중복 수행하는 반면, 신뢰할 수 있는 표준 체제는 AI에 대해 UL(전기 장비)이나 SOC2(클라우드)와 같은 역할을 하여 "알 수 없는 위험을 구매 가능한 제품으로 전환"시킨다고 강조합니다. 이사회에 방어 가능한 관리 표준을 제공하는 것은 단순히 형식적인 절차가 아닌 실질적인 안심과 감사 추적성을 제공합니다. 마하파트라 역시 "불완전하지만 빠른 표준이 완벽하지만 느린 표준보다 낫다"는 견해에 진정한 가치가 있다고 덧붙였습니다.
