윈도우 AI 파운드리: 마이크로소프트, PC AI 개발의 새로운 장을 열다
마이크로소프트가 윈도우 코파일럿 런타임을 리브랜딩하여 윈도우 AI 파운드리라는 새로운 AI 개발 플랫폼을 선보였습니다. 이는 PC에서 AI 기반 애플리케이션 개발을 더욱 쉽고 효율적으로 만들고자 하는 마이크로소프트의 야심찬 계획의 일환입니다. 고가의 클라우드 기반 모델에 의존하지 않고도 로컬 PC 리소스를 활용하여 AI 애플리케이션을 구축할 수 있도록 지원하며, 이는 AI 개발의 접근성을 크게 높이는 혁신입니다.
윈도우 AI 파운드리란 무엇인가?
윈도우 AI 파운드리는 AI 모델을 관리하고 실행하는 툴 모음입니다. 핵심 구성 요소는 '파운드리 로컬(Foundry Local)'이며, 이는 사용자 하드웨어에 따라 적합한 AI 모델을 다운로드하고 실행하는 AI 런타임입니다. 윈도우 코파일럿 런타임이 코파일럿+ PC에만 초점을 맞춘 것과 달리, 윈도우 AI 파운드리는 CPU, GPU, NPU 등 다양한 하드웨어 환경에서 AI 추론을 지원합니다. 마이크로소프트는 개발자들이 윈도우에서 AI 애플리케이션을 더 쉽게 구축하고, 사용자들이 최대한 다양한 PC에서 사용할 수 있도록 하는 것을 목표로 합니다.
다이렉트ML의 변화와 윈도우 ML의 역할
마이크로소프트는 다이렉트ML에 새로운 추상화를 추가하여 더 다양한 PC에서 모델을 쉽게 실행할 수 있도록 지원하고 있으며, 이 부분을 윈도우 ML(Windows ML)로 리브랜딩하고 있습니다. 윈도우 ML은 PC에서 AI 추론을 처리하는 데 가장 적합한 런타임 환경을 사용해 ONNX 모델을 호스팅하고 호출하는 표준적인 방법을 제공합니다. 이는 하드웨어에 독립적인 공통 환경을 제공하여 AI 코드의 미래 유용성을 확보하는 데 기여합니다.
로라(LoRA) 튜닝 지원과 AI 데브 갤러리
윈도우 AI 파운드리는 내장된 파이 실리카 모델을 위한 로라(LoRA, low-rank adaptation) 튜닝 알고리즘을 지원합니다. 이는 비주얼 스튜디오 코드의 AI 툴킷을 사용하여 튜닝할 수 있으며, 윈도우 스토어의 AI 데브 갤러리 애플리케이션을 통해 기존 로라 어댑터를 파이 실리카에 신속하게 추가하고 평가할 수 있습니다. 이러한 툴은 개발자들이 AI 모델을 튜닝하고 애플리케이션이 적절한 결과물을 내놓도록 보장하는 데 중요한 역할을 합니다. 튜닝은 애플리케이션에 데이터를 추가하고 자체 데이터를 사용해 결과를 유도함으로써 환각 위험을 줄이는 데 유용합니다.
모델 컨텍스트 프로토콜(MCP)을 통한 연결
마이크로소프트는 모델 컨텍스트 프로토콜(MCP)을 도입하여 AI 작업을 애플리케이션과 통합합니다. 이를 통해 AI 애플리케이션은 PC에 위치하는 애플리케이션을 에이전트로 사용해 지능형 워크플로우에 구축할 수 있습니다. 애플리케이션은 특정 기능을 앱 작업(App Action)으로 노출할 수 있으며, 이는 MCP 서버가 되어 맞춤형 워크플로우를 위한 새로운 빌딩 블록을 제공합니다. 윈도우는 특정 기능을 위한 자체 MCP 서버를 노출하며, 시간이 지나면서 더 많은 기능이 MCP를 통해 노출될 예정입니다.
파운드리 로컬 사용 경험
파운드리 로컬은 엔비디아 GPU가 장착된 x64 PC와 퀄컴 NPU가 장착된 ARM PC에서 테스트되었습니다. 파이 4 미니(Phi 4 Mini) 모델을 다운로드하여 실행한 결과, 파운드리 로컬은 PC 하드웨어를 프로파일링하고 최적의 모델 버전을 자동으로 다운로드하는 것을 확인할 수 있었습니다. 파운드리 로컬은 모델을 위한 REST 엔드포인트를 노출하므로 이를 대상으로 코드를 작성할 수 있습니다. 이는 로컬 AI 애플리케이션을 구축하는 데 필요한 마이크로소프트 툴의 핵심적인 부분입니다.
윈도우 AI 파운드리, AI 개발의 미래를 열다
마이크로소프트의 윈도우 AI 파운드리는 PC AI 개발의 새로운 지평을 열고 있습니다. 로컬 PC 리소스를 활용한 AI 애플리케이션 개발, 다양한 하드웨어 환경 지원, 로라 튜닝, MCP를 통한 애플리케이션 연결 등 다양한 기능은 개발자들에게 강력한 도구를 제공합니다. 윈도우 AI 파운드리를 통해 더 많은 개발자들이 AI의 잠재력을 활용하고 혁신적인 애플리케이션을 만들어낼 수 있기를 기대합니다.
