자율 AI 데스크톱 앱 전성시대

자율 AI 데스크톱 앱 전성시대
Share

기술 지식 없이도 LLM 활용 돕는 데스크톱 앱. 아마존 키로, 구글 안티그래비티, LM 스튜디오 비교 분석.

자율형 AI를 위한 전용 데스크톱 애플리케이션이 2026년 현재 대세로 자리 잡았습니다. 이는 비교적 기술 지식이 많지 않은 사용자도 대형 언어 모델(LLM)을 쉽게 활용하도록 돕는 역할을 합니다. 과거 파이썬 코드를 직접 작성하거나 모델 파일을 일일이 관리해야 했던 번거로움을 해소하고, IDE와 유사한 인터페이스를 통해 LLM과 상호작용하고 대화 기록을 확인하며 세부 동작을 점검할 수 있습니다.

아마존과 구글 역시 AI 기반 코드 개발에 초점을 맞춘 전용 제품을 각각 선보였습니다. 아마존의 키로(Kiro)와 구글의 안티그래비티(Antigravity)가 대표적이며, 두 제품 모두 모델을 로컬 환경에서 실행하거나 클라우드에서 구동하는 방식을 지원합니다.

LM 스튜디오: 로컬 우선 LLM 활용

엘리먼트 랩스(Element Labs)가 개발한 LM 스튜디오(LM Studio)는 로컬 우선 경험을 전면에 내세웁니다. LLM을 실행하고 운영하며 활용하는 전 과정을 PC에서 처리하는 방식입니다. 코드 개발보다는 일반적인 대화형 활용에 초점을 맞췄으며, 기능 구성은 아직 단출하지만 기능적인 면에서는 충분한 완성도를 갖췄습니다.

간편한 모델 설치 및 관리

LM 스튜디오를 처음 실행하면 가장 먼저 하나 이상의 모델을 설치해야 합니다. 사이드바 버튼을 누르면 개발사가 선별한 모델 검색 패널이 열립니다. 모델 이름이나 제작자 기준으로 검색할 수 있고, 현재 사용 중인 PC의 가용 메모리에 맞는 모델만 필터링하는 기능도 제공합니다. 각 모델 페이지에는 파라미터 규모, 주요 용도, 도구 사용 학습 여부 등이 정리돼 있습니다. 사용자는 앱의 모델 디렉토리에 파일을 추가하는 방식으로 이 인터페이스 외부에서 모델을 직접 설치할 수도 있습니다. 모델 다운로드와 관리는 모두 애플리케이션 내부에서 처리하므로, 컴피UI(ComfyUI)처럼 모델 파일을 수동으로 정리하거나 경로를 직접 관리할 필요가 없습니다.

Foundry LLM과의 대화 및 활용

LLM과 대화를 시작하려면 창 상단 선택기에서 메모리에 올릴 모델을 고르면 됩니다. 모델 실행 방식도 세부 조정할 수 있습니다. 예를 들어 모델 전체를 메모리에 적재할지, 추론 처리에 사용할 CPU 스레드 수를 얼마나 할당할지, 일부 레이어를 GPU로 넘길지 등을 설정할 수 있습니다. 기본값만으로도 무리 없이 작동합니다. 모델과의 대화는 별도 탭에 기록되며, 모델 내부 추론 과정이나 도구 연동 정보도 함께 확인할 수 있습니다. 현재 대화에서 사용했거나 남은 토큰 수를 실시간으로 보여주기 때문에 대화가 길어질수록 자원 사용량이 어떻게 변하는지 가늠할 수 있습니다. 로컬 파일을 활용하려면 파일을 대화 창으로 끌어다 놓으면 됩니다. 예를 들어 “이 문서의 표현을 더 명확하게 다듬어 달라”라고 요청할 수 있습니다. 통합 기능을 통해 모델에 로컬 파일 시스템 접근 권한을 부여하는 것도 가능하지만, 업무에 필수적인 데이터가 저장된 시스템에서는 신중하게 사용하는 것이 안전합니다.

Foundry 통합 기능 및 API 확장

LM 스튜디오는 모델 컨텍스트 프로토콜(Model Context Protocol, MCP) 서버 애플리케이션을 추가해 에이전트 기능을 확장할 수 있습니다. 기본으로 제공하는 통합 기능은 자바스크립트 코드 샌드박스뿐이지만, 사용자가 직접 mcp.json 파일을 수정해 원하는 통합 기능을 정의하고 필요한 코드를 추가하는 방식으로 기능을 확장할 수 있습니다. LM 스튜디오는 데스크톱 애플리케이션 형태뿐 아니라 헤드리스 서비스로도 모델을 실행할 수 있습니다. 어떤 방식이든 REST API를 제공해 모델과 상호작용하고, 채팅을 수행하며, 결과를 한 번에 받거나 스트리밍 형태로 받아볼 수 있습니다. 앤트로픽 호환 엔드포인트도 추가되어 클로드 코드를 LM 스튜디오와 함께 사용할 수 있습니다. API 엔드포인트를 통한 도구 사용 기능도 주목할 만합니다. 사용자가 LM 스튜디오 API와 상호작용하는 스크립트를 작성하면서 자체 도구를 함께 연결하여 모델과 외부 도구 사이에 복합적인 상호작용을 구성할 수 있습니다.

Foundry 결론

LM 스튜디오는 깔끔한 인터페이스와 기본적인 편의 기능을 갖춘 출발점입니다. 향후 릴리즈에서는 실질적으로 활용도를 높일 기능을 보강해야 할 것으로 보입니다. 도구 통합은 여전히 수동 작업에 의존하며, 기본 제공 도구도 매우 제한적입니다. 또한, LM 스튜디오 자체는 오픈소스가 아니라는 점도 아쉬운 부분입니다. 그럼에도 불구하고, 이 초기 버전만으로도 LM 스튜디오는 로컬에서 모델을 실행할 수 있는 하드웨어와 기본 지식을 갖춘 사용자에게 충분히 실용적인 도구입니다.

이것도 좋아하실 수 있습니다...