생성형 AI 기업, 특화된 오픈소스 및 소형 언어 모델 채택 가속화
최근 생성형 AI(GenAI) 업계는 특정 작업을 자동화하는 데 뛰어난 오픈소스 및 소형 언어 모델(SLM) 채택을 적극적으로 추진하고 있습니다. 유연성, 맞춤화 용이성, 작은 용량, 저렴한 컴퓨팅 비용 등의 장점 때문입니다. HubSpot, Microsoft, ServiceNow 등 주요 기업들이 고객 니즈에 더욱 적합한 AI 에이전트 구축을 위해 맞춤화 가능한 오픈소스 모델 개발에 집중하고 있습니다.
오픈소스 모델 채택 이유
Forrester Research의 Craig LeClair 부사장은 "기업은 수백 개의 모델을 갖게 될 것이며, 이 모델들은 특정 도메인에 특화되어 빠르게 구축될 것"이라고 전망했습니다. 서비스 제공업체들이 오픈소스 AI 모델을 채택하는 주된 이유는 유연성, 맞춤화 가능성, 작은 용량, 그리고 더 낮은 컴퓨팅 비용입니다. Microsoft는 Microsoft 365용 오프라인 작동이 가능한 오픈소스 AI 모델을 포함한 소형 AI 도구 모음을 구축하고 있습니다. 이러한 소형 모델들은 Copilot과 신경망 프로세서를 탑재한 Windows AI PC에서 M365를 사용하려는 오프라인 사용자들을 대상으로 합니다.
Microsoft의 전략
Microsoft의 최고 제품 책임자인 Aparna Chennapragada는 "Microsoft 내부 팀 또한 특정 사용 사례, 예를 들어 글쓰기, 분석, 이미지 생성 등을 위해 이러한 모델들을 추가 훈련하는 것을 고려하고 있다"고 밝혔습니다. 작은 크기의 오픈소스 모델은 파이프라인에서 중요한 역할을 수행합니다. Microsoft의 자체 오픈소스 소형 언어 모델인 Phi Silica는 Windows 개발자가 NPU를 활용하는 오프라인 애플리케이션을 작성하는 데 사용할 수 있습니다.
HubSpot의 Breeze AI 플랫폼 확장
HubSpot은 최근 직원 생산성 향상을 위한 GenAI 도구를 이미 포함하고 있는 Breeze AI 플랫폼에서 에이전트 가용성을 확대했습니다. HubSpot의 AI 전략은 독점적인 모델을 개발하거나 다른 업체가 하지 않는 것을 시도하는 것이 아니라, 최고의 AI를 고객 문제 해결에 적용하는 것입니다. 이를 위해 Mistral AI SAS의 오픈소스 Mistral AI LLM을 영업, 마케팅, 지원 프로세스를 위한 AI 에이전트 파이프라인에 추가하고, 텍스트-이미지 생성을 위해 Stability Diffusion 3 Large를 활용합니다.
모델 선택 기준
HubSpot의 AI 책임자 Nicholas Holland는 에이전트의 백엔드 모델은 필요한 작업, 속도, 품질, 정확성에 따라 달라진다고 설명합니다. 일부 에이전트는 광범위한 추론이 필요한 반면, 오픈소스 원칙에 기반한 소형 모델은 텍스트 또는 이미지 생성에 뛰어날 수 있습니다. 고객은 모델이나 토큰에 대해 걱정할 필요 없이 오케스트레이터가 백그라운드에서 작업을 수행합니다. Holland는 "추론 모델을 사용하려면 특정 수준의 깊이, 사고 복잡성 및 비용이 필요합니다. 추론이 완료되면 텍스트 또는 이미지를 생성하려는 경우 비용이 저렴한 다른 모델을 사용할 수 있습니다."라고 덧붙였습니다. HubSpot은 OpenAI의 DALL-E 3를 사용해 본 후 이미지 생성에 Stability Diffusion 3 모델을 선택했습니다. 최신 Stability Diffusion 모델 3.5는 특정 조건 하에서 오픈 소스로 간주됩니다.
ServiceNow의 Apriel 모델
ServiceNow는 Nvidia와 협력하여 IT 지원, 인사, 고객 서비스 기능과 같은 프로세스를 결정하는 학습 AI 에이전트를 만들기 위해 Apriel이라는 오픈소스 GenAI 모델을 개발했습니다. ServiceNow의 AI 경험 및 혁신 담당 부사장 Dorit Zilbershot은 Apriel은 파라미터가 150억 개에 불과하여 간결하며 추론에 특화되어 있다고 설명했습니다. Apriel 모델은 더 빠른 추론을 제공하면서도 컴퓨팅 비용을 절감할 수 있습니다. Forrester의 LeClair는 완전하게 관리되는 AI 플랫폼은 회사의 AI 정책에 부합하는 승인된 모델 목록을 갖게 될 것이라고 말했습니다.
온프레미스 환경으로의 회귀
LeClair는 "온프레미스 환경으로의 회귀가 있을 것이라고 생각합니다. 기업은 자사의 독점 정보를 훈련시킨 모델을 원할 것입니다. IT 유출에 대한 우려 때문에 통제력이 좋기를 원할 것입니다. 따라서 오픈소스 모델은 통제된 온프레미스 환경에서 실행될 것입니다."라고 전망했습니다.
결론
생성형 AI 업계는 특정 작업에 최적화된 오픈소스 및 소형 언어 모델 채택을 통해 혁신을 가속화하고 있습니다. 유연성, 맞춤화 용이성, 비용 효율성 등의 장점을 바탕으로 다양한 기업들이 자체 서비스 및 솔루션에 이러한 모델을 통합하고 있습니다. 이러한 추세는 AI 기술의 발전과 함께 더욱 확대될 것으로 예상됩니다.
