by Wizard

AI 시대, 복잡한 추론 과정을 간소화하는 해법: 레노버와 뉴타닉스의 협력

기업들은 생성형 AI 도입을 통해 생산성 향상을 기대하지만, 실제 도입에는 여러 어려움이 따릅니다. 특히 에이전틱 AI 시대가 도래하면서 AI는 더욱 복잡해지고 관리하기 어려워졌습니다. 이러한 문제 해결을 위해 레노버와 뉴타닉스가 협력하여 효과적인 AI 관리 체계와 인프라 구축, 보안 및 비용 효율성 확보를 위한 현실적인 해법을 제시하고 있습니다.

에이전틱 AI 시대, 기업의 고민 심화

기존 LLM은 학습된 정보를 제공하는 데 그쳤지만, 에이전틱 AI는 외부 도구를 호출하고 실시간 데이터를 처리하며 추론을 수행합니다. 이 과정에서 RAG, 임베딩 등 추가 기능이 필요하고, 매주 수천 개의 모델이 새로 등장하면서 관리와 통제가 어려워지고 있습니다. 또한, 기업 내 여러 부서에서 필요한 LLM과 추론 서버를 따로 구축하여 GPU와 같은 자원이 중복 사용되는 비효율도 발생할 수 있습니다.

뉴타닉스의 공유 AI 엔드포인트 서비스

뉴타닉스는 이러한 복잡성을 해결하기 위해 공유 AI 엔드포인트 서비스를 제시합니다. 이는 GPU 자원을 하나의 풀로 묶어 모든 모델과 추론 과정을 관리하는 단일 플랫폼을 제공하는 서비스입니다. 이를 통해 AI 파이프라인의 복잡성을 해결하고, 개발자가 필요로 할 때마다 특정 모델에 최적화된 추론 서버를 자동으로 제공하여 AI 추론 비용을 효과적으로 통제할 수 있습니다.

레노버의 하이브리드 AI 인프라 전략

뉴타닉스의 소프트웨어 플랫폼은 레노버의 하드웨어 인프라 위에서 안정적으로 작동합니다. 레노버는 하이브리드 AI 전략을 통해 클라우드부터 데이터센터, 엣지까지 확장할 수 있도록 지원합니다. 특히, 뉴타닉스 전용 하드웨어 라인업을 포함한 다양한 인프라 솔루션을 제공하며, 엔비디아 GPU 탑재를 지원하는 씽크애자일 HX 시리즈는 뉴타닉스 플랫폼에 최적화된 서버입니다.

전력 및 발열 관리 문제 해결

대규모 AI 플랫폼에서는 성능 지표뿐만 아니라 전력 및 발열 관리도 중요한 문제입니다. 레노버는 수랭식 냉각 기술인 넵튠을 도입하여 CPU와 GPU의 발열을 직접 제어하고 전력 효율을 높이고 있습니다. 뉴타닉스와 협력하여 뉴타닉스 AI 플랫폼이 수랭식 기반으로 운영될 수 있는 턴키 AI 솔루션인 Nutanix GPT-in-a-box를 출시하기도 했습니다.

엣지 AI 확장을 위한 노력

레노버는 AI 추론 최적화가 데이터센터에만 머물지 않고 엣지 환경으로 확장되어야 한다고 강조합니다. 엣지 환경에서 AI를 활용하면 데이터 주권 확보, 네트워크 비용 절감, 실시간 의사결정 지원이 가능합니다. 레노버는 뉴타닉스와 협력하여 GPU 탑재가 가능한 10여 종 이상의 엣지 서버를 출시하고, 이미지 및 텍스트 분류 성능을 검증했습니다.

레노버와 뉴타닉스의 지속적인 협력

뉴타닉스와 레노버는 기존 인프라 파트너십을 바탕으로 AI 솔루션 협력을 확대하고 있습니다. 하이브리드 AI 환경을 하나의 플랫폼으로 제공하여 AI 도입의 복잡성을 줄이고 안정적인 운영 기반을 확보하는 데 집중하고 있습니다. 또한, 레노버는 AI 이노베이터 프로그램을 통해 다양한 파트너 솔루션을 자사 하드웨어로 검증하고 제공하고 있습니다.