OpenAI의 새로운 오픈소스 AI 모델 gpt-oss-20b 및 gpt-oss-120b: 내 PC에서 돌릴 수 있을까?
OpenAI가 GPT-2 이후 처음으로 오픈소스 AI 모델인 gpt-oss-20b와 gpt-oss-120b를 공개했습니다. 이 두 모델은 로컬 환경에서 실행 가능하다는 특징을 가지고 있습니다. 즉, 인터넷 연결 없이도 데스크톱 PC나 노트북에서 직접 구동할 수 있다는 의미입니다. 하지만, 이를 위해서는 PC의 하드웨어 성능이 충분해야 합니다. 본 글에서는 각 모델을 실행하기 위한 PC 사양 요구 사항을 자세히 살펴보겠습니다.
gpt-oss-20b 모델 실행을 위한 PC 사양
gpt-oss-20b는 210억 개의 파라미터를 가진 비교적 작은 모델입니다. OpenAI 공식 문서에 따르면, 이 모델을 실행하기 위한 최소 RAM 용량은 16GB입니다. 이는 16GB 이상의 시스템 메모리 또는 비디오 RAM을 갖춘 노트북이나 PC에서 gpt-oss-20b를 실행할 수 있다는 의미입니다. AMD는 Ryzen AI 300 시리즈 CPU와 32GB 메모리(16GB는 가변 그래픽 메모리로 설정)를 권장하며, GPU는 16GB 메모리를 가진 RX 7000 또는 9000 모델을 권장합니다. 하지만 필수 조건은 아니며, 중요한 것은 충분한 메모리 확보입니다. GPU에 16GB 이상의 메모리를 할당하여 그래픽 카드에서 모든 작업을 처리하는 것이 가장 이상적입니다.
gpt-oss-120b 모델 실행을 위한 PC 사양
gpt-oss-120b는 1,170억 개의 파라미터를 가진 대규모 모델입니다. 공식적으로 80GB의 RAM이 필요하며, 데이터 센터 환경에서 GPU에 80GB의 메모리를 할당하여 사용하는 것을 권장합니다. 하지만 시스템 메모리와 그래픽 카드 메모리를 합쳐서 사용할 수도 있습니다. 예를 들어, 64GB의 시스템 메모리와 24GB의 그래픽 카드(Nvidia RTX 3090 Ti 등)를 함께 사용하면 총 88GB의 RAM을 확보할 수 있습니다. AMD는 최상위 Ryzen AI Max+ 395 프로세서와 128GB의 시스템 RAM (96GB는 가변 그래픽 메모리로 할당)을 권장합니다. gpt-oss-120b를 실행하기 위해서는 고성능 워크스테이션 노트북 또는 데스크톱(다중 GPU 포함)이 필요합니다.
PC에서 AI 모델 실행하는 방법
위에서 언급한 시스템 요구 사항을 충족하는 경우, OpenAI가 선택한 플랫폼인 Ollama를 통해 두 모델을 실행할 수 있습니다. Ollama 웹사이트에서 PC용 Ollama를 다운로드하여 설치한 후, 다음 명령어를 실행하여 원하는 모델을 다운로드하고 실행할 수 있습니다.
ollama pull gpt-oss:20b
ollama run gpt-oss:20b
더 큰 모델을 실행하려면 20b를 120b로 바꾸면 됩니다. Ollama 외에도 LM Studio를 사용할 수 있으며, Windows 11 (또는 10) 사용자는 Windows AI Foundry를 사용할 수도 있습니다.
스마트폰에서 AI 모델 실행 가능성
OpenAI CEO 샘 알트만은 작은 AI 모델이 스마트폰에서도 실행된다고 언급했지만, 이는 과장된 주장입니다. Qualcomm이 Snapdragon 칩을 탑재한 기기에서 gpt-oss-20b가 실행된다는 보도자료를 발표했지만, 이는 스마트폰 CPU보다는 랩톱, 특히 Snapdragon X 실리콘을 탑재한 Copilot+ PC에 관한 내용입니다. 현재 스마트폰에서 gpt-oss-20b를 실행하는 것은 현실적인 선택이 아니지만, 기술적으로는 가능할 수 있습니다 (휴대폰에 16GB 이상의 RAM이 있는 경우).
맺음말
OpenAI의 새로운 오픈소스 AI 모델은 로컬 환경에서 실행 가능한 혁신적인 기술입니다. 다만, 모델을 실행하기 위해서는 충분한 하드웨어 성능이 필요합니다. gpt-oss-20b는 비교적 낮은 사양에서도 실행 가능하지만, gpt-oss-120b는 고성능 워크스테이션 수준의 PC가 필요합니다. 앞으로 하드웨어 기술이 발전함에 따라 스마트폰에서도 이러한 AI 모델을 원활하게 사용할 수 있는 날이 올 것으로 기대됩니다.
