엔비디아 젯슨 AGX 토르, 블랙웰 GPU 탑재로 로봇 및 엣지 AI 개발 판도를 바꿀까?

엔비디아(Nvidia)가 로봇 공학 및 엣지 AI 개발을 위한 야심찬 플랫폼, 젯슨 AGX 토르(Jetson AGX Thor) 개발자 키트를 공개했습니다. 3,499달러라는 높은 가격에도 불구하고, 초기 리뷰들은 젯슨 오린(Jetson Orin)을 뛰어넘는 강력한 성능 향상을 제공하며 개발자들의 뜨거운 관심을 받고 있습니다. 블랙웰(Blackwell) 아키텍처 기반의 GPU, 넉넉한 메모리, 빠른 저장 장치를 탑재한 젯슨 AGX 토르가 엣지 컴퓨팅의 새로운 가능성을 열어줄 수 있을지 자세히 살펴보겠습니다.

젯슨 AGX 토르, 주요 스펙 및 특징

젯슨 AGX 토르의 핵심은 블랙웰 아키텍처 기반의 젯슨 T5000 모듈입니다. 2,560개의 CUDA 코어, 96개의 텐서 코어, 14코어 Arm Neoverse CPU를 결합하여 강력한 연산 성능을 제공합니다. 또한, 270GB/s 이상의 대역폭을 제공하는 128GB LPDDR5x 메모리와 1TB의 온보드 스토리지를 갖추고 있어 대규모 데이터 처리 및 AI 모델 실행에 최적화되었습니다. USB C, USB A, HDMI 2.1, Wi-Fi 6E, Bluetooth, 기가비트 이더넷, 100GbE 포트 등 다양한 연결 옵션을 지원하여 폭넓은 활용성을 자랑합니다.

초기 리뷰, 젯슨 AGX 토르의 성능을 극찬

초기 리뷰들은 젯슨 AGX 토르가 젯슨 오린 대비 상당한 성능 향상을 제공한다고 평가합니다. HotHardware의 테스트 결과에 따르면, 젯슨 AGX 토르는 Arm64 컨테이너를 원활하게 실행했으며, 젯슨 오린 키트가 완료하지 못한 워크로드를 처리하는 데 성공했습니다. HotHardware는 젯슨 AGX 토르의 성능이 RTX 5070 수준에 근접하며, 젯슨 오린은 RTX 3050 수준에 가깝다고 분석했습니다. 특히, 대규모 언어 모델(LLM) 성능이 뛰어나 휴머노이드 로봇 개발에 적합하다고 강조했습니다.

벤치마크 테스트, 젯슨 AGX 토르의 압도적인 성능 입증

ServeTheHome의 리뷰에서는 젯슨 AGX 토르의 성능이 엔비디아가 주장하는 성능에 근접한다고 밝혔습니다. Llama 3.1 8B 모델에서 초당 149.1 토큰을 처리하여 예상치인 150.8 토큰에 거의 도달했습니다. CPU 멀티 스레드 성능은 AMD Ryzen AI 7 350 또는 Mac Mini M4와 유사한 수준으로 평가되었습니다. 벤치마크 테스트 결과, 젯슨 AGX 토르는 모든 모델에서 젯슨 오린을 능가하는 성능을 보여주었습니다. 특히, Qwen 3 32B 추론에서 젯슨 AGX 토르는 젯슨 오린 대비 약 5배 빠른 성능을 기록하여 대규모 모델 실행에 강점을 드러냈습니다.

높은 전력 소비, 배터리 시스템에는 과제

젯슨 AGX 토르의 높은 전력 소비는 배터리 시스템에 과제를 제기할 수 있습니다. 하지만 ServeTheHome은 젯슨 AGX 토르가 첨단 로봇 공학에 필요한 컴퓨팅 성능과 메모리 용량을 제공한다고 결론지었습니다. 또한, 1TB SSD는 WD/SanDisk SN5000S 모델로 확인되었습니다. 리뷰어들은 젯슨 AGX 토르가 엣지 AI 및 로봇 공학 프로젝트를 위한 중요한 진전이며, 컴퓨팅 성능, 메모리 용량, 개발자 도구의 조화가 돋보인다고 평가했습니다. 다만, 잠재력을 최대한 발휘하기 위해서는 소프트웨어 업데이트가 필요하다고 지적했습니다.

결론

젯슨 AGX 토르는 강력한 성능과 다양한 기능을 통해 로봇 및 엣지 AI 개발의 새로운 지평을 열 것으로 기대됩니다. 높은 가격에도 불구하고, 엔비디아의 소프트웨어 스택과 결합된 젯슨 AGX 토르는 차세대 로봇 개발에 없어서는 안 될 핵심 플랫폼으로 자리매김할 것입니다. 지속적인 소프트웨어 업데이트를 통해 젯슨 AGX 토르의 잠재력은 더욱 확장될 것으로 예상됩니다.