Post #4265

* 구글은 루빈 GPU 100만개 구매 예정 Google Cloud Next에서 Google은 NVIDIA Vera Rubin NVL72 랙 스케일 시스템으로 구동되는 A5X를 발표했습니다. 이 시스템은 칩, 시스템 및 소프트웨어 전반에 걸친 극단적인 공동 설계를 통해 이전 세대보다 토큰당 추론 비용을 최대 10배 낮추고 메가와트당 토큰 처리량을 10배 높입니다. A5X는 NVIDIA ConnectX-9 SuperNIC을 사용하고 차세대 Google Virgo 네트워킹과 결합하여 단일 클러스터 내에서 최대 80,000개의 NVIDIA Rubin GPU, 멀티사이트 클러스터에서 최대 960,000개의 NVIDIA Rubin GPU까지 확장할 수 있으므로 고객은 NVIDIA에 최적화된 인프라에서 가장 큰 AI 워크로드를 실행할 수 있습니다. https://blogs.nvidia.com/blog/google-cloud-agentic-physical-ai-factories/?ncid=so-twit-202209&linkId=100000418840792