WTF Is Going On(Weights, Tools & Frameworks)

English
NVIDIA 보도

AI Infra Summit: NVIDIA Vera Rubin 및 DSX 플랫폼 발전, AI 팩토리를 위한 Tokens Per Watt 최적화의 에너지 효율성 조명

AI Infra Summit: NVIDIA Vera Rubin and DSX Platform Advancements Showcase Energy Efficiencies of Optimizing Tokens Per Watt for AI Factories
원문 읽기 — NVIDIA →

무슨 일인가

NVIDIA는 Amazon의 Annapurna Labs 및 d-Matrix를 포함한 파트너사들과 협력하여 AI 인프라를 최적화한다고 발표했습니다. NVIDIA와 해당 파트너사들은 Lambda가 NVIDIA DSX MaxLPS를 통해 와트당 성능을 23% 개선한 것과 같은 새로운 결과를 시연했습니다. NVIDIA Vera Rubin NVL72는 공장 전체 전력 최적화를 통해 메가와트당 최대 1.4배 더 많은 토큰을 제공할 수 있는 풀스택 AI 팩토리 플랫폼의 일부입니다. NVIDIA DSX MaxLPS는 특정 배포 환경에서 동일한 메가와트 예산 내에서 최대 40% 더 많은 GPU 용량을 가능하게 할 수 있습니다.

NVIDIA의 발표를 근거로 저희가 쓴 문장입니다 — 모든 숫자와 명칭을 원문과 대조해 통과한 것만 싣습니다.

상황판의 다른 소식