NVIDIA가 NVIDIA DSX를 발표했습니다. 이 플랫폼은 NVIDIA DSX MaxLPS, NVIDIA DSX Flex, NVIDIA DSX OS, NVIDIA DSX Sim, NVIDIA DSX Reference Designs와 같은 기술들을 포함하여 메가와트당 AI 공장 처리량을 최적화합니다. NVIDIA DSX MaxLPS는 고정 전력 예산 내에서 토큰 처리량을 극대화하기 위한 동적 전력 할당 소프트웨어를 포함하는 기술 제품군입니다. NVIDIA DSX Flex는 그리드 신호를 수신하고 이에 대응하여 AI 워크로드 우선순위를 조정하며, 높은 우선순위의 작업을 보호하면서 전체 전력 소비를 줄입니다. 이 플랫폼은 Lambda의 5-랙, 19-노드 클러스터를 포함한 다양한 배치에서 테스트되었으며, 해당 클러스터에서는 클러스터 전체 토큰 처리량이 24% 증가한 것으로 보고되었습니다.
NVIDIA의 발표를 근거로 저희가 쓴 문장입니다 — 모든 숫자와 명칭을 원문과 대조해 통과한 것만 싣습니다.