HGX-2

Beschleunigt durch NVIDIA Tesla V100-Grafikprozessoren und NVSwitch

Ein neues Zeitalter der Informationstechnologie bricht an, in dem KI und High Performance Computing (HPC) unsere Welt verwandeln.

NVIDIA HGX-2 · Multi-Precision-Computing · KI-Plattform

NVIDIA HGX-2 – Die einheitliche Plattform für KI und High-Precision-Computing

Von selbstfahrenden Autos bis hin zu Simulationen des globalen Klimas: Um die neuen Herausforderungen zu meistern, sind enorme Rechenressourcen erforderlich. NVIDIA HGX-2 ist auf Multi-Precision-Computing ausgelegt. Hierbei wird wissenschaftliches High-Precision-Computing mit der Schnelligkeit von KI-Computing kombiniert, bei dem die Präzision normalerweise geringer ist. So entsteht eine einheitliche, flexible und leistungsstarke Plattform, mit der sich diese massiven Herausforderungen bewältigen lassen.

Leistungsmerkmale der NVIDIA HGX-2

Ermöglicht den weltweit größten Grafikprozessor

Unterstützung für den weltweit größten Grafikprozessor

Dank der Beschleunigung durch 16 NVIDIA® Tesla® V100-Grafikprozessoren und mithilfe von NVIDIA NVSwitch™ bietet die HGX-2 eine beispiellose Rechenleistung, Bandbreite und Speichertopologie, um umfangreiche Modelle schneller zu trainieren, Datensätze zu analysieren und Simulationen schneller und effizienter zu berechnen. Die 16 Tesla V100-Grafikprozessoren agieren als einheitlicher 2-PetaFLOPS-Beschleuniger mit einem Grafikprozessor-Gesamtspeicher von einem halben Terabyte (TB), sodass damit die rechenintensivsten Aufgaben erledigt werden können und der „weltweit größte Grafikprozessor“ bereitgestellt werden kann.

Leistung & Skalierung

Beschleunigung für KI, Machine Learning und HPC

Die NVIDIA HGX-2 Plattform bündelt enorme Rechenleistung, um anspruchsvollste Workloads effizienter zu bewältigen und herkömmliche CPU-Server-Infrastrukturen abzulösen.

KI der nächsten Generation beschleunigen

Die Komplexität der KI-Modelle erfordert großen Speicher, mehrere Grafikprozessoren und extrem schnelle Verbindungen. Mit NVSwitch verfügt die HGX-2 über die notwendige Leistung für ein schnelleres Training moderner KI. Eine einzelne HGX-2 ersetzt bis zu 300 CPU-basierte Server, was Kosten, Platz und Energie im Rechenzentrum spart.

Maschinelles KI-Lern der nächsten Generation

Modelle des maschinellen Lernens erfordern das Laden und Verarbeiten riesiger Datensätze. Mit 0,5 TB vereinheitlichtem Speicher (16 TB/s Bandbreite) und NVSwitch-Kommunikation lädt HGX-2 riesige Datenmengen extrem schnell. Zusammen mit RAPIDS Open-Source-Software ersetzt eine HGX-2 rund 544 CPU-Server.

HPC-Superknoten mit Höchstleistung

HPC-Anwendungen benötigen enorme Rechendichte, um Serverzahlen und Betriebskosten zu senken. Für HPC-Simulationen und hochdimensionale Matrix-Multiplikation ist die GPU-Kopplung via NVSwitch ideal, um Daten effizient abzurufen. Ein einzelner HGX-2-Server ersetzt dabei 60 reine CPU-Server.

NVIDIA NVSwitch

NVSwitch für Computing mit voller Bandbreite

Dank NVSwitch kann jeder Grafikprozessor mit einem anderen Grafikprozessor mit voller Bandbreite von 2,4 TB/Sek. kommunizieren, um die größten KI- und HPC-Probleme zu beheben. Jeder Grafikprozessor hat vollen Zugriff auf 0,5 TB des HBM2-Gesamtspeichers und ist in der Lage, die umfangreichsten Datensätze zu verarbeiten. Da durch NVSwitch ein einheitlicher Serverknoten bereitgestellt wird, können komplexe KI- und HPC-Anwendungen erheblich beschleunigt werden.

Spezifikationen

Technische Daten im Vergleich

Vergleich der Leistungsdaten und Architekturen zwischen NVIDIA HGX-1 und HGX-2.

Spezifikation	HGX-1	HGX-2
Leistung	1 PetaFLOPS Tensor-Operationen 125 TeraFLOPS Single-Precision-Leistung 62 TeraFLOPS Double-Precision-Leistung	2 PetaFLOPS Tensor-Operationen 250 TeraFLOPS Single-Precision-Leistung 125 TeraFLOPS Double-Precision-Leistung
Grafikprozessoren	8 × NVIDIA Tesla V100	16 × NVIDIA Tesla V100
Grafikprozessorspeicher	256 GB (gesamt) 7,2 TB/s Bandbreite	512 GB (gesamt) 16 TB/s Bandbreite
NVIDIA CUDA^® Recheneinheiten	40.960	81.920
NVIDIA Tensor-Recheneinheiten	5.120	10.240
Kommunikationskanal	Hybrid-Cube-Mesh mit NVLink 300 GB/s Bisektionsbandbreite	NVSwitch mit NVLink 2.4 TB/s Bisektionsbandbreite

Beratung zu NVIDIA HGX-2 anfragen

Wir unterstützen Sie bei der Planung und Integration von NVIDIA HGX-Systemen in Ihre Rechenzentrumsinfrastruktur. Lassen Sie uns gemeinsam Ihre Anforderungen an KI, Machine Learning und High-Performance-Computing analysieren.

Escape Technology auf LinkedIn folgen

Jetzt Beratung anfragen

NVIDIA