Leistungsmerkmale der NVIDIA DGX-2
Leistung für das zuvor Unmögliche
Zunehmend komplexe KI erfordert beispiellose Rechenleistung. Mit der bahnbrechenden GPU-Skalierung der NVIDIA DGX-2 können Sie viermal größere Modelle auf einem einzigen Node trainieren. Im Vergleich zu herkömmlichen x86-Architekturen würde das Training von ResNet-50 auf der DGX-2 die Äquivalenz von 300 Servern mit dualen Intel Xeon Gold CPUs erfordern, was Anschaffungskosten von über 2,7 Millionen US-Dollar verursachen würde.
NVIDIA NVSwitch: Eine revolutionäre KI-Netzwerkstruktur
Spitzenforschung erfordert die Freiheit, Modellparallelität zu nutzen, und verlangt eine nie dagewesene Bandbreite zwischen den GPUs. NVIDIA hat NVSwitch entwickelt, um genau diese Anforderungen zu erfüllen. Ähnlich wie die Entwicklung von der DFÜ-Verbindung zum Ultra-Highspeed-Breitband liefert NVSwitch schon heute die Netzwerkstruktur der Zukunft. Mit der NVIDIA DGX-2 sind Modellkomplexität und -größe nicht mehr durch die Grenzen traditioneller Architekturen eingeschränkt. Nutzen Sie modellparalleles Training mit einer Netzwerkstruktur in der DGX-2, die eine Bisektionsbandbreite von 2,4 TB/s liefert – eine 24-fache Steigerung gegenüber früheren Generationen. Diese neue Interconnect-„Autobahn“ ermöglicht grenzenlose Möglichkeiten für Modelltypen, welche die Leistung von verteiltem Training über 16 GPUs gleichzeitig nutzen können.
KI-Skalierung auf einem völlig neuen Niveau
Moderne Unternehmen müssen KI-Leistung schnell als Reaktion auf geschäftliche Anforderungen bereitstellen und KI skalieren, ohne dass Kosten oder Komplexität explodieren. Die DGX-2 ist mit der DGX-Software ausgestattet, die eine beschleunigte Bereitstellung und vereinfachte Abläufe im großen Maßstab ermöglicht. Sie bietet eine schlüsselfertige Lösung, die den schnellsten Weg zur Skalierung von KI darstellt, inklusive Virtualisierungsunterstützung, damit Sie Ihre eigene private KI-Cloud auf Enterprise-Niveau aufbauen können. Jetzt können Unternehmen uneingeschränkte KI-Leistung in einer Lösung nutzen, die sich mühelos skalieren lässt – und das mit einem Bruchteil der Netzwerkinfrastruktur, die normalerweise für die Verbindung beschleunigter Rechenressourcen erforderlich ist. Dank eines beschleunigten Bereitstellungsmodells und einer auf einfache Skalierbarkeit ausgelegten Architektur kann Ihr Team mehr Zeit mit der Gewinnung von Erkenntnissen und weniger Zeit mit dem Aufbau von Infrastruktur verbringen.
KI-Infrastruktur auf Enterprise-Niveau
Wenn Ihre KI-Plattform geschäftskritisch ist, benötigen Sie ein System, das auf Zuverlässigkeit, Verfügbarkeit und Servicefreundlichkeit (RAS) ausgelegt ist. Die DGX-2 ist für den anspruchsvollen Rund-um-die-Uhr-Betrieb konzipiert und speziell für RAS optimiert, um ungeplante Ausfallzeiten zu reduzieren, die Wartung zu vereinfachen und die Betriebskontinuität zu gewährleisten.
Verbringen Sie weniger Zeit mit Tuning und Optimierung und konzentrieren Sie sich stattdessen auf neue Entdeckungen. Der Enterprise-Support von NVIDIA befreit Sie von der zeitaufwendigen Fehlersuche bei Hardware und Open-Source-Software. Mit jedem DGX-System starten Sie schneller, trainieren schneller und bleiben schneller – dank einer integrierten Lösung aus Software, Tools und der Expertise von NVIDIA.