Edgecore AGS8200 – Hochleistungs-GPU-Server für KI/ML-Anwendungen

Der Edgecore AGS8200 ist ein hochmoderner, leistungsstarker GPU-basierter Server, der auf die Anforderungen von KI/ML-Anwendungen zugeschnitten ist. Dieser Server wurde für Aufgaben wie das Training großer Sprachmodelle, die Automatisierung von Prozessen und die Verbesserung der Objektklassifizierung und -erkennung entwickelt und bietet eine konkurrenzlose Leistung und Skalierbarkeit.

Das Herzstück des AGS8200 sind acht leistungsstarke Intel® Habana® Gaudi® 2-Prozessoren und zwei Xeon® Sapphire-Rapids-Prozessoren. Diese Komponenten vereinen sich zu einem Rechenkraftwerk, das bereit ist, eine Vielzahl von Deep-Learning-Aufgaben mit außergewöhnlicher Geschwindigkeit und Präzision zu bewältigen.

Kosteneffektiv

Der AGS8200, der von Intel® Gaudi® 2 Prozessoren angetrieben wird, hebt die Deep-Learning-Leistung auf ein neues Niveau. Sein innovatives Chipsatzdesign beschleunigt nicht nur Trainings- und Inferenzaufgaben, sondern schöpft auch das volle Potenzial der KI-Funktionen aus, um eine erstklassige Leistung für Ihre KI/ML-Anwendungen zu gewährleisten.

Offene Architektur

Dank des innovativen 7-nm-Prozesses zeichnen sich die Intel® Gaudi® 2-Prozessoren durch eine hervorragende Wärmeableitung aus. In Verbindung mit dem ausgeklügelten Design von Edgecore liefert der AGS8200 nicht nur eine verbesserte Leistung, sondern legt auch Wert auf Energieeffizienz. Dies führt zu geringeren Betriebskosten und einem umweltfreundlicheren Fußabdruck.

Starke Leistung

Intel® Gaudi® 2 ist genau auf die Nutzung von AI/ML abgestimmt und bietet erhebliche Kostenvorteile. Wir bei Escape Technology wissen um den Wert Ihrer Investition. Unsere Lösungen sind auf Ihre Bedürfnisse abgestimmt und gewährleisten optimale Leistung ohne unnötige Kosten.

Energie Effizient

Edgecore setzt auf offene und KI-optimierte Switch-Hardware und -Software und engagiert sich in Projekten oder Gemeinschaften wie OCP, TIP und SONiC. Unsere proaktive Beteiligung an Gemeinschaftsprojekten stellt sicher, dass wir vollständige, flexible und zukunftssichere Lösungen für Ihre KI/ML-Konnektivitätsanforderungen liefern.

Die Leistung von Intel® Gaudi® 2

Intel® Gaudi® Features

Überlegene Leistung

Mit der BF16-Software könnte die Intel® Gaudi® 2 ihre Konkurrenten übertreffen. Intel® Gaudi® 2 erzielt eine 2x bessere Leistung als sein Konkurrent.

MLPerf Benchmark

Beim MLPerf-Benchmark ist Intel® Gaudi® 2 einer von nur zwei GPUs, die für das GPT-3-Training verwendet werden.

Preis-Leistungs-Verhältnis

Mit der FP8-Software wird erwartet, dass Intel® Gaudi® 2 ein besseres Preis-Leistungs-Verhältnis hat als seine Konkurrenten.

MLPerf Benchmark Ergebnisse für Intel Gaudi 2

Edgecore AGS8200 Features

Der Edgecore AGS8200 ist ideal für moderne KI- (Künstliche Intelligenz) und ML- (Maschinelles Lernen) Anwendungen. Angetrieben durch den Intel® Gaudi® 2 KI-Beschleuniger eignet sich das AGS8200 für LLM-Training (Large Language Models) und Inferencing und ermöglicht es Kunden, die Leistung von KI effizient zu nutzen.

Das System ist mit acht Intel® Habana® Gaudi® 2 Prozessoren und zwei Xeon® Sapphire-Rapids Prozessoren ausgestattet. In den Gaudi® 2-Prozessor sind 96 GB HBM2E-Speicher und 24 NICs mit 100 Gbit/s RoCEv2 RDMA integriert. Die 24 x 100Gbps NICs bieten All-to-All-Konnektivität und Scale-out intern und extern für Training, Feinabstimmung und andere DL-Verarbeitung.

Jeder Gaudi® 2-Prozessor verfügt über 21 nicht blockierende 100-Gbit/s-All-to-All-Konnektivität zu anderen Gaudi® 2-Prozessoren innerhalb des Servers, so dass Schulungen auf allen acht Intel® Gaudi® 2-Prozessoren möglich sind, ohne dass ein externer Ethernet-Switch erforderlich ist.

Jeder AGS8200 unterstützt 6 QSFP-DD-Ports für Scale-out. Die 400-Gbps-Ports können über Breakout-Kabel mit 400-Gbps-Switches oder 100-Gbps-Switches in Racks und Clustern von Intel® Gaudi® 2-basierten Knoten verbunden werden.

Der Server kann 16 x HDD/SSD + 8 x NVMe oder 8 x HDD/SSD + 16 x NVMe für Speicher beinhalten, die RAID HBA mit 0/1/10/5/6/50/60 unterstützen.

Ausgestattet mit acht Habana® Gaudi® 2 KI-Trainingsprozessoren
Zwei skalierbare Intel® Xeon® Prozessoren der 4. Generation
Erweiterte Netzwerkkapazität mit 24 x 100Gbps RoCE-Ports, die in jeden Gaudi® 2 integriert sind
700 GB/Sekunde Skalierung innerhalb des Servers und 2,4 TB/Sekunde Skalierung nach außen
Einfacher Systemaufbau oder Migration mit Habana® SynapseAI® Software-Stack
Standardisierte Architektur und Ethernet anstelle von proprietärem Infiniband und NVLINK

Technische Daten

Edgecore AGS8200 Spezifikationen

Formfaktor	8U
Rechenknoten	CPU: Sapphire Rapids, 2 Sockets Intel® Xeon® Platinum 8454H, 32 Kerne, 64 Threads, 82,5 MB, 270 W PCH: Emmitsburg Speicher: Bis zu 2 TB, 16x DDR5-Speichersteckplätze pro CPU Betriebssystem: Ubuntu 20.04 BIOS: 32 MB Flash
GPU	8 x OAM (Intel Habana HL-225H/C)
Eingabe/Ausgabe	Vorderseite: 2 x USB 2.0/3.0, 1 x VGA, 1 x UID, 1 x PWR Rückseite: 2 x USB 2.0/3.0, 1 x VGA, 1 x RJ-45, 1 x UID
Scale-Out-Schnittstelle	RDMA (ROCE v2) 24 x 100Gbps 6 x QSFP-DD
Speicher	Intern: 2 x M.2 Vorderseite: 16 x HDD/SSD + 8 x NVMe oder 8 x HDD/SSD + 16 x NVMe
BMC	AST2600
TPM 2.0	Ja
CD-ROM	Unterstützt externes USB-CD-ROM
PSU	System: 1+1 CRPS 2700 W redundant/hot-swap AC/DC GPU: 3+3 CRPS 3000 W redundant/hot-swap AC/DC
Lüfter	14+1 hot-swap-fähige Lüfter
Abmessungen	900 mm x 447 mm x 352 mm
Betriebstemperatur	5°C - 35°C
Erweiterungssteckplätze	1 x OCP 3.0 8 x PCIe-Steckplätze
Software	SynapseAI: 1.13.0 Kernel: 5.4.0 und höher Python: 3.10 PyTorch: 2.1.0 TensorFlow: 2.13.1 Open MPI: 4.1.5 Libfabric: 1.16.1 und höher Transformers: >= 4.33.0, <4.35.0

Downloads

Beratung zum Edgecore AGS8200 anfragen

Wir unterstützen Sie bei der Auswahl der passenden Konfiguration für Ihre KI/ML-Anwendungen. Gemeinsam prüfen wir Ihre Anforderungen an Leistung, Skalierbarkeit und Effizienz.

Escape Technology auf LinkedIn folgen

Jetzt Beratung anfragen

Edgecore

AGS8200