Edgecore

AGS8200

Der Edgecore AGS8200 ist ein leistungsstarker GPU-basierter Server, der speziell für KI- und Machine Learning-Anwendungen entwickelt wurde. Ausgestattet mit den neuesten Intel® Gaudi® 2 und Xeon® Prozessoren bietet er herausragende Leistung, Skalierbarkeit und Effizienz für anspruchsvolle Deep-Learning- und Inferenzaufgaben.


AGS8200


Der Edgecore AGS8200 ist ein hochmoderner, leistungsstarker GPU-basierter Server, der auf die Anforderungen von KI/ML-Anwendungen zugeschnitten ist. Dieser Server wurde für Aufgaben wie das Training großer Sprachmodelle, die Automatisierung von Prozessen und die Verbesserung der Objektklassifizierung und -erkennung entwickelt und bietet eine konkurrenzlose Leistung und Skalierbarkeit.

Das Herzstück des AGS8200 sind die acht leistungsstarken Intel® Habana® Gaudi® 2-Prozessoren und zwei Xeon® Sapphire-Rapids-Prozessoren. Diese Komponenten vereinen sich zu einem Rechenkraftwerk, das bereit ist, eine Vielzahl von Deep-Learning-Aufgaben mit außergewöhnlicher Geschwindigkeit und Präzision zu bewältigen.

AIServer Optimal Price

Kosteneffektiv

Der AGS8200, der von Intel® Gaudi® 2 Prozessoren angetrieben wird, hebt die Deep-Learning-Leistung auf ein neues Niveau. Sein innovatives Chipsatzdesign beschleunigt nicht nur Trainings- und Inferenzaufgaben, sondern schöpft auch das volle Potenzial der KI-Funktionen aus, um eine erstklassige Leistung für Ihre KI/ML-Anwendungen zu gewährleisten.

AIServer Open Architecture

Offene Architektur

Dank des innovativen 7-nm-Prozesses zeichnen sich die Intel® Gaudi® 2-Prozessoren durch eine hervorragende Wärmeableitung aus. In Verbindung mit dem ausgeklügelten Design von Edgecore liefert der AGS8200 nicht nur eine verbesserte Leistung, sondern legt auch Wert auf Energieeffizienz. Dies führt zu geringeren Betriebskosten und einem umweltfreundlicheren Fußabdruck.

AIServer Powerful Performance

Starke Leistung

Intel® Gaudi® 2 ist genau auf die Nutzung von AI/ML abgestimmt und bietet erhebliche Kostenvorteile. Wir bei Escape Technology wissen um den Wert Ihrer Investition. Unsere Lösungen sind auf Ihre Bedürfnisse abgestimmt und gewährleisten optimale Leistung ohne unnötige Kosten.

AIServer Energy Efficiency

Energie Effizient

Edgecore setzt auf offene und KI-optimierte Switch-Hardware und -Software und engagieren uns dann in Projekten oder Gemeinschaften wie OCP, TIP und SONiC. Unsere proaktive Beteiligung an Gemeinschaftsprojekten stellt sicher, dass wir vollständige, flexible und zukunftssichere Lösungen für Ihre KI/ML-Konnektivitätsanforderungen liefern.

Die Leistung von Intel® Gaudi® 2

Gaudi2 1

Intel® Gaudi® Feature

  • Mit der BF16-Software könnte die Intel® Gaudi® 2 ihre Konkurrenten übertreffen.
  • Intel® Gaudi® 2 erzielt eine 2x bessere Leistung als sein Konkurrent.
  • Beim MLPerf-Benchmark ist Intel® Gaudi® 2 einer von nur zwei GPUs, die für das GPT-3-Training verwendet werden.
  • Mit der FP8-Software wird erwartet, dass Intel® Gaudi® 2 ein besseres Preis-Leistungs-Verhältnis hat als seine Konkurrenten.
gaudi2 600x454

Gaudi2 mlperf

Edgecore AGS8200 Features

Der Edgecore AGS8200 ist ideal für moderne KI- (Künstliche Intelligenz) und ML- (Maschinelles Lernen) Anwendungen. Angetrieben durch den Intel® Gaudi® 2 KI-Beschleuniger eignet sich das AGS8200 für LLM-Training (Large Language Models) und Inferencing und ermöglicht es Kunden, die Leistung von KI effizient zu nutzen.

Das System ist mit acht Intel® Habana® Gaudi® 2 Prozessoren und zwei Xeon® Sapphire-Rapids Prozessoren ausgestattet. In den Gaudi® 2-Prozessor sind 96 GB HBM2E-Speicher und 24 NICs mit 100 Gbit/s RoCEv2 RDMA integriert. Die 24 x 100Gbps NICs bieten All-to-All-Konnektivität und Scale-out intern und extern für Training, Feinabstimmung und andere DL-Verarbeitung.

Jeder Gaudi® 2-Prozessor verfügt über 21 nicht blockierende 100-Gbit/s-All-to-All-Konnektivität zu anderen Gaudi® 2-Prozessoren innerhalb des Servers, so dass Schulungen auf allen acht Intel® Gaudi® 2-Prozessoren möglich sind, ohne dass ein externer Ethernet-Switch erforderlich ist.

Jeder AGS8200 unterstützt 6 QSFP-DD-Ports für Scale-out. Die 400-Gbps-Ports können über Breakout-Kabel mit 400-Gbps-Switches oder 100-Gbps-Switches in Racks und Clustern von Intel® Gaudi® 2-basierten Knoten verbunden werden.

Der Server kann 16 x HDD/SSD + 8 x NVMe oder 8 x HDD/SSD + 16 x NVMe für Speicher beinhalten, die RAID HBA mit 0/1/10/5/6/50/60 unterstützen.

  • Ausgestattet mit acht Habana® Gaudi® 2 KI-Trainingsprozessoren
  • Zwei skalierbare Intel® Xeon® Prozessoren der 4.
  • Erweiterte Netzwerkkapazität mit 24 x 100Gbps RoCE-Ports, die in jeden Gaudi® 2 integriert sind
  • 700 GB/Sekunde Skalierung innerhalb des Servers und 2,4 TB/Sekunde Skalierung nach außen
  • Einfacher Systemaufbau oder Migration mit Habana® SynapseAI® soſtware stack
  • Standardisierte Architektur und Ethernet anstelle von proprietärem Infiniband und NVLINK
SpezifikationenDetails
Formfaktor 8U
Rechenknoten
  • CPU: Sapphire Rapids, 2 Sockets
  • Intel® Xeon® Platinum 8454H, 32 Kerne, 64 Threads, 82,5 MB, 270 W
  • PCH: Emmitsburg
  • Speicher: Bis zu 2 TB, 16x DDR5-Speichersteckplätze pro CPU
  • Betriebssystem: Ubuntu 20.04
  • BIOS: 32 MB Flash
GPU 8 x OAM (Intel Habana HL-225H/C)
Eingabe/Ausgabe
  • Vorderseite: 2 x USB 2.0/3.0, 1 x VGA, 1 x UID, 1 x PWR
  • Rückseite: 2 x USB 2.0/3.0, 1 x VGA, 1 x RJ-45, 1 x UID
Scale-Out-Schnittstelle
  • RDMA (ROCE v2)
  • 24 x 100Gbps
  • 6 x QSFP-DD
Speicher
  • Intern: 2 x M.2
  • Vorderseite: 16 x HDD/SSD + 8 x NVMe oder 8 x HDD/SSD + 16 x NVMe
BMC AST2600
TPM 2.0 Ja
CD-ROM Unterstützt externes USB-CD-ROM
PSU
  • System: 1+1 CRPS 2700 W redundant/hot-swap AC/DC
  • GPU: 3+3 CRPS 3000 W redundant/hot-swap AC/DC
Lüfter 14+1 hot-swap-fähige Lüfter
Abmessungen 900 mm x 447 mm x 352 mm
Betriebstemperatur 5°C - 35°C
Erweiterungssteckplätze
  • 1 x OCP 3.0
  • 8 x PCIe-Steckplätze
Software
  • SynapseAI: 1.13.0
  • Kernel: 5.4.0 und höher
  • Python: 3.10
  • PyTorch: 2.1.0
  • TensorFlow: 2.13.1
  • Open MPI: 4.1.5
  • Libfabric: 1.16.1 und höher
  • Transformers: >= 4.33.0, <4.35.0

Downloads

AGS8200 Thumbnail HardwareInstallationGuide 1

AGS8200 Hardware Installation Guide

Download PDF
AGS8200 Thumbnail SoftwareUserGuide 1

AGS8200 Software User Guide

Download PDF
AGS8200 Thumbnail SystemUserGuide 1

AGS8200 System user Guide

Download PDF


Weitere Fragen? Dann schreiben Sie uns...

Invalid Input
Invalid Input
Invalid Input
Invalid Input
Invalid Input