Dell erweitert seine AI Factory, ein Portfolio aus Infrastruktur und Diensten für KI-Workloads, um fünf AMD-basierte Server.
Die neuen PowerEdge-Server umfassen vier AMD Epyc 9005-Prozessormodelle der fünften Generation: die Single-CPU-Modelle R6715 und R7715 sowie die Dual-CPU-Modelle R6725 und R7725. Der fünfte Server, der ebenfalls die neuen AMD Epyc 9005-Prozessoren verwendet, ist der XE7745, der bis zu acht GPUs mit doppelter Breite oder 16 GPUs mit einfacher Breite hosten kann und für Inferenz (unter Verwendung vorab trainierter KI-Modelle) konzipiert ist.
Zusätzlich zur neuen Hardware hat Dell auch Version 10 seiner integrierten Serververwaltungssoftware Dell Remote Access Controller veröffentlicht, die mit 256-Bit-Verschlüsselung für mehr Sicherheit sorgt. Ebenfalls Teil der AI Factory-Erweiterung sind die neuen Dell Generative AI Solutions with AMD, die Infrastruktur, Software und professionelle Services kombinieren. Dell hat außerdem seine Partnerschaft mit Hugging Face, einer Open-Source-Plattform für Trainingsmodelle, um AMD-basierte Hardware erweitert, sodass Kunden die Infrastruktur wählen können, auf der sie ihre Modelle aufbauen möchten.
Laut Analyst Anurag Agrawal vom Forschungsunternehmen Techaisle ist „Dells Investition in AMD durch die Tatsache gerechtfertigt, dass es eine höhere Leistung als Intel-CPUs zu geringeren Kosten bietet.“ Außerdem bietet er eine bessere Leistung pro Watt als Intel-Prozessoren. »
„Andererseits erweitern die neuen AMD-Server zwar die Hardwareoptionen des AI Factory-Angebots von Dell, der Anbieter muss jedoch noch klären, wie Unternehmen es am besten nutzen können. Die Dell AI Factory bietet baubare Infrastrukturblöcke und Module für KI, aber nicht, wie man alles in Musik umsetzt. „In einer Fabrik sollten wir in der Lage sein, Rohstoffe einzuspritzen und ein Endprodukt zu erhalten“, kritisiert er das Fehlen eines schlüsselfertigen Ansatzes.
Leistungsstarke Server für Unternehmen
Die vier neuen Server der R-Serie auf Basis von AMD-Prozessoren sind mit modularen Rechenzentrums-Hardwaresystemen ausgestattet, die eine bessere Luftkühlung ermöglichen, wobei beide Prozessoren eine Ausgangsleistung von 500 W abgeben.
„Diese neue Architektur stellt für beide Anbieter einen bedeutenden Fortschritt in Bezug auf Energieeffizienz und Dichte dar. Die neuen Server senken nicht nur die CPU-Kosten, sondern auch die Energiekosten pro Leistung“, kommentiert Camberley Bates, Analyst bei Futurum Group.
„Wir wissen, dass Rechenzentren bei KI-Einsätzen mit Strom- und Kühlanforderungen konfrontiert sind“, fügt sie hinzu. „Es ist also zu einer Wettbewerbsposition für Serveranbieter geworden.“
Laut Dell liefern die neuen Server eine Rekordleistung in den VMmark 4-Benchmarks, einem Maß für die Virtualisierungsleistung, und TPCx-AI, einem Maß für Machine-Learning-Benchmarks. Dies würde sie zu idealen Maschinen für KI und Analyse machen. Diese Server können aber auch zum Betrieb von Datenbanken genutzt werden.
Der PowerEdge XE7745 ist für die Inferenz und Optimierung von KI-Modellen konzipiert. Die XE-Serie (Extreme Acceleration) ist für datenintensive Workloads, einschließlich KI und Hochleistungsrechnen, gedacht. Diese Serie startete mit dem XE9680 und kam in der zweiten Jahreshälfte 2023 auf den Markt. Während der XE9680 auf Intel-CPUs setzt, sorgt PCIe 5.0 für die Netzwerkkonnektivität.
Der XE7745 ist auf lokale KI-Workloads ausgerichtet. „Regulierte Branchen wie das Bankwesen und das Gesundheitswesen können nicht in die Cloud gehen, um Rückschlüsse zu ziehen. Dell möchte bereit sein, wenn die Anwendungsfälle in den lokalen Rechenzentren eintreffen“, sagt Anurag Agrawal.
Professionelle Dienstleistungen erstrecken sich auf AMD-Modelle
Über Hardware und Software hinaus bietet Dell AI Factory professionelle Services wie Kubernetes-Konfigurationen, AI-Bereitstellungs-Frameworks und Best Practices für den ROI. Dell hat dieses Angebot nun auf AMD-Umgebungen ausgeweitet.
„Die Gesamtstrategie von Dell besteht darin, die Auswahlmöglichkeiten der Kunden zu erfüllen. Die Serviceabteilung organisiert einen Beschleunigungsworkshop und entscheidet anschließend über die Auswahl der Ausrüstung. Diese Wahl basiert auf Kosten und Verfügbarkeitszeit“, sagt Anurag Agrawal. Historisch gesehen sind AMD-Konfigurationen günstiger, während Intel-Konfigurationen schneller verfügbar sind.
Was es betrifft, kann der auf Intel-Prozessoren basierende PowerEdge XE9680 seit seiner Veröffentlichung von AMD-GPUs begleitet werden. Neu ist, dass es jetzt Dell Generative AI Solutions mit AMD sowie den Dell Enterprise Hub auf dem Hugging Face-Portal zur Installation von LLMs umfasst. Konkret unterstützt das Hugging Face-Dell-Portal nun den Server mit AMD Instinct MI300X-Beschleunigern für die Modellbereitstellung vor Ort.
