Wenn Sie auf der Suche nach Ihrem persönlichen KI-Supercomputer sind, ist Nvidia genau das Richtige für Sie.
Der Chiphersteller gab auf der CES bekannt, dass er im Mai einen persönlichen KI-Supercomputer namens Project Digits auf den Markt bringen wird. Das Herzstück von Project Digits ist der neue GB10 Grace Blackwell Superchip, der genug Rechenleistung bietet, um anspruchsvolle KI-Modelle auszuführen, und gleichzeitig kompakt genug ist, um auf einen Schreibtisch zu passen und an einer Standardsteckdose betrieben zu werden (für diese Art von Rechenleistung war früher eine viel größere Rechenleistung erforderlich). , stromhungrigere Systeme). Dieses Desktop-System kann KI-Modelle mit bis zu 200 Milliarden Parametern verarbeiten und hat einen Einstiegspreis von 3.000 US-Dollar. Das Produkt selbst ähnelt stark einem Mac Mini.
„KI wird in jeder Anwendung und in jeder Branche zum Mainstream werden. „Mit Project Digits kommt der Grace Blackwell Superchip zu Millionen von Entwicklern“, sagte Nvidia-CEO Jensen Huang in einer Pressemitteilung. „Die Platzierung eines KI-Supercomputers auf dem Schreibtisch jedes Datenwissenschaftlers, KI-Forschers und Studenten ermöglicht es ihm, sich zu engagieren und das Zeitalter der KI mitzugestalten.“
Jedes Project Digits-System ist mit 128 GB einheitlichem, kohärentem Speicher (im Vergleich dazu verfügt ein guter Laptop möglicherweise über 16 GB oder 32 GB RAM) und bis zu 4 TB NVMe-Speicher ausgestattet. Für noch anspruchsvollere Anwendungen können zwei Project Digits-Systeme miteinander verbunden werden, um Modelle mit bis zu 405 Milliarden Parametern zu verarbeiten (Metas bestes Modell, Llama 3.1, hat 405 Milliarden Parameter).
Der GB10-Chip liefert bis zu 1 Petaflop KI-Leistung (was bedeutet, dass er 1 Billiarde KI-Berechnungen pro Sekunde durchführen kann) mit FP4-Präzision (was dazu beiträgt, die Berechnungen durch Annäherungen schneller zu machen), und das System verfügt über Nvidias CUDA-Kerne der neuesten Generation und Tensorkerne der fünften Generation, verbunden über NVLink-C2C mit einer Grace-CPU mit 20 energieeffizienten Arm-basierten Kernen. MediaTek, bekannt für seine Arm-basierten Chipdesigns, hat an der Entwicklung des GB10 mitgewirkt, um dessen Energieeffizienz und Leistung zu optimieren.
Benutzer erhalten außerdem Zugriff auf die KI-Softwarebibliothek von Nvidia, einschließlich Entwicklungskits, Orchestrierungstools und vorab trainierten Modellen, die im Nvidia NGC-Katalog verfügbar sind. Das System läuft auf dem Linux-basierten Nvidia DGX-Betriebssystem und unterstützt beliebte Frameworks wie PyTorch, Python und Jupyter-Notebooks. Entwickler können Modelle mit dem Nvidia NeMo-Framework verfeinern und Data-Science-Workflows mit Nvidia RAPIDS-Bibliotheken beschleunigen.
Benutzer können ihre KI-Modelle lokal auf Project Digits entwickeln und testen und sie dann mithilfe derselben Grace Blackwell-Architektur und der Nvidia AI Enterprise-Softwareplattform in Cloud-Diensten oder in der Rechenzentrumsinfrastruktur bereitstellen.
Nvidia bietet eine Reihe ähnlicher Geräte im gleichen barrierefreien Stil an – im Dezember kündigte das Unternehmen eine 249-Dollar-Version seines Jetson-Computers für KI-Anwendungen an, die sich an Bastler und Startups richtet und den Namen Jetson Orin Nano Super trägt (er verarbeitet Modelle mit bis zu 8 Milliarden Parametern). .
Schweizer
