Wissenschaftler haben einen neuen Mini-PC entwickelt, der fast so leistungsstark wie ein Supercomputer ist, aber in Ihre Tasche passt.
Das neue Gerät mit dem Namen „Project Digits“ richtet sich an Entwickler, Forscher, Studenten und Datenwissenschaftler, die damit arbeiten künstliche Intelligenz (KI). Zu seinen Einsatzmöglichkeiten gehört der Betrieb von KI-Modellen, für die zuvor die Nutzung riesiger Rechenzentren über die Cloud erforderlich gewesen wäre, so der CEO von Nvidia Jensen Huang angekündigt auf der CES 2025 in Las Vegas.
Obwohl das Produktdesign noch nicht fertiggestellt ist, wird es klein genug sein, um auf Ihren Schreibtisch oder sogar in Ihre Tasche zu passen.
Das Gerät wird von einem Nvidia GB10 Grace Blackwell Superchip angetrieben, der separate, miteinander verbundene Komponenten auf einem einzigen Chip beherbergt, um die Zeit für die Datenübertragung zwischen ihnen zu reduzieren.
Der Superchip verfügt über eine Nvidia Blackwell-Grafikkarte und einen Nvidia Grace-Prozessor, verpackt mit 128 Gigabyte Arbeitsspeicher und 4 Terabyte SSD-Speicher.
Verwandt: Der Quantenchip „Willow“ von Google hat ein Problem gelöst, für dessen Lösung der beste Supercomputer eine Billiarde Mal so alt wie das Universum gedauert hätte
Insgesamt ist das Gerät etwa 1.000-mal leistungsstärker als ein durchschnittlicher Laptop.
Ein Mini-PC, der 1000-mal leistungsstärker ist als Ihr PC oder Laptop
„Das Projekt DIGITS von NVIDIA ermöglicht es Forschern in den Bereichen Robotik, Computer Vision und autonome Systeme, schneller als je zuvor zu experimentieren, Lösungen zu verfeinern und zu skalieren – und das alles, während es auf Ihren Schreibtisch passt“, sagte er Raquel UrtasunProfessor für Informatik an der University of Toronto und Gründer von Waabi, einem Unternehmen für selbstfahrende Autos, in einer Erklärung. Waabi nutzt die Technologie von Nvidia in seiner Flotte selbstfahrender Lastwagen. „Ich bin gespannt, welche Durchbrüche Project DIGITS ermöglichen wird.“
Die Supercomputing-Leistung wird in Gleitkommaoperationen pro Sekunde (FLOPS) gemessen. Der leistungsstärkste Supercomputer auf der Welt liefern etwas mehr als 1.000 PetaFLOPS an Leistung (1 Trillion FLOPS). Damit sind sie 1 Million Mal leistungsstärker als Laptops. laut IBM.
Project Digits hingegen können 1 PetaFLOPS an Leistung liefern. Er wird zwar nicht mit den allerbesten Supercomputern mithalten können, aber er ist weitaus leistungsstärker als die meisten Desktop-PCs und Laptops und passt in ein wesentlich kleineres Gehäuse.
Mit diesem „Desktop-Supercomputer“ können Forscher große Sprachmodelle – generative KI-Tools wie ChatGPT – ausführen, die bis zu 200 Milliarden Parameter verwenden, während zwei Project DIGITS-Geräte verbunden werden können, um 405 Milliarden Parameter zu erreichen. Als Referenz: GPT-3.5, das die erste Version von ChatGPT bei ihrer Einführung im November 2022 unterstützte, hatte eine Größe von etwa 175 Milliarden Parametern, wobei jeder Parameter eine Variable war, die steuert, wie ein Modell Text verarbeitet und generiert.
Das Design des Geräts ist noch nicht endgültig. Nvidia-Vertreter teilten kein Bild des Prototyps mit, sagten aber, dass er im Mai für etwa 3.000 US-Dollar auf den Markt kommen solle – sofern die Leute dazu in der Lage seien ihr Interesse anmelden beim Kauf eines.