Was wäre, wenn wir ChatGPT oder Midjourney auf einem kleinen PC ausführen würden? Dies ist das Ziel von Nvidia und seinem auf generative KI spezialisierten Mini-Supercomputer. Alles zu einem sehr günstigen Preis von 249 $.
In einem auf YouTube veröffentlichten Video holte Nvidia-Präsident Jensen Huang das Jetson Orin Nano Super Developer Kit buchstäblich aus seinem Ofen, nämlich ein Entwicklungskit, oder besser gesagt einen kleinen Computer. Ein leistungsstarker und sehr kompakter PC, der generative KI lokal operieren lässt. Sein Ziel: es in viele vernetzte Objekte zu integrieren.
Ce « Raspberry Pi » kann ChatGPT ausführen (oder fast)
102 GB/s Bandbreite und 67 Billionen Operationen pro Sekunde: Das ist die Leistung eines Raspberry Pi. Ein Motherboard, ein Lüfter, Chips und Anschlüsse: Das ist nicht einer dieser kleinen PCs, sondern tatsächlich eine Nvidia-Entwicklung Bausatz.
Das Unternehmen verkauft es an kommerzielle KI-Entwickler, die es in ihre elektronischen Geräte integrieren möchten. Kenner wissen, dass dieses Entwicklungskit aus einem 8-GB-Systemmodul (SoM) besteht, das mit einer Nvidia-Ampere-GPU und einer 6-Kern-Arm-CPU mit bis zu 1,7 GHz ausgestattet ist. Eine Architektur, die die gleichzeitige Ausführung mehrerer KI-Anwendungen ermöglicht. Für Computer-Vision-Anwendungen kann das Kit vier Kameras unterstützen.
Was Nvidia vorschlägt, ist, generative künstliche Intelligenz zum Funktionieren zu bringen. vor Ort » auf diesem PC, der in Ihre Hand passt. Alles mit einem kleinen Netzteil: Das Gerät verbraucht 25 W, was immer noch angemessen ist. Das heißt, es ist keine Internetverbindung erforderlich, ohne dass Remote-Server verwendet werden müssen. Ob Chatbots mit LLMs, Bildgeneratoren oder anderen, Nvidia präsentiert seinen Jetson Orin Nano Super als „ ideale Lösung ».
Die Macht des letzteren erlaubt es ihm nicht, eine „ WAHR » ChatGPT oder ein « WAHR » Midjourney, aber etwas kleinere Modelle.
Wir können uns sehr gut vorstellen, dass diese Karte in einigen Jahren in verschiedenen Geräten präsent sein wird. Ein Küchenroboter, der zum Beispiel Rezepte mit den Lebensmitteln erstellt, die Sie in Ihrem Kühlschrank haben. Das Kameramanagement könnte ein intelligentes Videoüberwachungssystem ermöglichen, dessen Daten jedoch nicht online auf einem Dienst veröffentlicht werden. Der Nvidia-Chef stellt sich sogar völlig autonome Roboter vor, die auf diesem kleinen Computer laufen.
Warum Nvidia dieses Entwicklungskit verkauft
Der Jetson Orin Nano Super ist die perfekte Unterstützung für das Unternehmen beim Verkauf seiner Software: Isaac für Robotik, Metropolis für visuelle KI, Holoscan für Kameraverarbeitung oder sogar LATTE3D für die 3D-Generierung von Objekten.
Genug, um ein Software- und Hardware-Ökosystem für Nvidia zu schaffen, das sich dem Rennen um den Aufstieg zum Giganten der künstlichen Intelligenz angeschlossen hat. Im Jahr 2024 erlebte das Unternehmen einen kometenhaften Machtaufschwung: Die Aktie stieg innerhalb eines Jahres um 160 %. Gemessen an der Marktkapitalisierung liegt das Unternehmen mit 3,19 Milliarden US-Dollar hinter Apple und Microsoft. Gute finanzielle Ergebnisse aufgrund der wachsenden Nachfrage nach GPUs, die zum Betrieb generativer KI in Rechenzentren eingesetzt werden. Mit diesem kleinen PC will das Unternehmen auch elektronische Geräte erobern, die noch komplexer werden. Offensichtlich verfügt Nvidia über alle Waffen, um seinen Vorsprung zu behaupten.