Nvidia bringt Ai Foundation-Modelle für Rtx-Ai-PCs auf den Markt

NVIDIA kündigte Basismodelle an, die lokal auf NVIDIA RTX-KI-PCs laufen und den digitalen Menschen, die Erstellung von Inhalten, die Produktivität und die Entwicklung vorantreiben. Diese als NVIDIA NIM-Microservices angebotenen Modelle werden durch die neuen GPUs der GeForce RTX 50-Serie beschleunigt, die eine KI-Leistung von bis zu 3.352 Billionen Operationen pro Sekunde und 32 GB VRAM bieten. RTX 50-GPUs basieren auf der NVIDIA Blackwell-Architektur und sind die ersten Consumer-GPUs, die FP4-Computing unterstützen. Dadurch wird die KI-Inferenzleistung verdoppelt und generative KI-Modelle können lokal mit einem geringeren Speicherbedarf im Vergleich zur Hardware der vorherigen Generation ausgeführt werden. GeForce ist seit langem eine unverzichtbare Plattform für KI-Entwickler. Das erste GPU-beschleunigte Deep-Learning-Netzwerk, AlexNet, wurde 2012 auf der GeForce GTX 580 trainiert und im vergangenen Jahr zitierten mehr als 30 % der veröffentlichten KI-Forschungsarbeiten die Verwendung von GeForce RTX. Mit generativer KI und RTX-KI-PCs kann heute jeder Entwickler sein. Eine neue Welle von Low-Code- und No-Code-Tools wie AnythingLLM, ComfyUI, Langflow und LM Studio ermöglichen es Enthusiasten, KI-Modelle in komplexen Arbeitsabläufen über Benutzeroberflächen mit einfachen Grafiken zu verwenden. Mit diesen GUIs verbundene NIM-Microservices erleichtern den Zugriff und die Bereitstellung der neuesten generativen KI-Modelle. NVIDIA AI Blueprints, basierend auf NIM-Microservices, bieten vorkonfigurierte, benutzerfreundliche Referenzworkflows für digitale Menschen, Inhaltserstellung und mehr. Um der wachsenden Nachfrage von Entwicklern und KI-Enthusiasten gerecht zu werden, bringen alle großen PC- und Systemhersteller NIM-fähige RTX-KI-PCs mit GeForce RTX 50-GPUs auf den Markt.
Machen Sie KI flink. Grundlegende Modelle und neuronale Netze, die auf riesigen Mengen an Rohdaten trainiert werden, sind die Bausteine ​​der generativen KI. NVIDIA wird eine Pipeline von NIM-Microservices für RTX-KI-PCs von führenden Modellentwicklern wie Black Forest Labs, Meta, Mistral und Stability AI starten. Anwendungsfälle umfassen große Sprachmodelle, Vision-Sprachmodelle, Bildgenerierung, Sprache, Integrationsmodelle für Suche und erweiterte Generierung, PDF-Extraktion und Vision durch Computer. NVIDIA kündigte außerdem die Llama Nemotron-Familie offener Modelle an, die eine hohe Genauigkeit bei einer Vielzahl von Agentenaufgaben bieten. Das Llama Nemotron Nano-Modell wird als NIM-Microservice für RTX-KI-PCs und -Workstations angeboten und eignet sich hervorragend für agentische KI-Aufgaben wie Befehlsfolgen, Funktionsaufrufe, Chat, Codierung und Mathematik. NIM-Microservices umfassen die Schlüsselkomponenten zum Ausführen von KI auf dem PC und sind für die Bereitstellung auf NVIDIA-GPUs optimiert, sei es in RTX-PCs und -Workstations oder in der Cloud. Entwickler und Enthusiasten können diese NIM-Microservices schnell herunterladen, konfigurieren und auf Windows 11-PCs mit Windows-Subsystem für Linux ausführen. NIM-Microservices, die auf RTX-KI-PCs ausgeführt werden, werden mit führenden KI- und Agentenentwicklungs-Frameworks kompatibel sein, darunter AI Toolkit für VSCode, AnythingLLM, ComfyUI, CrewAI, Flowise AI, LangChain, Langflow und LM Studio. Entwickler können auf diesen Frameworks basierende Anwendungen und Workflows mit KI-Modellen verbinden, auf denen NIM-Microservices über Standardendpunkte ausgeführt werden, und so die neueste Technologie mit einer einheitlichen Schnittstelle für die Cloud, Rechenzentren, Workstations und PCs nutzen. Enthusiasten können mit der bevorstehenden Veröffentlichung der NVIDIA ChatRTX-Technologiedemo auch eine Reihe von NIM-Microservices erleben.
Um zu zeigen, wie Enthusiasten und Entwickler NIM nutzen können, um KI-Agenten und -Assistenten zu erstellen, zeigte NVIDIA eine Vorschau von Project R2X, einem visionsfähigen PC-Avatar, der dem Benutzer Informationen direkt zur Verfügung stellen kann. Benutzer unterstützen, ihnen bei Büroanwendungen und Videokonferenzgesprächen helfen, Dokumente lesen und zusammenfassen und vieles mehr. Der Avatar wird mit NVIDIA RTX Neural Faces gerendert, einem neuen generativen KI-Algorithmus, der die herkömmliche Rasterung um vollständig generierte Pixel erweitert. Das Gesicht wird dann durch ein neues diffusionsbasiertes NVIDIA Audio2Face-3D-Modell animiert, das die Lippen- und Zungenbewegung verbessert. R2X kann über Entwicklungsframeworks wie CrewAI, Flowise AI und Langflow mit Cloud-KI-Diensten wie GPT4o von OpenAI und Grok von xAI sowie NIM-Microservices und AI Blueprints wie PDF-Abrufern oder alternativen LLMs verbunden werden. Melden Sie sich an, um R2X-Projektaktualisierungen zu erhalten. NIM-Microservices sind auch für PC-Benutzer über AI Blueprints zugänglich, die auf AI-Workflows verweisen, die lokal auf RTX-PCs ausgeführt werden können. Mithilfe dieser Blaupausen können Entwickler Podcasts aus PDF-Dokumenten erstellen, atemberaubende Bilder mit 3D-Szenen erstellen und vieles mehr. Der Entwurf für „PDF to Podcast“ extrahiert Text, Bilder und Tabellen aus einer PDF-Datei, um ein Podcast-Skript zu erstellen, das von Benutzern bearbeitet werden kann. Es kann auch eine vollständige Audioaufnahme aus dem Skript erstellen, wobei die in der Vorlage verfügbaren Stimmen oder ein Benutzerstimmenbeispiel verwendet werden. Darüber hinaus können Benutzer in Echtzeit ein Gespräch mit dem AI-Podcast-Moderator führen, um mehr über bestimmte Themen zu erfahren. Das Projekt nutzt NIM-Microservices wie Mistral-Nemo-12B-Instruct für Sprache, NVIDIA Riva für Sprachsynthese und automatische Spracherkennung sowie die NeMo Retriever-Microservice-Sammlung für die PDF-Extraktion. Der AI Blueprint für 3D-gesteuerte generative KI gibt Künstlern eine detailliertere Kontrolle über die Bilderzeugung. Während KI aus einfachen Textaufforderungen beeindruckende Bilder erzeugen kann, kann es schwierig sein, die Zusammensetzung eines Bildes nur mithilfe von Worten zu steuern. Mit diesem Modell können Entwickler einfache 3D-Objekte verwenden, die in einer 3D-Rendering-Engine wie Blender angeordnet sind, um die KI-Bildgenerierung zu steuern. Der Künstler kann 3D-Assets von Hand erstellen oder mithilfe von KI generieren, sie in der Szene platzieren und die 3D-Anzeigekamera einstellen. Anschließend nutzt ein vorprogrammierter Workflow, der auf dem FLUX NIM-Mikroservice basiert, die aktuelle Komposition, um hochwertige Bilder entsprechend der 3D-Szene zu generieren. NVIDIA NIM-Microservices und AI Blueprints werden ab Februar verfügbar sein und zunächst die professionellen GPUs GeForce RTX 50, GeForce RTX 4090 und 4080 sowie NVIDIA RTX 6000 und 5000 unterstützen. Weitere GPUs werden später unterstützt. ‘Zukunft. NIM-fähige RTX-KI-PCs werden von Acer, ASUS, Dell, GIGABYTE, HP, Lenovo, MSI, Razer und Samsung sowie den lokalen Systemherstellern Corsair, Falcon Northwest, LDLC, Maingear, Mifcon, Origin PC, PCS und erhältlich sein Scan.