NVIDIA veröffentlicht neue offene KI-Modelle für Entwickler
Aktualisiert am January 09, 2026 Lesedauer: 5 Minuten
NVIDIA hat am 15. Dezember 2025 die Nemotron-3-Familie als offene Modellreihe für agentische KI vorgestellt, mit den Größen Nano, Super und Ultra. Für Entwickler ist vor allem Nemotron 3 Nano relevant: ein 30B-MoE-Modell mit sehr großem Kontextfenster und Fokus auf effiziente Inferenz.
Am 5. Januar 2026 folgten zusätzliche offene Bausteine für Sprache, Retrieval-Augmented Generation (RAG) und Safety sowie Updates für verbreitete Open-Source-Tools wie llama.cpp, Ollama und ComfyUI. Für Teams, die LLMs selbst hosten oder kontrolliert in Produkte integrieren wollen, ist das ein konkreter Ausbau des Open-Weights-Ökosystems.
Was passiert ist
Am 15. Dezember 2025 kündigte NVIDIA die Nemotron-3-Familie als offene Modelle für agentische Anwendungen an: Nemotron 3 Nano, Nemotron 3 Super und Nemotron 3 Ultra.
NVIDIA beschreibt Nano als 30-Milliarden-Parameter-Modell, das zur Inferenz jeweils nur einen Teil seiner Parameter aktiviert (Mixture-of-Experts). Für Super und Ultra nennt NVIDIA ungefähr 100B bzw. 500B Parameter, ebenfalls mit partieller Aktivierung pro Token. (Quelle: NVIDIA Newsroom, 15. Dezember 2025)
Laut NVIDIA liefert Nemotron 3 Nano bis zu 4-mal höheren Token-Durchsatz im Vergleich zu Nemotron 2 Nano und reduziert die Generierung von Reasoning-Tokens um bis zu 60%. Zusätzlich hebt NVIDIA ein Kontextfenster von 1.000.000 Tokens hervor, das für lange Dokumente und mehrstufige Agenten-Workflows gedacht ist. (Quelle: NVIDIA Newsroom, 15. Dezember 2025)
Parallel dazu ist das Modell auf Hugging Face verfügbar. Die Modellkarte von "NVIDIA-Nemotron-3-Nano-30B-A3B-FP8" nennt als Release-Datum den 15. Dezember 2025. Dort sind auch Daten-Cutoffs dokumentiert: Pre-Training bis 25. Juni 2025 und Post-Training bis 28. November 2025. (Quelle: Hugging Face Model Card, 15. Dezember 2025)
Technisch beschreibt die Modellkarte eine hybride MoE-Architektur mit 23 Mamba-2- und MoE-Layern sowie 6 Attention-Layern. Jede MoE-Schicht nutzt 128 Experten plus einen Shared Expert; pro Token werden 6 Experten aktiviert. Die Karte nennt 30B Gesamtparameter und 3,5B aktive Parameter. (Quelle: Hugging Face Model Card, 15. Dezember 2025)
Am 5. Januar 2026 veröffentlichte NVIDIA zudem einen Überblick zu neuen offenen Modellen, Daten und Tools. Darin kündigt NVIDIA zusätzliche Nemotron-Bausteine für Speech, RAG und Safety an. Genannt werden unter anderem ein neues ASR-Modell (Automatic Speech Recognition) für Echtzeit-Transkription, neue Embed- und Rerank-Modelle für Dokumentensuche sowie Safety-Modelle inklusive "Llama Nemotron Content Safety" und "Nemotron PII" zur Erkennung sensibler Daten. (Quelle: NVIDIA Blog, 5. Januar 2026)
Ebenfalls am 5. Januar 2026 beschreibt NVIDIA im Technical Blog Updates für die lokale Inferenz auf RTX-PCs. Genannt werden Optimierungen und Quantisierungspfade (NVFP4 und FP8) für ComfyUI sowie Performance-Zuwächse für llama.cpp und Ollama. (Quelle: NVIDIA Technical Blog, 5. Januar 2026)
Warum das wichtig ist
Für Lernende und Entwicklerteams ist "offen" nur dann wirklich nützlich, wenn es im Alltag Konsequenzen hat: testbare Gewichte, nachvollziehbare Modellkarten und klare Nutzungsbedingungen.
Das erleichtert Evaluations-Setups, Security-Checks, Lizenz-Reviews und interne Dokumentation.
Nemotron 3 Nano zielt zudem auf ein Muster, das sich in Teams durchsetzt: Nicht ein einzelnes Modell löst alles, sondern eine Pipeline aus Komponenten. In so einer Architektur tauchen schnell zusätzliche Bausteine auf, zum Beispiel Embeddings, Reranker, Speech-to-Text, Content-Safety oder PII-Filter.
NVIDIA liefert mit den Nemotron-Erweiterungen genau diese Bausteine als offene Modelle nach.
Auch die Tool-Updates sind für den Alltag relevant. Wer ein Modell lokal testet, muss mit Speichergrenzen, Durchsatz, Latenz und Kosten pro Anfrage umgehen. Wenn gängige Open-Source-Stacks wie llama.Um C++ oder Ollama auf GPUs effizienter zu werden, sinkt die Hürde für realistische Prototypen auf Entwicklerhardware.
Kennzahlen im Überblick
Nemotron-3-Familie: Nano (30B), Super (ca. 100B), Ultra (ca. 500B). (Quelle: NVIDIA Newsroom, 15. Dezember 2025)
Aktive Parameter laut NVIDIA: Nano aktiviert bis zu 3B Parameter pro Token. (Quelle: NVIDIA Newsroom, 15. Dezember 2025)
Aktive Parameter laut Modellkarte (Nano-30B-A3B-FP8): 3,5B aktiv, 30B total. (Quelle: Hugging Face Model Card, 15. Dezember 2025)
Kontextfenster: bis zu 1.000.000 Tokens für Nemotron 3 Nano. (Quelle: NVIDIA Newsroom, 15. Dezember 2025)
Effizienz (NVIDIA-Angaben): bis zu 4-mal höherer Token-Durchsatz vs. Nemotron 2 Nano; bis zu 60% weniger Reasoning-Tokens. (Quelle: NVIDIA Newsroom, 15. Dezember 2025)
Daten-Cutoffs (Modellkarte): Pre-Training bis 25. Juni 2025; Post-Training bis 28. November 2025. (Quelle: Hugging Face Model Card, 15. Dezember 2025)
Open-Data-Skala (NVIDIA-Angaben): 10 Billionen Sprach-Trainingstokens, 500.000 Robotik-Trajektorien, 455.000 Protein-Strukturen, 100 Terabyte Fahrzeug-Sensordaten. (Quelle: NVIDIA Blog, 5. Januar 2026)
Tool-Optimierungen (NVIDIA-Angaben): ComfyUI im Schnitt 3x schneller mit NVFP4 (2x mit FP8) und 60% bzw. 40% Speicherersparnis; llama.cpp bis zu 35% schneller; Ollama bis zu 30% schneller. (Quelle: NVIDIA Technical Blog, 5. Januar 2026)
Trainingshinweis (Modellkarte): Training mit 25 Billionen Tokens, Batch Size 3072, WSD-Lernratenplan mit 8B Tokens Warmup. (Quelle: Hugging Face Model Card, 15. Dezember 2025)
Kontext
Der Markt bewegt sich sichtbar in Richtung effizienter, modularer KI-Systeme. Mixture-of-Experts ist dabei kein akademisches Detail, sondern eine Kosten- und Latenzfrage: Wenn pro Token nur ein Teilmodell aktiv ist, wird Inferenz planbarer. Das ist besonders wichtig, wenn viele Agents parallel laufen oder wenn RAG-Pipelines mit mehreren Modellaufrufen arbeiten.
Nemotron 3 Nano setzt außerdem auf lange Kontexte. Ein großes Kontextfenster kann RAG-Setups vereinfachen, ist aber kein Freifahrtschein: Teams müssen weiterhin messen, wie sich Retrieval, Prompt-Design und Antwortqualität bei langen Eingaben verhalten. Für Lernende ist das eine gute Gelegenheit, Evaluationsmethoden sauber aufzusetzen, statt sich auf Bauchgefühl zu verlassen.
Die neuen Nemotron-Komponenten für Speech, RAG und Safety adressieren typische Produktionsprobleme. Speech-to-Text ist oft ein Bottleneck bei Voice-Interfaces. Reranking entscheidet häufig stärker über Suchqualität als das Generator-Modell. PII-Erkennung ist ein Grundbaustein, sobald echte Kundendaten im Spiel sind.
Was als Nächstes kommt
Für 2026 stellt NVIDIA weitere Nemotron-3-Varianten in Aussicht. Bis Super und Ultra allgemein verfügbar sind, lässt sich Nano nutzen, um den eigenen Stack robust zu machen.
Praktische Schritte für Entwicklerteams:
- Lizenz und Nutzungsbedingungen prüfen und dokumentieren, bevor Fine-Tuning oder Produktintegration startet.
- Ein kleines, repräsentatives Eval-Set definieren, inklusive eigener Dokumente, typischer Fragen und Edge Cases.
- RAG als System testen: Retrieval-Metriken (Recall, Precision, NDCG) getrennt von Generator-Metriken messen.
- Safety- und PII-Checks als feste Pipeline-Stufe einbauen, inklusive Logging-Policy und Zugriffskontrolle.
- Lokale Inferenz realistisch benchmarken: Token/s, Latenz pro Request, VRAM-Verbrauch, Stabilität unter Concurrency.