Agentische KI 2026: Hermes, NVIDIA Nemotron und der Stack offener Modelle

Die interessante Grenze im Jahr 2026 ist kein größerer Chatbot. Es ist der Agent: ein Modell, das plant, Werkzeuge aufruft, die Ergebnisse liest und die Schleife wiederholt, bis eine Aufgabe erledigt ist. Der Chat beantwortet eine Frage; ein Agent verändert den Zustand eines Systems. Und in dem Moment, in dem ein Modell handeln kann, hört Zuverlässigkeit auf, eine Nettigkeit zu sein, und wird zum gesamten Produkt.

Zwei Open-Weight-Familien sind zum Rückgrat selbst gehosteter Agenten geworden — Hermes von Nous Research und Nemotron von NVIDIA. Hier ist warum, und wie der Stack rundherum aussieht.

Was „agentisch“ wirklich verlangt

Ein fähiges Konversationsmodell ist nicht automatisch ein fähiger Agent. Agenten leben oder sterben an einem engeren Satz von Fähigkeiten:

• Function Calling — wohlgeformte, schemavalide Werkzeugaufrufe auszugeben, jedes Mal, nicht meistens.
• Strukturierte Ausgabe — zuverlässiges JSON, das der umgebende Code ohne Heuristiken parsen kann.
• Steuerbarkeit — dem System-Prompt, der die Rolle und Grenzen des Agenten definiert, auch wirklich zu gehorchen.
• Schlussfolgern in einer Schleife — mehrstufige Arbeit zu planen und sich zu erholen, wenn ein Werkzeug einen Fehler zurückgibt.

Ein Modell, das bei Trivia 2 % besser ist, aber beim Ausgeben valider Werkzeugaufrufe 20 % schlechter, ist ein schlechterer Agent. Diese eine Tatsache erklärt fast die gesamte Landschaft offener Modelle.

Hermes: das offene, steuerbare Arbeitspferd

Hermes von Nous Research ist eine Familie von Fine-Tunes, die auf offenen Basen wie Llama aufbauen. Sein Ruf gründet auf drei Dingen, die Agentenbauern wichtig sind: starkes Function Calling, verlässliche strukturierte/JSON-Ausgabe und ein bewusst neutrales, steuerbares Alignment — es folgt deinem System-Prompt statt einer vom Hersteller fest verdrahteten Persona.

Für selbst gehostete Agenten, die sich in deine eigenen Leitplanken einfügen und sich vorhersehbar verhalten müssen, ist diese Steuerbarkeit der ganze Reiz. Du definierst die Rolle; das Modell hält sich daran. Es ist derselbe Instinkt hinter dem lokalen Betrieb von Modellen, den ich zuvor erkundet habe — Kontrolle über das Verhalten, nicht nur über die Gewichte.

NVIDIA Nemotron: Schlussfolgern, abgestimmt auf Werkzeuge

Nemotron ist NVIDIAs Reihe offener Modelle, und die Llama Nemotron-Reasoning-Modelle (in den Größen Nano, Super und Ultra) sind ausdrücklich auf agentische Arbeit abgestimmt: mehrstufiges Schlussfolgern und Werkzeugaufrufe, mit einem Reasoning, das sich für schwere Aufgaben einschalten und für günstige ausschalten lässt. Sie kommen mit offenen Gewichten und sind als NIM-Microservices verpackt, um sie hinter einer Standard-API bereitzustellen.

Die Nemotron-Familie verdient sich ihr Geld auch an einem unglamourösen Ort: der Generierung synthetischer Daten. Die größeren Reward- und Instruct-Varianten werden viel genutzt, um Trainingsdaten für andere Modelle zu generieren und zu bewerten — einschließlich Agenten, die du vielleicht selbst feintunst.

Der Stack rund um das Modell

Das Modell ist vielleicht ein Drittel eines funktionierenden Agenten. Der Rest ist Engineering:

• Werkzeugschemata — knappe, gut beschriebene Funktionsdefinitionen. Vage Schemata produzieren vage Aufrufe.
• Orchestrierung — eine Plan/Handeln/Beobachten-Schleife (im ReAct-Stil), mit Schrittlimits und Timeouts, damit ein verwirrter Agent schnell scheitert, statt ewig Tokens zu verbrennen.
• Leitplanken — validiere jeden Werkzeugaufruf, bevor er ausgeführt wird; lass das Modell niemals ungeprüft an Produktionssysteme heran.
• Evals — ein goldener Satz von Aufgaben, den du bei jeder Modell- oder Prompt-Änderung erneut ausführst. Ohne Evals betreibst du kein Engineering, du rätst.
• Observability — verfolge jeden Schritt. Wenn sich ein Agent um 2 Uhr nachts danebenbenimmt, ist der Trace das Einzige, das dich rettet.

Offen vs. API: wie man wählt

Frontier-API-Modelle sind immer noch der einfachste Weg, heute einen fähigen Agenten zum Laufen zu bringen, und für viele Teams ist das die richtige Entscheidung. Greife zum offenen Stack — Hermes, Nemotron —, wenn du Datenresidenz, vorhersehbare Kosten bei hohem Volumen, tiefe Anpassung durch Fine-Tuning oder einfach die Garantie brauchst, dass sich das Modell nächstes Quartal nicht unter dir verändert. Oft ist die pragmatische Antwort eine Mischung: ein Frontier-Modell für das schwere Schlussfolgern, ein offenes Modell für die häufigen, gut abgesteckten Aufrufe.

---

Agentische KI belohnt langweilige Engineering-Disziplin weit mehr als Modell-Hype: knappe Werkzeuge, eine strikte Schleife, echte Leitplanken und Evals, denen du vertraust. Wähle ein Modell, das beim Werkzeugaufruf wirklich gut ist — Hermes und Nemotron sind es beide — und stecke deine Energie in das Gerüst darum herum. Wenn du einen Agenten an echte Geschäftsdaten anschließt, fang dort an, wo die Daten leben: dem Databricks-Lakehouse und Fabric mit Copilot Studio.