Ein Modell für alles zu nutzen ist bequem — und teuer, unflexibel oder für sensible Daten ungeeignet. Nexograph routet jede Anfrage zum passenden Modell, ohne dass Anwendungen an einen einzelnen Anbieter gebunden sind.

Warum ein Modell nicht reicht

Offene Inhalte, sensible Datenräume, juristische Fachfragen oder einfache Zusammenfassungen stellen unterschiedliche Anforderungen an Kosten, Datenschutz und Qualität. Ein einzelnes Modell für alles bedeutet: entweder zu teuer für einfache Aufgaben oder zu schwach für komplexe. Der Model Router entkoppelt Anwendungen von einzelnen Anbietern und wählt je Anfrage das passende Modell.

Wie der Model Router entscheidet

• Use Case & Datenklasse: welche Aufgabe, welche Sensibilität der Daten.
• Rolle & Kostenlimit: wer fragt, mit welchem Budgetrahmen.
• Qualität & Fallback: erforderliche Antwortgüte und Ausweichmodell bei Ausfall.

Sechs Modellklassen im Zugriff

• Public LLM: stark für offene Inhalte.
• Private LLM: läuft im sensiblen Datenraum.
• Spezialmodelle: Legal, Code, Vision.
• Kleine Modelle: Kosten & Geschwindigkeit.
• Reasoning-Modelle: komplexe Analyse.
• Fallback: Ausfallsicherheit, falls ein Anbieter ausfällt.

Beispiel: eine Anfrage, das passende Modell

Eine Anfrage zu einem Vertragsdetail geht an ein spezialisiertes Legal-Modell, eine einfache Zusammenfassung an ein kleines, schnelles Modell — beide laufen über denselben Model Router, ohne dass die Anwendung das unterscheiden muss. Fällt ein Anbieter aus, übernimmt automatisch das Fallback-Modell.

Multi-LLM-Routing ist eine von vier Ebenen der Steuerungsschicht — neben Graph, Agent Orchestration und der Trust-Schicht. Mehr dazu auf der Plattform-Übersicht.