// SÄULE 02 · STEUERUNG
Übersicht / Plattform / KI-Management
KI-Management

Alle KI-Anwendungen
unter einer Steuerung.

Bestehende und neue KI-Anwendungen, Agenten und Modelle laufen über eine gemeinsame Steuerung: wer was nutzen darf, auf welche Daten zugegriffen wird, welches Modell antwortet, was es kostet – und dass jeder Schritt nachvollziehbar bleibt.

00 / Überblick

Fünf Fragen, eine Stelle, die sie beantwortet.

Sobald mehr als eine KI-Anwendung im Haus läuft, stellen sich dieselben Fragen. KI-Management beantwortet sie zentral – statt in jeder Anwendung neu.

Anwendungen

Registry

Was läuft bei uns?

Jede KI-Anwendung und jeder Agent ist registriert – mit Verantwortlichem, Zweck und Status.

Daten

Datenräume & Rechte

Wer darf worauf zugreifen?

Rollen und Datenräume gelten für jede Anwendung gleich, auch für eingebundene Fremd-Agenten.

Modelle

Model Router

Welches Modell antwortet?

Das passende Modell je Zweck, Datenklasse und Kostenlimit – austauschbar ohne Neubau.

Kosten

Budget & Deckel

Was kostet es, wen?

Kosten je Modell, Abteilung und Operation, mit Kostendeckel je Mandant, der automatisch pausiert.

Kontrolle

Freigaben & Audit

Wer hat was entschieden?

Kritische Aktionen warten auf einen Menschen. Jede Anfrage und jede Freigabe ist protokolliert.

01 / Agenten

Viele Agenten, ohne Wildwuchs.

Agenten entstehen dort, wo gerade jemand Zeit hat – im Vertrieb, im Reporting, in der IT. NexoGraph führt sie unter eine Steuerung, ohne sie neu zu bauen.

  • Einbinden: vorhandene Agenten als „Agent-as-a-Tool“, mit Datenräumen, Rollen und Kostenlimits von außen.
  • Entwickeln: neue Agenten aus Vorlagen, mit Tests und klarer Verantwortung.
  • Absichern: Tool-Zugriffe nur über Freigaben; Buchungen, Versand und Stammdatenänderungen halten für einen Menschen an.

Briefing: Viele Agenten, ohne Wildwuchs →

01 / Modelle

Das richtige Modell für den richtigen Zweck.

Der Model Router entkoppelt Anwendungen von einzelnen Anbietern. Sie wechseln das Modell, Anwendungen und Wissensgraph bleiben.

  • Nach Zweck: kleine Modelle für Masse, Reasoning-Modelle für Analyse, Spezialmodelle für Recht, Code und Bild.
  • Nach Datenklasse: sensible Datenräume gehen nur an private Modelle.
  • Nach Kosten: Kostenlimit und Fallback je Anwendungsfall.

Briefing: Der Multi-LLM Router ist live →

02 / Kosten

Jeder Euro hat eine Adresse.

Das Nutzungs-Cockpit bricht jede KI-Ausgabe auf — nach Modell, Abteilung und Operation, über 7, 30 oder 90 Tage. Kein „die KI war teuer", sondern: welche KI, für wen, in welchem Prozess.

Nutzungs-Drill-Down · Tenant: acme-group Beispieldaten
Zeitraum
Aufschlüsseln nach
128.430
Events
▲ 6,2 % vs. Vormonat
41,8 M
Input Tokens
Ø 326 / Event
9,1 M
Output Tokens
Ø 71 / Event
50,9 M
Gesamt Tokens
über 6 Modelle
€ 2.292
Kosten (30 T.)
▼ 18 % nach Routing

Top nach Token-Volumen — pro Modell

Beispieldaten30 Tage · 6 Modelle
GPT-4o-miniAzure · klein/schnell
€ 314 / 22,4M
Claude Sonnet 4.5Reasoning
€ 1.065 / 14,2M
GPT-4oAzure · Standard
€ 903 / 8,6M
Llama 3.1 70BPrivate · self-hosted
€ 0 / 4,1M
embedding-3-largeVektorisierung
€ 5 / 1,3M
Claude Haikugünstig/Batch
€ 5 / 0,3M
BeispieldatenDetails — nach Modell
ModellEventsInputOutputGesamtKosten
GPT-4o-mini71.24020,1 M2,3 M22,4 M€ 314
Claude Sonnet 4.522.88011,9 M2,3 M14,2 M€ 1.065
GPT-4o14.1107,2 M1,4 M8,6 M€ 903
Llama 3.1 70B (Private)12.6403,6 M0,5 M4,1 M€ 0
embedding-3-large6.3101,3 M—1,3 M€ 5
Claude Haiku1.2500,2 M0,1 M0,3 M€ 5
Gesamt128.43041,8 M9,1 M50,9 M€ 2.292

Top nach Token-Volumen — pro Abteilung

Beispieldaten30 Tage · 5 Arbeitsbereiche
Sales-ArbeitsbereichAngebote · CRM
€ 795 / 18,1M
ServiceSupport-Auskünfte
€ 493 / 12,9M
CompliancePrüfung · Belege
€ 564 / 9,4M
ControllingReporting
€ 288 / 6,6M
EinkaufVerträge · Angebote
€ 152 / 3,9M
BeispieldatenDetails — nach Abteilung / Arbeitsbereich
ArbeitsbereichAktivitätEventsGesamtKosten
Sales-ArbeitsbereichAngebote, CRM-Recherche, Cross-Selling46.12018,1 M€ 795
ServiceSupport-Auskünfte aus Wissensbasis33.48012,9 M€ 493
ComplianceBelegprüfung, Quellen-Checks21.9009,4 M€ 564
ControllingAuswertungen, Report-Entwürfe16.7406,6 M€ 288
EinkaufAusschreibungen, Vertragsanalyse10.1903,9 M€ 152
Gesamt128.43050,9 M€ 2.292

Top nach Token-Volumen — pro Operation

Beispieldaten30 Tage · 6 Operationen
graphrag:queryWissensabfrage
€ 1.121 / 19,8M
chatStandard-Chat
€ 486 / 11,4M
agent-mode:queryAgenten-Lauf
€ 798 / 8,7M
document:ingestDokument-Aufnahme
€ 211 / 5,8M
summarizeZusammenfassung
€ 190 / 3,9M
embeddingVektorisierung
€ 5 / 1,3M
BeispieldatenDetails — nach Operation
OperationEventsInputOutputGesamtKosten
graphrag:query52.30016,4 M3,4 M19,8 M€ 1.121
chat38.9109,3 M2,1 M11,4 M€ 486
agent-mode:query9.6407,1 M1,6 M8,7 M€ 798
document:ingest14.8805,5 M0,3 M5,8 M€ 211
summarize6.0903,2 M0,7 M3,9 M€ 190
embedding6.6101,3 M—1,3 M€ 5
Gesamt128.43041,8 M9,1 M50,9 M€ 2.292
Budget-Guardrails

Limit pro Anfrage & Arbeitsbereich

Jeder logische Request hat ein Token-/Kostenbudget — inklusive aller Wiederholungen. Läuft ein Arbeitsbereich heiß, greift das Limit, bevor die Rechnung es tut.

Routing spart real

Günstigstes passendes Modell

Der Multi-LLM-Router schickt einfache Aufgaben an kleine Modelle und sensible Daten ins Private LLM. Im Beispiel: 18 % weniger Kosten bei gleicher Qualität.

Verursachergerecht

Kostenstellen-Zuordnung

Jedes Event trägt Abteilung, Projekt und Operation. Die Auswertung lässt sich exportieren — als Grundlage für interne Verrechnung und ROI-Nachweis.

03 / Workflows & Prompts

Vom vorgefertigten Prompt
zum orchestrierten Workflow.

Niemand muss Agenten programmieren. Geprüfte Prompt-Vorlagen beschreiben die Aufgabe in Klartext — Nexograph macht daraus einen Agenten, verbindet mehrere zu einem Workflow und führt sie nachvollziehbar Schritt für Schritt aus.

SCHRITT 1 — VORGEFERTIGTE PROMPTS WÄHLEN
Recherche-AgentVorlage
„Durchsuche den Datenraum nach allen Verträgen mit Kunde X. Extrahiere Laufzeiten, Kündigungsfristen und Sonderkonditionen. Belege jede Aussage mit Quelle."
Tools: GraphRAG · Dokumente
Analyse-AgentVorlage
„Bewerte die Funde auf Risiken & Red Flags. Priorisiere nach Geschäftsrelevanz. Frage bei kritischen Punkten den Menschen."
Tools: Reasoning · Human-in-the-Loop
Report-AgentVorlage
„Erstelle ein strukturiertes Memo aus den Ergebnissen — nach Firmen-Template, mit Quellenverzeichnis und offenen Punkten."
Tools: Dokument-Export · Custom-API
SCHRITT 2 — AGENTEN WERDEN ZUM WORKFLOW VERBUNDEN
Workflow Supervisor Agent-as-Tool Approval
Supervisororchestriert · 3/3● Recherche-AgentGraphRAG · Dokumente✓ Analyse-AgentReasoning · Risiken✓ Quellen-ToolAgent-as-Tool✓ Report-AgentMemo · Export● Frei-gabe
SCHRITT 3 — JEDE AUSFÜHRUNG WIRD SCHRITT FÜR SCHRITT PROTOKOLLIERT
Ausführung · Recherche-Workflow
7 Schritte18.420 Tokens00:42 Dauer✓ abgeschlossen
#1 Reasoning
3,1 s
#2 RagQuery
5,8 s
#3 ToolCall
2,4 s
#4 SubAgent
4,9 s
#5 Reasoning
1,9 s
#6 ToolCall
2,8 s
#7 Finale Antwort
memo.pdf
Reasoning RagQuery ToolCall SubAgent Finale Antwort
  • Aus Klartext, nicht aus Code: geprüfte Prompt-Vorlagen je Use Case — anpassbar, versioniert, wiederverwendbar.
  • Kontrolliert verbunden: Supervisor, Agent-as-Tool, parallele und bedingte Pfade — mit Freigabe-Schritten an kritischen Stellen.
  • Nichts läuft im Verborgenen: jeder Reasoning- und Tool-Schritt mit Ein-/Ausgabe, Dauer und Tokenkosten einsehbar.
04 / Audit-Trail

Nichts passiert ohne Spur.

Jede sicherheitsrelevante Aktion schreibt ein unveränderliches Audit-Event — wer, was, wann, mit welchem Modell. Vom Aktivieren des Agent-Modus bis zum einzelnen Tool-Aufruf bleibt alles nachvollziehbar und prüfbar.

Beispieldaten
ZeitpunktLevelAudit-EventActor
11.06. 09:14:02InfoAUDIT:DataRoomAccessGranted — Compliance-Arbeitsbereich, Datenraum „Verträge"m.weber@acme
11.06. 09:14:48InfoAUDIT:AgentExecutionStarted — Recherche-Workflow · Modell Claude Sonnet 4.5m.weber@acme
11.06. 09:15:21InfoAgentShell▶ exec=7f3a cmd=grep exit=0 stdout=2,4 KB duration=2380 msagent:researcher
11.06. 09:15:55WarnAUDIT:HumanApprovalRequested — Red Flag in Vertrag #4821, Freigabe ausstehendagent:analyst
11.06. 09:17:10InfoAUDIT:HumanApprovalGranted — Freigabe erteilt, Workflow fortgesetztm.weber@acme
11.06. 09:17:44InfoAUDIT:AgentExecutionCompleted — 7 Schritte · 18.420 Tokens · Export memo.pdfagent:reporter
11.06. 14:02:09WarnAUDIT:TenantAgentModeDisabled — Agent-Modus für Tenant deaktiviertadmin@acme
Wer

Authentifizierter Nutzer oder Agent — jede Zeile trägt den verantwortlichen Actor.

Was

Die konkrete Aktion — Zugriff, Lauf, Tool-Aufruf, Freigabe, Konfigurationsänderung.

Wann & Womit

Zeitstempel plus Modell, Datenraum und Kosten des Vorgangs.

Belegt

Jede KI-Antwort führt ihre Quellen mit — prüfbar bis zum Dokument.

UNVERÄNDERLICH

Append-only

Events werden nur angehängt, nie überschrieben — Manipulation fällt auf.

EXPORTIERBAR

Für Audits & Aufsicht

Vollständiger Verlauf je Tenant — als Nachweis für DSGVO, Revision und Wirtschaftsprüfung.

BEOBACHTBAR

Telemetrie inklusive

Spans und Metriken je Lauf — Auffälligkeiten wie Rate-Limits oder abgewiesene Tools sichtbar.