Stand: 28. September 2026
Unternehmen führen KI heute nicht mehr nur als Chatbot oder einzelnes Pilotprojekt ein. Immer häufiger greifen AI Agents auf Datenquellen zu, rufen APIs auf, bearbeiten Tickets, erzeugen Code, analysieren Dokumente oder stoßen Geschäftsprozesse an. Damit verschiebt sich die zentrale Managementfrage: Nicht mehr „Welches Modell ist am besten?“, sondern „Wie behalten wir Kontrolle über alle Modelle, Agenten, Identitäten, Datenflüsse, Tools, Kosten und Risiken?“ Genau an diesem Punkt gewinnt das Konzept eines Enterprise AI Control Plane an Bedeutung.
Der Begriff beschreibt keine einzelne Softwarekategorie mit festem Standard, sondern eine Management- und Kontrollschicht, die KI-Nutzung unternehmensweit sichtbar, steuerbar und überprüfbar macht. Dass dieses Thema 2026 stark an Relevanz gewinnt, zeigen aktuelle Entwicklungen: BCG beschreibt im August 2026 eine zentrale AI-Control-Plane-Architektur als Ansatz für die Governance wachsender Agentenlandschaften. Salesforce stellte im September 2026 ebenfalls ein „AI Control Plane“ als Bestandteil einer Enterprise-AI-Architektur vor. Parallel arbeitet NIST an aktualisierten Profilen für AI Risk Management und Cybersecurity. Die Richtung ist klar: KI-Governance wird vom Dokumentenprojekt zur operativen Plattformaufgabe.
Warum klassische KI-Governance nicht mehr ausreicht
Viele Organisationen starten mit Richtlinien: Welche öffentlichen KI-Dienste sind erlaubt? Welche Daten dürfen eingegeben werden? Wer darf neue Tools beschaffen? Solche Regeln bleiben wichtig, sie reichen aber nicht mehr aus, sobald autonome oder teilautonome Systeme produktiv arbeiten. Ein Agent kann in wenigen Sekunden mehrere Systeme ansprechen, Daten kombinieren und Aktionen ausführen. Ein statisches PDF mit Regeln kann diesen Ablauf weder technisch erzwingen noch vollständig protokollieren.
Das Problem wird durch die Vielfalt der Plattformen verstärkt. Ein Unternehmen kann gleichzeitig Microsoft Copilot, ChatGPT Enterprise, interne RAG-Anwendungen, GitHub- oder GitLab-Agenten, SaaS-Funktionen mit integrierter KI sowie eigene Modelle betreiben. Jede Plattform bringt eigene Berechtigungen, Logs, Kostenmodelle und Sicherheitsmechanismen mit. Werden diese Inseln separat verwaltet, entstehen blinde Flecken: Niemand kann zuverlässig sagen, welche KI wo aktiv ist, welche Daten sie sieht und welche Aktionen sie ausführen darf.
Was ein AI Control Plane praktisch leisten sollte
1. Vollständiges Inventar statt Shadow AI
Die erste Aufgabe ist Sichtbarkeit. Ein Unternehmen sollte nicht nur Modelle erfassen, sondern komplette KI-Systeme: Anwendung, Modellanbieter, Version, Agent, Datenquellen, verwendete Plugins oder MCP-Server, technische Identität, verantwortliche Fachabteilung, geschäftlicher Zweck, Datenklassifikation und Risikoklasse. Dieses Inventar muss laufend aktualisiert werden. Besonders eingebettete KI-Funktionen in SaaS-Produkten werden sonst leicht übersehen.
2. Identitäten und Rechte für Menschen und Agenten
KI-Agenten müssen wie technische Identitäten behandelt werden. Sie brauchen nachvollziehbare Owners, klar begrenzte Rechte und getrennte Credentials. Ein Agent, der nur Tickets kategorisieren soll, benötigt keinen Schreibzugriff auf Kundendatenbanken. Ein Coding Agent darf nicht automatisch Produktions-Secrets lesen. Least Privilege, zeitlich begrenzte Tokens, Secret Rotation und eine saubere Trennung von Benutzer- und Agentenidentität sind deshalb Kernfunktionen einer belastbaren Architektur.
3. Datenrichtlinien technisch erzwingen
Die Entscheidung, welche Daten ein Modell sehen darf, darf nicht allein vom Prompt abhängen. Sensible Informationen müssen bereits vor der Übergabe klassifiziert, gefiltert oder maskiert werden. Bei RAG-Systemen muss die Berechtigung beim Retrieval berücksichtigt werden; bei Agenten müssen Tool-Aufrufe gegen Richtlinien geprüft werden. Ein AI Control Plane sollte dadurch zur Verbindung zwischen Data Governance, Identity Management und KI-Betrieb werden.
4. Tool- und MCP-Governance
Mit dem Model Context Protocol und ähnlichen Integrationsschichten steigt die Zahl der Tools, die ein Agent aufrufen kann. Das erhöht den geschäftlichen Nutzen, aber auch die mögliche Schadenswirkung. Unternehmen brauchen deshalb ein genehmigtes Tool-Register: Welche MCP-Server sind erlaubt? Wer betreibt sie? Welche OAuth-Scopes verwenden sie? Welche Daten verlassen das Unternehmen? Welche Aktionen sind read-only, welche verändern Systeme? Kritische Tools sollten zusätzliche Freigaben oder Human-in-the-Loop-Schritte verlangen.
5. Zentrale Observability und Audit Trails
Für klassische Anwendungen reichen Logs einzelner Services häufig aus. Bei Agenten muss die Kette nachvollziehbar bleiben: Nutzeranfrage, Systemkontext, Modell, abgerufene Daten, verwendete Tools, Entscheidungen, ausgeführte Aktionen, Fehler und Ergebnis. Dabei müssen Datenschutz und Geheimnisschutz berücksichtigt werden, denn rohe Prompts können sensible Informationen enthalten. Ziel ist nicht grenzenloses Logging, sondern ein auditierbarer Ablauf mit sinnvoller Datenminimierung.
6. Kosten-, Modell- und Providersteuerung
Governance bedeutet auch Wirtschaftlichkeit. Ohne zentrale Sicht können Teams parallel teure Modelle verwenden, obwohl kleinere Modelle für bestimmte Aufgaben ausreichen. Ein Control Plane kann Routing-Regeln definieren: sensible Aufgaben nur auf freigegebenen Plattformen, einfache Klassifikation auf kostengünstigen Modellen, besonders kritische Entscheidungen nur mit zusätzlicher Prüfung. So werden Sicherheit, Qualität und Kosten gemeinsam gesteuert.
7. Evaluation, Freigabe und Kill Switch
Ein produktiver KI-Service sollte nicht nach der ersten Freigabe als unveränderlich gelten. Modelle und Anbieter ändern sich, Prompts werden angepasst, Datenquellen wachsen und Agenten erhalten neue Tools. Deshalb braucht es wiederholbare Tests, definierte Qualitätsgrenzen und eine Möglichkeit, riskante Funktionen schnell zu deaktivieren. Ein zentraler Kill Switch kann im Ernstfall wichtiger sein als die perfekte Richtlinie.
Die Verbindung zu NIST: Govern, Map, Measure, Manage
Der NIST AI Risk Management Framework strukturiert AI-Risikomanagement in die Funktionen Govern, Map, Measure und Manage. Für die Praxis ist diese Logik sehr hilfreich. „Govern“ bedeutet Verantwortlichkeiten und Regeln festzulegen. „Map“ schafft Kontext und Inventar. „Measure“ bewertet Risiken, Leistung und Vertrauenswürdigkeit. „Manage“ priorisiert und behandelt die identifizierten Risiken. Ein technisches Control Plane ersetzt dieses Framework nicht, kann aber viele seiner Ziele operationalisieren.
2026 arbeitet NIST zudem an aktualisierten AI-RMF- und Cyber-AI-Profilen. Aktuelle Workshop-Berichte nennen unter anderem Governance-Herausforderungen, neue AI-Angriffsflächen, konsistente Taxonomien und risikobasierte Leitlinien als zentrale Themen. Für Unternehmen ist das ein Hinweis, Governance nicht nur juristisch, sondern auch technisch und organisatorisch aufzubauen.
Wie eine sinnvolle Architektur aussehen kann
Eine praxistaugliche Architektur beginnt oben mit einem zentralen Register aller KI-Anwendungen. Darunter liegen Policy Engine und Identity Layer. Diese entscheiden beispielsweise, welcher Agent welches Tool mit welchem Scope nutzen darf. Eine Data-Governance-Schicht kontrolliert Zugriffe auf Dokumente, Datenbanken und Vektorspeicher. Ein Gateway kann Modellaufrufe zentral routen und gleichzeitig Logging, Kostenlimits und Datenfilter anwenden. Ganz unten bleiben die eigentlichen Plattformen, Modelle und Agenten austauschbar.
Wichtig ist, nicht sofort ein riesiges Governance-Programm zu bauen. Das Ziel sollte eine kontrollierte Standardstrecke sein: Wenn ein Team eine neue KI-Anwendung einführen will, durchläuft es denselben Prozess für Registrierung, Risikobewertung, Datenfreigabe, Identität, Logging, Tests und Produktivsetzung. Gute Governance beschleunigt dadurch sichere Projekte, statt sie nur zu blockieren.
Ein realistischer 90-Tage-Plan
Tag 1 bis 30: Transparenz schaffen
Erfassen Sie zunächst alle produktiven und pilotierten KI-Systeme. Dokumentieren Sie Owner, Zweck, Datenquellen, Anbieter, Modell, Berechtigungen und Integrationen. Identifizieren Sie besonders Systeme mit Schreibrechten, externen Datenflüssen oder Zugriff auf personenbezogene und vertrauliche Informationen. Parallel sollten öffentliche KI-Dienste, Browser-Erweiterungen und SaaS-AI-Funktionen in die Bestandsaufnahme einbezogen werden.
Tag 31 bis 60: Guardrails definieren
Im zweiten Schritt werden verbindliche Mindestkontrollen festgelegt: zentrale Anmeldung, getrennte Agentenidentitäten, Least Privilege, Secret Management, Logging, erlaubte Modelle, Freigaben für sensible Daten, Regeln für externe Tools und ein standardisierter Incident-Prozess. Für besonders kritische Aktionen sollte eine menschliche Bestätigung vorgesehen werden.
Tag 61 bis 90: Technische Durchsetzung
Danach beginnt die Operationalisierung. Modell-Gateways, zentrale Policies, Tool-Allowlisting, Retrieval-Berechtigungen und Observability werden dort eingeführt, wo das Risiko am höchsten ist. Gleichzeitig sollte jede neue AI-Anwendung nur noch über einen definierten „Golden Path“ produktiv gehen. Damit entsteht schrittweise ein echtes Control Plane, ohne dass das Unternehmen auf einen einzelnen Hersteller festgelegt sein muss.
Typische Fehler bei der Einführung
Fehler 1: Governance nur als Compliance-Projekt. Wenn Security, IT Operations, Data Engineering und Fachbereiche nicht beteiligt sind, bleiben technische Lücken offen.
Fehler 2: Ein Hersteller soll das gesamte Problem lösen. Multi-Cloud- und Multi-Modell-Realitäten machen eine vollständig proprietäre Steuerung schwierig. Offene Schnittstellen und exportierbare Logs bleiben wichtig.
Fehler 3: Agenten erhalten Benutzerrechte. Geteilte Identitäten zerstören Nachvollziehbarkeit und erschweren Incident Response.
Fehler 4: Nur Prompts werden überwacht. Die eigentlichen Risiken liegen oft in Tool-Aufrufen, Datenzugriffen und ausgeführten Aktionen.
Fehler 5: Keine Abschaltstrategie. Jede kritische Automatisierung braucht eine dokumentierte Möglichkeit zur schnellen Deaktivierung.
Was bedeutet das für den Mittelstand?
Ein AI Control Plane ist nicht nur ein Thema für Konzerne. Mittelständische Unternehmen können mit einer deutlich schlankeren Variante beginnen: ein zentrales Inventar, klare Owner, einheitliche Login- und Berechtigungsregeln, zugelassene Plattformen, kontrollierte Datenquellen und ein verpflichtendes Logging für Agenten mit Schreibrechten. Entscheidend ist nicht die Größe des Tools, sondern die Fähigkeit, jederzeit vier Fragen zu beantworten: Welche KI läuft? Auf welche Daten greift sie zu? Was darf sie tun? Und wer trägt die Verantwortung?
Fazit
2026 entwickelt sich AI Management von Richtlinien zu operativer Steuerung. Je mehr Agenten, Modelle und Tools Unternehmen einsetzen, desto wichtiger wird eine zentrale Kontrollschicht. Ein AI Control Plane verbindet Inventar, Identitäten, Datenrichtlinien, Tool-Governance, Observability, Kostenkontrolle und Incident Response. Unternehmen, die diese Fähigkeiten früh aufbauen, können KI schneller skalieren, ohne Transparenz und Sicherheitskontrolle zu verlieren.
Weiterführende Quellen
BCG: Enterprise AI Control Plane – The CIO’s Guide to Governing and Accelerating AI Agents
Salesforce: Trusted Enterprise AI Harness und AI Control Plane, September 2026
NIST: AI Risk Management Framework
NIST: Cyber AI Profile Workshop Summary, August 2026
Titelbild: Christina @ wocintechchat.com / Unsplash
Autor: Salman Dolatpanah Gortlar