AI Agent Security steht im Mittelpunkt dieses praxisorientierten GORTNET-Leitfadens. Der Beitrag zeigt, welche Entscheidungen IT-Verantwortliche und Unternehmen treffen sollten und wie sich technische Risiken nachvollziehbar begrenzen lassen.
Autor: Salman Dolatpanah Gortlar · GORTNET
Warum klassische Chatbot-Sicherheit nicht ausreicht
Agenten können Tools starten, Dateien lesen, E-Mails versenden und Workflows verändern. Daraus entstehen neue Risiken, weil eine falsche Antwort zur ausgeführten Aktion werden kann. Sicherheitskonzepte müssen deshalb nicht nur das Modell, sondern Identitäten, Tools, Daten und Auswirkungen prüfen.
Praxis-Tipp: Dokumentieren Sie dafür Verantwortlichkeiten, messbare Prüfkriterien und eine nachvollziehbare Freigabe. Starten Sie mit einem begrenzten Pilotprojekt, kontrollieren Sie technische Abhängigkeiten und überprüfen Sie Ergebnisse vor jeder produktiven Änderung.
Prompt Injection und manipulierter Kontext
Unvertrauenswürdige Dokumente, Tickets und Webseiten können Anweisungen enthalten. Solche Inhalte dürfen weder Systemregeln überschreiben noch den Agenten zu einem Datenexport oder einer Freigabe verleiten. Strikte Vertrauensgrenzen sind wichtiger als Textfilter allein.
Praxis-Tipp: Dokumentieren Sie dafür Verantwortlichkeiten, messbare Prüfkriterien und eine nachvollziehbare Freigabe. Starten Sie mit einem begrenzten Pilotprojekt, kontrollieren Sie technische Abhängigkeiten und überprüfen Sie Ergebnisse vor jeder produktiven Änderung.
Zu große Berechtigungen und Werkzeugmissbrauch
Ein Reporting-Agent sollte nicht zugleich Zahlungsfreigaben, Benutzerverwaltung und produktive Shell-Befehle ausführen dürfen. Least Privilege, getrennte Service-Identitäten und Werkzeuglisten minimieren die Reichweite möglicher Fehler.
Praxis-Tipp: Dokumentieren Sie dafür Verantwortlichkeiten, messbare Prüfkriterien und eine nachvollziehbare Freigabe. Starten Sie mit einem begrenzten Pilotprojekt, kontrollieren Sie technische Abhängigkeiten und überprüfen Sie Ergebnisse vor jeder produktiven Änderung.
Agent-zu-Agent-Kommunikation und Delegation
Mehrere Agenten können Aufgaben aneinander weitergeben. Dabei müssen Herkunft, Zweck und Umfang einer Delegation überprüfbar bleiben. Ohne Grenzen können Aufgaben und Berechtigungen unkontrolliert weitergereicht werden.
Praxis-Tipp: Dokumentieren Sie dafür Verantwortlichkeiten, messbare Prüfkriterien und eine nachvollziehbare Freigabe. Starten Sie mit einem begrenzten Pilotprojekt, kontrollieren Sie technische Abhängigkeiten und überprüfen Sie Ergebnisse vor jeder produktiven Änderung.
Schutz von Secrets und sensiblen Informationen
API-Schlüssel gehören in Secret-Stores. Kontextfenster, Zwischenspeicher, Logs und externe Modelle benötigen Datenminimierung, definierte Löschfristen und Zugriffsprüfungen.
Praxis-Tipp: Dokumentieren Sie dafür Verantwortlichkeiten, messbare Prüfkriterien und eine nachvollziehbare Freigabe. Starten Sie mit einem begrenzten Pilotprojekt, kontrollieren Sie technische Abhängigkeiten und überprüfen Sie Ergebnisse vor jeder produktiven Änderung.
Human-in-the-Loop und Transaktionsgrenzen
E-Mails an externe Empfänger, administrative Änderungen und irreversible Aktionen benötigen einen unabhängigen Freigabeschritt. Freigabeanzeigen müssen Ziel, Daten und Auswirkungen verständlich benennen.
Praxis-Tipp: Dokumentieren Sie dafür Verantwortlichkeiten, messbare Prüfkriterien und eine nachvollziehbare Freigabe. Starten Sie mit einem begrenzten Pilotprojekt, kontrollieren Sie technische Abhängigkeiten und überprüfen Sie Ergebnisse vor jeder produktiven Änderung.
Monitoring, Testfälle und Kill Switch
Tool-Aufrufe, Berechtigungsfehler und ungewöhnliche Datenmengen sollten protokolliert und überwacht werden. Vor dem Produktivbetrieb sind adversarielle Tests und ein erprobter Abschaltweg nötig.
Praxis-Tipp: Dokumentieren Sie dafür Verantwortlichkeiten, messbare Prüfkriterien und eine nachvollziehbare Freigabe. Starten Sie mit einem begrenzten Pilotprojekt, kontrollieren Sie technische Abhängigkeiten und überprüfen Sie Ergebnisse vor jeder produktiven Änderung.
Einführungs-Checkliste für die IT
Agenten inventarisieren, Datenquellen klassifizieren, Rollen und Tool-Rechte festlegen, Freigabegrenzen testen, Sicherheitsereignisse überwachen und nach Änderungen an Modell oder Tools erneut prüfen.
Praxis-Tipp: Dokumentieren Sie dafür Verantwortlichkeiten, messbare Prüfkriterien und eine nachvollziehbare Freigabe. Starten Sie mit einem begrenzten Pilotprojekt, kontrollieren Sie technische Abhängigkeiten und überprüfen Sie Ergebnisse vor jeder produktiven Änderung.
Weiterführende Informationen und Beratung
Weitere Fachartikel: Passkeys statt Passwörter: Unternehmen sicher umstellen · Immutable Backup gegen Ransomware: So planen Firmen · EU AI Act 2026: KI-Governance praktisch umsetzen
Offizielle Quelle: https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026/
Sie möchten den Ansatz für Ihre Infrastruktur bewerten? Kontaktieren Sie GORTNET und schildern Sie Ihre technische Fragestellung.