Künstliche Intelligenz wird im Cybersecurity-Umfeld häufig entweder überschätzt oder zu vorsichtig betrachtet. Die entscheidende Frage ist nicht, ob ein Modell „Angriffe erkennen kann“, sondern ob es ein Security-Team bei konkreten, wiederkehrenden Aufgaben zuverlässig unterstützt, ohne selbst zum neuen Risiko zu werden.
Ein sinnvoller Praxistest beginnt deshalb nicht mit automatischen Gegenmaßnahmen. Er beginnt mit einem klar begrenzten Szenario: KI analysiert verdächtige E-Mails und technische Logdaten, erstellt eine strukturierte Einschätzung und übergibt die Entscheidung an einen Menschen. Genau dieses Modell eignet sich gut für Unternehmen, die AI Security ausprobieren möchten, ohne einer KI weitreichende Rechte zu geben.
Test 1: Verdächtige Phishing-Mail analysieren
Im ersten Test erhält das KI-System den Text einer verdächtigen E-Mail sowie ungefährliche Metadaten wie Absenderdomain, Betreff und sichtbare Links. Ziel ist nicht die endgültige Entscheidung „bösartig oder sauber“, sondern eine nachvollziehbare Triage.
Eine gute Analyse sollte beispielsweise folgende Punkte getrennt bewerten:
- Ist die Sprache ungewöhnlich dringend oder manipulativ?
- Passt die Absenderdomain zur behaupteten Organisation?
- Enthalten Links auffällige Domains oder irreführende Schreibweisen?
- Wird versucht, Anmeldedaten, Zahlungen oder vertrauliche Informationen anzufordern?
- Welche Indikatoren sollten technisch zusätzlich geprüft werden?
Der Mehrwert liegt darin, dass die KI unstrukturierte Informationen schnell zusammenfasst. Sie ersetzt aber weder E-Mail-Gateway, URL-Reputation, Sandbox noch einen Security Analysten. Ein produktiver Workflow kombiniert deshalb klassische Security-Daten mit einer sprachlichen Bewertung.
Test 2: Windows- und Security-Logs zusammenfassen
Der zweite Test ist für viele IT-Abteilungen sogar interessanter. Statt dass ein Administrator hunderte Logzeilen manuell durchsucht, bekommt die KI nur die relevanten Ereignisse eines begrenzten Zeitfensters. Das System soll daraus keine Änderungen durchführen, sondern Muster erklären.
Beispielsweise kann ein Input fehlgeschlagene Logins, erfolgreiche Anmeldungen, neue Prozesse und auffällige Netzwerkverbindungen enthalten. Die KI kann diese Daten in eine verständliche Zeitleiste bringen und markieren, welche Ereignisse zusammengehören könnten.
Für den Praxistest sollte man die Ausgabe in drei Bereiche zwingen: Beobachtung, mögliche Erklärung und nächste technische Prüfung. Dadurch wird verhindert, dass Vermutungen wie Fakten dargestellt werden.
Wo wird es gefährlich?
Sobald ein AI Agent nicht nur liest, sondern Tools verwenden darf, ändert sich das Risikoprofil deutlich. Prompt Injection ist dabei eines der wichtigsten Themen. OpenAI beschreibt Prompt Injection als eine Form von Social Engineering gegen AI-Systeme: Inhalte von Dritten können versuchen, das Modell zu manipulieren und zu Aktionen zu bewegen, die der Benutzer gar nicht beauftragt hat. Besonders relevant wird das, wenn ein Agent Webseiten, E-Mails oder Dokumente liest und gleichzeitig Zugriff auf weitere Systeme besitzt.
Deshalb sollte ein Cybersecurity-Agent niemals allein aufgrund eines Textes Benutzer sperren, Dateien löschen oder Firewall-Regeln ändern. Schreibende Aktionen müssen technisch begrenzt sein und für kritische Änderungen eine zusätzliche Freigabe verlangen.
Ein sicherer Testaufbau
Für einen realistischen Test in einem Unternehmen würden wir den Aufbau in vier Stufen trennen:
- Read-only: Das Modell darf ausgewählte Logs und Testdaten lesen.
- Analyse: Es erzeugt Bewertung, Zusammenfassung und Handlungsempfehlungen.
- Human Approval: Ein Administrator bestätigt oder verwirft die Empfehlung.
- Automatisierung: Erst später werden einzelne, klar definierte Aktionen über sichere Tools freigegeben.
Wichtig ist außerdem, sensible Daten vor der Verarbeitung zu klassifizieren. Nicht jedes Logfile sollte ungefiltert an einen externen Dienst gehen. Je nach Unternehmen kann eine Private-AI-Architektur oder eine vorgelagerte Datenreduktion sinnvoller sein.
Was misst man bei einem solchen Praxistest?
Ein guter Pilot wird nicht danach bewertet, wie beeindruckend die Antworten klingen. Interessanter sind messbare Fragen: Wie viel Zeit spart die erste Analyse? Wie oft übersieht die KI relevante Hinweise? Wie häufig produziert sie falsche Zusammenhänge? Sind die Ergebnisse für einen Administrator reproduzierbar? Und wie gut funktioniert die Eskalation an einen Menschen?
Gerade im Security-Bereich ist eine konservative Architektur häufig besser als maximale Autonomie. Eine KI, die in 30 Sekunden eine gute Zusammenfassung liefert und anschließend einen Menschen entscheiden lässt, kann produktiver sein als ein vollautomatischer Agent mit zu vielen Rechten.
Fazit: KI als Copilot, nicht als unkontrollierter Administrator
Der realistische Nutzen von KI in der Cybersecurity liegt heute vor allem in Analyse, Priorisierung, Recherche und verständlicher Aufbereitung großer Informationsmengen. Wer damit beginnt, kann einen hohen praktischen Nutzen erzielen, ohne die Kontrolle über kritische Systeme abzugeben.
Für Unternehmen ist deshalb ein begrenzter Praxistest der beste Einstieg: echte Daten in kontrollierter Form, klare Erfolgskriterien, Read-only als Standard und Human Approval für alles, was Auswirkungen auf Systeme oder Benutzer hat.
Weiterführend: AI Security bei GORTNET und AI Agents.
Quellen
OpenAI: Designing AI agents to resist prompt injection, März 2026. OpenAI: Understanding prompt injections. Die Quellen wurden für die sicherheitsbezogenen Aussagen dieses Beitrags verwendet.