Wenn Angreifer Agenten werden.
AI-Agenten können Angriff und Verteidigung beschleunigen. Verantwortung, Guardrails und Beobachtbarkeit werden dadurch wichtiger.
Ghost in the Shell beschäftigt mich nicht, weil es die Zukunft exakt vorhergesagt hätte. Spannend ist für mich die Frage dahinter: Was passiert, wenn technische Systeme nicht nur Informationen liefern, sondern selbst Werkzeuge benutzen, Ziele verfolgen und den nächsten Schritt wählen?
Diese Frage wird in der IT-Sicherheit konkret. Ein AI-Agent kann grundsätzlich dieselben Fähigkeiten für verschiedene Zwecke einsetzen. Er könnte Angriffsflächen schneller untersuchen und bekannte Muster kombinieren. Auf der defensiven Seite könnte er Warnungen vorsortieren, Ereignisse korrelieren und Reaktionen vorbereiten. Daraus folgt weder ein unaufhaltsamer Angreifer noch eine automatische Verteidigung. Es folgt vor allem mehr Handlungsgeschwindigkeit.
Autonomie verstärkt auch Fehler
Geschwindigkeit ist nicht gleich Urteilskraft. Ein Agent kann Daten falsch interpretieren, auf manipulierten Kontext reagieren oder eine zu weit gefasste Aufgabe verfolgen. Je mehr Zugriff er hat, desto größer ist der mögliche Schaden – unabhängig davon, ob der ursprüngliche Zweck offensiv oder defensiv war.
Deshalb würde ich sicherheitskritische Agenten nie nur nach ihrer Erfolgsquote bewerten. Mindestens genauso wichtig ist, was sie nicht dürfen und wie sie sich unter Unsicherheit verhalten.
Verantwortung lässt sich nicht delegieren
Für mich gehören Sandboxing, minimale Berechtigungen, erlaubte Werkzeuglisten und klare Freigabeschritte zur Grundarchitektur. Jede Aktion sollte nachvollziehbar protokolliert werden. Rate Limits, Stop-Mechanismen und menschliche Bestätigung vor irreversiblen Schritten begrenzen den Wirkungsradius.
Auch ein gut abgesicherter Agent hebt Verantwortung nicht auf. Menschen definieren das Ziel, vergeben Zugriffe und entscheiden, wann Autonomie angemessen ist. Wenn Angreifer und Verteidiger Agenten einsetzen, wird diese Verantwortung nicht kleiner. Sie wird sichtbarer.