KI verändert Pentesting, ersetzt aber keine Pentester-Expertise

Künstliche Intelligenz verändert derzeit viele Bereiche der Cybersecurity. KI-Modelle können inzwischen Code analysieren, Schwachstellen identifizieren und sogar Sicherheitswerkzeuge bedienen. Im Pentesting wird in diesem Zusammenhang viel über neue Angriffsmöglichkeiten, autonome Sicherheitsanalysen und massive Produktivitätsgewinne diskutiert.

Gemeinsam mit unserem Pentesting-Team schauen wir auf die aktuelle Entwicklung und ordnen ein, welche Veränderungen bereits heute in der Praxis spürbar sind, wo KI echten Mehrwert liefert und an welchen Stellen die Realität den Erwartungen noch hinterherläuft.

Handlungsempfehlungen für mittelständische Unternehmen  

KI macht Pentester produktiver

Viele Tätigkeiten, die bislang manuell durchgeführt wurden, lassen sich inzwischen zumindest teilweise unterstützen oder beschleunigen. Dazu gehören beispielsweise:

• Analyse großer Codebasen
• Suche nach potenziellen Schwachstellen
• Erstellung kleiner Testskripte
• Recherchen zu bekannten Angriffstechniken
• Dokumentation von Testergebnissen

Gerade bei wiederkehrenden oder zeitintensiven Aufgaben entstehen dadurch spürbare Effizienzgewinne. Im Alltag von Pentestern zeigt sich das häufig bei sogenannten „Wegwerf-Skripten“ – kleinen Hilfsprogrammen, die für einen konkreten Testfall benötigt werden. Viele dieser Aufgaben lassen sich heute deutlich schneller umsetzen. Die eigentliche Sicherheitsanalyse bleibt jedoch weiterhin in menschlicher Hand.

Das steht teilweise im Gegensatz zu aktuellen Diskussionen, in denen KI häufig als unmittelbarer Produktivitätssprung für die gesamte Sicherheitsbranche dargestellt wird. Tatsächlich profitieren heute vor allem klar strukturierte und wiederkehrende Aufgaben von der Automatisierung. Die anspruchsvollsten Teile eines Pentests lassen sich bislang nur begrenzt übertragen.

KI übernimmt Routine – Erfahrung bleibt der Engpass

Besonders sichtbar wird diese Entwicklung beim Umgang mit Schwachstellen und Exploits. Mithilfe moderner Sprachmodelle lassen sich heute teilweise sogar Proof-of-Concept-Exploits oder Angriffswerkzeuge auf Basis bekannter Schwachstellen erzeugen. Dafür hat sich der Begriff „Vibecoding“ etabliert, das Erstellen von Code durch die Zusammenarbeit mit einem KI-System.

Für Unternehmen bedeutet das vor allem eines: Angreifer benötigen für bestimmte Aufgaben künftig weniger Zeit und unter Umständen weniger Spezialwissen als früher.

Gleichzeitig zeigt die Praxis, dass die wirklich kritischen Fragen weiterhin Erfahrung erfordern:

• Ist eine Schwachstelle tatsächlich ausnutzbar?
• Welche Auswirkungen hätte ein erfolgreicher Angriff?
• Welche Systeme sind betroffen?
• Wie realistisch ist ein bestimmter Angriffsweg?

Genau diese Einordnung kann heute keine KI zuverlässig übernehmen.

  KI kann heute problemlos kleine Hilfsskripte schreiben oder Angriffstechniken erklären. Das spart Zeit. Die wirklich interessanten Teile eines Pentests entstehen aber dort, wo Erfahrung, Kreativität und Kontextwissen gefragt sind. Das lässt sich schwer automatisieren.

Autonomes Pentesting: Viel Potenzial, aber noch keine Revolution

Ein weiteres Thema, das derzeit intensiv diskutiert wird, ist das autonome Pentesting. Dabei versuchen Systemlösungen selbstständig, Systeme zu analysieren und Angriffspfade zu entwickeln. Moderne Agentensysteme können bereits Werkzeuge koordinieren, Ergebnisse auswerten und daraus neue Handlungsschritte ableiten. Beispiele hierfür sind Plattformen wie Horizon3.ai NodeZero oder Forschungsprojekte wie PentAGI oder RedAmon. Wie leistungsfähig diese Ansätze in der Praxis bereits sind, analysieren und benchmarken wir derzeit. Die Ergebnisse werden wir in einem weiterführenden Beitrag vorstellen.

Die öffentliche Diskussion vermittelt teilweise den Eindruck, klassische Pentests könnten in naher Zukunft weitgehend automatisiert werden. Unsere bisherigen Praxiserfahrungen zeichnen jedoch ein deutlich nüchterneres Bild. Zwar erzielen aktuelle Lösungen in klar abgegrenzten Szenarien bereits beeindruckende Ergebnisse. Von einer vollständig autonomen Sicherheitsanalyse sind wir jedoch noch ein gutes Stück entfernt.

In der Praxis stoßen diese Ansätze weiterhin an Grenzen, sobald komplexe Umgebungen, individuelle Geschäftsanwendungen oder kreative Angriffsszenarien ins Spiel kommen. Besonders schwierig bleiben Situationen, die Kontextwissen, Kreativität oder geschäftliches Verständnis erfordern – also genau die Bereiche, die in realen Pentests häufig über die Aussagekraft der Ergebnisse entscheiden.

  Wenn man sich viele Diskussionen zu KI in der Cybersecurity anschaut, geht es oft um angeblich enorme Produktivitätssprünge. Ich sehe das bislang differenzierter. Ja, einige Aufgaben gehen schneller. Aber entscheidender ist doch: Wie vertrauenswürdig ist das Ergebnis? Genau da stoßen viele aktuelle Ansätze noch an Grenzen.

Gerade dieser Punkt wird in der aktuellen Diskussion häufig unterschätzt. Ein autonom arbeitendes System mag potenzielle Schwachstellen identifizieren. Für Unternehmen ist jedoch entscheidend, ob die Ergebnisse nachvollziehbar, reproduzierbar und belastbar sind, insbesondere in regulierten Umgebungen. Dort müssen Sicherheitsmaßnahmen gegenüber Kunden, Auditoren, Aufsichtsbehörden oder Zertifizierungsstellen nachweisbar begründet werden können. Genau deshalb spielen Dokumentation, Nachvollziehbarkeit und methodische Belastbarkeit oft eine ebenso große Rolle wie die eigentliche Schwachstelle selbst.

KI hält Einzug in etablierte Pentest-Werkzeuge

Die Entwicklung findet nicht nur bei spezialisierten KI-Anbietern statt. Auch etablierte Werkzeuge integrieren zunehmend KI-Funktionen. Plattformen zur Analyse von Webanwendungen, Code oder Netzwerken unterstützen Pentester bereits heute bei der Identifikation möglicher Schwachstellen oder bei der Auswertung großer Datenmengen. Dazu gehört beispielsweise Burp Suite, einer der etablierten Standards für Web-App-Penetrationstests, der inzwischen ebenfalls KI-gestützte Funktionen integriert.

Das verändert die Arbeitsweise von Pentestern spürbar. Weniger Zeit fließt in Routineaufgaben. Mehr Zeit steht für die Bewertung von Risiken, die Entwicklung realistischer Angriffsszenarien und die Analyse geschäftlicher Auswirkungen zur Verfügung. Die Integration von KI bedeutet dabei nicht automatisch bessere Sicherheitsanalysen. In vielen Fällen werden zunächst bestehende Arbeitsabläufe effizienter. Ob daraus tatsächlich belastbarere Ergebnisse entstehen, hängt weiterhin maßgeblich von Methodik, Erfahrung und fachlicher Bewertung ab.

KI wird selbst zum Prüfobjekt

Neben der Veränderung in etablierten Pentestprozessen entsteht gleichzeitig ein neues Aufgabenfeld. Unternehmen integrieren zunehmend KI-Funktionen in Anwendungen, Kundenportale, Supportprozesse oder interne Systeme. Dadurch entstehen neue Angriffsflächen, die klassische Sicherheitsprüfungen nicht vollständig abdecken können. 
Zu den wichtigsten Risiken zählen Prompt Injections, Datenabfluss über KI-Systeme oder die Manipulation von KI-Ausgaben.

Konkrete Vorfälle und aktuelle Forschung zeigen, dass diese Risiken nicht nur theoretischer Natur sind. Prompt-Injection-Angriffe gelten inzwischen als eine der wichtigsten Sicherheitsbedrohungen für KI-Anwendungen und werden von OWASP als Risiko Nummer 1 für LLM-basierte Systeme geführt. Gleichzeitig zeigen Studien und Sicherheitstests, dass Angreifer unter bestimmten Bedingungen persönliche oder vertrauliche Informationen aus KI-gestützten Anwendungen extrahieren können.

Deshalb etablieren sich derzeit spezialisierte Sicherheitsanalysen für KI- und LLM-Systeme. Organisationen wie das BSI, die Allianz für Cyber-Sicherheit oder OWASP beschäftigen sich intensiv mit entsprechenden Prüfverfahren und Sicherheitsanforderungen.

Für Unternehmen bedeutet das: Wer KI produktiv einsetzt, sollte auch die Sicherheit dieser KI-gestützten und -unterstützten Systeme regelmäßig überprüfen lassen.

Die eigentliche Herausforderung beginnt nach dem Pentest

Viel wichtiger als die Frage, wie Schwachstellen gefunden werden, ist häufig die Frage, wie schnell darauf reagiert wird. KI beschleunigt die Suche nach Schwachstellen und erhöht damit die Wahrscheinlichkeit, dass Sicherheitslücken schneller von Angreifern identifiziert und ausgenutzt werden. KI-gestützte Angriffe und automatisierte Analysen setzen bestehende Prozesse im Vulnerability Management deutlich unter Druck.

Daraus ergibt sich eine klare Konsequenz für mittelständische Unternehmen: Wirksames und effizientes Vulnerability Management und Patch Management werden noch wichtiger. Nicht weil KI neue Risiken erzeugt, sondern weil die Zeit zwischen dem Bekanntwerden einer Schwachstelle und ihrer potenziellen Ausnutzung immer kürzer wird.

Die Lösung für Pentesting: Hybrid.

Die aktuellen Entwicklungen zeigen deutlich: Weder rein manuelle noch vollständig autonome Sicherheitsanalysen sind heute der effizienteste Weg. Die größten Vorteile entstehen dort, wo KI und erfahrene Pentester ihre jeweiligen Stärken kombinieren.

Es entsteht ein hybrider Ansatz:

• KI übernimmt Analyse- und Routineaufgaben.
• Sicherheitswerkzeuge arbeiten zunehmend automatisiert.
• Pentester können größere Umgebungen effizienter untersuchen.
• Neue Prüfverfahren für KI-Systeme entstehen.
• Dokumentation und Auswertung lassen sich teilweise KI-gestützt beschleunigen.

Gleichzeitig bleiben die entscheidenden Aufgaben weiterhin menschlich:

• Risiken bewerten
• Zusammenhänge erkennen
• Geschäftsfolgen einordnen
• Pentesting-Ergebnisse verständlich für Management, Fachbereiche und Verantwortliche übersetzen

Die oft diskutierte Vision vollständig autonomer Sicherheitsanalysen bleibt vorerst genau das: eine Vision. Unternehmen sollten weder in KI-Euphorie noch in grundsätzliche Skepsis verfallen. Denn der größte Nutzen entsteht aktuell dort, wo Automatisierung menschliche Expertise unterstützt, nicht dort, wo sie sie ersetzt.