AI Cyber Benchmark 2026: Governance macht Fortschritte, operative Sicherheit hinkt hinterher
Veröffentlicht am 14. September 2026
- Cyber Security
Künstliche Intelligenz (KI) wird zunehmend zum festen Bestandteil von Arbeitsabläufen, Kundenservices und geschäftskritischen Prozessen. Längst stellt sich nicht mehr die Frage, ob Unternehmen und Organisationen KI einsetzen sollten, sondern wie sie deren Einsatz sicher skalieren und dabei Vertrauen und Kontrolle wahren können.
Unser aktueller AI Cyber Benchmark, der 30 große Organisationen aus dem öffentlichen und privaten Sektor umfasst, zeigt ein uneinheitliches Bild. Während Governance und Schutzmaßnahmen Fortschritte machen, sind die Erkennung von Sicherheitsvorfällen, die Reaktion darauf und die anschließende Wiederherstellung noch nicht ausreichend ausgereift. Da immer mehr Organisationen eigene KI-Systeme entwickeln und betreiben, lässt sich diese Lücke in der operativen Sicherheit immer schwerer ignorieren.
Organisationen entwickeln KI zunehmend selbst, statt sie nur zu nutzen
Organisationen übernehmen mehr Verantwortung dafür, wie KI-Systeme entwickelt und betrieben werden. Laut dem Benchmark-Panel konzipiert inzwischen die Hälfte der Organisationen KI-Systeme intern auf Basis bestehender Frameworks oder vortrainierter Modelle. 2025 waren es noch 35 %.
Gleichzeitig ist der Anteil der Organisationen, die ausschließlich vorhandene KI-Funktionalitäten nutzen, deutlich zurückgegangen. Auch die durchgängige KI-Entwicklung von A bis Z gewinnt an Bedeutung, zunehmend getragen von fortgeschrittenen Anwendungsfällen generativer KI.
| Ansatz bei der KI-Einführung | 2025 | 2026 |
|---|---|---|
|
Ausschließlich Nutzung bestehender KI-Funktionalitäten |
30 % |
10 % |
|
Konzeption von KI-Systemen auf Basis bestehender Frameworks oder vortrainierter Modelle |
35 % |
50 % |
|
Verantwortung für die gesamte KI-Wertschöpfungskette |
35 % |
40 % |
Diese Entwicklung spiegelt den wachsenden Anspruch wider, externe Abhängigkeiten zu verringern und die Kontrolle über kritische KI-Fähigkeiten zu erlangen. Gleichzeitig verändert sie die sicherheitstechnische Ausgangslage: Je mehr Organisationen ihre KI-Systeme selbst verantworten, desto größer wird auch ihre Verantwortung, diese über den gesamten Lebenszyklus hinweg abzusichern.
KI-Sicherheit verbessert sich, doch die Fortschritte sind ungleichmäßig
Das Aufkommen agentischer KI, steigende regulatorische Erwartungen sowie der zunehmende Umfang von KI-Implementierungen erweitern das Spektrum der Sicherheitsherausforderungen.
Um diesen Entwicklungen Rechnung zu tragen, haben wir unser Bewertungsframework aktualisiert. Neben Governance und Risikomanagement deckt es nun auch die Sicherheit agentischer KI, KI-spezifische Schutzmaßnahmen sowie Monitoring und Incident Response ab.
Der Benchmark zeigt Fortschritte in allen bewerteten Handlungsfeldern gegenüber 2025. Governance-Strukturen etablieren sich, KI-bezogene Risiken finden Eingang in bestehende Prozesse, und dedizierte Schutzmaßnahmen begleiten den produktiven Einsatz.
Die Fähigkeiten in den Bereichen Monitoring, Analyse und Reaktion sind jedoch vergleichsweise wenig ausgereift.
Organisationen sind inzwischen besser darin, KI zu steuern, als darin, sie im Produktivbetrieb sicher zu betreiben.
Sechs Trends in der KI-Sicherheit
Die Governance etabliert sich zwar, doch die Verantwortlichkeiten bleiben fragmentiert. Nur 32 % der Organisationen haben ihre Aktivitäten, Beteiligten und Verantwortungsmodelle klar definiert. Die Zuständigkeiten verteilen sich häufig auf Teams aus den Bereichen Cybersicherheit, Daten, Digitalisierung und Recht.
Auch die Expertise ist ein limitierender Faktor: Nur 44 % benennen dedizierte KI-Sicherheitsexpert:innen, die Fach- und Technikteams über den gesamten KI-Lebenszyklus hinweg unterstützen können.
Die reifsten Organisationen rücken Governance näher an die Umsetzung. Sie verankern KI-Risikobewertungen, Sicherheitsprüfungen und Entscheidungswege in bestehenden Projektprozessen, anstatt Governance als separate Compliance-Übung zu behandeln.
Die Priorität: Zuständigkeiten explizit machen und KI-Sicherheitskompetenz über einen kleinen Kreis von Spezialisten hinaus verbreitern.
Organisationen weiten etablierte Data-Governance-Praktiken auf KI aus. Im gesamten Panel haben 72 % mit der Umsetzung von Datenschutzmaßnahmen für das KI-Training begonnen, und 65 % führen Qualitätsprüfungen ihrer Datensätze durch.
Doch nur 9 % bewerten vor dem Produktiveinsatz sowohl die Qualität als auch die Sicherheit der Datensätze systematisch.
Diese Unterscheidung ist wichtig, denn Daten unterstützen KI-Systeme nicht nur, sondern prägen auch ihr Verhalten. Manipulierte Datensätze, kompromittierte Wissensdatenbanken oder unbefugt offengelegte Daten können die Zuverlässigkeit und Sicherheit beeinträchtigen.
Die Priorität: Datensätze, Vektordatenbanken und Wissensdatenbanken als Teil der KI-Angriffsfläche behandeln und Governance mit Sicherheitsprüfungen und Validierung vor dem Rollout verbinden.
Cloud- und KI-Plattformen bieten Sicherheitsfunktionen, mit denen Organisationen erste Anwendungsfälle schnell produktiv nutzen können. Wenn man sich jedoch allein auf diese Kontrollen verlässt, kann das die verbleibende Verantwortung der Organisation verschleiern.
Nur 11 % des Panels haben damit begonnen, Sicherheitsfunktionen über die nativen Angebote der Anbieter hinaus zu evaluieren oder umzusetzen.
Je stärker Organisationen auf eigene Modelle, selbst gehostete Umgebungen und agentische Architekturen setzen, desto gewichtiger wird diese Abhängigkeit. Kontrollen, die zuvor vom Anbieter bereitgestellt wurden, müssen dann unter Umständen intern umgesetzt und gepflegt werden.
Die Priorität: verstehen, welche Verantwortlichkeiten delegiert sind, und die Fähigkeiten der Anbieter durch internes Know-how, unabhängige Validierung und geeignete ergänzende Kontrollen erweitern.
Zwei Drittel der befragten Organisationen führen dediziertes Pentesting für KI-Sicherheit durch, die Hälfte auch fortgeschrittene, KI-spezifische Sicherheitsbewertungen. Der nächste Schritt besteht darin, diese Praktiken in wiederkehrende Assurance-Programme über den gesamten KI-Lebenszyklus zu überführen.
Die reifsten Organisationen gehen über einmalige Übungen hinaus. Sie integrieren KI-Sicherheitstests in wiederkehrende Audit- und Assurance-Programme, bewerten Systeme nach wesentlichen Änderungen neu und erweitern die Abdeckung auf ihr gesamtes KI-Portfolio.
Automatisiertes Scanning kann diesen Ansatz unterstützen, indem es Schwachstellen und Konfigurationsprobleme aufdeckt. Es ersetzt jedoch kein umfassendes AI Red Teaming.
Die priorität: KI-Sicherheitstests zu einer wiederholbaren Praxis über den gesamten Lebenszyklus machen statt zu einem außergewöhnlichen Projektmeilenstein.
Organisationen erfassen zwar KI-Telemetrie, nutzen diese aber nicht konsequent zur Erkennung von Bedrohungen.
So sammeln zwar 88 % die Logs ihrer KI-Anwendungen, doch nur 8 % binden diese in das Monitoring des Security Operations Centers ein.
Das operative Monitoring richtet sich typischerweise auf Performance, Zuverlässigkeit und Modellverhalten. Cybersecurity-Teams benötigen jedoch Sichtbarkeit für verdächtige Aktivitäten und mögliche Kompromittierungen.
Die Lücke entsteht also nicht einfach aus fehlenden Daten. Sie spiegelt vielmehr die Unterschiede bei Tools, Prozessen und Zielsetzungen zwischen dem Betrieb von KI und den Sicherheitsteams wider.
Die Priorität: KI-Telemetrie an bestehende Detection- und Response-Prozesse anbinden, KI-spezifische Detection-Use-Cases definieren und die Zusammenarbeit zwischen KI-Teams und Security Operations Center stärken.
KI-Vorfälle können kompromittierte Datensätze, manipulierte Prompts, unerwartetes Modellverhalten oder unbefugte Agentenaktionen umfassen. Herkömmliche Reaktionsverfahren decken diese Szenarien nicht automatisch ab.
Die Fähigkeiten zur Analyse bleiben begrenzt: Nur 8 % der Organisationen können forensische Untersuchungen auf KI-Plattformen durchführen. Die Hälfte des Panels setzt weiterhin auf Ad-hoc-Behebung ohne strukturierten Reaktionsprozess. Nur 13 % verfügen über dokumentierte, KI-spezifische Incident-Response-Pläne und diese werden nicht durchgängig angewendet.
Bei der Wiederherstellung ist der Reifegrad ähnlich niedrig: Nur 22 % sichern KI-bezogene Assets, und die Praktiken sind weitgehend nicht standardisiert.
Die Priorität: Verfahren für Analyse, Reaktion und Wiederherstellung etablieren und einüben, die Modelle, Datensätze, Wissensdatenbanken und agentische Workflows abdecken – ergänzt um die Fähigkeit, einen vertrauenswürdigen Betriebszustand wiederherzustellen.
KI-Sicherheit lässt sich nicht als einmalige Freigabe behandeln. Da sich Modelle, Fähigkeiten und Agentenberechtigungen weiterentwickeln, müssen Governance, Tests und Monitoring über den gesamten Lebenszyklus hinweg angepasst werden. Die Herausforderung besteht darin, von der Validierung der KI bei der Inbetriebnahme zu einer kontinuierlichen Kontrolle überzugehen.
Das Paradox der KI-Sicherheit
KI-Sicherheit wird zunehmend gemeinsam mit der Technologie konzipiert, die sie schützt, statt erst nach deren Einführung ergänzt zu werden. Cybersecurity-Teams werden zwar früher eingebunden, müssen aber Entscheidungen über Systeme treffen, deren Fähigkeiten und Risiken sich fortlaufend verändern.
Deshalb lässt sich KI-Sicherheit nicht als einmalige Freigabe behandeln. Da sich Modelle, Fähigkeiten und Agentenberechtigungen weiterentwickeln, müssen Governance, Risikobewertungen, Tests und Monitoring über den gesamten Lebenszyklus hinweg mitwachsen. Die Herausforderung besteht darin, von der Validierung der KI bei der Inbetriebnahme zu einer kontinuierlichen Kontrolle überzugehen.
Wie geht es weiter mit der KI-Sicherheit?
Drei Prioritäten werden die nächste Reifephase prägen.
Belastbarkeit schaffen, der man vertrauen kann
Resiliente KI-Systeme aufzubauen bedeutet mehr, als Verfügbarkeit sicherzustellen. Verfügbarkeit bleibt eine zentrale Anforderung, insbesondere dort, wo Organisationen von einer begrenzten Zahl an Anbietern abhängen. Nach einem Vorfall müssen Organisationen zudem überprüfen, ob Modelle, Datensätze und Wissensdatenbanken weiterhin vertrauenswürdig sind. Die Resilienzplanung sollte deshalb Kontinuitätsmaßnahmen mit der Wiederherstellung von Assets, Integritätsprüfungen und der sicheren Wiederaufnahme des Betriebs verbinden. Wo sinnvoll, kann ein Failover zwischen Modellen oder Anbietern helfen, Abhängigkeiten zu verringern und die Resilienz zu stärken.
Verantwortung für die Modellsicherheit übernehmen
Feinabgestimmte, Open-Weight- und selbst gehostete Modelle bieten mehr Flexibilität, verlagern aber auch mehr Sicherheitsverantwortung auf die Organisationen. Security-Teams müssen Modelle vor der Einführung bewerten, feinabgestimmte Versionen validieren sowie Änderungen und Abhängigkeiten über den gesamten Lebenszyklus hinweg überwachen. Diese Verantwortlichkeiten sollten Einführungsentscheidungen von Anfang an mitbestimmen, statt erst nach der Inbetriebnahme behandelt zu werden.
Autonome Aktionen kontrollieren
Da KI-Agenten Zugriff auf Unternehmenssysteme erhalten, müssen Organisationen sicherstellen, dass deren Aktionen begrenzt, nachvollziehbar und unterbrechbar sind. Jüngste Vorfälle haben gezeigt, dass schädliche autonome Aktionen kein rein theoretisches Risiko darstellen. Wirksame Kontrollen sind somit eine unmittelbare Priorität. Das bedeutet, Berechtigungen zu beschränken, auffällige Aktivitäten zu überwachen und die Fähigkeit zu wahren, den Zugriff auf kritische Systeme sofort zu entziehen. Risikobewertungen und Reaktionsverfahren sollten schädliche autonome Aktionen ausdrücklich adressieren, unabhängig davon, ob sie durch Kompromittierung, Missbrauch oder unerwartetes Verhalten entstehen.
Von KI-Governance zu operativer Resilienz
Der 2026 AI Cyber Benchmark zeigt spürbare Fortschritte. Organisationen etablieren Governance, integrieren KI-Risiken in bestehende Prozesse und führen Schutzmaßnahmen ein.
Als nächstes müssen diese Grundlagen im Betrieb verankert werden.
Das bedeutet, klare Verantwortlichkeiten für KI-Systeme festzulegen, deren Risiken zu bewerten, Sicherheitskontrollen zu implementieren und sie an das Security-Monitoring anzubinden sowie sie über den gesamten Lebenszyklus hinweg zu testen. Darüber hinaus müssen Teams darauf vorbereitet werden, auf Vorfälle zu reagieren und den Betrieb wiederherzustellen. Agentische KI und eine stärkere Eigenverantwortung für Modelle machen diese Fähigkeiten umso dringlicher.
Der nächste Maßstab für die Reife der KI-Sicherheit wird sein, ob Organisationen im Fehlerfall Kontrolle, Vertrauen und Kontinuität wahren können.
Über den Benchmark
Der 2026 AI Cyber Benchmark basiert auf Assessments von 30 großen Organisationen aus dem öffentlichen und privaten Sektor, ergänzt um Erkenntnisse aus Wavestones KI-Sicherheitsprojekten der vergangenen drei Jahre.
Das Assessment ist entlang fünf Säulen auf Basis des NIST Cybersecurity Framework aufgebaut, die jeweils über mehr als 30 Fragen bewertet werden, um die Reife der KI-Sicherheit auf einer Skala von 0 bis 100 % zu bestimmen. Diese Ausgabe erweitert die Abdeckung um die Sicherheit agentischer KI, KI-spezifische Schutzmaßnahmen, Monitoring und Incident Response.
Die Prozentangaben beziehen sich auf die bewerteten Organisationen und sind als Erkenntnisse aus diesem Panel zu verstehen, nicht als Schätzungen für den Gesamtmarkt.
Weitere Informationen und Ergebnisses aus dem Vorjahr finden Sie im 2025 AI Cyber Benchmark.