Berichte über Agenten von OpenAI und Anthropic, die eigenständig handeln, halten an und befeuern angesichts verschärfter Sicherheitsbedenken eine Debatte darüber, ob die Entwicklung verlangsamt werden sollte. Für Unternehmen heißt das: Sie müssen nachweisen, dass sie KI regieren, absichern und wirtschaftlich nutzen können — eine Aufgabe, die schwieriger sein dürfte als die bloße Einführung.
Sicherheitsteams müssen dafür künftig aktiv über Abteilungsgrenzen hinweg arbeiten, um eine sichere KI-Einführung zu ermöglichen, erklärt Melinda Marks, Practice Director für Cybersicherheit bei Omdia. Dazu gehörten “Schritte, um Daten bestmöglich zu verwalten und zu schützen, Richtlinien und Leitplanken für sicheren Zugriff und sichere Nutzung festzulegen und die Software-Lieferkette abzusichern, während deren Komplexität zunimmt”, so Marks.
Die Herausforderungen reichen von Governance, Sicherheit und Identität über Budgetrestriktionen bis zu Lieferkettenrisiken. Gartners Empfehlungen zielen auf Maßnahmen in den verbleibenden drei Monaten des Jahres 2026, Omdias Hinweise richten sich auf 2027.
Vom Ausrollen zum Wertnachweis
In den vergangenen Jahren hat eine Flut von KI-Werkzeugen den Markt erreicht. Manche erwiesen sich als wirklich nützlich, andere galten als Hype. Sicherheitsteams automatisierten Abläufe bei der Vorfallsreaktion und der Bedrohungserkennung, um Zeit zu sparen und die Alarmmüdigkeit zu verringern. Zugleich entstanden Risiken durch die Lieferkette und durch Schatten-KI, weil Beschäftigte nicht freigegebene Werkzeuge einsetzten — und die KI-Entwicklung lief dem Aufbau geeigneter Leitplanken davon.
Nachdem Organisationen im Jahr 2026 Billionenbeträge in KI gesteckt und neue Werkzeuge sowie Anwendungsfälle zur Produktivitätssteigerung erprobt haben, steht nun die schwierigere Frage an: Wie lässt sich der Wert der Technologie belegen? Omdia und Gartner sind sich einig, dass der Übergang von der Einführung zum Wertnachweis den Kern bildet.
Wachsende Budgets erhöhen den Druck zusätzlich. Nach Angaben von Omdia erwarten 59 Prozent der Organisationen, dass ihre KI-Budgets im kommenden Jahr um 10 Prozent oder mehr steigen. Der Erfolg werde an Kapitalrendite und Produktivitätsgewinnen gemessen, nicht allein an technischer Überlegenheit, hält Omdia fest. Unternehmen müssten deshalb Kennzahlen zur Nachverfolgung der Rendite entwickeln und berücksichtigen, dass sich die Abrechnung hin zu stärker verbrauchs- und token-getriebenen Modellen verschiebt, die teurer ausfallen können als erwartet.
Gartner-Analysten empfehlen Chief Information Security Officers (CISOs) parallel, den Sicherheitswert von KI zu belegen, indem sie über den Hype hinaus auf Infrastrukturschutz und Governance setzen.
Agenten ohne Leitplanken
Governance ist dabei besonders kritisch: Agenten handeln bereits autonom, die Frage ist also nicht mehr theoretisch. Dennoch gaben 54 Prozent der Organisationen an, über keinen definierten Ansatz zur Begrenzung des Zugriffs von KI-Agenten zu verfügen. Je weiter das Jahr voranschreitet und je mehr Risiken sich für Unternehmen ohne Agentenkontrolle materialisieren, desto stärker rückt dieses Thema in Richtung 2027 in den Mittelpunkt. Gartner rät CISOs, autonome Multiagenten-Systeme anhand von Handlungsprivilegien zu steuern, um die Kontrolle zu behalten und den Schadensradius im Fehlerfall zu begrenzen.
“Ein KI-System muss keine Fähigkeiten einer allgemeinen künstlichen Intelligenz erreichen, um erhebliches Cyberrisiko zu erzeugen”, erklärt Gartner. “Es braucht lediglich die Fähigkeit, den Unternehmensbetrieb zu beeinflussen.”
Deepfakes als Massenphänomen
Beide Häuser halten rein reaktive Ansätze gegenüber akuten KI-Risiken für nicht mehr tragfähig. Gartner führt das am Beispiel von Deepfakes aus, die inzwischen als “Mainstream” gelten. Gerenderte Videos täuschen Nutzer seit Jahren; KI-Fortschritte haben es weiter erschwert zu erkennen, ob die Person vor der Kamera echt ist. Angreifer — darunter staatliche Akteure — nutzen Deepfakes, um sich auf Stellen zu bewerben, als Topmanager Geld zu erschleichen oder Zugangsdaten von Beschäftigten zu stehlen. Organisationen müssten den gesamten Erkennungsprozess neu gestalten; Gartner empfiehlt einen mehrschichtigen Ansatz, der Deepfake-Erkennungstechnik mit kontextbezogenen Signalen wie Gerätestandort oder IP-Adresse kombiniert.
Schwachstellen und vorausschauende Abwehr
Auch im Schwachstellenmanagement sind vorbeugende Ansätze gefragt: Laut Gartner zählen 76 Prozent der CISOs die KI-gestützte Entdeckung von Schwachstellen zu ihren zehn wichtigsten aufkommenden Risiken. Ob KI Angreifern tatsächlich hilft, mehr Schwachstellen auszunutzen, ist nicht abschließend geklärt — das Patch-Management steht bei CISOs ohnehin oben auf der Liste. Automatisierte bewegliche Zielverteidigung (Moving Target Defense), fortgeschrittene Verschleierung, Täuschungstechniken und vorausschauende Bedrohungsaufklärung könnten Verteidigern einen Vorteil verschaffen, empfiehlt Gartner.
Lieferketten unter Dauerdruck
Omdia warnt vor reaktiven Strategien bei Lieferkettenrisiken, zumal KI über robotische Infrastruktur und vernetzte Umgebungen vom Bildschirm in die physische Welt übergreift. Der Wertnachweis für KI wird noch schwieriger, wenn bereits das Fundament kompromittiert ist.
2026 sahen sich Organisationen einer Welle von Lieferketten-Kompromittierungen gegenüber, insbesondere gegen Open-Source-Komponenten und GitHub-Repositories mit großer Reichweite in nachgelagerte Systeme. Besonders aktiv war dabei die cyberkriminelle Gruppe TeamPCP, die Angriffe auf Versionen des Litellm-Pakets durchführte, das viele Organisationen zum Bau KI-gestützter Anwendungen nutzen. Die Aktionen führten zu umfangreichem Diebstahl von Zugangsdaten.
“Technologieunternehmen können nicht länger davon ausgehen, dass die Störungen enden und die Lieferketten zur Normalität zurückkehren”, warnt Omdia. Entscheidend werde deshalb ein Fokus auf Widerstandsfähigkeit und ein Plan zur Wiederaufnahme des Betriebs — als Wettbewerbsvorteil, zum Erhalt des Kundenvertrauens und zur Verringerung finanzieller Verluste.