KI-getriebene Angriffe verkürzen das Zeitfenster für Verteidiger drastisch

Die Konferenz selbst war von KI-zentrierter Forschung und entsprechenden Vorträgen geprägt. Besonders beachtet wurde eine Session von OpenAI, in der das Unternehmen vorläufige Ergebnisse seiner Untersuchung zum Hack von Hugging Face darlegte. Weitere Beiträge befassten sich damit, wie KI-Werkzeuge Betrugsoperationen im Netz skalieren, sowie mit der anhaltenden Gefahr von Prompt-Injection-Angriffen auf KI-gestützte Webbrowser.

Das Thema, das jedoch die meisten Gespräche bestimmte, war der Aufstieg KI-getriebener Angriffe — und die Frage, wie Angreifer Geschwindigkeit und Automatisierung dieser Werkzeuge für sich nutzen.

Exploits binnen Stunden statt Wochen

Der Zeitraum zwischen der Veröffentlichung einer Schwachstelle und den ersten Angriffen darauf schrumpft sichtbar. Bei mehreren kritischen, prominenten Lücken setzte die Ausnutzung zuletzt innerhalb von Stunden nach der öffentlichen Offenlegung ein — nicht mehr nach Tagen oder Wochen. Fachleute führen diese Entwicklung maßgeblich auf große Sprachmodelle zurück, insbesondere auf Frontier-Modelle, die bereits gezeigt haben, dass sie neue Schwachstellen geschickt aufspüren können.

Dieselbe Entwicklung hilft auch der Forschungsseite: KI unterstützt Sicherheitsforscher dabei, mehr Schwachstellen zu finden — sichtbar geworden an einem außergewöhnlich umfangreichen Patch Tuesday im vergangenen Monat. Zugleich helfen die Werkzeuge Angreifern, Patches zu analysieren und daraus Exploits zu entwickeln.

„Angreifer waffnen Schwachstellen deutlich schneller", sagt Ensar Seker, CISO bei SOCRadar. Sicherheitsteams stehen dadurch vor der unangenehmen Aufgabe, aus Hunderten offengelegten Lücken sorgfältig jene auszuwählen, die zuerst gepatcht werden müssen. „Organisationen können den Patch Tuesday daher nicht mehr als simple Übung nach dem Motto ‚alles sofort ausrollen’ behandeln", so Seker — zum einen wegen der schieren Menge an CVEs, zum anderen wegen der Nebenwirkungen, die manche Patches in bestimmten Umgebungen unweigerlich mit sich bringen.

Sicherheit durch Verschweigen funktioniert nicht mehr

„KI hat die Hürde dafür, zu verstehen, was ein Patch eigentlich tut, erheblich gesenkt — selbst dann, wenn der Hersteller es uns nicht sagt", sagt Benjamin Harris, Gründer und CEO von watchTowr. Er verweist dabei auf die jüngsten Zero-Day-Schwachstellen in NetScaler und die fehlende Kommunikation von Citrix zur Bedrohungslage.

Sicherheit durch Verschleierung sei „schon immer fragwürdig" gewesen, sagt Harris, im KI-Zeitalter aber besonders. Angreifer können Sprachmodelle einsetzen, um rasch zu ermitteln, was ein Software-Update — womöglich stillschweigend — behoben hat, ohne auf eine öffentliche Offenlegung oder gar vollständige technische Details warten zu müssen.

Joe Toomey, Vice President Underwriting Security beim Cyberversicherer Coalition, sagt, KI habe das Tempo der Ausnutzung „zu 100 Prozent" erhöht; Unternehmen müssten sich dieser Verschiebung bewusst sein und darauf reagieren. „Wir sehen die steigende Zahl veröffentlichter Schwachstellen, und wir sehen, dass immer mehr davon das Niveau erreichen, bei dem wir handeln und unsere Versicherungsnehmer benachrichtigen müssen", sagt er. „Wir können uns nicht auf die Leitplanken der Frontier-Modelle oder auf ein Embargo der Technologie verlassen, weil sie mit Open-Weight-Modellen längst in der Welt ist."

Agenten machen keine Pause

Zur Geschwindigkeit kommt die Automatisierung: Angreifer setzen Modelle ein, um ihre Kampagnen selbsttätig laufen zu lassen. Das könnte die drängendere Bedrohung sein, denn anders als menschliche Angreifer brauchen bösartige Agenten keine Ruhepausen, machen keinen Urlaub und geben nicht auf.

Ein im Sommer veröffentlichter Omdia-Bericht mit dem Titel „Next Generation Offensive Security Strategies Grant Defenders the AI Advantage" zeigt, dass 32 Prozent der befragten Organisationen das Aufkommen KI-gestützter automatisierter Angriffe als den Faktor mit dem größten Einfluss auf ihre Offensive-Security-Strategien wie Penetrationstests und Red-Teaming nennen. Weitere 25 Prozent verweisen auf die gestiegene Geschwindigkeit der Ausnutzung als den Trend, der ihre offensiven Sicherheitsstrategien am stärksten geprägt hat.

„Dass KI-gestützte automatisierte Angriffe als wichtigste Sorge und als größter Einflussfaktor auf Offensive-Security-Strategien auftauchen, bringt einen pragmatischen Blick auf das neue Gesicht der Angreifer", sagt Theresa Lanowitz, Principal Analyst bei Omdia. „Ein KI-gestützter automatisierter Angriff ist unerbittlich, er gibt nie auf und hört nie auf, nach Angriffswegen zu suchen."

Agenten, warnt Lanowitz, erkundeten jeden denkbaren Weg zu ihrem Ziel. Das stellt Sicherheitsteams vor zusätzliche Probleme: Nach den Erhebungen von Omdia haben nur 25 Prozent der Organisationen vollständige Sichtbarkeit auf ihre Angriffsfläche und können sämtliche Daten und Assets in Echtzeit erfassen. Wege, die man nicht kennt, lassen sich nicht verteidigen.

Bekannte Pfade, komprimierter Zeitplan

Justin O’Leary, unabhängiger Sicherheitsforscher, weist darauf hin, dass die OpenAI-Agenten beim Einbruch bei Hugging Face bekannten Angriffspfaden gefolgt seien — nur in einem stark verdichteten Zeitrahmen. „Nichts Exotisches, nur schneller", sagt er.

Einen der größten Vorteile der Automatisierung für Angreifer sieht O’Leary darin, dass sich die Identitäts- und Zugriffsrichtlinien eines Kontos sowie die Vertrauensbeziehungen zwischen den darin verwalteten Diensten sehr schnell kartieren lassen. „Das sind zeitintensive Aufgaben, die normalerweise Wochen dauern würden", sagt er.

Verteidigung im Maschinentempo

Laut Omdia erhöhen 85 Prozent der Organisationen ihre Ausgaben für Offensive Security. Für Lanowitz ist das ein Hinweis darauf, dass Sicherheitsverantwortliche die Notwendigkeit einer proaktiveren Haltung erkannt haben. „Dem Gegner mittels KI voraus zu bleiben — dorthin bewegen sich die Sicherheitsteams", sagt sie.

Proaktives Vorgehen ist besonders bei jenen Angriffsketten und Schwachstellen wichtig, die kein auffälliges Verhalten erzeugen und deshalb keine Alarme auslösen. „Verteidiger können KI nutzen, um abzubilden und zu verifizieren, wer in ihrer Umgebung tatsächlich was tun kann — bevor es jemand mit bösen Absichten tut", sagt O’Leary. „Schnellere Triage allein wird sie nicht erwischen."

Für das Schwachstellenmanagement hält Toomey automatisches Patchen für überlegenswert, allerdings nur, wenn reife Organisationen es sorgfältig umsetzen. „Man kann einen ausgereiften Prozess mit Release-Ringen aufbauen und Leuten erlauben, sich für frühen Zugang einzutragen", sagt er. „Und man kann Patches kontrolliert ausrollen, den Zustand der aktualisierten Systeme überwachen und sicherstellen, dass nichts Auffälliges zurückkommt, bevor man weiter ausrollt."

Automatisches Patchen sei jedoch nicht für jeden geeignet, räumt Toomey ein, und es werde dauern, bis Organisationen KI für die Verteidigung optimiert und einen Weg gefunden haben, der schnelleren Ausnutzung und den automatisierten Angriffen voraus zu bleiben: „Auf sehr, sehr lange Sicht kommen wir vielleicht besser heraus. Aber kurzfristig wird es wehtun."