Kurz nach der ersten Meldung wies Northflank alle Kunden an, davon auszugehen, dass ihre Umgebungsvariablen entschlüsselt und die darin gespeicherten Geheimnisse entwendet wurden. „Geht davon aus, dass alle Umgebungsvariablen entschlüsselt wurden. Deaktiviert bzw. rotiert alle Schlüssel", hieß es in einem Update vom 30. Oktober. In Umgebungsvariablen legen Anwendungen üblicherweise Datenbankpasswörter, Zugangsdaten für Cloud-Dienste, Authentifizierungs-Token und API-Schlüssel ab. Werden sie offengelegt, lassen sich damit weitere Dienste der betroffenen Kunden kompromittieren – mit der Folge von Datendiebstahl oder unberechtigten Kosten über die API-Schlüssel.
„Nutzer haben die unbefugte Verwendung von KI-API-Schlüsseln gemeldet, die der Northflank-Plattform übergeben wurden", teilte das Unternehmen mit. „Wenn Sie Ihre selbst hinterlegten Secrets in Northflank noch nicht rotiert haben, tun Sie dies bitte umgehend." Kunden sollen zudem die Nutzungs- und Abrechnungsprotokolle ihrer KI-Anbieter auf unerwartete Aktivitäten prüfen und auffällige Nutzung sowohl Northflank als auch den jeweiligen Anbietern melden.
Laut der von Northflank veröffentlichten Zeitleiste warnte Wiz das Unternehmen am 30. Oktober um 11:43 UTC, eine Minute später begannen die Entwickler mit der Prüfung. Northflank spielte zunächst einen Patch für die Netzwerkrichtlinien ein, weitere Korrekturen folgten um 12:50 UTC und um 13:05 UTC. Zusätzlich bat das Unternehmen das Incident-Response-Team von Wiz um Unterstützung.
Als Teil der Reaktion aktivierte Northflank die Rotation von Zugangsdaten für PostgreSQL, MongoDB, MySQL und Redis sowie Audit-Logs für alle Kunden, einschließlich der Nutzer kostenloser Konten, damit diese verdächtige Aktivitäten nachvollziehen können. Weiterhin rät das Unternehmen dazu, Secrets in Workloads, Secret-Gruppen und globalen Secrets zu rotieren und den öffentlichen Zugriff auf Add-ons zu deaktivieren, sofern er aktiviert ist.
Offen bleibt, wie die Angreifer Zugang zu den Systemen erlangten, wie viele Kunden betroffen sind und ob über die gemeldeten KI-API-Schlüssel hinaus weitere Zugangsdaten entwendet oder missbraucht wurden. Eine Anfrage zu Hergang, Auswirkungen und möglichem Zugriff auf gespeicherte Zugangsdaten blieb unbeantwortet.
Der Vorfall reiht sich in eine Serie von Angriffen auf Plattformen für KI-Entwicklung ein. Sicherheitsforscher halten diese für besonders lohnende Ziele, weil dort API-Schlüssel für teure KI-Dienste liegen. In einem Bericht mit dem Titel „Black October for AI Developer Platforms" zählt Wiz mindestens neun Sicherheitsvorfälle bei solchen Plattformen innerhalb eines Monats auf – darunter Northflank, Railway, OpenCode, Warp und Lightning AI.
- Beim Vorfall bei Railway ging es ebenfalls um die mögliche Offenlegung entschlüsselter Umgebungsvariablen von Kunden.
- OpenCode machte offengelegte KI-API-Schlüssel öffentlich.
- Warp meldete einen Einbruch, bei dem Protokolle von KI-Agenten und Telemetriedaten von Nutzern offengelegt wurden.
Nach Angaben von Wiz zielten die Angreifer in einigen dieser Fälle gezielt auf Umgebungsvariablen mit Zugangsdaten für KI-Dienste. Ausgenutzt werden solche Schlüssel über eine als LLMJacking bekannte Praxis: Mit gestohlenen Zugangsdaten greifen Angreifer über die API-Schlüssel fremder Organisationen auf KI-Modelle zu, erzeugen hohe Nutzungskosten oder verkaufen den erlangten Zugang weiter. In zwei von Wiz untersuchten Fällen wurden mit kompromittierten Unternehmenszugängen rund 2,5 Millionen API-Aufrufe an Amazon Bedrock abgesetzt, was KI-Nutzungskosten von etwa 100.000 US-Dollar verursachte. Die Forscher stießen außerdem auf Infrastruktur, die mit Diensten zum Weiterverkauf von Zugängen zu KI-Modellen in Verbindung steht, konnten diese Angebote aber weder den ursprünglichen Einbrüchen noch dem großflächigen Missbrauch zuordnen.
Wiz hat nicht bestätigt, dass alle neun Vorfälle auf dieselben Angreifer zurückgehen; in vielen Fällen wurde jedoch versucht, KI-API-Schlüssel zu stehlen. Northflank verwies in seinen Updates selbst auf die Untersuchung von Wiz und merkte an, dass die Kundenmeldungen über unbefugte Nutzung von KI-Schlüsseln mit den dort beschriebenen Angriffen zusammenhängen könnten.