Fireworks AI hatte kurz zuvor bestätigt, dass sich ein Angreifer am 23. Oktober über einen externen Cloud-Anbieter Zugang zu seiner Entwicklungsumgebung verschafft hatte. Kompromittiert wurden bei einigen Kunden Ressourcen-Metadaten, Abrechnungsinformationen, Modellgewichte und Datensätze. Bereits Anfang Oktober war Fireworks AI Ziel eines anderen Angriffs geworden: Damals griffen Hacker bei einer begrenzten Zahl von Konten auf Umgebungsvariablen zu, in denen API-Schlüssel und Tokens als Secrets hinterlegt waren.

Notion erhielt am 2. November eine Warnung von Fireworks zu einem offengelegten Datensatz, der nach damaligem Stand nur synthetische Testdaten enthielt. Notion kappte daraufhin den Datenverkehr zu Fireworks, ließ alle Daten aus den Systemen des Dienstleisters löschen und stoppte bis zum 3. November die laufenden Trainingsläufe. Am 8. November bestätigte Fireworks jedoch, dass auf Kundendaten zugegriffen worden war, darunter auch auf Daten von Notion-Nutzern.

Über Fireworks AI betreibt Notion einige der Open-Weight-Modelle, die in Notion AI zur Verfügung stehen. Außerdem analysiert der Dienstleister gespeicherte Unterhaltungen für die Funktion Insights, mit der Workspace-Administratoren nachvollziehen können, wie ihre Teams KI nutzen. Die offengelegten Verläufe stammen aus dem Insights-Datensatz; die Funktion ist inzwischen deaktiviert.

„Bei der Analyse des Datensatzes, den Fireworks AI uns am 8. November übergeben hat, haben wir festgestellt, dass er Notion-AI-Chatverläufe für die Insights-Funktion enthielt, die für die große Mehrheit der betroffenen Workspaces nicht zuordenbar waren“, erklärte Notion. Nicht zuordenbar bedeute, dass die Chats weder den Verfasser noch den Workspace erkennen ließen und keine Ergebnisse von Tool-Aufrufen enthielten. In einer FAQ zum Vorfall betont Notion zudem, dass sich Fireworks vertraglich verpflichtet hatte, keine Notion-Daten zu speichern.

Notion empfiehlt Folgendes:

  • Inhaber möglicherweise betroffener Workspaces sollen die Daten über „Security incident review“ in der Desktop-Weboberfläche von Notion prüfen und den Mitgliedern einen Link geben, über den diese ihre eigenen Chatverläufe herunterladen können.
  • Betroffene sollen Passwörter, API-Schlüssel und andere Zugangsdaten ändern, die sie in den betroffenen Chats eingegeben haben.
  • Wer weder selbst noch über den Workspace-Inhaber eine Benachrichtigung erhalten hat, muss vorerst nichts unternehmen und gehört nach Einschätzung von Notion höchstwahrscheinlich nicht zum betroffenen Kreis.