Garrie zufolge stecken viele CISOs derzeit tief in Fragen der KI-Governance, stellen sich aber nicht die entscheidende Frage: Wie verteidigt man getroffene Entscheidungen zu KI-Einführungen, wenn nach einem Sicherheitsvorfall jemand für die Haftung gesucht wird?

Der Ausgangspunkt seiner Arbeit liegt im Juni 2024, als die JAMS AI Rules eingeführt wurden – ein Regelwerk, das Schiedsrichtern einen Rahmen zur Beilegung von KI-Streitigkeiten zwischen Parteien an die Hand gibt. Die Regeln selbst erklären die Haftung nicht und gelten auch nicht für jeden Prozessvertreter. Garrie, der an ihrer Abfassung mitgewirkt hat, hält sie aber für hilfreich, um Leitlinien für den Umgang mit technischen Beweismitteln zu etablieren. Im Zeitalter agentischer KI stehen solche Rahmenwerke besonders im Rampenlicht.

Auf der Bühne betonte Garrie, dass die Anforderungen an die Incident Response bereits in der Vertragsphase geregelt werden müssten, und skizzierte drei Best Practices zur Quantifizierung von KI-Haftung: die Berechnung eines Risiko-Scores für KI-Einführungen, die Dokumentation von Vorstandsentscheidungen zur Risikobereitschaft und die Festlegung, welche Daten aus einem Vorfall zu sichern sind.

Beweismittel in Lieferantenverträge verhandeln

Nach einer KI-Kompromittierung sei es oft schwierig, überhaupt an forensische Grundlagen zu kommen, was passiert ist. Garrie hält es deshalb für entscheidend, diese Punkte schon bei der Vertragsgestaltung mit KI-Anbietern zu verankern und die Sicherheitsführung so früh wie möglich in die Verhandlungen einzubinden. Ziel seien Klauseln, die es CISOs erlauben, den Hergang eines Vorfalls präzise zu rekonstruieren – einschließlich Zugriff auf Protokolle und Anforderungen zur Beweissicherung.

„Kann der KI-Anbieter Ihnen einen Snapshot des Modells zum Zeitpunkt des Vorfalls zur Verfügung stellen?", lautet eine Frage, die CISOs laut Garrie stellen sollten. „Und wie schnell kann der bereitgestellt werden?"

Ebenso müsse die Risikoverteilung vertraglich festgelegt werden. Garrie forderte CISOs auf, sich ein klares Bild über die KI-Nutzungsrechte des Anbieters, Datenbeschränkungen, Zusicherungen, Versicherungen und Haftungsobergrenzen zu verschaffen. Dazu kämen die operativen Kontrollen des Anbieters, dessen Zugriffe und Sicherheitsverantwortlichkeiten. Schließlich brauche es ein Verständnis davon, wie Streitigkeiten behandelt werden – inklusive Einhaltung des anwendbaren Rechts, des Streitforums und des Umfangs einstweiliger Rechtsbehelfe.

Frühzeitig geführte Vertragsverhandlungen könnten den Unterschied ausmachen, ob man später die Beweise in der Hand hat, um die Nicht-Fahrlässigkeit des eigenen Unternehmens zu belegen. „Sobald der Vertrag unterschrieben ist, war es das", warnte Garrie. „Sie werden Ihnen nichts geben, was nicht ausdrücklich festgehalten ist. Sie müssen auf eine Verlängerung warten."

Framework 1: Risiko-Score für KI-Einführungen

Garrie hat ein einfaches Raster mit fünf Faktoren entwickelt, das CISOs hilft, Risiken und Exponierung beim Einsatz eines beliebigen KI-Werkzeugs einzuschätzen. Die fünf Dimensionen sind:

  • potenzieller Schaden („potential harm")
  • Daten und Rechte („data and rights")
  • Autonomie („autonomy")
  • Beweislücke („evidence gap")
  • Anbieterabhängigkeit („vendor dependence")

Daraus ergibt sich ein Punktwert, der nach Garries Worten „Annahmen sichtbar macht". Je nach Ergebnis fällt das KI-Werkzeug in eine von vier Schwellenkategorien, die jeweils ein bestimmtes Risikoniveau anzeigen: Standardprüfung („standard review"), bedingte Freigabe („conditional approval"), eingeschränkter Pilotbetrieb („restricted pilot") oder Freigabestopp („hold release").

Framework 2: Vorstandsentscheidung dokumentieren

Eine nachvollziehbare Aktenlage zu konkreten Vorstandsentscheidungen kann laut Garrie ein entscheidendes Beweisstück sein, um Haftung abzuwehren. Schwache oder vage Berichterstattung helfe dem CISO nicht. Sein Framework zur Sicherung von Vorstandsentscheidungen verlangt detaillierte Angaben:

  • Umfang und Zeitrahmen der Entscheidung
  • die mit der Einführung verbundene Exponierung samt der vorgelegten Belege für dieses Risiko
  • die Bedingungen der Einführung und die Anforderungen an menschliche Freigaben
  • die verantwortlichen Parteien, die die Arbeit autorisieren und die Nachweise prüfen, samt Aufzeichnung der Aufsicht einschließlich der endgültigen Entscheidung
  • die im Entscheidungsprozess vorgebrachten Einwände
  • der Verantwortliche für das Werkzeug und die zugehörigen Fristen

Es gehe nicht nur um eine statische Aufzeichnung der Entscheidung, sondern um fortlaufende Aufzeichnungen, die einer KI-Haftungsdiskussion standhalten.

Framework 3: Checkliste für KI-Incident-Response

Dieses Werkzeug soll nicht allein die Kompromittierung eindämmen, sondern den Zustand des KI-Systems zum Zeitpunkt des Vorfalls bewahren. Garrie riet CISOs zudem, die Rechtsabteilung unverzüglich einzubinden. Über die üblichen Sicherheitsprotokolle hinaus fordert sein Framework Nachweise zu:

  • dem Systemzustand zum Zeitpunkt des Vorfalls
  • den Interaktionsaufzeichnungen
  • Daten- und Zugriffsinformationen
  • einem Governance-Nachweis
  • Datenintegrität und Chain of Custody

Aufgaben für die nächsten 30 Tage

Für den kommenden Monat gab Garrie den Sicherheitsverantwortlichen drei Hausaufgaben mit: die Frameworks an einer KI-Einführung erproben, einen Vorstandsbericht verbessern und eine KI-Tabletop-Übung durchführen, um die Abstimmung bei Beweissicherung beim Anbieter und bei Benachrichtigungen zu trainieren.

Unterm Strich, so Garrie, interessiere Aufsichtsbehörden, Prozessanwälte und Kunden am Ende nur, welche Belege ein Unternehmen vorlegen kann, dass es alle Risiken bedacht und verantwortungsvoll zu ihrer Minderung gehandelt hat. „Es interessiert sie nicht, dass Sie die NIST-Richtlinien verwenden", warnte er. Die Haftungsfrage entscheide sich daran, was CISO und Organisation nachweislich getan haben, um ihre Systeme gegen eine KI-Kompromittierung zu schützen.