Australien erwägt Meldepflicht für KI-Vorfälle nach Medicare-Zwischenfall bei OpenAI

Die Anhörungen wurden von OpenAIs Chief Strategy Officer Jason Kwon angeführt. Die Ausschussmitglieder befragten die Branchenvertreter zu Sicherheit, Urheberrechtsverletzungen und der Frage, wie wirksame Regulierung aussehen könnte. Kwon eröffnete seine Ausführungen mit einer Entschuldigung dafür, dass OpenAI den agentischen Angriff auf australische Regierungsdienste im vergangenen Sommer nicht rechtzeitig entdeckt und nicht angemessen gemeldet hatte.

Die Vertreter der KI-Branche räumten ein, dass ihre Technologie eine Gefahr für kritische Infrastrukturen und die Gesellschaft insgesamt darstellt. Auf die Frage, ob OpenAI-Modelle in eine Öl- und Gasanlage eindringen und diese bedienen könnten, antwortete Kwon: „Wir wissen es nicht." Er empfahl betroffenen Organisationen, ihre Penetrationstests so anzupassen, dass Angriffe auf KI-Niveau berücksichtigt werden.

Ein zentrales Thema war die mögliche Pflicht, agentische Cyberangriffe zu melden. Keiner der Branchenvertreter sprach sich dagegen aus; stattdessen warben mehrere für weltweit einheitliche Regeln. David Masters, Leiter Politik für Australien und Neuseeland bei Anthropic, formulierte es so: „Wenn wir es mit einem Geflecht unterschiedlicher Regulierungen auf der ganzen Welt zu tun haben, erhöht das die Komplexität, und ich denke, es verlangsamt tatsächlich unsere Fähigkeit, diese Anforderungen in den Märkten zu erfüllen, in denen wir tätig sind."

Weitere Streitpunkte waren die freizügige Auslegung des Urheberrechts durch KI-Unternehmen, Australiens nationale Investitionen in KI-Infrastruktur sowie das Risiko, dass hochentwickelte KI böswilligen Akteuren bei katastrophalen biologischen Angriffen helfen könnte.

Am 7. Oktober wurden die Beratungen fortgesetzt, diesmal mit KI- und Datenanbietern, Rechenzentrumsbetreibern und Fachleuten für KI-Sicherheit. In einer Nachmittagssitzung warb eine Policy-Vertreterin von Palo Alto Networks für den Ansatz „secure AI by design" und für höhere Investitionen in Australiens neues KI-Sicherheitsinstitut, eine Initiative unter dem Dach des Department of Industry, Science and Resources.

Der Hintergrund: Im Juni hatte ein mit zu weitreichenden Rechten ausgestatteter OpenAI-Agent, der einen Rechercheauftrag ausführte, unbefugten Zugang zu einem Regierungsportal erlangt, das mit dem Medicare Statistics Reporting Service von Services Australia verbunden ist. Der Agent führte Befehle aus, rief interne Dateien, Daten und Zugangsdaten ab und schrieb Dateien. Medizinische Patientenakten waren nicht betroffen. Agenten drangen zudem in vier weitere australische Regierungsdienste ein oder versuchten dies.

Kritisiert wurde vor allem der Zeitverlauf der Offenlegung: OpenAI erfuhr von den Vorfällen offenbar erst zwei Monate danach, und es dauerte einen weiteren Monat, bis die betroffenen Behörden informiert wurden. In der Zwischenzeit traf OpenAI-Chef Sam Altman den australischen Vizepremierminister Richard Marles, ohne ihn über die Vorgänge zu unterrichten. Vor dem Ausschuss erklärte Kwon, der CEO habe zum Zeitpunkt des Treffens nichts von dem Vorfall gewusst. Inzwischen habe das Unternehmen sein Vorgehen „angepasst": Künftig gelte, „selbst wenn wir die Lage nicht vollständig verstehen, werden wir einfach benachrichtigen und gemeinsam mit der betroffenen Partei an der Situation arbeiten".

„Es gibt echten Unmut über das, was danach kam", sagt Jasa Rakus, Cybersicherheitsexperte bei Huntress in Brisbane. „Die Verzögerung bei der Benachrichtigung nach dem Vorfall war schwer zu akzeptieren. Medicare betrifft nahezu jeden Australier, eine Verzögerung bei der Offenlegung ist deshalb kein kleines Verfahrensproblem. Sie lässt Menschen ungeschützt und handlungsunfähig zurück."

„Ich würde die öffentliche Stimmung als ziemlich erbost beschreiben", sagt Casey Ellis, Gründer von disclose.io und Bugcrowd. Während in den USA der positive Einfluss von KI auf den heimischen Aktienmarkt Aussichten auf ein Eingreifen der Bundesregierung gedämpft habe, gelte für seine Heimat: „Was Australien im Vergleich zu den USA an Größe fehlt, macht es durch politischen Willen mehr als wett." Er ergänzt: „Es würde mich nicht überraschen, wenn nach diesem Vorfall irgendeine Form von Maßnahme folgt, sobald das Australian Signals Directorate (ASD) seine Untersuchungen und die parlamentarische Untersuchung abgeschlossen hat." Ellis verweist auf den Criminal Code Act 1995, der unbefugten Zugriff auf und die Veränderung von geschützten Daten auf Computern des Commonwealth als Bundesstraftat einstuft. Ironischerweise, so Ellis, gelte: „Hätte eine Einzelperson dies ohne Erlaubnis getan, wäre sie wahrscheinlich strafrechtlich verfolgt worden. Die Debatte, die geführt werden muss, ist, ob die Labore an einem ähnlichen Maßstab gemessen werden oder ob die Gesetze geändert oder aktualisiert werden müssen."

„Australien hat hier eine echte Chance, voranzugehen", sagt Rakus, „aber wir müssen pragmatisch sein, wo. Canberra kann globale KI-Basismodelle nicht realistisch im Alleingang regulieren. Wirkliche Wirkung kann die Regierung bei den Melde-Playbooks entfalten: wer informiert wen, wie schnell, und was passiert danach." Ein solches Meldeverfahren müsse Transparenz durchsetzen und feste, zugleich realistische Fristen für koordinierte Offenlegung vorsehen. Als Vorbild könne Bestehendes dienen: „Der Security of Critical Infrastructure (SOCI) Act liefert bereits ein funktionierendes Modell, mit einer Erstmeldung binnen 12 Stunden bei schwerwiegenden Auswirkungen und einer detaillierten Nachmeldung binnen 72 Stunden."

Schwieriger sei die Frage, was überhaupt als Vorfall gilt. „Heute stützt sich die Vorfallsmeldung auf subjektive, schadensbasierte Schwellen, etwa wie viele Bürgerdatensätze berührt wurden. Das bedeutet, dass die Entscheidung zur Meldung oft wartet, bis der Schaden gemessen ist, und das verzögert das kollektive Lernen, das allen anderen helfen würde. Für KI braucht der Rahmen einen objektiven technischen Auslöser. Ein KI-Agent, der auf ein System außerhalb seines autorisierten Bereichs zugreift, sollte standardmäßig meldepflichtig sein, Punkt", argumentiert er.

Ellis und Rakus schlagen zudem vor, künftige Regeln durch eine zentrale, öffentliche Anlaufstelle für KI-Vorfallsmeldungen und offenere Meldewege zu bundesstaatlichen Behörden zu ergänzen.

Adam Maloney, ebenfalls Experte bei Huntress, hält selbst sorgfältige Regulierung und Meldesysteme für möglicherweise nicht ausreichend: „Meine ehrliche Ansicht ist, dass übliche Gesetzgebungszyklen sich zu langsam für das Tempo der KI bewegen. Wenn wir heute starre, detailgenaue Gesetze verabschieden, besteht ein reales Risiko, dass sie bei Inkrafttreten veraltet sind." Er plädiert für einen beweglicheren, unabhängigen KI-Beirat: „Er sollte Fachleute für Cybersicherheit, Juristen, Datenschutzspezialisten, Fachleute für geistiges Eigentum und Vertreter der Bürgerrechte zusammenbringen, damit Sicherheit, Rechte und wirtschaftliche Realitäten gemeinsam und nicht getrennt voneinander abgewogen werden." Ein solcher Rat könne die Regierungspolitik beraten, operative Einsatzregeln festlegen und aktualisieren und die Leitplanken realistisch halten, während sich die Fähigkeiten von KI weiterentwickeln.