Die gemeinsame Selbstverpflichtung zu „Frontier-Verantwortlichkeiten“ ist vollständig freiwillig und enthält keine konkreten Umsetzungsfristen für die beteiligten Unternehmen. Sie fällt in eine Zeit wachsender Sorge um KI-Sicherheit, zu der auch Warnungen von Führungskräften führender KI-Firmen über die Risiken immer leistungsfähigerer Frontier-Systeme beitragen. Die Bedenken reichen vom möglichen Missbrauch von KI für Cyberangriffe bis zu den Gefahren beim Einsatz solcher Systeme in sensiblen Bereichen wie der Chemieforschung, kritischer Infrastruktur und anderen Branchen, in denen Fehler oder böswillige Nutzung drastische Folgen haben können.

Trump selbst hat sich öffentlich gegen Forderungen nach strengeren Leitplanken für KI gestellt, weil diese die Entwicklung leistungsfähigerer Systeme bremsen könnten; die USA müssten schnell vorangehen, um ihren Vorsprung vor China in der Technologie zu halten. Mit dem Abkommen setzt das Weiße Haus darauf, die Verantwortung für strengere Sicherheitspraktiken zunächst den Unternehmen selbst zu überlassen, ohne verbindliche Vorgaben zu machen.

Im Text des Abkommens heißt es: „Mit der Zeit kann es sinnvoll sein, diese Schritte in Gesetzen oder Vorschriften zu verankern.“ Und weiter: „Unabhängig davon, ob dies von Unternehmen verlangt wird, halten wir die Umsetzung dieser Kontrollen und Audits für entscheidend, um allen eine sichere Zukunft zu sichern.“

Vier Ebenen der Aufsicht

Das Abkommen skizziert einen vierteiligen Aufsichtsrahmen für die beteiligten Frontier-Labore:

  • interne Kontrollen, die die Fähigkeiten eines Modells während Training und Betrieb überwachen, mit besonderem Augenmerk auf Risiken wie Cybersicherheit, Biosicherheit und chemische Bedrohungen
  • ein eigenes internes Team, das sicherstellt, dass diese Kontrollen wie vorgesehen funktionieren und erkannte Probleme behoben werden
  • ein unabhängiger externer Auditor, der die internen Kontrollen separat überprüft
  • ein unabhängiger Ausschuss des Verwaltungsrats, der den Prozess beaufsichtigt und die Behebung von Problemen sicherstellt

Sicherheitsfachleute bewerteten das Abkommen überwiegend als Schritt in die richtige Richtung, der jedoch nicht weit genug gehe.

Das hohe Tempo der KI-Entwicklung mache es wichtig, dass Regierungen, Industrie und weitere Beteiligte gemeinsam an Standards und Praktiken arbeiten, die öffentliches Vertrauen in den Einsatz der Technologie schaffen, sagt Ellen Boehm, Senior Vice President für Strategie und KI-Innovation bei Keyfactor. Statt auf Regulierung zu warten, sei es sinnvoll, Unternehmen dazu zu bringen, Risikomanagement, Audits und etablierte Cybersicherheitspraktiken freiwillig einzuführen, während KI-Systeme leistungsfähiger werden. „Unternehmen versuchen nicht absichtlich, unkontrollierbare KI zu bauen, und es ist schwer zu sagen, dass sich die Technologie wie beabsichtigt verhalten wird“, so Boehm. „Dieses Abkommen ist nur ein Anfang. Nach dem, was ich sehe, werden die meisten Menschen es unterstützen. Die Frage ist, wie wir uns von hier aus weiterentwickeln und tatsächliche Programme aufsetzen – und ob das schnell genug geschieht?“

Kritik an der Freiwilligkeit

Für Ted Miracco, CEO von Approv, liegt das Problem genau in der Freiwilligkeit. „Eine vierstufige Auditstruktur wirkt vernünftig, aber freiwillige Befolgung und interne Verwaltungsratsaufsicht laufen auf Sicherheitstheater hinaus“, sagt er. „Ohne verbindliche Durchsetzung und wirklich unabhängige technische Aufsicht heißt es, Technologiekonzerne bei ihrer eigenen Superintelligenz-Entwicklung sich selbst kontrollieren zu lassen – das ist im Grunde, als würden sie ihre eigenen Hausaufgaben benoten.“

Jacob Krell, Senior Director für sichere KI-Lösungen und Cybersicherheit bei Suzu Labs, sieht die größte Schwäche darin, dass jedes der sechs Unternehmen seine Prüfung selbst auswählen darf, ohne dass das Abkommen etwas zu Akkreditierung, Methodik, Zugang, Umfang oder Veröffentlichung sagt. „Die Hugging-Face-Untersuchung durch Model Evaluation and Threat Research (METR) und Redwood Research zeigt das Problem“, sagt er. METR prüfte rund 1.300 Transkripte über sechs Tage hinweg – doch OpenAI legte das Untersuchungsfenster fest, stellte die Datensätze bereit, kontrollierte den Zugang zur Infrastruktur und konnte nicht öffentliches Material schwärzen. METR nutzte zudem GPT-5.6 Sol, um einen großen Teil des Materials zu verarbeiten. „Sie haben diese Grenzen dokumentiert“, sagt Krell. „Die Arbeit war ernsthaft. Trotzdem hat OpenAI den Rahmen gesetzt.“

Wie wirksam der Pakt sein wird, hängt nach Einschätzung von Aviv Nahum, Mitgründer und CEO von Above Security, von der Umsetzung ab. Bedeutsam sei, dass das Abkommen anerkenne, dass KI-Sicherheit nicht davon abhängen dürfe, dass ein Team seine eigene Arbeit bewertet. Internes Monitoring, eine zweite interne Prüfebene, unabhängige Bewertung und Aufsicht durch den Verwaltungsrat könnten gemeinsam helfen, Probleme zu erkennen und deren Behebung sicherzustellen. „Ein externes Audit bedeutet nur dann etwas, wenn der Prüfer wirklich unabhängig ist, genug technischen Zugang hat, um das System richtig zu testen, und erkannte Probleme auch tatsächlich behoben werden müssen“, sagt Nahum. „Derzeit ist das Abkommen freiwillig, ohne Frist und ohne Pflicht zur öffentlichen Berichterstattung – es bleibt also ein großer Unterschied zwischen der Zustimmung zu einer Struktur und dem Nachweis, dass diese Struktur funktioniert.“