Texas fordert zivilrechtliche Bußgelder von bis zu 10.000 US-Dollar je Verstoß sowie weitreichende Unterlassungs- und Handlungsauflagen. Dazu zählen unter anderem:

  • OpenAI soll Minderjährigen den Zugang zu ChatGPT verwehren,
  • neue Modelle sollen von einem gerichtlich bestellten Sachverständigen als unabhängiger dritter Stelle freigegeben werden,
  • der Chatbot soll Nutzern keine Hinweise mehr zu Suizid, Essstörungen und zur Ausübung von Gewalt geben.

Generalstaatsanwalt Ken Paxton wirft OpenAI zudem vor, seit Langem entgegen den Vorgaben des bundesstaatlichen Rechts keine Identitätsprüfung vorzunehmen.

Paxton, der sich derzeit in einem knappen Rennen um einen Senatssitz befindet, ist im vergangenen Jahr bereits gegen mehrere Technologieunternehmen vorgegangen oder hat sich mit ihnen verglichen, darunter Roblox, TikTok und Meta. Meta stimmte im Juli 2024 zu, dem Bundesstaat die Rekordsumme von 1,4 Milliarden US-Dollar zu zahlen, um Vorwürfe beizulegen, Gesichtserkennung ohne Einwilligung der Nutzer eingesetzt zu haben.

Zu Beginn der Klageschrift wird – kursiv hervorgehoben – eine frühere Äußerung Altmans zitiert, wonach KI „wahrscheinlich höchstwahrscheinlich zum Ende der Welt führen wird, aber in der Zwischenzeit wird es großartige Unternehmen geben“.

Die Klage verweist darauf, dass der Wert von OpenAI binnen vier Jahren von rund 17 Milliarden auf über 1,4 Billionen US-Dollar gestiegen sei. „Dieser Erfolg ist nicht verdient; der Aufstieg von OpenAI ist einem Geflecht aus Täuschung und der Ausbeutung von Nutzern (einschließlich Texanern) zuzuschreiben, die deren Daten und Sicherheit instrumentalisiert, um den Marktwert von OpenAI zu steigern – zu inakzeptablen Kosten und unter Gefährdung aller in Texas“, heißt es darin.

Weiter führt die Klageschrift aus: „Wegen der falschen Darstellungen der Beklagten über ihre Produkte der künstlichen Intelligenz und wegen ihrer sorglosen Einführung von ChatGPT in Texas und der Welt“ sei „Amokschützen bei tödlichen Gewalttaten Beihilfe geleistet worden, seien gefährdete Menschen zum Suizid ermutigt worden … und seien Minderjährige abhängig geworden von einem Werkzeug, das menschliches Mitgefühl vortäuscht, um ihre Daten ohne elterliche Aufsicht zu sammeln“.

Eine Sprecherin von OpenAI erklärte, das Unternehmen „arbeitet eng mit Fachleuten zusammen, um ChatGPT laufend zu verbessern, Risiken zu mindern und zusätzliche Schutzmechanismen zu schaffen“. Regierungen hätten eine wichtige Rolle beim Setzen belastbarer Sicherheitsstandards für KI; man sei entschlossen, mit Texas und anderen Bundesstaaten an pragmatischer KI-Politik zu arbeiten, „die für die gesamte KI-Branche gilt – nicht nur für ein einzelnes Unternehmen“.