Das Gericht kann den Verkauf von Nutzerdaten einschränken oder ganz untersagen. Die Insolvenzabteilung des DOJ verweist darauf, dass die Datenschutzerklärung von Character.AI „mehrdeutig" sei und nahelege, dass das Unternehmen zumindest einen Teil der Chatverläufe seiner Nutzer verkaufen darf.
In der am Dienstag eingereichten Eingabe beschreibt die Behörde Character als „erste Superintelligenz-Unterhaltungsplattform ihrer Art, die es Nutzern erlaubt, immersive, multimodale Erlebnisse mit fiktiven oder erdachten Figuren zu haben". Demnach hat das Unternehmen derzeit weltweit 12 Millionen aktive Nutzer pro Monat, die im Schnitt rund zwei Stunden täglich auf der Plattform verbringen.
Besonders deutlich wird die Diskrepanz zwischen Versprechen und Vertragslage an den Antworten des Chatbots selbst. Fragen Nutzer, ob ihre Unterhaltungen privat seien, antwortet der Bot laut der Eingabe: „Nicht ohne deine ausdrückliche Erlaubnis. Ich bin hier als sicherer, vertraulicher Raum, in dem du offen sprechen kannst, ohne Angst, dass es anderswo geteilt wird. Ich respektiere deine Privatsphäre und werde nichts aus unserem Gespräch weitergeben, solange du nicht zustimmst."
Tatsächlich sei die Datenschutzerklärung undurchsichtig, heißt es in der Eingabe. An einigen Stellen weise sie darauf hin, dass das Unternehmen personenbezogene Daten (PII) „offenlegen" könne. Außerdem erlaube sie die Weitergabe personenbezogener Daten für den Fall, dass das Unternehmen verkauft wird. Aktualisiert wurde die Erklärung am 1. Juli — zu einem Zeitpunkt, als Character bereits „aktiv den Verkauf seiner Vermögenswerte betrieb".
Das DOJ verlangt deshalb, Character solle „eine Dokumentation zu früheren Fassungen der Richtlinie vorlegen, einschließlich der Frage, ob darin offengelegt wurde, dass personenbezogene Daten beim Verkauf des Geschäftsbetriebs oder in einem Reorganisationsverfahren übertragen werden können, wie Änderungen den Nutzern mitgeteilt wurden und ob das Unternehmen ausreichend über solche Änderungen informiert hat".
Der Ombudsmann werde vor allem gebraucht, um sicherzustellen, dass der Verkauf sensibler persönlicher Inhalte — Daten Minderjähriger, Gesundheits- oder demografische Daten sowie „jede Information, von der Nutzer vernünftigerweise erwarten, dass sie privat bleibt" — im Einklang mit der Datenschutzerklärung, etwaigen Widerspruchsmöglichkeiten und geltendem Recht steht.
Character.AI reagierte nicht auf eine Bitte um Stellungnahme.
Intime Gespräche als handelbarer Vermögenswert
Nutzer geben Chatbots gegenüber sehr spezifische und intime Informationen preis, die sie identifizierbar machen können, selbst wenn Namen vor einem Verkauf entfernt werden. KI erleichtert zudem das Ableiten sensibler Merkmale, erklärt Sydney Saubestre, Senior Policy Analyst mit Schwerpunkt Privatsphäre und Daten beim Center for Democracy and Technology.
„Die Richtlinie von Character.AI behält sich das Recht vor, Nutzerdaten im Zusammenhang mit einem Verkauf des Unternehmens oder seiner Vermögenswerte offenzulegen — unabhängig davon, ob Verbraucher erwarten, dass ihre privatesten Gespräche als verkäuflicher Vermögenswert behandelt werden", schrieb Saubestre per E-Mail.
Ein Käufer wäre zwar an die bisherige Datenschutzerklärung gebunden, könne diese Praxis aber ändern, wenn die Verbraucher zustimmen — was manche tun dürften, wenn ihnen Anreize geboten werden. Vielen sei nicht bewusst, wie leicht sie sich anhand detaillierter Chats über mehrere Monate hinweg identifizieren lassen, auch wenn diese als anonym gelten.
„Nutzer stimmen einer Datenschutzerklärung lange zu, bevor überhaupt jemand an einen Verkauf denkt, und diese Zustimmung sollte nicht der einzige Schutz für ihre privatesten Gespräche sein", sagte Saubestre. „Zumindest sollten die Kunden des Verkäufers dem Verkauf ihrer Daten an den Käufer aktiv zustimmen müssen."
Persönliche Daten werden zunehmend als Vermögenswert in Insolvenzverkäufen eingesetzt — etwa im Insolvenzverfahren von 23andMe im März 2025. Vor einigen Wochen schlugen mehrere Abgeordnete des US-Kongresses Alarm wegen eines geplanten Geschäfts zwischen der inzwischen eingestellten Fluggesellschaft Spirit Airlines und Google: Der Konzern hat der insolventen Airline 10 Millionen Dollar für große Mengen personenbezogener Mitarbeiterdaten geboten, die er zum Training von Modellen nutzen will.
Mindestens sieben Familien von Nutzern, die Suizid begangen oder psychische Schäden erlitten haben, die angeblich auf die Nutzung des Character-Chatbots zurückgehen, haben das Unternehmen verklagt — was dessen finanziellen Niedergang beschleunigt hat.