EU-Kommission wirft TikTok vor, Nutzer in „Kaninchenbauten“ zu ziehen

Der „For You“-Feed zeige „einen fortlaufenden Strom personalisierter Videos, selbst wenn diese mit psychischen Problemen und Körperbild zu tun haben“, erklärte die Europäische Kommission. Je mehr ein Nutzer mit einer bestimmten Art von Inhalten interagiere, desto mehr ähnliche Inhalte empfehle der Algorithmus. Dieses Design könne schädlich sein, wenn die endlose und wiederholte Konfrontation etwa Inhalte über Traurigkeit, Isolation oder Körperbild betreffe.

Ein Kommissionsvertreter sagte vor Journalisten, die Untersuchung richte sich unmittelbar gegen „ein Geschäftsmodell“, das vorrangig auf Nutzerinteraktion beruhe. Brüssel erklärte, TikTok habe einen Teil der nun beanstandeten Probleme in eigenen Risikobewertungen selbst benannt, die Risiken jedoch nicht angemessen analysiert und keine geeigneten Schutzmaßnahmen ergriffen.

Ausdrücklich gehe es nicht um das Entfernen von Inhalten: Die Ermittler konzentrierten sich bewusst auf Videos, die weder illegal sind noch gegen TikToks eigene Regeln verstoßen – laut einem Beamten die „am wenigsten schädliche“ Kategorie. Als Beispiele nannten die Beamten Trends wie „what I eat in a day“ und „SkinnyTok“: Einzeln wirkten solche legalen Inhalte harmlos, durch Wiederholung würden sie jedoch schädlich, besonders für junge und verletzliche Nutzer. „Wenn man eine Kette von Hunderten oder sogar Tausenden Videos derselben Art bekommt, treibt das die Menschen in das, was wir einen Kaninchenbau nennen, und das wirkt sich negativ auf das psychische Wohlbefinden aus“, sagte ein Kommissionsvertreter am Freitag.

TikToks eigene Werkzeuge zum Durchbrechen dieser Schleifen funktionieren nach Einschätzung der Kommission nicht: Die „Dispersion“-Techniken zur Diversifizierung des Feeds seien unwirksam, ein Aktualisieren des Feeds helfe nur kurz, und die Schaltfläche „Nicht interessiert“ verliere nach einer Weile ihre Wirkung. Die Kommission verlangt insbesondere, dass TikTok algorithmische Empfehlungen auf ausdrücklich geäußerten Nutzerwünschen aufbaut statt auf impliziten Signalen wie der Betrachtungsdauer von Videos.

Nach eigenen Angaben hat die Kommission zweieinhalb Jahre damit verbracht, „eine der weltweit fortschrittlichsten Untersuchungsinfrastrukturen“ aufzubauen; die konkreten Testmethoden blieben notwendigerweise geheim, damit Plattformen die Werkzeuge nicht austricksen. Die Ermittler erhielten interne Dokumente und Daten des Unternehmens und analysierten rund 20.000 Videos mit Unterstützung von Psychologen, Psychiatern und Fachleuten für Systemdesign. Die Tests hätten „nicht wirklich Zugang zum exakten Algorithmus gebraucht. Wir hatten auch ohne ihn genug Informationen“, sagte ein Beamter.

Die Feststellungen sind nicht endgültig. TikTok hat das Recht, die Beweise der Kommission einzusehen und die Schlussfolgerungen anzufechten. Werden die DSA-Verstöße bestätigt, droht dem Unternehmen eine Geldbuße von bis zu sechs Prozent des weltweiten Jahresumsatzes. Weder TikTok noch der Mutterkonzern ByteDance veröffentlichen diesen Umsatz. TikTok reagierte zunächst nicht auf eine Bitte um Stellungnahme.

Der Vorgang fällt in eine Phase, in der auf beiden Seiten des Atlantiks diskutiert wird, ob und wie soziale Plattformen junge Nutzer gefährden. Im August hatten US-Senatoren von TikTok Antworten zum Tod von Chase Nasca verlangt, einem 16-Jährigen, der sich im Februar 2022 das Leben nahm, nachdem er eine Flut von Inhalten zu Traurigkeit und Suizid gesehen hatte. Eine interne TikTok-Prüfung, über die Bloomberg im vergangenen Jahr berichtete, ergab, dass Nasca zu einer Kontrollgruppe von rund zehn Prozent der Nutzerbasis gehörte, denen Designänderungen vorenthalten wurden, die wiederholte Konfrontation mit schädlichen Themen verhindern sollten.

Es ist bereits die dritte Feststellung der Kommission gegen TikTok in diesem Jahr: Im Februar ging es um suchtfördernde Designelemente, im Juli um den Schutz von Konten Minderjähriger. Die Beamten grenzten den aktuellen Fall davon ab – er betreffe das Empfehlungssystem selbst und nicht Benachrichtigungen oder endloses Scrollen. Er gehe auch weiter als TikToks jüngster Vergleich in Alabama, der „nicht so tief“ in das Empfehlungssystem hineinreiche.

Die Beamten räumten ein, dass auch andere Plattformen Nutzer in solche Kaninchenbauten treiben, und erklärten, die Kommission schaue „breiter über TikTok hinaus“; weitere Angaben dazu machten sie nicht. Den Fall beschrieb die Kommission als „Wegbereiter“ für den im September vorgeschlagenen KIDS Act. Dieser soll es Plattformen verbieten, Inhalte für Kinder allein auf Basis von Interaktionssignalen zu empfehlen – eine Bestimmung, die laut den Beamten direkt von der TikTok-Untersuchung inspiriert wurde.