Gegen Elon Musks KI-Firma xAI liegt eine neue Klage vor, die weit über den Vorwurf einzelner missbrauchter Bildfunktionen hinausgeht. Wie Ars Technica berichtet, wirft eine unter dem Pseudonym Jane Doe klagende Frau xAI vor, Grok mit Darstellungen sexuellen Kindesmissbrauchs trainiert zu haben. Die Vorwürfe sind bisher nicht gerichtlich festgestellt.
Die Klägerin war nach ihrer Darstellung im Vorschulalter, als Erwachsene Aufnahmen ihres Missbrauchs produzierten und im Netz verbreiteten. Ihre Bilder seien bei Schutzorganisationen anhand digitaler Fingerabdrücke erfasst. Das kanadische Centre for Child Protection habe sie später darüber informiert, dass auf xAI erzeugte KI-Bilder identifiziert worden seien, die sie darstellen sollten.
Der Kern der Klage lautet: xAI behandle öffentliche Beiträge auf X sowie Grok-Ausgaben standardmäßig als Material, mit dem das Modell verbessert werde. So könnten bereits bekannte Missbrauchsbilder und neu erzeugte Darstellungen in eine Trainingsschleife geraten sein. Genau dies bestreitet die Klage dem Unternehmen nicht nur als mögliches Sicherheitsversagen, sondern als fortgesetzte Verletzung der Rechte der Betroffenen.
Für die Klägerin bedeutet das nach dem Bericht, dass ihre eigene Geschichte durch neue KI-Darstellungen erneut verbreitet und verarbeitet werden könnte. Es geht damit nicht bloß um schlechte Moderation einzelner Nutzer, sondern um die Frage, ob ein Modell unzulässige Inhalte speichert, verwertet oder durch seine eigene Ausgabe wieder in den Datenkreislauf einspeist.
xAI und Grok stehen schon länger wegen sexualisierter KI-Fälschungen unter Druck. Im März hatten laut Associated Press drei Jugendliche geklagt. Sie werfen dem Unternehmen vor, dass Grok zur Erstellung expliziter Bilder von ihnen als Minderjährige genutzt worden sei. Auch diese Verfahren sind noch nicht entschieden.
Wer KI-Systeme ohne wirksame Schutzmauern ausrollt, darf sich nicht hinter dem Nutzer verstecken, wenn daraus systematisch neue Missbrauchsdarstellungen entstehen. Brüssel beschäftigt sich lieber mit Kennzeichnungen, wie F-NEWS beim KI-Stempel des AI Act berichtete. Der Fall Grok zeigt, dass der Schutz realer Kinder und Opfer nicht an einem Hinweisetikett aufhört. Auch die Debatte über ein Gesetz gegen digitale Gewalt bekommt damit eine viel härtere Realität.
