Künstliche Intelligenz · xAI
Erste Klage gegen xAI: Grok soll mit Missbrauchsbildern trainiert worden sein
Eine Sammelklage wirft Elon Musks KI-Firma xAI erstmals vor, das Bild- und Videomodell Grok mit Material sexuellen Kindesmissbrauchs trainiert zu haben. Die Klägerin will erreichen, dass xAI alle KI-generierten Missbrauchsbilder löscht – und Grok dauerhaft an sexuellen Inhalten gehindert wird.
Berlin, 29. August 2026 – Eine Sammelklage wirft Elon Musks KI-Firma xAI erstmals vor, ihr Bild- und Videomodell Grok mit Material sexuellen Kindesmissbrauchs (CSAM) trainiert zu haben. Die Klägerin, die nur als Jane Doe auftritt, beschreibt einen Fall, der bis in die frühen 2000er-Jahre zurückreicht: Als Vorschulkind wurde sie nach ihren Angaben von erwachsenen Männern wiederholt vergewaltigt, um CSAM herzustellen, das online an Pädophile verkauft wurde. Ihre Bilder wurden seither von Organisationen wie dem National Center for Missing and Exploited Children (NCMEC) und dem Canadian Centre for Child Protection (CCCP) gehasht – und tauchen nun in neuer Form wieder auf.^[Ars Technica – Elon Musk's xAI used child porn to train Grok models, lawsuit says – url: https://arstechnica.com/tech-policy/2026/08/elon-musks-xai-used-child-porn-to-train-grok-models-lawsuit-says/]
Die retraumatisierende Wiederkehr
Der CCCP informierte Doe, dass auf xAI KI-generierte CSAM identifiziert worden sei, die sie zeigt. Die Klageschrift verweist auf Foren, in denen „Täter darüber plauderten, KI-generierte CSAM der Klägerin und anderer bekannter, historischer CSAM-Opfer zu erstellen“. Es ist der erste Fall, der xAI beschuldigt, auf CSAM trainiert zu haben: Die Anwälte der Klägerin erklären, Does Bilder seien in einer CSAM-Hash-Liste des NCMEC enthalten gewesen – „dasselbe Material“ habe angeblich „Teil des Datensatzes gebildet, den xAI für Groks Bild- und Video-Generierungsfähigkeiten genutzt hat“.^[Ars Technica – Elon Musk's xAI used child porn to train Grok models, lawsuit says – url: https://arstechnica.com/tech-policy/2026/08/elon-musks-xai-used-child-porn-to-train-grok-models-lawsuit-says/]
Trainingsdaten als Geschäftsmodell
Besonders detailliert begründet die Klage den Vorwurf, dass Grok mit KI-generiertem Missbrauchsmaterial weiter trainiert wird: Weil die Geschäftsbedingungen von Grok öffentliche X-Posts und die eigenen Ausgaben des Modells standardmäßig als Trainingsdaten behandeln, fließe jedes öffentlich gepostete Bild direkt in die Trainings-Pipeline – „und erzeugt dadurch weitere Bilder“. Während xAI gewalttätige Inhalte aus dem Training filtert, nennen die Bedingungen bemerkenswerterweise keine ausgeschlossenen Kategorien für CSAM, nicht-einvernehmliche intime Bilder (NCII) oder NSFW-Material. Und weil sich der Einfluss eines Trainingsbeispiels technisch kaum aus einem bereits trainierten Modell entfernen lässt, präge aufgenommenes Material die Ausgaben auch nach einer Löschung der Originale weiter, argumentiert die Klägerin.^[Ars Technica – Elon Musk's xAI used child porn to train Grok models, lawsuit says – url: https://arstechnica.com/tech-policy/2026/08/elon-musks-xai-used-child-porn-to-train-grok-models-lawsuit-says/]
Was die Sammelklage fordert
Die Klage soll als Sammelklage allen Opfern zugutekommen, deren Kindheitsbilder zur Erzeugung von Grok-CSAM verwendet wurden. Sie stützt sich auf US-Bundesgesetze gegen Kinderpornografie sowie auf „Masha's Law“, das Überlebenden von CSAM ein Klagerecht bei Herstellung, Besitz und Verbreitung einräumt – „xAI hat alle drei begangen“, sagt Anwältin Margaret E. Mabie. Gefordert werden Schadensersatz, die Löschung aller gespeicherten KI-generierten Missbrauchsbilder und ein dauerhaftes Verbot sexueller Ausgaben von Grok – einschließlich der von Musk beworbenen „Bikini-Bilder“.^[Ars Technica – Elon Musk's xAI used child porn to train Grok models, lawsuit says – url: https://arstechnica.com/tech-policy/2026/08/elon-musks-xai-used-child-porn-to-train-grok-models-lawsuit-says/]
Der Fall reiht sich ein in wachsenden juristischen Druck auf xAI: Gerichte und Aufsichtsbehörden prüfen, wie weit das Problem reicht, einzelne Grok-Nutzer wurden bereits festgenommen.^[Ars Technica – Elon Musk's xAI is trying to sue its way out of a Grok reckoning – url: https://arstechnica.com/tech-policy/2026/07/elon-musks-xai-is-trying-to-sue-its-way-out-of-a-grok-reckoning/] X selbst hat auf Anfrage von Ars Technica nicht geantwortet.^[Ars Technica – Elon Musk's xAI used child porn to train Grok models, lawsuit says – url: https://arstechnica.com/tech-policy/2026/08/elon-musks-xai-used-child-porn-to-train-grok-models-lawsuit-says/] Der Fall stellt damit eine grundlegende Frage, die weit über xAI hinausreicht: Wem gehören die Bilder eines missbrauchten Kindes – und was darf eine KI mit ihnen anfangen, Jahrzehnte später?