xAI, das KI-Unternehmen von Elon Musk, ist mit einer Klage konfrontiert, die behauptet, die Modelle seiner KI Grok seien mit kinderpornografischem Material (Child Sexual Abuse Material, CSAM) trainiert worden. Die Klägerin, bekannt als Jane Doe, reichte die Klage am Mittwoch ein und gibt an, dass sowohl reale als auch KI-generierte Darstellungen von ihr als Kind für das Training verwendet worden seien.
Vorwurf der Nutzung von CSAM für Grok-Training
Jane Doe war in den frühen 2000er Jahren als Vorschulkind Opfer von sexualisierter Gewalt, deren Bilder später von Organisationen wie dem National Center for Missing and Exploited Children (NCMEC) und dem Canadian Centre for Child Protection (CCCP) zur Identifikation von Missbrauchsmaterial gehasht wurden. Sie erhielt eine Benachrichtigung des CCCP, dass KI-generiertes CSAM, das sie darstellt, auf xAI identifiziert wurde. Dies habe sie re-traumatisiert.
Die Klage führt an, dass in Online-Foren Nachrichten zwischen Tätern gefunden wurden, die über die Erstellung von KI-generiertem CSAM von ihr und anderen bekannten Opfern sprachen. Doe befürchtet, dass xAI nicht nur die Erstellung weiterer solcher Bilder erleichtert, sondern auch die von Grok generierten Bilder speichert und diese Ausgaben zur weiteren Schulung des Modells verwendet. Dies ist der erste Fall, der xAI die Nutzung von CSAM zum Training vorwirft. Die Klage legt dar, dass CSAM mit bekannten Hash-Werten Teil des Datensatzes war, den xAI für die Bild- und Videoerzeugungsfunktionen von Grok nutzte.
KI-generiertes Material als Trainingsdaten
Die Klage detailliert weiter, dass Groks Nutzungsbedingungen öffentliche X-Beiträge und Groks eigene Ausgaben standardmäßig als Trainingsdaten behandeln. Obwohl xAI gewalttätige Inhalte aus den Trainingsdaten filtert, legen die Bedingungen nicht fest, ob CSAM, nicht einvernehmliche intime Bilder (Non-Consensual Intimate Imagery, NCII) oder jugendgefährdendes Material (Not Safe For Work, NSFW) ausgeschlossen sind. Da es technisch schwierig ist, den Einfluss eines Trainingsbeispiels vollständig aus einem bereits trainierten Modell zu entfernen, könnte einmal aufgenommene CSAM weiterhin die Modellausgaben prägen, auch nach einer möglichen Entfernung der ursprünglichen Bilder aus der öffentlichen Ansicht.
Forderungen der Klägerin
Jane Doe strebt eine Sammelklage an, die alle Opfer vertreten soll, deren Kindheitsbilder zur Generierung von Grok-CSAM verwendet wurden. Die Klage wirft xAI vor, Bundesgesetze zu Kinderpornografie sowie Masha’s Law verletzt zu haben, die Überlebenden von CSAM das Recht geben, wegen Produktion, Besitz und Verbreitung zu klagen. Die Anwältin Margaret E. Mabie erklärte, xAI habe alle drei dieser Verbrechen begangen.
Doe fordert Schadensersatz für alle Opfer, die belegen können, dass Grok CSAM basierend auf ihren realen Fotos generiert hat. Sie verlangt zudem, dass xAI alle Grok-generierten CSAM-Inhalte zerstört, die auf seinen Servern gespeichert und zur Schulung der Grok-Modelle verwendet werden könnten. Zusätzlich soll xAI angewiesen werden, Grok daran zu hindern, jemals wieder CSAM oder sexualisierte Ausgaben zu generieren, einschließlich NCII und NSFW-Bilder.
Thema: xAI. Quelle/Inspiration: Ars Technica.