Meta-Plattformen wie Facebook und Instagram haben Hunderte von Anzeigen für KI-Anwendungen geschaltet, die Material zum sexuellen Missbrauch von Kindern (CSAM) generieren. Eine am Dienstag veröffentlichte Untersuchung des Tech Transparency Project (TTP) identifizierte 332 solcher Anzeigen in diesem Jahr. Viele der beworbenen Apps, die überwiegend aus China stammen, sind sogenannte „Nudify“-Anwendungen, die digitale Veränderungen an Bildern vornehmen, um nackte Darstellungen zu erzeugen. Besonders besorgniserregend ist, dass einige Anzeigen Fotos von realen Kindern verwendeten, darunter ein Mitglied einer europäischen Königsfamilie und eine 14-jährige Instagram-Influencerin.
Details der TTP-Untersuchung
Das TTP konnte mehrere CSAM-Anzeigen Fotos von realen Kindern zuordnen, die online verfügbar waren. Diese Anzeigen scheinen gegen Bundesgesetze zur Kinderpornografie zu verstoßen, da das Justizministerium klargestellt hat, dass KI-generiertes CSAM genauso schädlich ist wie traditionelles CSAM. Beispielsweise wurde das Bild des jungen Mitglieds einer europäischen Königsfamilie in ein Video einer grafischen sexuellen Handlung animiert. Ein Foto einer 14-jährigen Instagram-Influencerin in ihrer Sportuniform wurde ebenfalls in ein Video einer sexuellen Handlung umgewandelt. Eine weitere minderjährige Person, die in einer Reihe von Stockfotos posierte, wurde in ein Video morphiniert, das sie ängstlich darstellt, während sie von einem erwachsenen Mann missbraucht wird.
Obwohl nicht alle abgebildeten Kinder identifiziert werden konnten, zeigten die Anzeigen überwiegend Mädchen im Vorpubertätsalter. Die Anzeigentexte lockten Nutzer mit Versprechungen wie „Ich kann dir mehr zeigen“ oder „Unsere KI verwandelt deine verborgenen Wünsche in hypnotische Videos. Dunkel, verführerisch, unvergesslich.“ Eine andere Anzeige prahlte: „Es gibt keine Einschränkungen. Alle Charaktere sind reale Personen und es gibt viele Optionen. Das ist die KI, die Männer tatsächlich nutzen.“
Metas Reaktion und inkonsistente Durchsetzung
Die aktuellen Ergebnisse folgen auf eine frühere Meldung im August, als das TTP in Zusammenarbeit mit Wired bereits 53 solcher Anzeigen meldete. Meta hatte damals behauptet, „neue Systeme zur besseren Erkennung von Kindesmissbrauch eingeführt“ zu haben. Trotz dieser Zusicherung fand das TTP „Hunderte neuer CSAM-Anzeigen, die liefen, nachdem Meta mit seiner neuen Technologie geprahlt hatte“. Wired identifizierte zudem Hunderte weiterer „Nudification“-Anzeigen mit explizitem Inhalt von Erwachsenen, die wahrscheinlich ohne deren Zustimmung erstellt wurden.
Michelle Kuppersmith, Geschäftsführerin der Campaign for Accountability, zu der das TTP gehört, kritisierte Metas Werbeüberprüfungsprozess. Sie betonte, dass der Bericht nach einer historischen Vergleichszahlung von 18 Milliarden US-Dollar veröffentlicht wurde, bei der Meta zugestimmt hatte, Änderungen zur Verbesserung der Kindersicherheit vorzunehmen. Meta entfernte die vom TTP und Wired gemeldeten Anzeigen, wurde jedoch für die langsame Löschung und inkonsistente Anwendung seiner Richtlinien kritisiert. In einigen Fällen dauerte die Entfernung von Anzeigen Tage, in denen sie Hunderte von Impressionen sammelten. Zudem wurden viele Anzeigen erst als Richtlinienverstoß gegen Kindesmissbrauch markiert, nachdem das TTP auf Diskrepanzen hingewiesen hatte, was Meta zu einer potenziellen Unterschätzung von CSAM-Fällen veranlassen könnte.
Verbindungen zu chinesischen Resellern und betrügerischen Seiten
Die Untersuchung ergab auch, dass einige Anzeigen von Metas Werbe-Reseller-Partnern in China – GIMC, Meetsocial und BlueFocus – geschaltet wurden, die dieselben CSAM-Inhalte enthielten und nicht erkannt wurden. Dies steht im Einklang mit Berichten, dass Meta chinesische Reseller bevorzugt, da das Unternehmen ohne sie Milliarden an Gewinnen aus dem lukrativen chinesischen Werbemarkt verlieren würde, da seine Plattformen dort verboten sind. Andere Anzeigen waren mit betrügerischen Geschäftsseiten verknüpft, die Metas Richtlinien für „unauthentisches Verhalten“ verletzten, wie beispielsweise Seiten ohne Inhalte oder Follower, die identische CSAM-Anzeigen schalteten. Eine Facebook-Seite namens „Divine Productions“, die angeblich die Kirche Jesu Christi der Heiligen der Letzten Tage repräsentierte, schaltete ebenfalls eine CSAM-Anzeige, die Metas Überprüfung entging und erst nach Meldung durch das TTP deaktiviert wurde.
Umfang und Auswirkungen der Anzeigen
Katie Paul, Direktorin des TTP, äußerte gegenüber Wired Bedenken hinsichtlich Metas verzögerter Reaktion, da „viel Schaden entstehen kann, während Meta dabei Geld verdient.“ Obwohl Meta die Reichweite der Anzeigen nicht für jede Region offenlegt, erreichte das TTP, dass die Anzeigen „kollektiv mehr als 29.000 Menschen in der EU und 6.800 Menschen im Vereinigten Königreich“ erreichten. Etwa 80 Prozent der Anzeigen wurden in den USA geschaltet, ein kleinerer Teil in Australien. Meta lehnte eine Stellungnahme gegenüber Ars ab, erklärte jedoch gegenüber Wired, dass es „Nudify-Apps oder jegliche Art von Kindesausbeutung, ob real oder KI-generiert, nicht toleriert.“ Meta spielte die Gewinne aus den Anzeigen herunter und merkte an, dass die gemeldeten Anzeigen im Durchschnitt weniger als 200 Impressionen hatten und die gesamten Werbeausgaben unter 5.000 US-Dollar lagen.
Thema: Meta. Quelle/Inspiration: Ars Technica.