Meta hat neue KI-gestützte Werkzeuge eingeführt, um Werbung und Konten zu identifizieren, die darauf abzielen, Nutzer verdeckt zu illegalen Inhalten wie Kindesmissbrauchsmaterial (CSAM) außerhalb seiner Plattformen zu lenken. Diese Maßnahme folgt auf die Entdeckung von Anzeigen, die unverdächtig erscheinen, aber auf schädliche Inhalte weiterleiten.
Im ersten Halbjahr 2026 hat Meta nach eigenen Angaben 33,2 Millionen Inhalte im Zusammenhang mit sexueller Ausbeutung von Kindern auf Facebook und Instagram entfernt. Über 97 % dieser Inhalte wurden dabei von den internen Systemen des Unternehmens entdeckt, bevor sie von Nutzern gemeldet wurden. Allein in Indien wurden im gleichen Zeitraum 5,3 Millionen solcher Inhalte bearbeitet, wobei über 98 % proaktiv identifiziert wurden.
Erkennung von „Signposting“ durch neue LLM-Systeme
Die neuesten KI-Tools von Meta konzentrieren sich auf eine Taktik, die als „Signposting“ bezeichnet wird. Hierbei werden Anzeigen verwendet, die harmlos aussehen, aber mutmaßlich Nutzer zu illegalen Inhalten oder anderen schädlichen Aktivitäten an anderer Stelle im Internet leiten. Meta hat festgestellt, dass Kriminelle diese Methode zunehmend nutzen, um Erkennungssysteme zu umgehen. Die Anzeigen selbst mögen keine illegalen Inhalte zeigen, dienen aber als Zugang zu Websites, die Kindesmissbrauchsmaterial hosten.
Aus diesem Grund bewertet Meta nun nicht nur den Inhalt einer Anzeige, sondern auch das Ziel, zu dem die Anzeige Nutzer führt. Diese Informationen ermöglichen es dem Unternehmen, gegen Websites oder andere Destinationen vorzugehen, die gegen seine Regeln verstoßen, und die dahinterstehenden Konten zu sperren. Ein neues Large Language Model (LLM) System spielt eine zentrale Rolle bei der Erkennung dieses „Signposting“.
Weitere KI-Maßnahmen und Sicherheitsverbesserungen
Zusätzlich setzt Meta weitere KI-gesteuerte Scans ein, um Inhalte zur Ausbeutung von Kindern zu finden, die frühere Systeme möglicherweise übersehen haben. Das Unternehmen plant, kontinuierlich neue Erkennungssignale hinzuzufügen, um auf die sich entwickelnden Methoden krimineller Netzwerke zu reagieren.
Ein weiteres neues Werkzeug ist ein sogenannter „Red-Teaming AI Agent“. Dieser testet Metas eigene Sicherheitsmaßnahmen, indem er nach Schwachstellen sucht, die Kriminelle ausnutzen könnten. Ziel ist es, neue Missbrauchsmethoden zu identifizieren, bevor sie weit verbreitet sind. Auch die Systeme zur Erkennung von Personen, die nach einer Kontosperrung mit neuen Profilen auf die Plattformen zurückkehren, wurden verbessert.
Hintergrund und weitere Kinderschutzinitiativen
Die Einführung dieser neuen Maßnahmen erfolgt unter dem anhaltenden Druck, dem Meta bezüglich der Sicherheit von Kindern auf seinen Plattformen ausgesetzt ist. Das Unternehmen sah sich mit Klagen und Kritik von Gesetzgebern konfrontiert, die sich auf die Risiken seiner sozialen Mediendienste für junge Nutzer beziehen. Im August erzielte Meta eine Einigung in Höhe von bis zu 18 Milliarden US-Dollar zur Beilegung einer Kinderschutzklage, an der 29 US-Bundesstaaten beteiligt waren.
Meta hat in diesem Jahr bereits mehrere Kinderschutzfunktionen eingeführt, darunter:
- Elterliche Kontrollen für Meta AI.
- Vorkehrungen für Konten von Kindern im Vor-Teenager-Alter auf WhatsApp.
- Benachrichtigungen für Eltern, wenn Kinder auf Instagram nach Inhalten zum Thema Selbstverletzung suchen.
Im September wurden zudem weitere Kontrollmöglichkeiten für Eltern auf WhatsApp hinzugefügt. Sie können nun die Nutzung von Kanälen durch Teenager einschränken, festlegen, wer Status-Updates sehen kann, und entscheiden, wer ihre Kinder zu Gruppen hinzufügen darf. Eltern können auch Benachrichtigungen über bestimmte Gruppenaktivitäten erhalten.
Thema: Meta. Quelle/Inspiration: TechCrunch.