Metas Ankündigung zur Werbesicherheit vom 7. Oktober 2026 erweitert die Prüfung vom einzelnen Werbemittel auf den umgebenden Verbreitungsweg. Neue KI-Werkzeuge sollen scheinbar gewöhnliche Anzeigen erkennen, die verdeckt zu Material sexueller Ausbeutung von Kindern oder damit verbundenen schädlichen Aktivitäten führen. Vorausgegangen waren wiederholte Funde verbotener bezahlter Werbung, darunter Kampagnen, die nach einer Entfernung zurückkehrten.
Entscheidend ist nicht allein, ob ein weiteres Modell ein offensichtlich verbotenes Bild erkennt. Kann Meta Anzeige, Ziel und Betreiber früh genug verknüpfen, um die Verbreitung zu verhindern? Und lässt sich eine Verbesserung belegen, ohne sachfremde Gesamtzahlen zur Durchsetzung als Nachweis zu behandeln?
Fünf Kontrollen für unterschiedliche Kampagnenphasen
Meta beschreibt ein eigenes großes Sprachmodell für „Signposting“: isoliert harmlos wirkende Inhalte, die verdeckt auf Ausbeutung verweisen. Wörter, Symbole und Kontextsignale können zusammen mit einem Ziel oder dem Verhalten des Werbetreibenden eine andere Bedeutung erhalten. Das LLM soll diese Beziehungen statt ausschließlich Schlüsselwörter erkennen.
Eine zweite Ergänzung liefert mehr Informationen über Anzeigenziele, um gegen regelwidrige Websites und hinführende Konten vorzugehen. Drittens durchsuchen KI-gestützte Verfahren bestehende Anzeigen nach früher übersehenem Material. Die Signale sollen mit neu entdeckten Umgehungsmustern wachsen. Neben neuen Einreichungen geht es also auch um rückwirkende Prüfungen.
Die vierte Komponente ist ein Red-Teaming-KI-Agent, der Schutzmaßnahmen vor einer massenhaften kriminellen Ausnutzung prüfen soll. Die fünfte stärkt die Erkennung von Werbetreibenden, die mit Ersatzkonten zurückkehren. Gemeinsam adressieren sie Entdeckung, Zielmaßnahmen, übersehene Inhalte, Abwehrtests und wiederkehrende Betreiber. Meta hat weder Recall noch Falsch-Positiv-Raten oder unabhängige Ergebnisse zur Wirksamkeit veröffentlicht.
Warum der Weg hinter dem Link zählt
Eine Anzeige kann Zugang zu Metas Publikum schaffen, während eine externe Website oder App das verbotene Material liefert. Prüfer und Nutzer sehen möglicherweise unterschiedliche Inhalte, ähnlich dem Cloaking, das Meta bereits bei Betrugswerbung untersucht. Ziele können sich außerdem je nach Kontext oder Zeitpunkt verändern. Eine unauffällige erste Seite beweist deshalb nicht die Sicherheit des gesamten Weges.
Zielbezogene Prüfung kann Landingpages und Kampagnenverbindungen untersuchen, stößt aber an Grenzen, wenn Dienste ihr Verhalten ändern oder umziehen. Meta blockiert nach eigenen Angaben externe Websites, die verbotenes Material hosten oder erzeugen, und sucht danach Anzeigen, Beiträge und Kommentare mit derselben Adresse. Anzeigen mit bereits blockierten Links sollen beim Upload abgewiesen werden. Bekannte Adressen einzudämmen ist etwas anderes, als unbekannte schädliche Ziele vor der ersten Begegnung zu erkennen.
Die Kontextanalyse ergänzt PhotoDNA und verwandte Medienabgleiche, die Meta seit 2011 einsetzt, statt sie zu ersetzen. Digitale Fingerabdrücke helfen bei bekannten Dateien und nahezu gleichen Kopien. Ob gewöhnlich wirkende Inhalte, neue generierte Medien oder kurze schädliche Sequenzen Teil eines missbräuchlichen Weges sind, ist eine andere Frage.
Bestimmte Verstoßsignale teilt Meta zudem über Lantern von der Tech Coalition. Die Kette kann Meta, Apple- oder Google-App-Stores, private Websites, Nachrichten-, Zahlungs- und Domaindienste umfassen. Die Vermittler tragen unterschiedliche Verantwortung. Werbetreibenden Metas Publikum zu verwehren kann die Kundengewinnung begrenzen, entfernt den zugrunde liegenden Dienst aber nicht aus dem Internet.
Die Fehlerbilanz vor der Ankündigung
Das Tech Transparency Project (TTP) berichtete von mehr als 350 missbräuchlichen Videoanzeigen seit Ende 2025. Nachdem die erste Gruppe im August 2026 Aufmerksamkeit erregt hatte, liefen demnach über 250 weitere Anzeigen, teils mit bereits von Meta entferntem Material. Die Angaben beschreiben den Untersuchungsverlauf; sie dürfen nicht stillschweigend zu einer angeblich unabhängig deduplizierten Gesamtzahl addiert werden.
Die Anzeigen erschienen auf Facebook, Instagram, Messenger, Threads und Metas weiterem Werbenetzwerk. Viele bewarben laut Forschenden KI-Bild- oder Video-Apps für nicht einvernehmliche intime Darstellungen. Bilder von vier Minderjährigen ließen sich auf reale Quellen zurückführen: öffentliche Social-Media-Fotos, Stockmaterial und ein offizielles Foto eines europäischen Königshausmitglieds. Synthetische Ergebnisse lösen den Schaden nicht von identifizierbaren Kindern.
Die September-Untersuchung bezifferte die Reichweite auf mehr als 29.000 Konten in der EU und etwa 7.000 im Vereinigten Königreich. Andere Märkte wurden nach Anzeigen gezählt: über 250 in den USA, 120 in Australien und 80 in Indien. Erreichte Konten und Anzeigenzahlen sind verschiedene Maße; vergleichbare Impressionensummen lagen nicht für alle Märkte vor. Auch regionale Anzeigenzahlen lassen sich nicht einfach zu weltweit eigenständigen Kampagnen addieren.
Meta erklärte, die meisten Anzeigen hätten weniger als 200 Impressionen erzielt; die Einnahmen aus der von Forschenden identifizierten Gruppe lägen unter 5.000 Dollar. Laut TTP blieben manche gemeldeten Anzeigen bis zu einer Woche sichtbar und sammelten weitere Aufrufe. Geringe Einnahmen oder begrenzte Impressionen erklären weder die Freigabe bezahlter Werbung noch die Zeit zwischen Meldung und Entfernung.
Meta weist den Vorwurf der Duldung zurück. Ein Sprecher erklärte, das Unternehmen bekämpfe Kindesausbeutung entschlossen und habe viele identifizierte Anzeigen bereits entfernt. Kurze oder unscharfe Darstellungen Minderjähriger hätten manche Videos schwer klassifizierbar gemacht. Metas Werberegeln verbieten Ausbeutung, Missbrauch und Nacktheit von Kindern sowie Dienste zur Herstellung nicht einvernehmlicher intimer Bilder. Umstritten ist die Umsetzung, nicht das Vorhandensein des schriftlichen Verbots.
Behörden verlangen Auskünfte, noch keine abschließenden Feststellungen
San Franciscos Stadtanwalt David Chiu schickte im September ein Unterlassungsschreiben und verlangte Informationen über Prüfungsfehler, wiederkehrende Werbetreibende, Eskalation und Meldungen an Kinderschutzbehörden. Meta bezweifelte die Zuständigkeit, weil die Daten keine Auslieferung dieser Anzeigen in San Francisco zeigten. Weder die Forderung noch der Zuständigkeitseinwand klärt für sich die tatsächliche Durchsetzung.
Vertreter Michigans und Floridas prüften nach eigener Aussage die Berichte; Australiens eSafety-Regulierer forderte Informationen an. Indiens Kinderrechtsbehörde lud im September nach Vorwürfen über Ausbeutungsmaterial auf den Plattformen Führungskräfte von Meta India vor. Das sind berichtete Prüfungen und Auskunftsersuchen, keine endgültigen rechtlichen Feststellungen zum Erfolg oder Scheitern des Oktober-Systems.
Separat meldet Meta für Indien 5,3 Millionen bearbeitete Inhalte sexueller Ausbeutung von Kindern auf Facebook und Instagram im ersten Halbjahr 2026, davon mehr als 98 Prozent proaktiv erkannt. Diese Unternehmenszahl betrifft breite Inhaltsdurchsetzung, nicht den Recall des Anzeigendetektors, unbekannte schädliche Links oder eine unabhängige Schätzung aller Verstöße. Hohe Entfernungssummen können mit fortdauernden Lücken in bezahlter Verbreitung koexistieren.
Entfernen, Melden und menschliches Ermitteln sind nicht dasselbe
NCMEC kategorisierte nach eigenen Angaben zwischen Januar 2023 und Dezember 2025 mehr als 158.000 eingereichte Bilder und Videos als KI-generiert und verzeichnete stark steigende Meldungen zu generativer KI. Eingereichte Medien sind weder Meldungen noch eindeutige Opferzahlen. Die Leitlinien betonen, dass synthetische Bilder identifizierbare Kinder ausbeuten und weitere Übergriffe unterstützen können.
Meta meldet mutmaßliches Ausbeutungsmaterial nach eigener Aussage bei gesetzlicher Pflicht an NCMEC und kündigte direkte Meldungen indischer Kinderschutzfälle an das National Cyber Crime Reporting Portal an. Eine Anzeigenentfernung begrenzt die Verbreitung; brauchbare Beweise und verwertbare Meldungen unterstützen die Identifizierung von Opfern, Werbetreibenden und Netzwerken. Mehr Meldungen sind nicht automatisch besser, wenn Material schlecht kategorisiert ist und Kontext fehlt.
Ehemalige FBI-Ermittler untersuchen laut Meta auch Kontonetzwerke manuell. Automatisierung kann große Datenmengen verknüpfen, doch Hochrisikoentscheidungen werfen Fragen zu menschlicher Prüfung, Beweisqualität und Einsprüchen auf. Strenge Schwellen können legitime Konten treffen, großzügige Schwellen Schaden verlängern. Neue Schwellenwerte und die Häufigkeit menschlicher Prüfung der riskantesten Fälle sind nicht offengelegt.
Welche Belege eine Verbesserung zeigen würden
Internes Red Teaming kann Varianten schneller als ein manuelles Team testen, bleibt jedoch von Metas Annahmen und Umgebung abhängig. Auch Täter lernen aus Annahme, Ablehnung und Entfernung. Wiederholungserkennung soll Ersatzkonten mit gesperrten Betreibern verbinden und diesen Kreislauf unterbrechen. Infrastruktur, Zahlungen oder administratives Verhalten sind mögliche Verbindungen; die tatsächlichen Signale hat Meta nicht detailliert. Beispiele sind keine veröffentlichte Systemspezifikation.
Aussagekräftig wären weniger wiederkehrende Kampagnen statt wiederholter Löschung desselben Materials. Werbespezifische Berichte könnten Blockierungen vor Veröffentlichung von Entfernungen nach Auslieferung trennen, mediane Expositionszeit und Rückkehrraten ausweisen sowie Kontextdetektion von bekanntem Medienabgleich unterscheiden. Maßnahmen gegen Ziele und verbundene Konten, Fehlalarme, Einsprüche und menschliche Eskalation würden eine Bewertung ermöglichen, ohne umgehungsfördernde Details zu verlangen. Das sind noch benötigte Belege, keine bereits verkündeten Resultate.
Unabhängige Untersucher können in den nächsten Monaten Erstauftreten, Meldung und Entfernung dokumentieren. Weniger Funde allein beweisen keine vollständige Prävention: Forschende sehen sichtbare Fehler, nicht alle erfolgreichen Sperren oder sämtliche Versuche. Behördenreaktionen sowie Geschwindigkeit und Verwertbarkeit von Meldungen bieten weitere Prüfsteine. Die Oktober-Architektur adressiert die Kampagnenstruktur. Glaubwürdig wird sie, wenn bekannte schädliche Wege nicht mehr funktionieren, nicht durch eine Modellbeschreibung oder sachfremde Millionen-Gesamtzahlen.
Quellen
Metas Oktober-Maßnahmen · Metas Kinderschutz im Juli · Wired-Untersuchung im September · Wired zu San Franciscos Forderung · NCMEC-Leitlinien · TechCrunch-Bericht · Ursprünglicher TechCrunch-Bericht