Anfang dieses Monats ein deutsches Gericht regiert dass die rechtsextreme nationalistische Partei Alternative für Deutschland (AfD) potenziell „extremistisch“ sei und eine Überwachung durch die Geheimdienste des Landes rechtfertigen könnte.

Von der AfD geschaltete Wahlkampfanzeigen durften ohnehin auf Facebook und Instagram geschaltet werden, heißt es in einem Bericht neuer Bericht von der gemeinnützigen Interessenvertretung Ekō, exklusiv mit WIRED geteilt. Forscher fanden 23 Anzeigen von Parteien, die 472.000 Aufrufe auf Facebook und Instagram hatten und offenbar gegen Metas eigene Richtlinien zu Hassreden verstießen.

Die Anzeigen verstärken vor den Europawahlen im Juni das Narrativ, dass Einwanderer gefährlich und eine Belastung für den deutschen Staat seien.

In einer Mitteilung des AfD-Politikers Gereon Bollmann heißt es, Deutschland habe seit 2015 eine „Explosion sexueller Gewalt“ erlebt, wobei er insbesondere Einwanderer aus der Türkei, Syrien, Afghanistan und dem Irak dafür verantwortlich macht. Die Anzeige wurde in nur vier Tagen, zwischen dem 16. und 20. März, von 10.000 bis 15.000 Menschen gesehen. In einer weiteren Anzeige, die mehr als 60.000 Mal aufgerufen wurde, ist ein schwarzer Mann zu sehen, der in einer Hängematte liegt. Der eingeblendete Text lautet: „AfD deckt auf: 686.000 illegale Ausländer leben auf unsere Kosten!“ »

Ekō konnte außerdem mindestens drei Anzeigen identifizieren, die offenbar generative KI zur Manipulation von Bildern verwendet haben, obwohl nur eine veröffentlicht wurde, nachdem Meta seine Richtlinie zu manipulierten Medien umgesetzt hatte. Eines zeigt eine weiße Frau mit sichtbaren Verletzungen, begleitet von einem Text mit der Aussage, dass „der Zusammenhang zwischen Migration und Kriminalität seit Jahren geleugnet wird“.

„Meta verfügt wie andere Unternehmen nur über sehr begrenzte Möglichkeiten, Tools von Drittanbietern zu erkennen, die KI-Bilder generieren“, sagt Vicky Wyatt, Senior Campaign Director bei Ekō. „Wenn extremistische Parteien diese Tools in ihren Anzeigen nutzen, können sie unglaublich bewegende Bilder erzeugen, die die Menschen wirklich bewegen können. Das ist also unglaublich besorgniserregend.

In seinem Beitrag zur Konsultation der Europäischen Kommission zu Wahlrichtlinien, der durch eine Informationsfreiheitsanfrage von Ekō erhalten wurde, sagte Meta: „Es ist den Anbietern noch nicht möglich, alle KI-generierten Inhalte zu identifizieren, insbesondere wenn die Akteure Schritte unternehmen, um danach zu suchen.“ Vermeiden Sie die Erkennung, einschließlich der Entfernung unsichtbarer Markierungen.

Das Meta eigene Richtlinien Verbot von Werbung, die „behauptet, dass Menschen aufgrund ihrer persönlichen Eigenschaften eine Gefahr für die Sicherheit, Gesundheit oder das Überleben anderer darstellen“ und Werbung, die „Verallgemeinerungen, die auf Minderwertigkeit hindeuten, andere Minderwertigkeitsbekundungen, Äußerungen von Verachtung, Äußerungen von Entlassungen, Äußerungen von …“ enthalten Ekel“ oder Fluchen aufgrund des Einwanderungsstatus.

„Wir erlauben keine Hassrede auf unseren Plattformen und haben Community-Standards, die für alle Inhalte gelten, einschließlich Anzeigen“, sagte Meta-Sprecher Daniel Roberts. „Unser Anzeigenüberprüfungsprozess umfasst mehrere Analyse- und Erkennungsebenen vor und nach der Schaltung einer Anzeige, und dieses System ist eines von vielen, die wir zum Schutz der Europawahlen einsetzen.“ Roberts teilte WIRED mit, dass das Unternehmen beabsichtige, die von Ekō gemeldeten Anzeigen zu überprüfen, antwortete jedoch nicht auf Fragen dazu, ob die Einstufung der AfD als potenziell extremistisch durch das deutsche Gericht eine weitere Überprüfung der Anzeigen von Meta erforderlich machen würde.

Laut Wyatt können zielgerichtete Anzeigen wirkungsvoll sein, weil extremistische Gruppen Menschen effektiver ansprechen können, die wahrscheinlich mit ihren Ansichten sympathisieren, und „die Anzeigenbibliothek von Meta nutzen, um sie zu erreichen“. Wyatt sagt auch, dass die Gruppe dadurch testen kann, welche Botschaften bei den Wählern am ehesten Anklang finden.