Elon Musks Twitter könnte eine millionenschwere Strafpipeline vorgeworfen werden, weil es versäumt hat, illegale Hassreden in Deutschland zu entfernen.

Bußgelder könnten sogar in die Milliarden gehen, wenn die Bundesregierung in den vielen ihr bereits gemeldeten Fällen von Untätigkeit der Inhaltsmoderation tätig wird und deutsche Gerichte den Rechtsbruch bestätigen.

Früher diese Wochehat die Bundesregierung angekündigt, ein Verfahren wegen mutmaßlicher Systemversagen nach dem Hassrede-Gesetz einzuleiten. Das Gesetz, umgangssprachlich NetzDG genannt, sieht Bußgelder von bis zu 50 Millionen Euro pro Fall vor.

Laut Anwalt Chan-jo Jun, Gründer und geschäftsführender Gesellschafter der IT-Anwaltskanzlei JunIT.Rechtsanwalte, handeln die Bundesbehörden nur aufgrund einer Handvoll Tweets von Hunderten, die markiert und in einer Datenbank gesammelt wurden.

Jun vertritt den baden-württembergischen Antisemitismusbeauftragten Michael Blume, der seiner Meinung nach das Ziel beleidigender und diffamierender Tweets war, deren Entfernung Twitter abgelehnt hat. Einige der missbräuchlichen Tweets wurden von einem Twitter-Nutzer gepostet, der gesperrt worden war, bevor Musk die Plattform übernahm, aber sein Konto wurde wiederhergestellt Musks pauschale Amnestie für gesperrte Konten.

Ende letzten Jahres, ist die Anwaltskanzlei vor Gericht gegangen, um eine einstweilige Verfügung gegen Twitter zu erwirken, weil es versäumt hat, auf Berichte zur Entfernung von Hassreden gemäß dem NetzDG-Gesetz zu reagieren. Mit der Anfechtungsklage konnte festgestellt werden, dass die Tweets rechtswidrig waren. Und das scheint dazu beigetragen zu haben, die Bundesregierung zum Handeln anzuregen – die am Dienstag sagte, sie habe in den Beschwerdebearbeitungsprozessen von Twitter „genügend Indizien für ein Versagen“ festgestellt, um einen Prozess einzuleiten, der zur ersten Sanktion für ein soziales Medium führen könnte. Unternehmen für die Nichtentfernung rechtswidriger Inhalte gemäß NetzDG.

Zu den Hintergründen des Falls sagte Jun gegenüber TechCrunch, dass sein Unternehmen im vergangenen Jahr eine Reihe von Tweets an das Bundesamt für Justiz (BfJ) gemeldet habe, ihm aber zunächst mitgeteilt wurde, dass dies nicht der Fall sei, da nicht genügend Material vorhanden sei, um dies festzustellen ein Systemversagen.

Die Geschichte geht weiter

„Wir hatten dem Bundesamt mehrere Fälle gemeldet [BfJ] zu dieser Zeit und stellten fest, dass sie sich einig waren, dass diese Tweets illegal waren, aber sagten, sie hätten nicht genug Material für einen systematischen Fehler. Und dann begann eine Gruppe von Freiwilligen, systematisch nach illegalen Inhalten zu suchen und sie weiter zu melden und eine riesige Datenbank aufzubauen … und sie fuhren fort, dies an die zu übermitteln [BfJ]. Es sind also mehr als 600 Fälle“, sagte er.

„Diejenigen, die jetzt unterliegen [federal government’s] Fälle scheinen nur die ersten zu sein. Sie haben sie ausgewählt, weil sie sich in dieser Hinsicht alle ähnlich waren – ich glaube, sie stammten vom selben Benutzer und hatten denselben Inhalt. Das ist wahrscheinlich der Grund, warum sie sie gewählt haben, weil es der einfachste Fall wäre, um zu sehen, dass es sich um einen systematischen Fehler handelt. Dass dies kein einziger Fehler eines Inhaltsmoderators war, sondern dass die überwiegende Mehrheit – oder alle – der Berichte falsch behandelt wurden.

Ende letzten Jahres wurde die New York Times berichteten über Untersuchungen des Center for Countering Digital Hate, der Anti-Defamation League und einer Reihe anderer Gruppen, die Online-Plattformen untersuchen, die einen signifikanten Anstieg von Hassreden feststellten, seit Musk Ende Oktober die Plattform Post. – einschließlich Personalabbau in Deutschland und anderen internationalen Büros.

Bedenken hinsichtlich der Auswirkungen von Musk auf die Inhaltsmoderation von Twitter in der Region haben auch die Aufmerksamkeit der EU-Exekutive, der Europäischen Kommission, auf sich gezogen, die später in diesem Jahr eine wichtige Aufsichtsrolle über große Plattformen im Rahmen des Digital Services Act übernehmen wird, der Regeln festlegen wird wie Dienste auf Meldungen illegaler Inhalte reagieren müssen.

Binnenmarktkommissar Thierry Breton, warnte Musk im vergangenen November, dass das Unternehmen eine riesige Aufgabe vor sich hat, um die Vorschriften einzuhalten mit dem neuen europaweiten Regelwerk – nach dem Strafen für Verstöße 6 % des weltweiten Jahresumsatzes erreichen können. Wenn Twitter also noch nicht bankrott ist, steht es unter der Führung seines unberechenbaren, hoch verschuldeten Milliardärsbesitzers vor einer enorm teuren Zukunft, wenn Musk weiterhin den Regulierungsbehörden die Nase rümpft und Gesetze ignoriert.

Sollte das BfJ allein in Deutschland auf die ihm bereits gemeldeten mehr als 600 Fälle von rechtswidriger Hassrede reagieren, könnten Twitter auf der Grundlage der Höchststrafen des BfJ Bußgelder von bis zu 30 Milliarden Euro drohen NetzDG-Gesetz.

Natürlich ist ein theoretisches Maximalergebnis unwahrscheinlich. Aber es gibt eindeutig keinen Mangel an Fällen, die das BfJ durchsetzen könnte – was bedeutet, dass sich die Bußgelder für das Versäumnis von Musk-eigenem Twitter, Hassreden zu beseitigen, dennoch schnell häufen könnten. Und Musk hat keinen unbegrenzten Vorrat an Alte Büromöbel zu verkaufen um seine Schulden zu bedienen.

Jun sagt, er erwartet, dass die erste Strafe für Tweets, gegen die das BfJ Maßnahmen ergriffen hat, unter dem Höchstbetrag liegen wird – vorausgesetzt, das Gericht bestätigt, dass sie illegal sind.

„Das Gesetz sieht Bußgelder von bis zu 50 Millionen Euro für jeden Fall vor. Es ist möglich, dass sie am Anfang nicht die gesamte Summe nehmen. Es gibt tatsächlich eine Tabelle … die den Intensitätsausfall anzeigt, so würde ich erwarten.“ zwischen 5 und 20 Millionen Euro als erstes Bußgeld“, schlägt er vor.

„Es wird etwas länger dauern, bis der gesamte Prozess durchlaufen ist, weil jetzt die Gerichte entscheiden müssen, ob die Inhalte illegal sind oder nicht. Ich bin mir jedoch ziemlich sicher, dass sie illegal sind, weil sie bereits Gegenstand von waren Gerichtsentscheidungen.

„Ich habe sieben Monate lang Druck auf das BfJ und den Minister ausgeübt“, fügt er hinzu. „Und eigentlich, weil ich dachte, das systematische Versagen sei offensichtlich gewesen – mit allen Arten von Verbrechen, die auf Twitter passieren, einschließlich Kinderpornografie, die in der Vergangenheit auch nicht systematisch entfernt wurde. Und das gilt auch für die meisten Verleumdungsfälle – besonders diejenigen wo Die Legitimität eines Tweets kann nicht allein anhand des Inhalts des Tweets selbst beurteilt werden, wo Sie untersuchen müssen, was die Wahrheit ist, wenn die Verleumdung auf Twitter verbreitet wird .

„Und was wir in der Vergangenheit gesehen haben, ist, dass Twitter sich entschieden hat, sich nicht die Mühe zu machen, Benutzer aufzufordern, irgendwelche Beweise dafür zu liefern, wo sie bleiben … selbst wenn dies von anderen getan wird. andere soziale Netzwerke wie Google oder [other social] Netzwerke in Deutschland.

Niemand würde behaupten, dass Twitter vor Musk einen perfekten Job bei der Moderation von Inhalten gemacht hat. Weit weg von dort. Und es bleibt merkwürdig, dass Deutschland bisher kein Social-Media-Unternehmen wegen Nichteinhaltung der Anforderungen des NetzDG zur Entfernung von Inhalten verklagt hat (schließlich das Gesetz ist seit 2017 in Kraft).

Aber wenn Musk etwas schnell tat, dann war es sein Vertrauen in Regulierungsbehörden und Gesetzgeber – er tat Dinge wie das Erschöpfen von Ressourcen für die Moderation von Inhalten und die Entlassung politischer Mitarbeiter, deren Aufgabe es war, mit den Regulierungsbehörden über umstrittene Redefragen in Dialog zu treten, um die Argumente des Unternehmens durchzusetzen – was bedeutet, dass die Institutionen, über die sie sich gerne lustig macht, wenig übrig haben, als vom Schlimmsten auszugehen und weiterhin das Recht anzuwenden.

Das BfJ wurde um Stellungnahme gebeten.

Die Pressestelle von Twitter antwortete automatisch mit einem Poo-Emoji als Antwort auf eine per E-Mail gesendete Anfrage nach einem Kommentar.