Kampf gegen „digitale Brandstifter“: Justizministerium will Messenger-Dienste schärfer regulieren

Eine aktuelle Umfrage zeigt: Die Mehrheit der Deutschen sieht sich mit Falschinformationen und Hetze im Netz konfrontiert. Das ruft das Bundesjustizministerium auf den Plan.

Das Bundesjustizministerium hat ein härteres Vorgehen gegen Onlineplattformen angekündigt, auf denen Verschwörungsideologien und Hasskommentare verbreitet werden. „Hassrede belastet nicht nur das Vertrauen in die digitale Kommunikation, sie kann auch das Fundament unserer Demokratie und Gemeinschaft angreifen“, sagte Staatssekretär Christian Kastrop dem Handelsblatt.

Auf Worte folgten oft Taten. „Deshalb müssen auch digitale Brandstifter entschieden zur Rechenschaft gezogen werden, um Bürgerinnen und Bürger vor Hass, Hetze und strafbaren Falschinformationen zu schützen.“

Schärfer reguliert werden sollen künftig Messenger-Dienste wie Telegram, die bislang nicht vom sogenannten Netzwerkdurchsetzungsgesetz (NetzDG) erfasst sind. „Wir dürfen nicht zulassen, dass ungebremst strafbare Hasskommentare oder Aufrufe zur Gewalt über solche Kanäle kundgetan werden“, sagte Kastrop.

Eine im November 2020 veröffentlichte Studie der Landesanstalt für Medien NRW stellt auf Telegram eine „starke Aktivität in den Feldern Desinformation, Verschwörungstheorien und Extremismus“ fest.

Die Bundesregierung bezeichnet den Dienst in einer Antwort auf eine Grünen-Anfrage als eine Alternative für die rechtsextremistische Szene zu bekannten Diensten wie WhatsApp oder Threema.

Kastrop sieht den Handlungsbedarf auch durch eine Studie bestätigt, die das Ministerium anlässlich des bundesweiten „Safer Internet Days“ an diesem Dienstag in Auftrag gegeben hat. Im Fokus stand dabei eine repräsentative Umfrage, für die Anfang Dezember 2020 über 1.000 Bundesbürger über 18 Jahren zu ihren Erfahrungen mit problematischen Inhalten in sozialen Medien und bei Messenger-Diensten befragt wurden.

In der Umfrage, die dem Handelsblatt vorliegt, gab ein Viertel der Befragten (24 Prozent) an, in Messenger-Diensten bereits auf Falschinformationen, Hassrede oder ähnliche problematische Inhalte gestoßen zu sein. Unterteilt in die Art der Inhalte dominieren Falschinformationen (73 Prozent). Hetzerische Inhalte haben 37 Prozent der Befragten wahrgenommen. 26 Prozent berichten von bedrohlichen Inhalten.

Unterstützung für „Digital Services Act“ der EU-Kommission

Trotz der niedrigeren Fallzahlen bei Messengern warnen die Studienleiter vom Berliner Institut für Verbraucherpolitik davor, den Befund zu unterschätzen. Im Zusammenhang mit Messenger-Diensten sprechen sie auch vom sogenannten „Dark Social“.

Das sind geschlossene Chatgruppen auf Plattformen wie WhatsApp oder Telegram, wo sich Inhalte verbreiten, die in den öffentlich zugänglichen Bereichen sozialer Medien eher gelöscht werden. „Aus gesellschaftlicher Sicht kann dieses Phänomen eine enorme politische Wirkung entfalten, indem fehlerhafte oder manipulative Inhalte ungehindert weitergeleitet werden“, heißt es in der Studie.

Das Justizministerium will eine europaweit einheitliche Regulierung von Messenger-Diensten durchsetzen. Da ganz Europa mit Hass, Hetze und gefährlichen Falschinformationen im Netz zu kämpfen habe, brauche es eine europäische Lösung, sagte Staatssekretär Kastrop. Das Ministerium setzt hierbei auf die Pläne der EU-Kommission für neue Regeln zur Kontrolle des Internets. Mit dem „Digital Services Act“ (DSA) habe Brüssel Ende vergangenen Jahres Vorschläge für den Umgang mit illegalen Inhalten und gefährlichen Falschinformationen vorgelegt, die auch Messenger-Dienste mit einbezögen, sagte Kastrop. „Das begrüßen wir ausdrücklich und werden uns dazu intensiv in die Beratungen einbringen.“

Der IT-Verband Bitkom unterstützt eine europäische Regelung. Der Vorschlag der EU-Kommission, „wonach die Plattformbetreiber Gelegenheit erhalten, mutmaßlich strafwürdige Inhalte mit der gebotenen Sorgfalt zu prüfen, bevor sie sie löschen“, sei zu begrüßen, sagte Hauptgeschäftsführer Bernhard Rohleder.

„Im Gegensatz zum NetzDG, das für diese Löschung sehr enge und starre Fristen vorsieht, besteht weniger Gefahr, dass im Zweifelsfall auch rechtmäßige Inhalte gelöscht und Freiheitsrechte eingeschränkt werden.“

Der Vorstandschef des Internetverbands Eco, Oliver Süme, sieht die Regulierungspläne skeptisch. „Das entscheidende Kriterium für das Entfernen von Inhalten auf sozialen Plattformen muss ihre Rechtswidrigkeit sein. Diese können nur Gerichte legitimiert feststellen“, sagte Süme dem Handelsblatt.

„Ich sehe die Gefahr, dass hier die Fehler des NetzDG – wie beispielsweise die starren Löschfristen – auf europäische Ebene gehoben werden, und bewerte entsprechende Pläne zur Ausweitung der Regelungen daher kritisch.“

Online-Netzwerke noch stärker in die Pflicht nehmen

Das NetzDG verpflichtet Internet-Plattformen zu einem härteren Vorgehen gegen Hass, Hetze und Terror-Propaganda. Klar strafbare Inhalte müssen binnen 24 Stunden gelöscht werden, auf Nutzerbeschwerden soll nach spätestens 48 Stunden reagiert werden. Wer den Vorgaben wiederholt und systematisch nicht nachkommt, dem drohen Strafen in Millionenhöhe.

Laut der Umfrage im Auftrag des Justizministeriums gaben knapp zwei Drittel der Befragten (65 Prozent) an, in sozialen Netzwerken wie Facebook oder Twitter bereits mit problematischen Inhalten wie Fake News, Hass, Hetze oder Bedrohungen in Kontakt gekommen zu sein.

Von diesen Nutzern waren, wie auch bei Messenger-Diensten, die meisten (78 Prozent) von Falschinformationen betroffen. Manipulative Inhalte sahen 63 Prozent, hetzerische 60 Prozent und verletzende 56 Prozent. Lediglich der Anteil an bedrohlichen Inhalten lag mit 33 Prozent niedriger.

Fast die Hälfte der Befragten blockierte laut der Umfrage offensichtliche Falschinformationen oder Hetze oder meldete sie dem jeweiligen Plattformbetreiber. 38 Prozent ignorierten solche Inhalte, knapp ein Viertel widersprach den Urhebern.

Als Konsequenz will das Justizministerium die Online-Netzwerke über das NetzDG noch stärker in die Pflicht nehmen. „Damit die schlimmsten Erscheinungsformen von Hass im Netz endlich noch konsequenter verfolgt und bestraft werden können, schärfen wir hier nach“, sagte Staatssekretär Kastrop. „Künftig werden Netzwerke Morddrohungen und Volksverhetzungen dem Bundeskriminalamt melden müssen.“