Deutsche Märkte schließen in 6 Stunden 9 Minuten
  • DAX

    15.169,98
    -93,13 (-0,61%)
     
  • Euro Stoxx 50

    4.080,15
    -27,87 (-0,68%)
     
  • Dow Jones 30

    34.580,08
    -59,71 (-0,17%)
     
  • Gold

    1.782,10
    +21,40 (+1,22%)
     
  • EUR/USD

    1,1317
    +0,0012 (+0,1019%)
     
  • BTC-EUR

    45.474,57
    +2.828,26 (+6,63%)
     
  • CMC Crypto 200

    1.367,14
    -74,62 (-5,18%)
     
  • Öl (Brent)

    66,22
    -0,28 (-0,42%)
     
  • MDAX

    33.711,12
    -63,31 (-0,19%)
     
  • TecDAX

    3.759,02
    -14,20 (-0,38%)
     
  • SDAX

    16.054,71
    -175,92 (-1,08%)
     
  • Nikkei 225

    28.029,57
    +276,20 (+1,00%)
     
  • FTSE 100

    7.122,32
    -6,89 (-0,10%)
     
  • CAC 40

    6.765,52
    -30,23 (-0,44%)
     
  • Nasdaq Compositive

    15.085,47
    -295,85 (-1,92%)
     

EU-Kommission will Chatprogramme wie Whatsapp schärfer kontrollieren: Künstliche Intelligenz soll private Nachrichten mitlesen

·Lesedauer: 5 Min.
Auch den privaten Nachrichtenaustausch zwischen Pärchen will die EU künftig mit einer KI-Programm durchleuchten.
Auch den privaten Nachrichtenaustausch zwischen Pärchen will die EU künftig mit einer KI-Programm durchleuchten.

Was wir in Familiengruppen oder dem Partner auf deren Handys schicken, ist privat und nur für die Adressaten bestimmt. Eigentlich. Doch fast unbeachtet von der Öffentlichkeit plant die EU-Kommission einen nie dagewesenen Schritt: Mit einer Künstlichen Intelligenz (KI), deren Algorithmus darauf programmiert ist, nackte Haut und Kinder auf Bildern und Videos zu erkennen, sollen künftig alle Nachrichten durchleuchtet werden. Bisher war dies nur zeitlich begrenzt durch eine Ausnahmeregelung erlaubt und auf öffentliche, unverschlüsselte Chats beschränkt. Spätestens Anfang 2022 will die EU-Kommission diese Scanner-Funktion aber auch auf verschlüsselte Messenger-Dienste wie Whatsapp, Facebook, Signal, Threema und Telegram ausweiten. Hintergrund ist der Kampf gegen sexualisierte Gewalt gegen Kinder.

Während Datenschützer Alarm schlagen, sehen Kinderschutzbünde solche KI-basierten Kontrollen als einzige Lösung im Kampf gegen weltweite Kinderpornografie-Ringe. Wir haben mit Vertretern beider Seiten gesprochen, den Befürwortern der Überwachung und kritischen Datenschützern.

Datenschützer warnen vor Massenüberwachung

Als erbittertster Gegner der sogenannten Chatkontrolle tritt Patrick Breyer auf. Der Abgeordnete sitzt für die Piratenpartei im Europaparlament. Er kritisiert, dass die Abstimmung im Parlament von einer Desinformationskampagne und emotionaler Erpressung flankiert werde. Wenn es um den Schutz von Kindern geht, stimme kein Politiker gerne mit Nein. Beeinflusst wird die politische Entscheidung laut Breyer aus den USA und Großbritannien. Er sagt: „In den Vereinigten Staaten gibt es kein Fernmeldegeheimnis, dort konnten die Internetkonzerne schalten und walten, wie sie wollen. Und in Großbritannien hat man Überwachungskameras an jeder Ecke.“ Zudem hätten die großen Technologiekonzerne wie Google und Meta (ehemals Facebook) – über den Schutz von Kindern hinaus – ein Geschäftsinteresse daran, die Chats der EU-Bürger mitzuverfolgen.

Entsprechend warnt der EU-Abgeordnete: "Das hier ist der Anfang der privatisierten Massenüberwachung." Würden Messenger-Dienste einmal gezwungen, die Hintertür für Scanner-Algorithmen einzubauen, leite der Algorithmus seine Treffer automatisch an die Strafverfolgungsbehörden auf der ganzen Welt weiter, sagt Breyer.

Doch was wäre so schlimm daran? Schließlich könnten auf diese Weise Peiniger sexuell missbrauchter Kinder womöglich schneller verfolgt werden. Patrick Breyer hält dagegen: Die maschinell herausgefischten Datensätze vergrößerten nur den Heuhaufen an Bild- und Videomaterial, laut einer Statistik der Schweizer Polizei seien nur etwa 14 Prozent der Meldungen echte Treffer. „Die EU muss hinterfragen, ob Massenüberwachung das richtige Mittel ist und ob vertrauliche Kommunikation in unserer Gesellschaft verzichtbar ist“, so der EU-Abgeordnete.

Christof Stein, Sprecher des Bundesbeauftragten für den Datenschutz und Informationsfreiheit, gibt Breyer recht. Täter und Besitzer von Dateien mit kinderpornografischen Inhalten wichen auf andere Kanäle aus, während selbst Minderjährige mit der geplanten Ausweitung der Chat-Kontrolle ab 2022 ins Visier der Ermittler geraten könnten, warnt Stein. Denn das Computerprogramm sucht nach nackter Haut und Kindern oder Jugendlichen. Datenschützer befürchten, dass die KI selbst bei Strandfotos vom eigenen Kind im Urlaub anschlägt oder Sexting von Teenagern herausfiltern könnte.

Laut Stein hilft diese ausgeweitete Kontrolle nicht gegen die Verbreitung von Kinderpornografie über Messenger: „Es bringt nichts, den Strafverfolgungsbehörden mehr Eingriffsbefugnisse zu geben, sie brauchen mehr Personal und Mittel, um die Straftaten zu verfolgen.“ Etwa zur Vollstreckung von Durchsuchungsbefehlen oder zur Sichtung schon beschlagnahmter Datenträger. Laut dem EU-Abgeordneten Patrick Breyer liegen die monatelang herum, weil die Ermittler nicht hinterherkommen mit der Auswertung.

Kinderschützer sehen Chatkontrolle als pragmatische Lösung

Joachim Türk, Vorstandsmitglied des Deutschen Kinderschutzbundes (DKSB), verdeutlicht die dramatische Situation so: 60.000 Hinweise auf sexualisierte Gewalt an Kindern lieferten Strafermittlungsbehörden aus den USA jährlich ans BKA. Diese Datenmengen seien mit der derzeitigen personellen Ausstattung in Deutschland nicht zu bewältigen. "Bei dieser Flut an Material muss man eine KI verwenden", so Türk, und solange die europäischen Behörden keinen anderen Weg fänden als die Kontrolle aller Chats durch die Tech-Konzerne, müsse man den Behörden zumindest diese Möglichkeit einräumen. Er bezeichnet die Entscheidung für die Chatkontrolle entsprechend als "Rechtsgüterabwägung": Wir müssten uns nunmal fragen, ob uns der Schutz persönlicher Daten wichtiger sei als der Schutz der körperlichen Unversehrtheit von Kindern.

Der Vertreter des Kinderschutzbundes zeigt zwar Verständnis für die Sorge der Datenschützer, gibt aber zu bedenken, dass Kinderpornografie erst durch das Internet so weit verbreitet worden sei. „Das Internet hat riesige Pädophilen-Netzwerke mit Millionen Menschen hervorgebracht.“ Wer neugierig sei und derartige Neigungen hege, der „weiß in den meisten Fällen nicht, was das Darknet oder der Thor-Browser ist“, ist er sicher. Täter kämen auf niederschwellige Weise in die Szene – „eben genau über die Messenger-Dienste“, so Türk.

Das Bundeskriminalamt wollte auf unsere Anfrage keine klare Position zum Für und Wider der EU-Chatkontrolle beziehen. „Die Auswirkungen der auf EU-Ebene beschlossenen Maßnahmen sind aktuell noch nicht abzusehen, daher ist eine bewertende Stellungnahme derzeit nicht möglich“, heißt es. Grundsätzlich seien alle Ansätze, aktiv das Internet auf Sexualdelikte zum Nachteil von Kindern und Jugendlichen zu kontrollieren, zu begrüßen. „Allerdings sind dabei auch immer die Rechte der Betroffenen zu beachten“, schreibt das BKA.

Datenschützer fordert digitales Briefgeheimnis für private Chatnachrichten

Mit etwas Aufwand könnte die geplante Kontrolle der Messenger-Kommunikation umgangen werden, ob aus Angst um die eigene Privatsphäre oder um kriminelle Handlungen zu verschleiern. Falls das neue EU-Gesetz 2022 in Kraft tritt, reicht es zwar nicht mehr, wie aktuell auf Messenger-Dienste auszuweichen, deren Rechenzentren auf europäischem Boden stehen. Jeder Anbieter solcher Dienste wäre nach Inkrafttreten des Gesetzes gezwungen, mit der KI die Unterhaltungen und versandten Dateien seiner Nutzerinnen und Nutzer auszuwerten. „Es wird technisch trotzdem zu umgehen sein“, sagt Patrick Breyer. Zum Beispiel mit dezentraler Messenger-Technologie wie etwa Matrix. Der EU-Abgeordnete aus Frankfurt gibt aber zu bedenken: „Via Matrix erreicht man eben die meisten Leute nicht.“ Normalbürger würden meist über die bekannteren Messenger kommunizieren, die der Chatkontrolle unterlägen. Breyer fordert deshalb ein digitales Briefgeheimnis für die privaten Chatnachrichten.

Wir möchten einen sicheren und ansprechenden Ort für Nutzer schaffen, an dem sie sich über ihre Interessen und Hobbys austauschen können. Zur Verbesserung der Community-Erfahrung deaktivieren wir vorübergehend das Kommentieren von Artikeln.