Kampf gegen Missbrauchsdarstellungen : Massive Kritik an Chatkontrolle-Plänen

Selten sind sich in Anhörungen alle Sachverständigen einig: Bei den Plänen der Europäischen Kommission zur sogenannten "Chatkontrolle" im Kampf gegen die Verbreitung von Missbrauchsdarstellungen von Kindern und Jugendlichen fiel das Urteil der IT-Experten, Strafverfolger, Kinderschützer und Menschenrechtler im Digitalausschuss jedoch einmütig aus: Der Vorschlag gehe an entscheidenden Stellen zu weit und berge große Gefahren für die Grundrechte.

Teil der CSA-Verordnung ist, dass private Kommunikation und Daten in Messengern, Chats oder Clouds auf Anordnung von den Diensteanbietern durchsucht werden können. Vorgesehen sind Pflichten zur Aufdeckung von drei Arten Materials von sexualisiertem Missbrauch: bekannte Darstellungen, bislang unbekanntes Material, aber auch das sogenannte Grooming, also die gezielte Kontaktanbahnung zu Minderjährigen.

Experten monieren: Chatkontrolle-Entwurf unterminiert Datenschutz von privater Kommunikation

Dem Verordnungsentwurf liege eine "krasse Überschätzung von Fähigkeiten von Technologien" zugrunde, insbesondere was das Erkennen von unbekanntem Material angehe, sagte Elina Eickstädt vom Chaos Computer Club. Bei einer Fehlerrate von einem Prozent und einer Milliarde Nachrichten am Tag könnten zehn Milliarden Falschmeldungen entstehen. Sie wies auch darauf hin, dass die geplanten Netzsperren zu "Zensurtools sondergleichen" werden könnten und dass mit dem Entwurf eine Ausweispflicht im Internet nötig werde.

Von einem "digitalen Angriff" sprach Ella Jakubowska (European Digital Rights-Vereinigung). Der Vorschlag stehe nicht in Einklang mit den Menschenrechten und unterminiere den Datenschutz von privater Kommunikation in Mails, Chats oder von Fotos in der persönlichen Cloud. Dem Kinderschutz sei nicht gedient wenn die Verordnung später vor dem Europäischen Gerichtshof scheitere, sagte Felix Reda von der Gesellschaft für Freiheitsrechte. "Der Schaden für die Privatsphäre aller Menschen wäre immens", sagte er. Die anlasslose Überwachung verletze den Wesensgehalt des Rechts auf Privatsphäre und könne durch keine Grundrechtsabwägung gerechtfertigt werden.

Erkennen von Grooming noch Gegenstand der Forschung

Auch Oberstaatsanwalt Markus Hartmann von der Zentralen Ansprechstelle Cybercrime Nordrhein-Westfalen verwies darauf, dass ein so umfassender Eingriff wie mit der Verordnung geplant, nicht erforderlich sei. Vielmehr sollten die Strafverfolgungsbehörden gestärkt werden, sodass auf Basis der Erkenntnisse serverseitiger Scans und den Ermittlungsverfahren ausreichend Informationen generiert werden können. Die Meldepflicht für Anbieter und die Stärkung der europäische Zusammenarbeit begrüße er hingegen.

Über die Fehlerraten, die dazu führten, dass viele Millionen Inhalte händisch geprüft werden müssen, sprach Martin Steinebach vom Fraunhofer-Institut für Sichere Informationstechnologie: Die drei Bereiche der geforderten Erkennung seien im Vorschlag gleichgestellt - es gebe allerdings massive Unterschiede bei der Komplexität und den Fehlerraten. Während das Wiedererkennen visueller Inhalte bereits Standard sei, könne das Erkennen von Grooming noch als Forschungsgegenstand angesehen werden.

Joachim Türk vom Kinderschutzbund Bundesverband wies darauf hin, dass es fatal sei, wenn das Dunkelfeld der Taten im Bereich sexualisierter Gewalt gegen Kinder im Vertrauen auf Scans einer Künstlichen Intelligenz nicht weiter bearbeitet würde, da dies mühsam und teuer sei.