Der EU-Vorschlag, bekannt geworden als „Chatkontrolle“, würde eventuell dazu beitragen, Kindern zu helfen. Er würde aber in seiner jetzigen Form auch eine beispiellose Überwachungsinfrastruktur schaffen – eine, die tief in die private Kommunikation von vielen Millionen EU-Bürger:innen eingreift.
Was als Schutzschild für Kinder gedacht ist, droht zum Brecheisen gegen unsere Grundrechte zu werden. Ich finde auch nicht, dass das überzogene Rhetorik ist, denn selbst der juristische Dienst des EU-Rats (PDF) und der UN-Hochkommissar für Menschenrechte (PDF) halten die Pläne für rechtswidrig. Im Folgenden möchte ich Euch erklären, wieso ich glaube, dass der Rat der EU, der am 14. Oktober die Entscheidung treffen soll, wirklich vorsichtig sein sollte.
Der Trick mit der Verschlüsselung: Wenn Privatsphäre endet, bevor sie beginnt
Offiziell beteuert die EU-Kommission, die Ende-zu-Ende-Verschlüsselung bleibe unberührt. Doch das ist, wie Kritiker:innen sagen, ein „durchschaubarer Taschenspielertrick“. Denn die Chatkontrolle würde nicht etwa verschlüsselte Nachrichten aufbrechen – sie würde sie einfach vorher auslesen. Mithilfe der sogenannten „Client-Site-Scanning“-Technologie sollen Bilder, Videos und Links direkt auf Euren Geräten durchsucht werden, bevor sie verschlüsselt und versendet werden.
Das ist, als würde der Staat jeden Eurer privaten Briefe liest, bevor Ihr ihn in den Umschlag steckt. Das digitale Briefgeheimnis – ein Grundpfeiler der Privatsphäre – wäre damit de facto abgeschafft. Oder, wie Signal-Chefin Meredith Whittaker es auf den Punkt bringt:
Man kann keine Hintertür schaffen, auf die nur die Guten Zugriff haben.
Millionen Fehlalarme: Wenn der Algorithmus Urlaubsfotos verdächtigt
Ja, es klingt technisch, ist aber tatsächlich menschlich fatal: Die Systeme, die verdächtige Inhalte erkennen sollen, liegen regelmäßig daneben. Der Bundesdatenschutzbeauftragte warnt vor Fehlerraten von bis zu zwölf Prozent. Bei Milliarden täglicher Nachrichten in der EU wären das Millionen Fehlalarme – jeden Tag. Oder anders gerechnet: Bei zwei Milliarden WhatsApp-Nutzer:innen entspräche das 240 Millionen potenziellen Fehlalarmen!
Was das in der Praxis bedeutet? Euer Urlaubsfoto vom Strand könnte plötzlich als verdächtig markiert werden. Ein Vater, der einem Arzt ein Foto seines Kindes zur Diagnose schickt, könnte ins Visier geraten. Und während unschuldige Nutzer:innen Kontosperrungen riskieren, werden die Ermittlungsbehörden mit einer Flut von Falschmeldungen überschwemmt. Das Ergebnis: Mehr Bürokratie, weniger echter Kinderschutz.
Und wisst Ihr, was die Geschichte noch absurder macht? Diejenigen, die wirklich diese widerwärtigen Vergehen planen, werden nicht in die Falle gehen. Abbildungen von Kindesmissbrauch werden eh meistens nicht über Messenger verschickt.
Die Büchse der Pandora: Wenn Überwachung erst einmal da ist
Die Chatkontrolle wäre nicht nur gefährlich, weil sie fehlerhaft ist – sondern, weil sie einen Dammbruch darstellen würde. Ist nämlich die Infrastruktur zur Massenüberwachung erst einmal geschaffen, lässt sie sich leicht erweitern. Heute geht es offiziell um Kinderpornografie. Morgen vielleicht um Terrorismus. Und übermorgen um Hassrede, Urheberrechtsverletzungen oder politische Inhalte.
Was hier entsteht, ist ein Werkzeugkasten für autoritäre Versuchungen – ein System, das aus gutem Willen geboren wurde, aber leicht missbraucht werden kann. Besonders gefährlich wird das für Berufsgruppen, die auf Vertraulichkeit angewiesen sind: Anwält:innen, Ärzt:innen, Journalist:innen. Wenn Quellen-, Arzt- oder Mandantenschutz nicht mehr gewährleistet ist, bricht das Fundament unserer Demokratie. Wie schnell eine Demokratie in den Grundfesten erschüttert wird, sehen wir derzeit in den USA.
Und auch wirtschaftlich wäre das Ganze ein Eigentor: Europäische Firmen warnen, die Chatkontrolle würde die digitale Souveränität der EU schwächen und kleine Anbieter ruinieren. Wer will schon einen europäischen Messenger nutzen, wenn man dort weiß: Jeder Chat könnte gescannt werden? Man nimmt Tools wie Threema oder Signal damit ja auch quasi ihre Geschäftsgrundlage.
„Wer das digitale Briefgeheimnis mit Chatkontrolle und Vorratsdatenspeicherung aufweicht, gefährdet unsere liberale Demokratie“, warnt auch die FDP-Generalsekretärin Nicole Büttner.
Eine ungewöhnliche Allianz: Alle gegen die Chatkontrolle
Und mit der erwähnten FDP-Politikerin gelangen wir nun an den Punkt, an dem wir über eine merkwürdige Allianz sprechen sollten. Selten war sich das digitale Europa so einig wie hier – in der Ablehnung. Von Netzaktivisten über Parteien bis Wirtschaftsverbänden, von Tech-Konzernen bis Kinderschutzorganisationen: Der Widerstand gegen die Chatkontrolle zieht sich quer durch alle Lager.
- Signal, Threema und WhatsApp haben deutlich gemacht, dass sie unter solchen Bedingungen in der EU nicht weiter operieren würden.
- Der Chaos Computer Club, Reporter ohne Grenzen und die Gesellschaft für Freiheitsrechte warnen vor einer „Totalüberwachung ohne Beispiel“.
- Datenschutzbehörden in ganz Europa, darunter der BfDI und der Europäische Datenschutzausschuss (EDSA), halten den Vorschlag für „unverhältnismäßig und grundrechtswidrig“.
- Und selbst Kinderschutzorganisationen äußern Bedenken: Eine Flut an Fehlalarmen hilft keinem Kind – sie blockiert Ressourcen, die echte Fälle aufklären sollen.
Was hier entsteht, ist eine bemerkenswerte Koalition: Menschen, die sonst selten einer Meinung sind, ziehen an einem Strang. Das allein sollte der EU-Kommission zu denken geben, oder?
Deutschland als Zünglein an der Waage
Der Vorschlag hängt derzeit am seidenen Faden – und das liegt vor allem an Deutschland. Bisher hat sich die Bundesregierung im EU-Rat enthalten. Doch am 14. Oktober steht eine entscheidende Abstimmung an. Ob das Gesetz durchgeht oder scheitert, könnte dann an der deutschen Stimme liegen.
Innen- und Justizministerium schweigen bislang beharrlich. Nur aus der Fraktion der Union kam jetzt ein deutliches Wort: CDU-Fraktionschef Jens Spahn sagte am 07. Oktober in einer Pressekonferenz:
Wir als CDU/CSU-Bundestagsfraktion sind gegen die anlasslose Kontrolle von Chats. Das wäre so, als würde man vorsorglich mal alle Briefe öffnen und schauen, ob da etwas Verbotenes drin ist. Das geht nicht, das wird es mit uns nicht geben.
Fazit: Nur die Illusion einer Lösung
Natürlich müssen wir Kinder besser schützen – auch im Netz. Aber der Zweck heiligt nicht jedes Mittel. Die Chatkontrolle belegt, wie aus einem legitimen Anliegen ein gefährlicher Irrweg werden kann. Oder einfacher ausgedrückt: „Gut gemeint“ und „gut gemacht“ trennen Welten!
Ein System, das unsere Chats scannt, bevor wir sie überhaupt abgeschickt haben, ist kein Schutzschild. Es ist ein Angriff auf die digitale Privatsphäre, auf Verschlüsselung, auf Vertrauen – auf Freiheit. Vielleicht sollten wir uns also weniger fragen, wie viel Sicherheit wir gewinnen.
Sondern wie viel Freiheit wir bereit sind, dafür aufzugeben.
Die Politik redet immer was von Sicherheit für ihre Bürger und dann kommen die mit sowas um die Ecke. Was sollen wir davon halten, dass jede unserer Nachrichten analysiert wird? Wir sind doch nicht das Eigentum unserer Regierung die uns komplett überwachen darf.
Erinnert an Apple ebenso mit dem gleichen Vorwand
Hm, natürlich kontakariert das den Kinderschutz und kaum vorstellbar, dass es Menschen gibt, welche daran glauben, mit derartigen Entscheidungen was Gutes zu beschließen. Ich kann mir eben auch nicht vorstellen, dass jenes widerliche Zeug Tatsache aus der Cloud heraus per Messenger verschickt wird.
Da hat man sich nicht erst 89 die Jacke in Brand hauen und die Fresse polieren lassen, um dann festzustellen, dass es noch dicker kommen könnte. Irgendwie nicht mal gut gemeint….
Ich halte die Chatkontrolle für einen geplanten Vorwand, damit hätte ein Möglicher Machtgieriger Autokrat die Fäden in der Hand. Und als nächstes werden wir dann gezwungen Unterwäsche mit eingebautem co2 Zähler zu tragen, die sofort jeden einzelnen pups an eine Regirungsbehörde Funkt wehe jemand schadet so dem Klima mehr als die Regierung dann erlaubt.
Der Zähler oder Sensor müsste noch eher auf Methan ansprechen, das in den Pupsen enthalten sein kann, aber weitaus klimaschädlicher als CO2 ist.
So ist Methan 86 mal bzw. 34 mal schädlicher (auf 20 Jahre und auf 100 Jahre bezogen).
Siehe auch:
https://www.tech-for-future.de/co2-methan/
"Bei Milliarden täglicher Nachrichten in der EU wären das Millionen Fehlalarme – jeden Tag. Oder anders gerechnet: Bei zwei Milliarden WhatsApp-Nutzer:innen entspräche das 240 Millionen potenziellen Fehlalarmen!"
Die Annahme von zwei Milliarden WhatsApp-Nutzer:innen in der EU ist faktisch unmöglich. Die EU hat nur ca. 450 Millionen Einwohner. Selbst wenn man die maximale Bevölkerung (vom Baby bis zum Greis) mit der zitierten 12-prozentigen Fehlerrate multipliziert, wären das immer noch "nur" 54 Millionen potenzielle Fehlalarme.
Realistischerweise liegt die Zahl der WhatsApp-Nutzer in der EU bei etwa 250 bis 280 Millionen. Angewandt auf die 12 % Fehlerrate, die der Bundesdatenschutzbeauftragte für das Scannen von Bildern/Videos befürchtet, ergibt dies immer noch eine dramatische Zahl von rund 30 bis 33 Millionen potenziellen Fehlalarmen täglich.
Dieser Wert ist zwar deutlich geringer als die 240 Millionen, die im Artikel genannt werden, aber 33 Millionen unschuldig Verdächtigte pro Tag ist immer noch eine Zahl, die das gesamte System der Ermittlungsbehörden lahmlegen und unsere Grundrechte massiv verletzen würde.
Ich bin zwar kein Befürworter dieses neuen Gesetzesentwurfs, aber nichts gegen die dramatisch steigenden Zahlen gemeldeter Darstellungen zu unternehmen, ist auch keine Lösung. Mit völlig falschen Zahlen hantieren, macht es nicht besser.
Es gibt zwei Milliarden Menschen, die WhatsApp nutzen, meine Fresse. Du musst doch wenigstens irgendwann mal bei nur einem einzigen Artikel in der Lage sein, nicht alles immer so übertrieben absichtlich falsch verstehen zu wollen.
Wird mein Chat pauschal angezapft durch eine solche Entwicklung, wie im Artikel beschrieben: Was passiert mit all den Menschen, mit denen ich kommuniziere, die nicht in der EU leben? Wird da nur die eine Hälfte des Chats überwacht, oder was? Meine Güte … Wenn für viele Millionen EU-Bürger diese Grenze fällt, fällt sie automatisch für potenziell jeden WhatsApp-Nutzer weltweit – er muss lediglich mit einem von uns Kontakt haben.
Ich würde noch nicht mal sagen, dass es ein geplanter Vorwand ist, sondern eher so "aber wir meinen es ja gut, wird schon niemand kommen, der das ausnutzt". Und genau das kann uns dann brutal um die Ohren fliegen, wenn eben jemand anders kommt, der bewusst die Grenzen verschieben will.
Es ist schade, dass Du eine sachliche Korrektur als "absichtliches Falschverstehen" abtust, anstatt die Fakten anzuerkennen. Es ist eher so, dass Du etwas ("absichtlich"?) falsch verstehst oder die Leser für dumm verkaufst.
Der Kern der Kritik war nicht, dass es keine zwei Milliarden WhatsApp-Nutzer weltweit gäbe, sondern dass es unseriös und irreführend ist, diese globale Zahl (2 Milliarden) für eine Berechnung der Fehlalarme innerhalb der EU zu verwenden – die, und NUR die, war ja bitte schön von Dir gemeint: "…in der EU wären das Millionen Fehlalarme – jeden Tag. Oder anders gerechnet: Bei zwei Milliarden WhatsApp-Nutzer:innen entspräche das 240 Millionen". Die 240 Millionen Fehlalarme für die EU sind einfach falsch gerechnet – oder wie Du sagen würdest: absichtlich übertrieben.
Die Korrektur auf die realistischen 30 bis 33 Millionen Fehlalarme ist notwendig, weil wir keine Übertreibung brauchen, um die Chatkontrolle abzulehnen. Auch 33 Millionen unschuldig Verdächtigte am Tag sind eine Katastrophe für jeden Rechtsstaat.
Dein Punkt, dass die Grenze fällt, ist im globalen Kontext wichtig. Wenn die EU Meta zwingt, die technische Fähigkeit zum Scannen in die App zu integrieren, droht der "Brüssel-Effekt" – aber nicht "automatisch" und überall. Das Gesetz betrifft alle EU-Bürger (und NUR die!), da es sich um eine EU-Verordnung handelt. Sie gilt unmittelbar in jedem EU-Mitgliedstaat – aber eben nur dort.
Ein respektvoller und faktenbasierter Ton täte der Sache gut. Oder ist Dein emotionaler, polemischer und inhaltlich schwacher (freundlich gesagt) Ton hier angesagt und erwünscht?
Erschreckend: trotz meinem Hinweis abermals kein Ton zum Schutz der Opfer (gemeint: Kinder – NICHT: WhatsApp-Nutzer).
Dem Fazit stimme ich zu.
Auch "nur" bis zu 30 Millionen "False Positives" täglich würden riesigen gesellschaftlichen Schaden anrichten, denn viele unschuldig Verdächtige wären weiter stigmatisiert, irgendwas bleibt immer hängen, und die Polizei mit einer riesigen Zahl falscher Spuren und unnötiger Hausdurchsuchungen beschäftigt ohne stattdessen wichtigeren Tätigkeiten nachgehen zu können. Die Pädokriminellen, jedenfalls die weitaus meisten von ihnen die keine absoluten "Dunkelbirnen" sind, würden sich einfach andere Wege suchen, um ihrem widerlichem Handwerk weiter nachzugehen. Am naheliegendsten wäre, die Aufnahmen mit einer herkömmlichen Digitalkamera oder einem Smartphone ohne Internetzugang zu machen und extern zu verschlüsseln. Das so verschlüsselte Bildmaterial könnten sie dann ganz normal weiter per Messenger verschicken und den Schlüssel per Telefon verbreiten, oder eben die SD-Karte per Post oder Brieftaube verschicken.
Der Verordnungsvorschlag, der alle Nutzer von Messengern unter Generalverdacht stellt, ist also nicht nur unverhältnismäßig, gesellschaftlich schädlich und rechtsstaatlich bedenklich, sondern ineffektiv und möglicherweise sogar undurchführbar und kontraproduktiv.
Der Schutz von Kindern ist natürlich trotzdem wichtig. Um dasselbe zu erreichen, nämlich Smartphones für Pädokriminelle unbenutzbar zu machen, könnte man die Scanner aber in abgeschwächter Form einsetzen.
Sie scannen zwar weiter die Bilder, melden aber vermeintliche Verdachtsfälle nicht an die Behörden, sondern löschen die Bilder einfach oder machen sie unbrauchbar. Auch dann müssten Pädokriminelle andere Wege gehen, auch das wäre noch ein Eingriff in die Privatsphäre unbescholtener Bürger und würde die Verwendbarkeit der Geräte einschränken. Es würde aber Millionen falscher Verdachtsfälle vermeiden und der Polizei keine unnötige Arbeit aufhalsen.
Am Besten wäre vermutlich aber konventionelles Vorgehen. Auf die Scanner verzichten und die Polizei besser ausstatten, und in begründeten Verdachtsfällen Staatstrojaner oder ähnliches einsetzen, aber natürlich nur mit richterlichem Beschluss.