Ein privates Gespräch zu führen ist ein grundlegendes Menschenrecht. Wie alle anderen Rechte sollten wir auch dieses Recht nicht verlieren, wenn wir online gehen. Doch ein neuer Vorschlag der Europäischen Union könnte unsere Datenschutzrechte aus dem Fenster werfen.
SAGEN SIE DEM EUROPÄISCHEN PARLAMENT: HÖREN SIE AUF, MICH ZU SCANNEN
Das Exekutivorgan der Europäischen Union treibt einen Vorschlag voran, der zum obligatorischen Scannen aller privaten Nachrichten, Fotos und Videos führen könnte. Die EU-Kommission will die intimen Daten unseres digitalen Lebens für die Überprüfung durch eine von der Regierung zugelassene Scansoftware öffnen und dann mit Datenbanken abgleichen, die Bilder von Kindesmissbrauch enthalten.
Die Technik funktioniert nicht richtig. Und die Einführung eines Systems von „Wanzen in unseren Taschen“ ist einfach falsch, auch wenn es im Namen des Kinderschutzes geschieht.
Wir brauchen keine staatlichen Beobachter, die unsere privaten Gespräche überwachen, egal ob es sich um KI, Bots oder Live-Polizei handelt. Erwachsene brauchen das nicht, und Kinder brauchen es auch nicht.
Wenn Sie in einem der 27 EU-Mitgliedsländer leben, ist es jetzt an der Zeit, Ihren Abgeordneten im Europäischen Parlament zu kontaktieren und ihm mitzuteilen, dass Sie diesen gefährlichen Vorschlag ablehnen. Heute haben unsere Partner von European Digital Rights (EDRi) eine Website mit dem Titel "Stop Scanning Me" eingerichtet, die weitere Informationen über den Vorschlag und seine Probleme enthält. Sie enthält eine detaillierte rechtliche Analyse der Verordnung und einen Brief, der von 118 Nichtregierungsorganisationen (NRO) mitunterzeichnet wurde, die sich gegen diesen Vorschlag aussprechen, darunter auch die EFF. Für Deutschsprachige ist auch die Chatkontrolle Stoppen! Website, die von deutschen Bürgerrechtsgruppen betrieben wird.
Auch wenn Sie nicht in der EU ansässig sind, sollte diese Verordnung für Sie von Belang sein. Die großen Messaging-Plattformen werden sich nicht aus diesem riesigen Markt zurückziehen, selbst wenn das bedeutet, dass sie ihre Verpflichtungen gegenüber ihren Nutzer*innen in Bezug auf Datenschutz und Sicherheit aufgeben. Das wird Nutzende auf der ganzen Welt betreffen, auch solche, die nicht regelmäßig mit Personen in der EU kommunizieren.
„Aufdeckungsbefehle“ zum Abhören von Privatgesprächen
Die von der EU vorgeschlagene Verordnung zum sexuellen Kindesmissbrauch (CSAR, Child Sexual Abuse Regulation – Verordnung über sexuellen Kindesmissbrauch) ist ein enttäuschender Rückschritt. In der Vergangenheit hat die EU eine Vorreiterrolle bei der Gesetzgebung zum Schutz der Privatsphäre eingenommen, die zwar nicht perfekt ist, aber in die Richtung geht, die Privatsphäre der Menschen zu stärken, anstatt sie einzuschränken, wie z. B. die Allgemeine Datenschutzverordnung (GDPR) und die Datenschutzrichtlinie für elektronische Kommunikation. Die CSA-Verordnung geht jedoch in die entgegengesetzte Richtung. Sie missachtet die EU-Grundrechtecharta und untergräbt das kürzlich verabschiedete Gesetz über digitale Dienste („Digital Services Act“), das den Behörden bereits die Befugnis gibt, illegale Inhalte zu entfernen.
Der Vorschlag verpflichtet Online-Plattformen und Anbietende von Nachrichtendiensten, missbräuchliche Inhalte zu entschärfen, und schafft Anreize für eine allgemeine Überwachung der Nutzerkommunikation. Wenn jedoch nach diesen Maßnahmen immer noch ein „erhebliches“ Risiko des sexuellen Kindesmissbrauchs im Internet besteht – und es ist völlig unklar, was das in der Praxis bedeutet –, können die Strafverfolgungsbehörden „Aufdeckungsanordnungen“ an Tech-Plattformen senden. Sobald eine Aufdeckungsanordnung erteilt wird, könnte das Unternehmen, das die Plattform betreibt, verpflichtet werden, Nachrichten, Fotos, Videos und andere Daten mit einer von den Strafverfolgungsbehörden genehmigten Software zu scannen.
Wenn die Erkennungsanordnungen in Kraft sind, werden die Plattformen nicht in der Lage sein, wirklich private Unterhaltungen zu ermöglichen. Unabhängig davon, ob sie die Nachrichten der Nutzenden auf einem zentralen Server oder auf ihren eigenen Geräten scannen, ist die CSA-Verordnung einfach nicht mit einer Ende-zu-Ende-Verschlüsselung kompatibel.
Die Autor*innen des Vorschlags begnügen sich nicht damit, unsere Daten zu überprüfen und sie mit staatlichen Datenbanken über Kindesmissbrauch abzugleichen, sondern gehen noch viel weiter. Der CSAR schlägt vor, Algorithmen zu verwenden, um zu erraten, welche anderen Bilder Missbrauch darstellen könnten. Es ist sogar geplant, nach „Grooming“ zu suchen, indem KI eingesetzt wird, um die Textnachrichten von Personen zu überprüfen und zu erraten, welche Mitteilungen auf künftigen Kindesmissbrauch hindeuten könnten.
Große soziale Medienunternehmen können oft nicht einmal die Versprechen ihrer eigenen Richtlinien zur Inhaltsmoderation einhalten. Es ist unglaublich, dass die EU-Gesetzgebende diese Unternehmen nun zwingen könnten, ihre fehlerhaften Überwachungsalgorithmen einzusetzen, um ihre eigenen Nutzenden der schlimmsten Verbrechen zu beschuldigen.
Die EU-Kommission fördert KI zur Verbrechensaufdeckung, die nicht funktioniert
Es ist schwierig, die Genauigkeit der Software zu überprüfen, die am häufigsten zur Erkennung von Material über sexuellen Kindesmissbrauch (CSAM, Child Sexual Abuse Material - Material über sexuellen Kindesmissbrauch) eingesetzt wird. Aber die Daten, die jetzt aufgetaucht sind, sollten ein Warnsignal sein, anstatt die Gesetzgebenden zu ermutigen, weiterzumachen.
- Eine Facebook-Studie ergab, dass 75 % der Nachrichten, die von seinem Scansystem zur Erkennung von Kindesmissbrauchsmaterial markiert wurden, „nicht bösartig“ waren und Nachrichten wie schlechte Witze und Memes enthielten.
- LinkedIn meldete den EU-Behörden im Jahr 2021 75 Fälle von mutmaßlichem Kindesmissbrauch. Nach einer manuellen Überprüfung handelte es sich in nur 31 dieser Fälle – also in etwa 41 % – um bestätigten CSAM.
- Neu veröffentlichte Daten aus Irland, die in einem Bericht unserer Partner bei EDRi (siehe Seite 34) veröffentlicht wurden, zeigen weitere Ungenauigkeiten. Im Jahr 2020 erhielt die irische Polizei 4.192 Meldungen vom U.S. National Center for Missing and Exploited Children (NCMEC). Davon wurden 852 Meldungen (20,3 %) als tatsächliche CSAM bestätigt. Davon wurden 409 Hinweise (9,7 %) als „verfolgbar“ eingestuft und 265 Hinweise (6,3 %) wurden von der irischen Polizei „abgeschlossen“.
Trotz der Behauptung von Verfechtern und Strafverfolgungsbehörden, dass die Scansoftware eine magisch hohe Genauigkeit aufweist, machen unabhängige Quellen deutlich, dass weitverbreitete Scans zu einer erheblichen Anzahl falscher Anschuldigungen führen. Sobald die EU beschließt, die Software auf weitere Milliarden von Nachrichten anzuwenden, wird dies zu Millionen weiterer falscher Anschuldigungen führen. Diese falschen Anschuldigungen werden an die Strafverfolgungsbehörden weitergeleitet. Im besten Fall sind sie Verschwendung, im schlimmsten Fall können sie aber auch zu echtem Leid führen.
Die falsch-positiven Fälle verursachen echten Schaden. In einem kürzlich erschienenen Bericht der New York Times wurde auf einen fehlerhaften Google CSAM-Scanner hingewiesen, der zwei Väter von Kleinkindern in den USA fälschlicherweise als Kinderschänder identifizierte. Tatsächlich hatten beide Männer auf Bitten ihrer Kinderärzte medizinische Fotos von Infektionen bei ihren Kindern eingesandt. Ihre Daten wurden von der örtlichen Polizei überprüft, und die Männer wurden von jeglichem Fehlverhalten freigesprochen. Trotz ihrer Unschuld löschte Google ihre Konten dauerhaft, hielt an dem gescheiterten KI-System fest und verteidigte sein undurchsichtiges menschliches Überprüfungsverfahren.
In Bezug auf die kürzlich veröffentlichten irischen Daten hat die irische Polizei bestätigt, dass sie derzeit alle personenbezogenen Daten, die ihr vom NCMEC übermittelt wurden, aufbewahrt – einschließlich der Nutzernamen, E-Mail-Adressen und anderer Daten von nachweislich unschuldigen Kunden.
Den Heuhaufen wachsen lassen
Kindesmissbrauch ist entsetzlich. Wenn die digitale Technologie zum Austausch von Bildern des sexuellen Missbrauchs von Kindern genutzt wird, handelt es sich um ein schweres Verbrechen, das Ermittlungen und Strafverfolgung rechtfertigt.
Deshalb sollten wir unsere Bemühungen nicht auf Maßnahmen verschwenden, die unwirksam und sogar schädlich sind. Die überwältigende Mehrheit der Interaktionen im Internet sind keine kriminellen Handlungen. Die Polizei, die Online-Delikte untersucht, ist bereits in der Lage, nach der sprichwörtlichen „Nadel im Heuhaufen“ zu suchen. Die Einführung eines obligatorischen Scannens unserer Fotos und Nachrichten wird ihnen nicht helfen, das Ziel einzugrenzen, sondern den Heuhaufen massiv vergrößern.
Der EU-Vorschlag für eine Verordnung schlägt auch eine obligatorische Altersüberprüfung vor, um die Verbreitung von CSAM einzudämmen. Es gibt keine Form der Online-Altersüberprüfung, die keine negativen Auswirkungen auf die Menschenrechte von erwachsenen Sprechern hat. Unternehmen, die Altersüberprüfungen durchführen, sammeln in der Regel biometrische Daten (und geben sie weiter). Das Verfahren greift auch in das Recht Erwachsener ein, sich anonym zu äußern – ein Recht, das besonders für Dissidenten und Minderheiten wichtig ist, die unterdrückt werden oder unsicher sind.
Die EU-Staaten oder andere westliche Länder könnten die ersten sein, die die Verschlüsselung verbieten, und es so ermöglichen, jede Nachricht scannen zu können. Sie werden nicht die letzten sein. Regierungen auf der ganzen Welt haben es deutlich gemacht: Sie wollen die verschlüsselten Nachrichten der Menschen lesen. Sie sind gerne bereit, auf Terrorismus, Verbrechen gegen Kinder oder andere Gräueltaten hinzuweisen, wenn sie ihre Bürger dazu bringen, mehr Überwachung zu akzeptieren. Wenn diese Verordnung verabschiedet wird, werden autoritäre Länder, die häufig bereits über Überwachungssysteme verfügen, verlangen, dass die Nachrichten nach EU-Vorbild gescannt werden, um ihre eigenen „Verbrechen“ zu finden. Die Liste wird wahrscheinlich Regierungen umfassen, die Dissidenten angreifen und LBGT+-Gemeinschaften offen kriminalisieren.
SAGEN SIE DEM EUROPÄISCHEN PARLAMENT: HÖREN SIE AUF, MICH ZU SCANNEN
