EU-Parlament verabschiedet AI Act – mit eingebauter Massenüberwachung

Das EU-Parlament beschließt heute mit dem AI Act ein Gesetz, dessen eigentliches Ziel die strengere Regulierung der Entwicklung und des Einsatzes von KI war. Ganz nebenbei schafft es dabei aber einen Rechtsrahmen für die Verwendung von Gesichtserkennungssoftware. Ein weiterer Ausbau von Überwachung im öffentlichen Raum ist hier vorprogrammiert. Die Abgeordneten des Bundestages müssen nun retten, was noch zu retten ist, und dafür sorgen, dass jede Form der biometrischen Fernidentifizierung in Deutschland verboten wird.

Biometrische Erkennung: Nachträglich, aber mit Vollgas

Der AI Act verbietet zwar biometrische Überwachung im öffentlichen Raum, lässt aber viele Ausnahmen für Strafverfolgungsbehörden. Biometrische Fernidentifizierung darf immer dann angewendet werden, wenn die „abstrakte Gefahr einer Straftat” besteht. Regeln für den konkreten zeitlichen Abstand, der vergangen sein muss, bis eine Identifizierung als nachträglich gilt, gibt es keine. Somit ist der großflächigen Einsatz von nachträglicher Fernidentifikation erlaubt – sprich mehr Gesichtserkennung.

Nur ein bisschen biometrische Erkennung

Im Koalitionsvertrag heißt es zwar klar, dass „[b]iometrische Erkennung im öffentlichen Raum” auszuschließen ist und der „Einsatz von biometrischer Erfassung zu Überwachungszwecken” abgelehnt wird, die Parteien befinden sich hier aber dennoch auf einem Schlingerkurs: Während sich alle Ampel-Lichter einig sind, biometrische Echtzeit-Erkennung zu verbieten, sieht das Bild bei der nachträglichen Überwachung anders aus: Das grüne Digitalausschuss-Mitglied Bacherle plädiert für einen Einsatz mit Richtervorbehalt, Parsa Marvi, für die SPD im Innenausschuss, kann sich auch nicht zur Linie aus dem Koalitionsvertrag durchringen: Er fordert stattdessen eine Anwendung in einem „deutlich engeren Rahmen".

Nachträgliche Identifikation muss verboten werden

Nicht nur der Koalitionsvertrag fordert eine komplettes Verbot biometrischer Erkennung in der Öffentlichkeit, es gibt auch weitere gute Argumente dafür: Das Risiko, dass jede Überwachungskamera im Nachhinein das eigene Gesicht identifizieren kann, lässt vom Recht auf Anonymität in der Öffentlichkeit nicht viel übrig. Zudem wäre diese Technologie in den Händen einer zukünftig möglichen rechtsextremen (Landes-)Regierung ein Werkzeug des Schreckens. Der einzige Weg, um einen späteren Missbrauch zu verhindern, ist diese Technik genauso zu verbieten, wie es bereits klar im Koalitionsvertrag vereinbart wurde.

Text des Briefes

Sehr geehrte Abgeordnete des Deutschen Bundestages,

heute, am 13. März 2024, beschließt das Europäische Parlament den Artificial Intelligence (AI) Act. Als erstes umfassendes Gesetz zur Regulierung Künstlicher Intelligenz (KI) weltweit schafft der AI Act in der gesamten Europäischen Union einheitliche Regeln für die Entwicklung und den Einsatz von KI.

Die finale Fassung des AI Acts verbietet biometrische Überwachung im öffentlichen Raum zwar grundsätzlich, lässt jedoch eine Vielzahl an Ausnahmen zu. Diese weitreichenden Ausnahmen für Strafverfolgung und Sicherheitsbehörden laden europaweit zum Ausbau öffentlicher Überwachung ein. Eine solche Überwachungsinfrastruktur führt dazu, dass Menschen unter dem ständigen Gefühl der Kontrolle ihre Freiheitsrechte nicht mehr ungehindert ausüben. Der Schutz von Menschenrechten darf jedoch nicht unter Vorbehalt stehen. Insbesondere im aktuellen politischen Klima müssen die demokratischen Kräfte gemeinsam die Möglichkeit des institutionellen Machtmissbrauchs minimieren. Deshalb gilt es nun, die im AI Act explizit vorgesehene Möglichkeit der nationalen Verschärfung europäischer Regeln sowohl für Echtzeit- als auch für nachträgliche biometrische Fernidentifizierung zu nutzen.

Wir fordern Sie als Abgeordnete des Deutschen Bundestages daher auf, jede Form der biometrischen Fernidentifizierung in Deutschland zu verbieten!

Im Koalitionsvertrag verpflichten sich die Regierungsparteien gleich an zwei Stellen, biometrische Überwachung in Deutschland zu verhindern. So heißt es, dass „[b]iometrische Erkennung im öffentlichen Raum“ europarechtlich auszuschließen sei, auch der „Einsatz von biometrischer Erfassung zu Überwachungszwecken“ wird explizit abgelehnt. Nachdem das europarechtliche Verbot biometrischer Überwachung nun nicht vollständig umzusetzen war, muss ein nationales Verbot das Mittel der Wahl sein.

Die Durchführung biometrischer Echtzeit-Fernidentifikation im öffentlichen Raum öffnet die Tür in dystopische Verhältnisse, in denen jeder Mensch bei jeder Bewegung im öffentlichen Raum permanent identifizierbar und überwachbar wird. Ähnliches gilt auch für nachträgliche biometrische Fernidentifikation, die ebenfalls die Bildung umfassender Personenprofile ermöglicht. Anonymität im öffentlichen Raum ist eine der Grundvoraussetzungen für freie Meinungsäußerung und demokratischen Protest. Insbesondere Angehörige marginalisierter Gruppen werden von der Ausübung ihrer Meinungs- und Demonstrationsfreiheit abgehalten, wenn sie Repressalien befürchten müssen. Auch der Ampel-Koalitionsvertrag betont: „Das Recht auf Anonymität sowohl im öffentlichen Raum als auch im Internet ist zu gewährleisten.“

Wir fordern Sie deshalb auf, sich für den Schutz der Menschen in Deutschland und das Recht auf ein Leben frei von Massenüberwachung und Kontrolle einzusetzen.

Links und weiterführende Informationen

• Offener Brief: Menschenrechte schützen – Biometrische Fernidentifizierung verbieten
• Europaweite Initiative gegen biometrische Massenüberwachung
• CCC erbeutet Biometrie-Datenbank des US-Militärs