The agreement came after the European Union, which participates in the G7, inched closer this month to passing legislation to regulate AI technology, potentially the world‘s first comprehensive AI law that could form a precedent among the advanced economies.
„We want AI systems to be accurate, reliable, safe and non-discriminatory, regardless of their origin,“ European Commission President Ursula von der Leyen said on Friday.
Dear Members of the Assemblée Nationale,
We, the undersigned Members of the European Parliament, are writing to you to express our grave concern about Article 7 of the draft law on the Olympic and Paralympic Games. We warn that if the law is passed in its current form, France would set a surveillance precedent of the kind never before seen in Europe, using the pretext of the Olympic games. Article 7 of the text will provide a legal basis for the use of cameras equipped with algorithms to detect specific suspicious events in the public space.
Das Gesetzesvorhaben würde Polizeibehörden während Sportveranstaltungen ermächtigen, mithilfe von Überwachungskameras und fehleranfälliger künstlicher Intelligenz vermeintlich „anormales“ oder „verdächtiges“ Verhalten automatisiert melden zu lassen. Die Europaabgeordneten warnen vor der lähmenden Wirkung derartiger in Europa bisher ungekannter Massenüberwachung öffentlicher Räume, die einen Präzedenzfall schaffen würde. Zu den Unterzeichnern des offenen Briefs zählen mehrere Verhandlungsführer des geplanten EU-Gesetzes zu künstlicher Intelligenz („Artificial Intelligence Act“), das biometrische Massenüberwachung verbieten soll, darunter Co-Berichterstatter Brando Benifei (sozialdemokratische Fraktion). Zu den deutschen Unterzeichnern gehören Birgit Sippel (SPD), Cornelia Ernst (Linke) und Dr. Patrick Breyer (Piratenpartei).
Der Staatstrojaner-Untersuchungsausschuss im Europaparlament wollte am 24. Januar eine Anhörung zum Thema Geheimdienste und Staatstrojaner veranstalten. Allerdings sagten alle für die Sitzung geladenen EU-Staaten ab. Der Ausschuss-Vorsitzende sagte, er hat „langsam die Nase voll von diesem Vorgehen der Mitgliedstaaten“.
Albrecht hält es für wichtig, eine Begrenzung von biometrischer Identifizierung bereits in der KI-Verordnung auf europäischer Ebene zu verankern. Denn solche Verordnungen gelten unmittelbar, und können durch nationales Recht nur begrenzt eingeschränkt werden.
Haben SPD, Grüne und FDP also in ihrem Koalitionsvertrag etwas angekündigt, woran sich die Bundesregierung nicht hält? Der digitalpolitische Sprecher der FDP, Maximilian Funke-Kaiser weist diesen Vorwurf zurück: „Das Ding ist noch nicht ausverhandelt.“
Es wirkt wie ein kleiner Etappensieg, was gestern passiert ist: Glaubt man dem Tweet von Justizminister Marco Buschmann, konnte Nancy Faeser nach monatelangen Auseinandersetzungen in der Koalition und zahlreichen Ausweichmanövern ihre Stellung nicht länger halten.
Was konkret im Entwurf vorgesehen ist:
Im Bundestag regt sich Widerstand gegen den Kurs von Innenministerin Faeser bei der Chatkontrolle. FDP und Grüne wollen den Bruch des Koalitionsvertrages keinesfalls hinnehmen. Sie streben eine Positionierung des Bundestages an. Wir veröffentlichen den Entwurf im Volltext.
Die Bundesinnenministerin will alle Chatnachrichten ohne Anlass durchsuchen. Das geht aus einem Positionspapier des Ministeriums hervor, das wir veröffentlichen. Im Koalitionsvertrag steht das Gegenteil. Koalitionspartner und sogar die eigene Fraktion kritisieren den Vorschlag heftig.
Im Ministerrat der EU gibt es Vorbehalte gegen den Chatkontrolle-Vorschlag der EU-Kommission – aber Deutschland hält sich mit Kritik zurück. Das geht aus einem Protokoll (PDF) eines EU-Innenministertreffens sowie aus den Drahtberichten der deutschen Ständigen Vertretung in Brüssel hervor. Die eingestuften Drahtberichte der Verhandlungen vom 03.11. und 24.11. veröffentlichen wir im Volltext.
Die Dokumente zeigen deutlich, dass es keinen maßgeblichen Widerstand gegen die Einführung dieser neuen anlasslosen Massenüberwachung bei den Innenminister:innen gibt – auch nicht aus Deutschland, wo sich die Koalitionspartner von Innenministerin Nancy Faeser (SPD) überaus deutlich von dem Vorhaben distanziert haben.
Zum Vorhaben, eine Zentralstelle gegen Kindesmissbrauch im Netz bei Europol in Den Haag einzurichten, meldeten gleich mehrere Mitgliedsstaaten generelle Vorbehalte an, andere wiederum erhoben Einwände gegen eine ganze Reihe von damit verbundenen, zentralen Maßnahmen. Die Einsprüche richten sich gegen praktisch jedes einzelne Vorhaben in diesem Kapitel. Die Delegationen hätten „schwere Bedenken gegen die Vorschriften zur Datensammlung und die damit verbundenen Berichtspflichten“, teilte die tschechische Ratspräsidentschaft mit. Diese von der Kommission im Text verankerten Sorgfaltspflichten seien zu „mühsam für die Exekutive“.
Da es sich bei fast alle Internetkonzernen, die unter die geplanten EU-Regulierungen fallen, um Unternehmen aus den USA handelt, stehen die US-Gesetze natürlich in Wechselwirkung mit dem Unionsrecht. Beim derzeitigen Stand der Verfahren könnten etwa WhatsApp, SnapChat oder Signal ihre Messaging-Dienste in den USA unverändert weiter anbieten. Für den EU-Raum und Großbritannien aber müssten diese und eine Reihe weiterer US-Anbieter ihre gesamte E2E-Sicherheitsarchitekturen um- und Hintertüren einbauen, um der europäischen Durchsuchungspflicht zu entsprechen.
Die umstrittenen Chatkontrolle-Pläne der EU-Kommission sind nun auch im Parlament angekommen. EU-Kommissarin Johansson bemühte sich vor den Abgeordneten, das Vorhaben als harmlos darzustellen. Bürgerrechtler:innen sind alarmiert.
Die EU-Innenkommissarin Ylva Johansson hat heute den umstrittenen Gesetzentwurf zur Chatkontrolle offiziell dem Ausschuss für bürgerliche Freiheiten, Justiz und Inneres des Europa-Parlaments vorgestellt.
In the process of responding to my #FOIA request, the @EU_Commission asked for my snail mail address, asked for more time to consult with colleagues, misgendered me, failed to meet the extended deadline, all to finally admit that they believed whatever numbers #Meta published.
Immer wenn es im Internet brennt und Protest notwendig ist, dann kommt Alexander Lehmann ins Spiel und bringt ein Erklärbar-Video, das die oft schwierigen Zusammenhänge einfach, anschaulich und kompakt erklärt. Auch die von der EU-Kommission geplante Chatkontrolle hat jetzt so ein Video, das heute veröffentlicht wurde.
Seit mindestens sieben Jahren suchen die EU-Mitgliedstaaten nach Wegen, um ihren Strafverfolgungsbehörden Zugang zu verschlüsselten Inhalten zu ermöglichen.
Einige Anwendungen künstlicher Intelligenz wären nach dem AI Act verboten. Dazu gehören zum Beispiel sogenannte Social-Scoring-Systeme. Auch wäre es illegal im öffentlichen Raum für die Strafverfolgung „biometrische Echtzeit-Fernidentifizierungssysteme“ zu verwenden, gemeint ist damit Videoüberwachung, die Personen am Gesicht oder am Gang identifizieren kann.
Hier sind allerdings Ausnahmen vorgesehen, etwa darf solche Software bei Terrorgefahr oder der Suche nach einem vermissten Kind eingesetzt werden. Generell lässt die Formulierung viele Lücken, so wäre der Einsatz von Gesichtserkennungssoftware außerhalb der Strafverfolgung weiterhin möglich. Auch wird nicht ausgeschlossen, Videoaufnahmen aus dem öffentlichen Raum im Nachhinein zu durchsuchen.
Alle nur denkbaren Plattformen für Möglichkeiten zur interpersonellen Kommunikation sollen verpflichtet werden, nicht nur weite Teile ihres Datenverkehrs auf Vorrat zu speichern, sondern auch Daten zu erheben – etwa von persönlichen Chats – die bisher nicht gespeichert wurden. Diese auf Vorrat gespeicherten, zu riesigen Volumina aggregierten Daten sollen dann in einem neu zu errichtenden „EU Centre“ mit Data-Mining und KI-Anwendungen – beides gehört organisch zusammen – auf sogenannte „Kinderpornographie“ durchsucht werden. Tatsächlich wird diese Centre, das obendrein auf dem Gelände von Europol in Den Haag angesiedelt werden soll, ein europäisches Kompetenzzentrum für Überwachung mit Methoden aus dem Komplex Big-Data, Data-Mining und sogenannter „Künstlicher Intelligenz“. Diese Verordnung sollt noch im Herbst im EU-Parlament auftauchen.
(23.09.2022)
According to the document, some EU countries are pushing to add more exemptions for law enforcement.
These include the police being able to use real-time facial recognition (RTFR) to prevent any “substantial threat” to critical infrastructure. The exceptions join the list, which already includes searching for kidnapping victims and suspects of crime.
German liberal Svenja Hahn told Politico that negotiations are still ongoing, but the EU parliament will formally try to secure its position on the matter by the end of the year.
(28.08.2022)
The unfolding of this is being attentively watched by other global players as the law will also have an effect outside the EU.
Currently, the EU Parliament and EU Council are each negotiating the draft written by the EU Commission within their own institutions. After this, the three bodies will go into trilogue negotiations.
Here is a guide for you to understand this new regulation and the political processes around it.