Migration Archive - Erik Marquardt

Das erste KI-Gesetz der Welt: Warum es insbesondere Menschen auf der Flucht schützen muss

Erik Marquardt am 13. März 2024

Einigung für das erste Gesetz zur Regulierung künstlicher Intelligenz

Im Rahmen ihrer Digitalstrategie hat die Europäische Kommission einen Rechtsakt zur Regulierung der künstlichen Intelligenz (englisch: AI Act) vorgeschlagen, um bessere Bedingungen für die Entwicklung und Nutzung von künstlicher Intelligenz (KI) in Europa zu gewährleisten und Gefahren vorzubeugen. Das Ziel der Gesetzgeber war es, die Vorteile und Chancen von KI mit dem Schutz der Grundrechte und der Gefahrenabwehr in Einklang zu bringen.

Nach langen und komplizierten Verhandlungen haben wir als Parlament im Dezember 2023 eine Einigung mit dem Rat der EU (also den Mitgliedstaaten) erzielt. Damit wird die erste Verordnung zur Regulierung von KI überhaupt geschaffen, was ein großer Erfolg ist. Auch wenn viele Anwendungsbereiche der künstlichen Intelligenz noch erforscht werden, ist bereits jetzt klar, dass es in Zukunft weitere Regulierungen braucht. Auch wir Grüne hätten uns weitergehende Regelungen gewünscht, insbesondere mit Fokus auf den Schutz von Grundrechten und vulnerablen Gruppen. Denn beispielsweise besteht weiterhin die Gefahr, dass Vorurteile und Diskriminierung durch KI verstärkt werden. Welche Risiken das digitale Zeitalter und künstliche Intelligenz für die Rechte von Asylsuchenden bedeuten, zeigt Amnesty International auch in einem ausführlichen Bericht auf.

Die Gefahren von Künstlicher Intelligenz am Beispiel der Migrationssteuerungssteuerung

Beim Grenzschutz ist es leider nicht gelungen, die Regulierung von Echtzeitüberwachung und anderen Maßnahmen ebenso einzuschränken, wie in anderen Bereichen. Außerdem besteht beim Einsatz künstlicher Intelligenz die große Gefahr, dass die Rechte marginalisierter Personengruppen, zum Beispiel von Asylsuchenden oder Migrant:innen, verletzt werden. Dies kann beispielsweise durch Profiling, automatisierte “Risikobewertungen” und allgegenwärtige Überwachungspraktiken passieren. EU-Regierungen setzen zunehmend KI-gestützte Überwachungssysteme an den Grenzen ein. Diese Systeme nutzen Algorithmen, um Daten von Kameras, Drohnen und Sensoren zu analysieren und Grenzschutzbeamte bei ihren Entscheidungen in Echtzeit zu unterstützen. Auch in Asylverfahren soll KI eingesetzt werden, etwa bei der Bearbeitung von Asylanträgen. Dabei kann es zu relevanten Fehleinschätzungen und komplizierten, bürokratischen Verfahren kommen. Der AI-Act wird nur begrenzt dazu beitragen, solche Gefahren zu verhindern.

Bestimmte KI-Anwendungen werfen erhebliche ethische und rechtliche Bedenken auf, wie zum Beispiel Lügendetektoren und biometrische Erkennungssysteme. Der AI-Act setzt hier an und reguliert solche Überwachungsmöglichkeiten. Allerdings konnten wir Grünen uns nicht an allen Stellen durchsetzen, sodass beispielsweise weiterhin Missbrauch der Technologie bei der Grenzüberwachung droht. Es gibt derzeit einen deutlichen Mangel an verlässlichen Daten über die Fehleranfälligkeit solcher Technologien, insbesondere bei der Gesichtserkennung. Solche Systeme bergen das Risiko, grundlegende Menschenrechte zu verletzen, wie das Recht auf Privatsphäre und das Nichtzurückweisungsgebot, das verbietet, Menschen in Gebiete zurückzuweisen, in denen ihnen eine unmittelbare Gefahr droht.

Worauf bei der Weiterentwicklung entsprechender Gesetzgebung geachtet werden muss

Für die Weiterentwicklung ist es wichtig, auf wesentliche Schwachstellen des AI Act hinzuweisen, auch wenn es grundsätzlich ein großer Erfolg ist, dass es einen europaweiten Einstieg in die Regulierung von KI gibt. Der im AI Act gefundene Kompromiss besteht darin, bestimmte Formen künstlicher Intelligenz zu verbieten, die als gefährlich eingestuft werden, während andere KI-Funktionen als hochriskant eingestuft werden, die eine strenge Überwachung und die Einhaltung strikter Regulierungsstandards erfordern.

Trotz erheblicher Zugeständnisse, die wir als Grüne machen mussten, wie das fehlende Verbot biometrischer Überwachung, erhebliche Mängel beim Klassifizierungssystem für Hochrisiko-KI und breite Ausnahmen für den Einsatz von KI in der Strafverfolgung, sind wir als Fraktion mit dem Verhandlungsergebnis zufrieden. Die Zukunft wird zeigen, wie robust und zukunftssicher diese Verordnung angesichts der rasanten technologischen Entwicklung um KI sein wird. Vermutlich wird es zeitnah Anpassungen geben müssen.

Zu den wichtigsten Erfolgen für unsere Fraktion gehören:

Der Anwendungsbereich der KI-Verordnung, der nun auch allgemeine KI umfasst.
Definitionen von KI-Systemen, die mit internationalen Standards und den OECD-Prinzipien übereinstimmen.
Verbot von Echtzeit-Fernbiometrie-Identifikation etc. in öffentlich zugänglichen Räumen.
Kategorisierung von Hochrisiko-KI-Systemen und damit verbundene Verpflichtungen bzw. Einschränkungen.
Eine grundlegende Grundrechtsfolgenabschätzung vor der Einführung eines Hochrisiko-Systems.
Verpflichtungen für allgemeine KI-Modelle, einschließlich technischer Dokumentation und Transparenz.
Umweltverpflichtungen, die einen neuen Schwerpunkt im Gesetz darstellen
Ein neues „KI-Büro“ der Kommission, das die Bestimmungen für allgemeine KI-Modelle überwacht und durchsetzt.
Transparenzregeln für Deepfakes und regulatorische Sandkästen, um Start-ups und KMU bei der Entwicklung von KI zu unterstützen, die vollständig mit der Verordnung konform ist.

EU-Staaten kaschieren Entrechtung von Schutzsuchenden mit Mini-Aufnahmeprogramm

Erik Marquardt am 10. Juni 2022

Pressemitteilung von Erik Marquardt vom 10.06.2022

Heute treffen sich die Innenminister:innen der EU-Staaten in Luxemburg, um über die Reaktion auf den russischen Angriffskrieg auf die Ukraine, Frontex, die Schengen-Reform und Asyl und Migration zu sprechen. Dabei droht eine massive Beschneidung des Asylrechts. Im Windschatten der Ukraine-Krise sollen die Rechte von Schutzsuchenden an den Außengrenzen weiter ausgehöhlt werden. Die fortdauernden massiven Menschenrechtsverbrechen an den EU-Außengrenzen werden erneut nicht deutlich angesprochen. Der im Gegenzug angedachte Solidaritätsmechanismus wird dabei nicht in der Lage sein, der weitgehenden Entrechtung von Schutzsuchenden etwas entgegenzusetzen.

Erik Marquardt, asylpolitischer Sprecher der Grünen-Fraktion im Europäischen Parlament, kommentiert:

“Die kleinen Erfolge bei den Änderungen im Schengener Grenzkodex hinsichtlich der Binnengrenzkontrollen werden im Rat zu Lasten einer deutlichen Asylrechtsverschärfung erkauft. Die konservativen Hardliner unter den EU-Regierungen setzen sich durch, indem die Praxis von systematischen Menschenrechtsverletzungen durch Gesetzesänderungen normalisieren wollen.

Inzwischen werden auch syrische Geflüchtete oder türkische Oppositionelle an den Außengrenzen entrechtet und allzu oft misshandelt. Durch die angedachten Änderungen im Schengener Grenzkodex wird Mitgliedsstaaten wie Polen, Griechenland oder Kroatien nun eine weitere Rechtfertigung für diese Verbrechen gegeben. Eine “Instrumentalisierung von Migration” soll rechtfertigen, dass Menschen wie an der belarussischen Grenze keinen Zugang mehr zu Asylverfahren haben. Man kann nur hoffen, dass das Europäische Parlament der zunehmenden Rechtlosigkeit an den Außengrenzen einen Riegel vorschiebt.

Koalitionsvertag muss auch auf europäischer Ebene vertreten werden

Vom Kanzleramt und dem Bundesinnenministerium erwarte ich, dass die Inhalte des Koalitionsvertrags auf europäischer Ebene vertreten werden. Im Moment entsteht der Eindruck, dass eine Verstetigung des Leids an den Außengrenzen hingenommen wird, statt Menschenrechtsverletzungen offen zu kritisieren. Eine Koalition der Willigen darf nicht durch eine Entwürdigung von Schutzsuchenden an den Außengrenzen erkauft werden.

Auch wenn man offenbar erreicht hat, dass einige EU-Staaten einem Relocation-Verfahren zustimmen und eine geringe Anzahl von Asylberechtigten umverteilt wird, kann das die vom Rat beabsichtigten Asylrechtsverschärfungen nicht aufwiegen. Durch ein Mini-Aufnahmeprogramm wird die massive Entrechtung von Schutzsuchenden kaschiert. Das gescheiterte Dublin-System wird durch die heutigen Beschlüsse verstetigt – eine ernsthafte Reform wird immer unwahrscheinlicher. Wenn immer weniger Menschen Zugang zu einem rechtsstaatlichen Asylverfahren bekommen, hilft auch keine Umverteilung einer kleinen Minderheit der Schutzberechtigten, um das auszugleichen.

Umverteilung bleibt hinter Malta-Mechanismus zurück

Allein im letzten Jahr sind über 30.000 anerkannte Schutzsuchende aus Griechenland nach Deutschland gekommen und mussten erneut Asyl beantragen, weil sie aus Griechenland vertrieben wurden. Deutschland will nun 3.500 Personen geordnet aufnehmen. Das bleibt hinter der Regelung zurück, die unter der Großen Koalition im sogenannten Malta-Mechanismus vereinbart wurde – und das obwohl im Koalitionsvertrag eine Weiterentwicklung des Mechanismus vereinbart wurde.

Im Gegenzug zum Solidaritätsmechanismus sollen nun auch noch Vorprüfungen an den Außengrenzen eingeführt werden, die den Zugang zu Asylverfahren weiter erschweren. Man kann die Tropfen auf den heißen Stein nur loben, wenn parallel kein Feuer unter dem Stein entfacht wird. Heute könnte ein schwarzer Tag für das Europäische Asylrecht sein, hoffentlich kann das Europaparlament die Normalisierung des Unrechts an den Außengrenzen noch verhindern.”

Studie belegt: Migration nach Europa unabhängig von Seenotrettung

Erik Marquardt am 20. November 2019

Das „Migration Policy Center“ kommt in der Studie „Sea Rescue NGOs: a Pull Factor of Irregular Migration?” zu dem Ergebnis, dass Menschen nicht auf Schlauchboote im Mittelmeer steigen, weil dort Rettungsschiffe unterwegs sind. Damit bestätigt sie die Ergebnisse vorheriger Studien, wie „Death by Rescue“. Und Border Deaths in the Mediterranean.

Die nun vorliegende Studie hat für den Zeitraum von 2014 bis Oktober 2019 untersucht, ob zwischen der Präsenz von Seenotrettungs-NGOs und der Anzahl der Menschen, die sich in Libyen auf den Weg über das Mittelmeer in Richtung Italien begeben, ein Zusammenhang besteht. Das ist nicht der Fall. Die Auswertung fand Monat für Monat über den Zeitraum von fünf Jahren statt. In dieser Zeit hat sich die politische Lage auf dem Mittelmeer mehrmals gravierend verändert. Statt Menschen mit staatlichen Mitteln aus Seenot zu retten, mussten zivile Hilfsorganisationen diese Aufgabe in den letzten Jahren übernehmen. Doch ihnen wird die Arbeit nicht nur erschwert – oft werden sie für ihre humanitäre Arbeit inzwischen kriminalisiert und eingeschüchtert. Das wird oft mit dem Vorwurf verbunden, dass die Seenotrettung die Zahl der Menschen erhöhe, die aus Libyen fliehen. Doch die Studie zeigt erneut, dass dieser Zusammenhang nicht besteht.

Es sind nachvollziehbare Motive, die Menschen auf die gefährliche Überfahrt zwingen. Libyen ist ein politisch zerrütteter Staat, in dem Geflüchtete und Migrant*innen aus Subsahara-Afrika von Folter, Versklavung, sexuellem Missbrauch und existenzieller Armut bedroht sind. Die Menschen steigen nicht in die Schlauchboote, weil dort Schiffe sind, die sie retten. Es sterben aber mehr Menschen, wenn keine Schiffe dort sind, um sie zu retten.

In den meisten Fällen tragen die Menschen keine Schwimmwesten und sind nicht mit Kommunikations- oder Navigationsmitteln ausgestattet. Viele können nicht schwimmen. Die vollkommen überfüllten Boote sind meist nicht in der Lage, eigenständig den nächsten sicheren Ort zu erreichen. Schon dadurch sind Menschen in Seenot.

Für die Behauptung, dass Menschen ihre Flucht von der Anwesenheit von Rettungsbooten abhängig machen, gibt es keine Belege. Trotzdem werden solche Zusammenhänge immer wieder in die Diskussion gebracht. So behauptete zuletzt die FDP in einem Tweet vom 8. Oktober 2019, dass Seehofers Zusage, aus Seenot gerettete Menschen auch in Deutschland aufzunehmen, mehr Menschen auf das Mittelmeer treibe.

Spiegel Online schriebt unter dem Titel: „Mehr Retter, mehr Flüchtlinge – warum das so nicht stimmt“, was die Ergebnisse der bisherigen Studien aussagen, die nun von der neuen Studie bestätigt werden. Der Migrationswissenschaftler Matteo Villa sammelte Daten darüber, wie viele Migrant*innen von Anfang Januar bis Ende Juni 2019 von der libyschen Küste ablegten und an wie vielen dieser Tage Boote von privaten Seenotrettungs-NGOs im Einsatz waren. Sein Ergebnis lautet, dass an den 31 Tagen, an denen NGOs im Mittelmeer unterwegs waren, die Schlepper im Schnitt 32,8 Personen aufs Meer schickten; an den 150 Tagen, an denen keine NGOs präsent waren, schickten die Schlepper im Schnitt 34,6 Personen auf den Weg. Villas Fazit, so Spiegel Online: „Der Pull Faktor existiert nicht.“

Studien:

Sea Rescue NGOs: a Pull Factor of Irregular Migration?

Death by Rescue

Border Deaths in the Mediterranean