Als Reaktion auf Berichte, dass Frankreich, Deutschland und Italien die Verabschiedung des wegweisenden KI-Gesetzes gefährden, weil sie die Regulierung von Stiftungsmodellen ablehnen, erklärte die Generalsekretärin von Amnesty International, Agnès Callamard:

„Die EU hat die Möglichkeit, durch die Verabschiedung dieser starken und historischen Verordnung, die auf den Schutz der Grundrechte und die Minderung der vielfältigen Risiken im Zusammenhang mit KI-Technologien abzielt, eine internationale Führungsrolle zu demonstrieren.“ Die EU darf angesichts dieser jüngsten Hürde nicht ins Wanken geraten, und EU-Mitgliedstaaten wie Frankreich, Deutschland und Italien dürfen das KI-Gesetz nicht dadurch untergraben, dass sie KI-Ansprüchen nachgeben Dies würde zu einer strengen Regulierung führen, die Innovationen ersticken würde.

„Vergessen wir nicht, dass ‚Innovation versus Regulierung‘ eine falsche Dichotomie ist, die seit Jahren von Technologieunternehmen betrieben wird, um einer sinnvollen Rechenschaftspflicht und einer belastenden Regulierung zu entgehen. Dies verdeutlicht einmal mehr die Machtkonzentration einer Handvoll Technologieunternehmen, die die Bedingungen des weltweit ersten umfassenden KI-Regelwerks definieren wollen.

„Es ist gut dokumentiert, wie KI-Technologien Menschenrechtsverletzungen und Diskriminierung verstärken, wenn sie für Massenüberwachung, Polizeiarbeit, Sozialhilfeverteilung und an den Grenzen eingesetzt werden. Randgruppen, darunter Migranten, Flüchtlinge und Asylsuchende, sind am stärksten betroffen und ins Visier genommen.

Vergessen wir nicht, dass „Innovation versus Regulierung“ eine falsche Dichotomie ist, die seit Jahren von Technologieunternehmen propagiert wird, um eine sinnvolle Rechenschaftspflicht und eine belastende Regulierung zu vermeiden. Dies verdeutlicht einmal mehr die Machtkonzentration einer Handvoll Technologieunternehmen, die die Bedingungen des weltweit ersten umfassenden KI-Regelwerks definieren wollen.

Agnès Callamard, Generalsekretärin

„Während wir sprechen, werden unregulierte KI-Systeme von Staaten eingesetzt, um Sozialhilfeanträge zu bewerten, öffentliche Räume zu überwachen oder die Wahrscheinlichkeit zu bestimmen, dass eine Person eine Straftat begeht. Die EU-Mitgliedstaaten dürfen diese Gelegenheit nicht verpassen, um strenge Gesetze zum Schutz der Menschenrechte durchzusetzen, unter anderem indem sie den Einsatz und Export von Massenüberwachung und diskriminierenden Technologien wie Gesichtserkennung beenden und sicherstellen, dass KI von Strafverfolgungs-, Migrations- und nationalen Sicherheitsbehörden eingesetzt wird unterliegen strengen Maßnahmen zur öffentlichen Transparenz und Rechenschaftspflicht.

„Es ist unbedingt erforderlich, dass Frankreich, Deutschland und Italien aufhören, den Verhandlungsprozess zu verzögern, und dass die europäischen Gesetzgeber sicherstellen, dass wichtige Menschenrechtsschutzmaßnahmen vor dem Ende des Mandats der EU im Jahr 2024 gesetzlich verankert werden.“

Hintergrund:

Amnesty International ist Teil einer Koalition zivilgesellschaftlicher Organisationen unter der Führung des European Digital Rights Network (EDRi). angerufen für eine europäische Regulierung der künstlichen Intelligenz, die die Menschenrechte schützt und fördert, einschließlich Rechte von Menschen auf der Flucht.