13.06.2023

Chancen nutzen, Grundrechte schützen

EU-Parlament fordert Risiko-Einstufung künstlicher Intelligenz

Birgit Sippel
Birgit Sippel
René Repasi
René Repasi

Künstliche Intelligenz dringt mit zunehmender Geschwindigkeit in immer mehr Lebensbereiche vor. Um sicherzustellen, dass die Entwicklung und der Einsatz von KI Grundrechte respektiert sowie Verbraucherinnen und Verbraucher geschützt werden, hat das EU-Parlament am Mittwoch in Straßburg für ein KI-Gesetz gestimmt.  Mit der Annahme der Parlamentsposition können nun die interinstitutionellen Verhandlungen beginnen.

Laut dem Verordnungsentwurf soll der Gesetzgeber KI-Systeme künftig in Risiko-Kategorien unterteilen. Die Nutzung soll bei einem untragbaren Risiko verboten oder durch Transparenzpflichten begrenzt werden, um die Grundrechte der Verbraucher*innen zu schützen.

Birgit Sippel, innenpolitische Sprecherin der S&D-Fraktion:
„Bis jetzt gibt es kein umfassendes Regelwerk für den Umgang mit künstlicher Intelligenz. Ich begrüße sehr, dass wir in der EU mit dem KI-Gesetz nun einen menschenzentrierten Ansatz für die Regulierung von KI verfolgen.

Weil KI eben nicht nur unseren Alltag erleichtern, sondern auch zu Diskriminierung und der Verletzung von Grundrechten führen kann, haben wir als sozialdemokratische Fraktion für einen grundrechtsorientierten Ansatz gekämpft. So soll der Gesetzgeber bei KI-Systemen mit hohem Risiko potenzielle negative Auswirkungen auf individuelle Rechte, Datenschutz, Diskriminierung und andere Grundrechtsaspekte vorausschauend erkennen können und gegebenenfalls geeignete Schutzmaßnahmen einführen.

Unsere wohl wichtigste Errungenschaft liegt in dem umfassenden Verbot der biometrischen Gesichtserkennung in Echtzeit in öffentlichen Räumen. Damit verhindern wir, dass wir durch Kameras in öffentlichen Räumen jederzeit erkannt und dadurch de facto pausenlos überwacht werden. Die nachträgliche biometrische Gesichtserkennung darf nur nach gerichtlicher Genehmigung und im Falle schwerwiegender begangener Straftaten verwendet werden. Auch hier setzen wir also einen hohen rechtsstaatlichen Standard, der Grundrechte in dieser Verordnung in den Mittelpunkt stellt.“

René Repasi, binnenmarkt- und verbraucherschutzpolitischer Sprecher der Europa-SPD:
"Die Verwendung KI-basierter Anwendungen hält Einzug in den Alltag der Europäerinnen und Europäer. Der rasante Aufstieg generativer KIs, worunter auch etwa ChatGPT fällt, verursachen dabei jedoch auch Angst vor der unkontrollierten Verbreitung von Desinformation, sowie falscher Inhalte. Durch die Ausweitung des Geltungsbereiches des KI-Gesetzes werden nun auch solche generativen KI-Systeme umfasst und somit ihre Risiken beschränkt.

KI-Anwendungen dürfen unter keinen Umständen gegen Bürger*innen verwendet werden. Auch auf die Auswirkungen auf die Umwelt durch den enormen Energieverbrauch muss der Gesetzgeber besonderes Augenmerk legen. Es ist unabdingbar, dass Unternehmen Gewerkschaften vor Anwendung hochriskanter KI-Systeme am Arbeitsplatz miteinbeziehen, um Sicherheit und Wohlbefinden von Arbeitnehmer*innen sicherzustellen. Durch die verpflichtende Protokollierung und die verbindliche Entwicklung eines Konzeptes, um den ökologischen Fußabdrucks zu verringern, sollen Menschen geschützt werden.

Der Gesetzgeber kann die europäische Wettbewerbsfähigkeit maßgeblich verbessern, indem er einen umfassenden Beschäftigten- und Verbraucher*innen-Schutz anwendet, hochriskante Anwendungen breit definiert und passgenaue Anwendungsverbote einführt.“