KI-Gesetz: Erste Regulierung der Künstlichen Intelligenz
Im Dezember 2023 haben der Ratsvorsitz und die Verhandlungsführer des Europäischen Parlaments eine vorläufige Einigung über die vorgeschlagenen harmonisierten Vorschriften für künstliche Intelligenz – das sogenannte KI-Gesetz – erzielt. Mit dem Verordnungsentwurf soll gewährleistet werden, dass KI-Systeme, die auf dem EU-Markt in Verkehr gebracht und in der Union verwendet werden, sicher sind und die Grundrechte und die Werte der EU wahren. Weiterhin soll der Vorschlag Investitionen und Innovationen im KI-Bereich in Europa anregen.
Als legislative Leitlinie hat das KI-Gesetz das Potenzial, die Entwicklung und Verbreitung sicherer, vertrauenswürdiger KI durch private und öffentliche Akteure im EU-Binnenmarkt voranzubringen. Künstliche Intelligenz soll dabei reguliert werden, da sie potenziell gesellschaftlichen Schaden anrichten könnte. Basis dafür ist der Ansatz: Je höher das Risiko, desto strenger die Vorschriften.
Zusammenfassung der wichtigsten Bestandteile der vorläufigen Einigung
-
Vorschriften für KI-Systeme mit allgemeinem Verwendungszweck und beträchtlichen Auswirkungen, die zukünftig systemische Risiken verursachen können, sowie für Hochrisiko-KI-Systeme
-
ein überarbeitetes Governance-System mit bestimmten Durchsetzungsbefugnissen auf EU-Ebene
-
eine Erweiterung der Liste der Verbote, jedoch mit der Möglichkeit, den Strafverfolgungsbehörden vorbehaltlich bestimmter Schutzvorkehrungen zu erlauben, im öffentlichen Raum biometrische Fernidentifizierung einzusetzen
-
besser geschützte Rechte, indem die Betreiber von Hochrisiko-KI-Systemen verpflichtet werden, vor der Inbetriebnahme eines KI-Systems eine Folgenabschätzung in Bezug auf die Grundrechte durchzuführen.
Die nächsten Schritte
Nach der erzielten vorläufigen Einigung werden die Arbeiten auf fachlicher Ebene fortgesetzt, um die Einzelheiten der neuen Verordnung fertigzustellen. Anschließend wird der Vorsitz den Vertretern der Mitgliedstaaten (AStV) den Kompromisstext zur Billigung vorlegen.
Der vollständige Text muss im Anschluss noch vom Rat und Parlament bestätigt sowie von den Rechts- und Sprachsachverständigen überarbeitet werden. Erst dann kann das Gesetz von den beiden gesetzgebenden Organen förmlich angenommen werden.