KI-Verordnung
Die Verordnung über künstliche Intelligenz ist der erste umfassende Rechtsrahmen der Union für KI-Systeme. Sie folgt einem risikobasierten Ansatz.
Verboten sind Praktiken mit unannehmbarem Risiko, etwa manipulative Techniken zur erheblichen Verhaltensbeeinflussung, Social Scoring durch Behörden, das ungezielte Auslesen von Gesichtsbildern zum Aufbau von Datenbanken und, mit engen Ausnahmen, biometrische Fernidentifizierung in Echtzeit im öffentlichen Raum zu Strafverfolgungszwecken.
Hochrisiko-Systeme, etwa in kritischer Infrastruktur, Bildung, Beschäftigung, Kreditvergabe und Justiz, unterliegen umfangreichen Anforderungen an Risikomanagement, Datenqualität, technische Dokumentation, Protokollierung, Transparenz, menschliche Aufsicht und Konformitätsbewertung. Für generative Modelle bestehen eigene Transparenzpflichten, darunter die Kennzeichnung künstlich erzeugter Inhalte.
Die Bestimmungen gelten gestaffelt seit 2024 in mehreren Stufen, Aufsicht und Sanktionen sind national auszugestalten. Für Kanzleien und Rechtsabteilungen wirft die Verordnung Fragen beim Einsatz eigener Werkzeuge und bei der Beratung von Anbietern auf.