Am 12. Juli 2024 ist der „Artificial Intelligence Act“ (kurz „AI Act“, in der deutschen Fassung auch als „Verordnung über Künstliche Intelligenz“ bezeichnet) im Amtsblatt der Europäischen Union veröffentlicht worden.

Was ist der AI Act?

Der AI Act ist eine EU-Verordnung, die weltweit den ersten Versuch unternimmt, Regelungen für den Einsatz von Künstlicher Intelligenz zu treffen. Als EU-Verordnung gilt er unmittelbar in allen Mitgliedstaaten der Europäischen Union, ohne dass diese den AI Act in nationales Recht umsetzen müssen. Die Verordnung trägt die Nummer 2024/1689.

Was regelt der AI Act?

Die Regelungen sind sehr komplex und sind das Ergebnis eines Kompromisses. Die Diskussionen im Gesetzgebungsverfahren waren hauptsächlich davon geprägt, einen Ausgleich zwischen Regelungen zu finden, die den KI-Einsatz sicherer machen und den Einsatz von KI unseren Werten entsprechend zu gestalten, zugleich aber durch die Regulierung die technische Entwicklung nicht nur nicht zu bremsen, sondern sogar zu fördern.

Ziel ist

„die Verwendung von Systemen künstlicher Intelligenz (KI-Systeme) in der Union im Einklang mit den Werten der Union (…), um die Einführung von menschenzentrierter und vertrauenswürdiger künstlicher Intelligenz (KI) zu fördern und gleichzeitig ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und der in der Charta der Grundrechte der Europäischen Union („Charta“) verankerten Grundrechte, einschließlich Demokratie, Rechtsstaatlichkeit und Umweltschutz, sicherzustellen, den Schutz vor schädlichen Auswirkungen von KI-Systemen in der Union zu gewährleisten und gleichzeitig die Innovation zu unterstützen.“

(Erwägungsgrund 1 AI Act)

Aus diesem Grund enthält der AI Act neben Regelungen, welche den KI-Einsatz sicherer machen sollen, auch ein eigenes Kapitel zur Innovationsförderung (Kapitel VI). Hier ist die Schaffung mindestens eines KI-Reallabors pro Mitgliedstaat vorgesehen, das bis zum 2. August 2026 einsatzbereit sein muss. Die KI-Reallabore sollen eine kontrollierte Umgebung bieten, um Innovation zu fördern und die Entwicklung, das Training, das Testen und die Validierung innovativer KI-Systeme zu erleichtern.

Adressat des AI Acts sind Anbieter und Betreiber von KI-Systemen, Einführer und Händler, Produkthersteller, aber auch alle vom KI-Einsatz betroffene Personen.

Der AI Act sieht einen sogenannten risikobasierten Ansatz vor, den man mit folgender Grafik darstellen kann.

Ein verbotenes KI-System liegt insbesondere vor, wenn das KI-System folgende Merkmale aufweist:

• Manipulative oder täuschende Techniken
• Ausnutzen der Vulnerabilität oder Schutzbedürftigkeit von Personen
• Bewertung von Personen
• Bestimmte Arten von Gesichtserkennung
• Ableitung von Emotionen
• Biometrische Kategorisierung und Identifizierung von Personen

Die Einstufung eines Hochrisiko-KI-Systems erfolgt insbesondere dann, wenn es als Sicherheitsbauteil in bestimmten Produkten verwendet werden soll, das KI-System selbst ein solches Produkt ist oder wenn das KI-System unter die Anforderung eines vorgegebenen Katalogs im Anhang III fällt. Diese KI-Systeme müssen insbesondere ein Risikomanagementsystem durchlaufen und unterhalten.

Insgesamt gelten für KI-Systeme Transparenzpflichten, die sich nach der Art der KI unterscheiden.

Darüber hinaus müssen Anbieter und Betreiber von KI-Systemen eine menschliche KI-Kompetenz im Unternehmen sicherstellen und gewährleisten, dass Personal über ein ausreichendes Maß an KI-Kompetenz verfügt (Art. 4 AI Act). Dieser

KI-Beauftragter soll gewährleisten, dass letztlich immer ein Mensch versteht, was die KI macht und damit die Kontrolle über den Einsatz behält.

Die innFactory AI Consulting GmbH bietet ab Oktober solche Schulungen an.

Zeitplan

Nach der Veröffentlichung des AI Acts im Amtsblatt der Europäischen Union am 12. Juli 2024 gilt folgender Zeitplan:

• 1. August 2024: Inkrafttreten des AI Acts
• 2. Februar 2025: Geltung von Kapitel I und Kapitel II, also insbesondere
  • Verbotene KI-Systeme
  • KI-Beauftragter
• 2. August 2025:
  • Einrichtung des Notifizierungsverfahrens für Hochrisiko-KI (Kapitel III Abschnitt 4
  • Anwendbarkeit der Vorschriften für KI-Modelle mit allgemeinem Verwendungszweck (Kapitel V)
  • Anwendung der Vorschriften zur Einrichtung einer Governance auf EU-Ebene in Form verschiedener Gremien und auf Ebene der Mitgliedsstaaten in Form einer Aufsichtsbehörde (Kapitel VII)
  • Anwendbarkeit der Bußgeldvorschriften (Kapitel XII) mit Ausnahme der Geldbußen für Anbieter von KI-Systemen mit allgemeinem Verwendungszweck (Art. 101)
  • Vertraulichkeit der nach dem AI Act vorgesehenen Behörden und Stellen (Art. 78)

Der Rest des AI Acts gilt dann ab dem 2. August 2026 mit Ausnahme der Vorschriften für die Einstufung als Hochrisiko-KI (Art. 6 Abs. 1), diese gelten ab 2. August 2027.