Mit der zunehmenden Verbreitung von Künstlicher Intelligenz (KI) in Unternehmen stellt sich die Frage, ob und wann ein KI-Beauftragter notwendig ist. Der „Artificial Intelligence Act“ (AI Act) der Europäischen Union gibt hier klare Richtlinien vor, die Unternehmen bei der Implementierung und Nutzung von KI-Systemen beachten müssen.

Was regelt der AI Act / die KI-Verordnung der EU?

Der AI Act ist eine EU-Verordnung, die weltweit den ersten Versuch unternimmt, Regelungen für den Einsatz von Künstlicher Intelligenz zu treffen. Diese Verordnung gilt unmittelbar in allen Mitgliedstaaten der Europäischen Union und zielt darauf ab, die Verwendung von KI-Systemen im Einklang mit den Werten der Union zu fördern und gleichzeitig ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und Grundrechte sicherzustellen.

Die Rolle des KI-Beauftragten

Ein zentraler Aspekt des AI Acts ist die Sicherstellung eines ausreichenden Maßes an KI-Kompetenz innerhalb von Unternehmen. Art. 4 des AI Acts verlangt, dass Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, um sicherzustellen, dass ihre Mitarbeitenden über die notwendigen Kenntnisse und Fähigkeiten verfügen, um KI-Systeme sicher und effektiv zu nutzen. Dies schließt technische Schulungen und die Vermittlung rechtlicher Kenntnisse ein.

In Artikel 4, der am 02.02.2025 in Kraft tritt, des EU AI Acts heißt es zu den KI-Kenntnissen:

Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach bestem Wissen und Gewissen sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ausreichende KI-Kenntnisse verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Aus- und Weiterbildung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, berücksichtigt werden.

Warum ist ein KI-Beauftragter wichtig?

Ein KI-Beauftragter kann eine entscheidende Rolle dabei spielen, die Einhaltung der Vorschriften des AI Acts sicherzustellen. Diese Position ist (mit Ausnahme für Hochrisiko-KI-Systeme, Art. 14 Abs. 4 AI Act) nicht explizit durch den AI Act vorgeschrieben, dieser verlangt aber die oben beschriebene in Art. 4 AI Act geregelte KI-Kompetenz, die eben durch den KI-Beauftragten sichergestellt werden kann. Je intensiver und umfangreicher ein Unternehmen KI implementiert und nutzt, desto sinnvoller wird die Schaffung einer solchen eigenen Position. Dies soll die menschliche Aufsicht über die KI sicherstellen. Der KI-Beauftragte übernimmt dabei folgende Aufgaben:

• Sicherstellung der KI-Kompetenz: Der KI-Beauftragte sorgt dafür, dass alle relevanten Mitarbeitenden über die notwendigen technischen und rechtlichen Kenntnisse verfügen.
• Koordination und Beratung: Er koordiniert KI-Vorhaben innerhalb des Unternehmens und berät die Geschäftsführung sowie andere Abteilungen in Bezug auf den Einsatz von KI.
• Überwachung und Weiterentwicklung: Der KI-Beauftragte überwacht die Implementierung und Nutzung von KI-Systemen und sorgt für deren kontinuierliche Weiterentwicklung im Einklang mit den gesetzlichen Vorgaben.

Anforderungen an einen KI-Beauftragten

Ein KI-Beauftragter sollte über ein breites Spektrum an Fähigkeiten und Fachwissen verfügen. Dazu gehören:

• Technische Kenntnisse: Verständnis der technischen Elemente der eingesetzten KI-Systeme und deren korrekte Anwendung entlang der Wertschöpfungskette.
• Rechtliche Kenntnisse: Kenntnis der rechtlichen Vorgaben zur Einhaltung und Durchsetzung des AI Acts.
• Interdisziplinäre Fähigkeiten: Fähigkeit, zwischen verschiedenen Stakeholdern zu vermitteln und ein umfassendes Verständnis der KI-Anwendungen im Unternehmen zu entwickeln.

KI-Beauftragter – Schlussfolgerung und Empfehlung

Für Unternehmen, die intensiv mit KI arbeiten, ist es sehr sinnvoll, eine solche Position zu schaffen. Selbst wenn Sie nur „ChatGPT“ im Einsatz haben, müssen Sie die rechtlichen Rahmenbedingungen des AI-Acts einhalten und ihre Mitarbeiter entsprechend schulen. Ein KI-Beauftragter stellt sicher, dass die notwendigen Kompetenzen im Unternehmen vorhanden sind und die gesetzlichen Vorgaben eingehalten werden. Angesichts der hohen Bußgelder bei Nichteinhaltung der Vorschriften ist es ratsam, sich intensiv mit dem Thema KI zu beschäftigen und entsprechende Maßnahmen zu ergreifen. Wenn Sie Anbieter oder Betreiber von Hochrisiko-KI-Systemen sind, brauchen Sie die explizit beauftragte natürliche Person für die menschliche Aufsicht (KI-Beauftragten) ohnehin zwingend.

Unterstützung durch die innFactory AI Consulting GmbH

Die innFactory AI Consulting GmbH bietet umfassende Unterstützung bei der Identifikation der notwendigen Kompetenzen, der Organisation von Schulungen und der Entwicklung einer Strategie zur Einführung eines KI-Beauftragten. Wir helfen Ihnen auch bei der Implementierung einer effektiven KI-Governance. Unsere Schulungen sind praxisorientiert und werden von erfahrenen Fachleuten geleitet. Wir bieten diese Schulungen öffentlich oder gesondert für ganze Unternehmen an. Für explizite Unternehmenstermine sprechen Sie uns bitte direkt an. Wir bescheinigen Ihnen die Teilnahme mit einem innFactory AI Zertifikat und garantieren, dass wir Ihnen etwaige Änderungen oder Vorgaben als Update innerhalb von 12 Monaten kostenlos zur Verfügung stellen.

Die Referenten:

• Tobias Jonas: Technischer KI- und Cloudexperte, sowie LinkedIn Top AI Voice 2024.
• Andreas Nörr: Fachanwalt für IT-Recht und die rechtliche Rahmenbedingungen.
• Fabian Artmann: Spezialist für interdisziplinäre Fähigkeiten.

Wir arbeiten mit anschaulichen Beispielen und praxisnahen Übungen, um die Theorie in die Praxis umzusetzen. Darüber hinaus beraten wir Unternehmen individuell, vernetzen KI-Manager miteinander und bauen ein Ökosystem für diese Schlüsselpersonen auf. Sprechen Sie uns an, um mehr über unsere Dienstleistungen zu erfahren und wie wir Ihnen helfen können, die Herausforderungen der KI-Implementierung zu meistern.