Die EU-Verordnung über Künstliche Intelligenz (AI Act), offiziell als Verordnung (EU) 2024/1689 bezeichnet, ist am 01.08.2024 in Kraft getreten und entfaltet ihre ersten rechtlichen Wirkungen ab dem 02.022025. Hierzu hatten wir bereits im Februar letzten Jahres einen ersten Überblicksartikel beigetragen. Diese Verordnung stellt das weltweit erste umfassende Regelwerk für den Einsatz von Künstlicher Intelligenz dar und zielt darauf ab, europaweit einheitliche Standards für die Entwicklung und Nutzung von KI-Systemen zu etablieren. Ein zentrales Element des AI-Acts ist die Verpflichtung für Unternehmen, die KI-Systeme anbieten oder betreiben, sicherzustellen, dass ihr Personal über ausreichende KI-Kompetenz verfügt.
Rechtlicher Hintergrund der Schulungspflicht
Gemäß Artikel 4 AI Act sind Anbieter und Betreiber von KI-Systemen dazu verpflichtet, Maßnahmen zu ergreifen, um sicherzustellen, dass ihr Personal sowie andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen. Dabei sind insbesondere die technischen Kenntnisse, die Erfahrung, die Ausbildung und Schulung des Personals sowie der Kontext, in dem die KI-Systeme eingesetzt werden sollen, zu berücksichtigen. Diese Verpflichtung gilt unabhängig von der Größe des Unternehmens oder der Branche.
Anwendungsbereich und betroffene Unternehmen
Die Schulungspflicht betrifft sowohl Anbieter, die eigene KI-Systeme entwickeln und auf den Markt bringen, als auch Betreiber, die fremdentwickelte KI-Systeme für betriebliche Zwecke nutzen. Entscheidend ist, ob Mitarbeitende in ihrem Arbeitsalltag mit KI in Berührung kommen. Somit sind nahezu alle Unternehmen, die KI-Technologien einsetzen, von dieser Regelung betroffen.
Inhalte der Schulungsverpflichtung
Der AI Act definiert den Begriff der „KI-Kompetenz“ in Art. 3 Abs. 56 (!) AI Act als die Fähigkeiten, Kenntnisse und Verständnis, die es Anbietern, Anwendern und Betroffenen ermöglichen, KI-Systeme unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung in Kenntnis der Sachlage einzusetzen und sich über die Chancen und Risiken von KI und mögliche Schäden, die sie verursachen kann, bewusst zu werden. Dies umfasst sowohl technisches Wissen als auch ein Bewusstsein für ethische und rechtliche Aspekte.
Konsequenzen bei Nichtbeachtung
Unternehmen, die ihrer Schulungspflicht nicht nachkommen, riskieren langfristig rechtliche Konsequenzen. Art.4, bei dem es um die KI-Kompetenz geht, wird in Art. 5 des AI Acts nicht explizit erwähnt, auf Basis des AI Act wird also bis dato noch keine Vorgabe zu etwaigen Strafen gemacht. Die Sanktionen und andere Durchsetzungsmaßnahmen werden laut Artikel 99 aber von den Mitgliedstaaten festgelegt, hier könnte es also noch zu einer nationalen Einführung von Strafen kommen. So oder so tritt Artikel 99 aber erst am 02.08.2025 in Kraft:
Empfehlungen für Unternehmen
Angesichts der Schulungspflicht sollten Unternehmen umgehend folgende Schritte einleiten:
- Bestandsaufnahme: Ermitteln Sie, in welchen Bereichen Ihres Unternehmens KI-Systeme eingesetzt werden und welche Mitarbeitenden damit in Berührung kommen.
- Schulungsbedarf analysieren: Bewerten Sie den aktuellen Kenntnisstand Ihres Personals in Bezug auf KI und identifizieren Sie Schulungslücken.
- Schulungskonzepte entwickeln: Erstellen Sie maßgeschneiderte Schulungsprogramme, die sowohl technische als auch rechtliche und ethische Aspekte von KI abdecken.
- Dokumentation: Führen Sie Nachweise über durchgeführte Schulungen und die erworbenen Kompetenzen Ihrer Mitarbeitenden, um im Falle von Prüfungen oder Audits gerüstet zu sein.
Unsere Unterstützung für Ihr Unternehmen
Als spezialisierte Anwaltskanzlei bieten wir Ihnen umfassende Unterstützung bei der Umsetzung der Anforderungen des AI Acts.
Bei Fragen zu diesem Thema sprechen Sie uns gerne an.
RA Tobias Bagusche & RA Leon Kolz
