Sicherstellen von KI-Kompetenz wird Arbeitgeberpflicht

Obwohl die Verordnung schrittweise in Kraft tritt und einige Bestimmungen erst in den kommenden Jahren wirksam werden, gilt die Verpflichtung zur Sicherstellung der KI-Kompetenz für Arbeitgeber bereits heute. Ziel ist es, einen sachkundigen und sicheren Umgang mit KI-Systemen in Unternehmen zu gewährleisten. Auch wenn die EU-Verordnung selbst nicht neu ist, erfordert jede Phase ihrer Umsetzung Aufmerksamkeit – so auch die nun verbindliche Pflicht zur KI-Kompetenz.

Hintergrund zur europäischen KI-Verordnung

Die europäische KI-Verordnung, auch als „European AI Act“ bekannt, wurde bereits 2021 auf den Weg gebracht und im März 2024 finalisiert. Sie verfolgt gleich mehrere Ziele: Zum einen soll sie klare Regeln für den Einsatz von KI in der EU schaffen und das Vertrauen in diese Technologie stärken. Zum anderen dient sie dem Schutz der Grundrechte, der Haftungssicherung, der Förderung von Innovation sowie der Schaffung von mehr Transparenz.

Das Gesetz ist am 1. August 2024 in Kraft getreten und wird nun schrittweise umgesetzt. Spätestens zum 1. August 2026, also zwei Jahre nach Einführung, sollen dann alle Bestimmungen der EU-Verordnung vollständig anwendbar sein. Einige Regelungen greifen jedoch bereits früher, darunter das Verbot von KI-Systemen mit unannehmbarem Risiko und die Verpflichtung zur Sicherstellung der KI-Kompetenz.

Welche neuen Verpflichtungen zur KI-Kompetenz müssen Unternehmen beachten?

Unternehmen, die KI-Systeme einsetzen oder betreiben, sind ab dem 2. Februar 2025 dazu verpflichtet, nach bestem Wissen und Gewissen sicherzustellen, dass alle Arbeitnehmer des Unternehmens und andere Personen, die im Auftrag des Unternehmens mit Künstlicher Intelligenz arbeiten, über ausreichende KI-Kompetenzen verfügen.

Dabei geht es nicht nur um Entwickler von KI-Systemen, sondern auch um Anwender, die Künstliche Intelligenz im beruflichen Kontext nutzen – beispielsweise in der Personalabteilung, im Marketing oder im Kundenservice.

Tipp: Treffen Sie fundiertere Entscheidungen mit Ihrem persönlichen KI-Assistenten Sage Copilot

Was versteht die KI-Verordnung unter KI-Kompetenz?

Laut Artikel 3 Nr. 56 der KI-Verordnung umfasst KI-Kompetenz „die Fähigkeiten, Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann bewusst zu sein“.

Einfach gesagt bedeutet dies, dass Mitarbeiter in der Lage sein müssen, KI-Technologien fundiert zu nutzen, ihre Potenziale und Gefahren richtig einzuschätzen und auf dieser Basis verantwortungsbewusste Entscheidungen zu treffen – unter Berücksichtigung ethischer, rechtlicher und sozialer Aspekte.

Wer ist von der neuen Regelung betroffen?

Die Schulungspflicht von KI-Kompetenz gilt nicht nur für Anbieter und Betreiber, die Hochrisiko-KI nutzen. Sie betrifft vielmehr alle Anbieter, Hersteller, Vertriebspartner, Betreiber und Nutzer, die KI-Systeme oder Modelle mit allgemeinem Verwendungszweck verwenden, unabhängig von der Unternehmensgröße. Das heißt: Start-ups ebenso wie internationale Konzerne müssen sicherstellen, dass ihre Mitarbeiter entsprechend geschult werden.

Betroffen sind insbesondere:

• Anbieter, die KI-Systeme entwickeln bzw. entwickeln lassen und diese unter eigenem Namen vertreiben
• Betreiber, die fremdentwickelte KI-Systeme in ihrer Organisation einsetzen
• Fachabteilungen, die Künstliche Intelligenz im Berufsalltag nutzen, etwa HR zur Personalverwaltung, Marketing zur Personalisierung des Angebots oder der Kundenservice mit seinen Chatbots.

Ausgenommen sind lediglich private KI-Nutzungen der Mitarbeiter, die außerhalb des beruflichen Umfelds stattfinden.

Konsequenzen bei Nichteinhaltungen und Verstößen

Theoretisch müssten alle betroffenen Mitarbeiter nachweisen können, dass sie über die erforderliche KI-Kompetenz der EU-Verordnung verfügen. Allerdings sind bislang keine unmittelbaren strafrechtlichen oder finanziellen Sanktionen vorgesehen, wenn diese Anforderung nicht erfüllt wird. Langfristig werden mit Sicherheit auch Bußgelder für Verstöße eingeführt.

Da die Überwachung dieser Verpflichtung den nationalen Aufsichtsbehörden obliegt – die erst bis zum 2. August 2025 eingerichtet werden sollen – bleibt die Umsetzung vorerst in der Verantwortung der Unternehmen. Artikel 4 ist eher als Appell an Arbeitgeber formuliert denn als strikt durchsetzbare Verpflichtung. Dennoch könnte eine fehlende Schulung eines Mitarbeiters im Schadensfall haftungsrechtliche Folgen haben. Falls nachgewiesen wird, dass durch mangelndes oder unzureichend angewendetes KI-Wissen Schäden entstanden sind, könnte das Unternehmen gegen seine Sorgfaltspflichten verstoßen haben.

Vorschriften für KI-Systeme mit allgemeinem Verwendungszweck gelten ab dem 2. August 2025, während Hochrisiko-KI-Systeme mehr Zeit (36 Monate) zur Umsetzung haben. Die entsprechenden Bußgeldregelungen greifen zwölf Monate später.

Vorteile

Die verpflichtende Förderung der KI-Kompetenz birgt für Unternehmen mehrere Vorteile:

• Effizientere Nutzung von Künstlicher Intelligenz: Mitarbeiter können KI-Technologien und deren Potenziale besser ausschöpfen und optimieren, was zu Wettbewerbsvorteilen führt. Schließlich bremsen fehlende KI-Kenntnisse massiv den Fortschritt, wie eine Umfrage der F.A.Z. unter 1.000 Unternehmen zeigt.
• Vertrauensbildung: KI wird verständlicher und verliert ihren Schrecken, da Beschäftigte deren Funktionsweise besser nachvollziehen können.
• Frühzeitige Compliance: Wer sich bereits jetzt auf die Anforderungen der KI-Verordnung vorbereitet, kann den Compliance-Anpassungsprozess über einen längeren Zeitraum verteilen und spätere Strafen und hohe Bußgelder vermeiden.
• Erhöhte Innovationskraft: Unternehmen, deren Mitarbeitende sicher mit KI umgehen können, sind besser auf die digitale Transformation vorbereitet.

Was Arbeitgeber und HR-Abteilungen nun tun sollten

Da die KI-Verordnung zum jetzigen Zeitpunkt keine genauen Maßnahmen vorgibt, die es umzusetzen gilt, bleibt unklar, in welchem Umfang Unternehmen KI-Kompetenz fördern müssen. Es liegt in ihrer Verantwortung, entsprechend ihrer verfügbaren Ressourcen und technologischen Möglichkeiten geeignete Schritte zu ergreifen. Außerdem müssen die technischen Kenntnisse, Ausbildung und Erfahrung der Personen sowie der Kontext, in dem KI-Systeme eingesetzt werden, berücksichtigt werden.

Zu den empfohlenen Maßnahmen gehören daher:

• Analyse des Schulungsbedarfs: Welche Abteilungen und Mitarbeiter nutzen KI und in welchem Umfang? Welche Kenntnisse fehlen?
• Schulungen und Weiterbildungsprogramme: Grundkurse sowie fachspezifische Weiterbildungen können KI-Kompetenz vermitteln, die es den betroffenen Personen ermöglicht, fundierte Entscheidungen im Umgang mit KI‑Systemen zu treffen.
• Förderung eines verantwortungsvollen KI-Umgangs: Neben technischen Aspekten sollten auch der rechtliche und ethische Umgang berücksichtigt werden.
• Bewusstsein für Risiken schaffen: Mitarbeiter müssen ein Bewusstsein entwickeln können, welche Risiken und Schäden durch unsachgemäße KI-Nutzung entstehen können.
• Dokumentation: Zwar ist sie seitens der EU-Verordnung zur KI nicht vorgeschrieben, doch könnte eine Schulungsdokumentation als KI-Kompetenznachweis helfen, Haftungsrisiken zu minimieren.
• Weitere Schritte: Unternehmen könnten interne Richtlinien erarbeiten (KI-Governance) und je nach Unternehmensgröße einen KI-Beauftragten ernennen oder KI-Kompetenzteams aufstellen.

💡 Fazit:

KI-Kompetenz ist ein Schlüsselfaktor für die erfolgreiche Nutzung von Künstlicher Intelligenz im Unternehmen. Wer frühzeitig in Weiterbildung und Schulung investiert, profitiert langfristig von einem sicheren und effizienten KI-Einsatz.