Die Künstliche Intelligenz (KI) ist längst keine Zukunftsmusik mehr, sondern prägt zunehmend unseren Arbeitsalltag. Doch mit den Chancen, die KI bietet, gehen auch neue rechtliche Anforderungen einher.
KI-Kompetenz nach Artikel 4 KI-Gesetz: Sind Ihre Mitarbeiter bereit für die Zukunft der Künstlichen Intelligenz?
Eine zentrale Vorschrift ist hier Artikel 4 des neuen KI-Gesetzes der Europäischen Union. Doch was genau bedeutet das für Sie und Ihr Unternehmen? Als Ihr erfahrener Partner in Sachen Medien- und IT-Recht, die Kanzlei Kramarz, bringen wir Licht ins Dunkel.
Was besagt Artikel 4 des KI-Gesetzes zur KI-Kompetenz?
Stellen Sie sich vor, Sie führen ein neues Software-Tool in Ihrem Unternehmen ein. Natürlich möchten Sie, dass Ihre Mitarbeiter dieses effektiv und sicher nutzen können. Ähnlich verhält es sich mit KI-Systemen. Artikel 4 des KI-Gesetzes nimmt Anbieter und Betreiber von KI-Systemen in die Pflicht, für ein ausreichendes Maß an KI-Kompetenz bei ihren Mitarbeitern und anderen Personen zu sorgen, die in ihrem Auftrag mit KI-Systemen arbeiten oder diese nutzen.
Was bedeutet „KI-Kompetenz“ in diesem Zusammenhang konkret? Laut Definition im KI-Gesetz (Artikel 3 Absatz 56) umfasst KI-Kompetenz die Fähigkeiten, Kenntnisse und das Verständnis, die es Anbietern, Betreibern und betroffenen Personen ermöglichen, KI-Systeme informiert einzusetzen. Es geht darum, sowohl die Chancen als auch die Risiken und möglichen Schäden von KI zu verstehen.
Wer ist von der Schulungspflicht betroffen?
Die Regelung betrifft nicht nur die direkten Mitarbeiter, die KI-Systeme bedienen oder entwickeln. Auch externe Dienstleister, Auftragnehmer oder andere Personen, die im weitesten Sinne im organisatorischen Verantwortungsbereich des Unternehmens mit KI-Systemen agieren, fallen unter diese Bestimmung. Ziel ist es, durch geschultes Personal die Transparenz (Artikel 13 KI-Gesetz) und die menschliche Aufsicht (Artikel 14 KI-Gesetz) über KI-Systeme zu stärken und somit auch die Rechte der von KI-Systemen betroffenen Personen zu schützen.
Welche Inhalte sollten Schulungen zur KI-Kompetenz abdecken?
Das KI-Gesetz schreibt keinen starren Lehrplan vor. Vielmehr soll ein gewisses Maß an Flexibilität gewahrt bleiben, um der Schnelllebigkeit der Technologie und den unterschiedlichen Anforderungen gerecht zu werden. Dennoch gibt es Mindestanforderungen, die Unternehmen berücksichtigen sollten:
- Grundlegendes Verständnis von KI: Was ist KI? Wie funktioniert sie? Welche KI-Systeme werden im eigenen Unternehmen eingesetzt? Welche Chancen und Gefahren birgt die Nutzung?
- Rolle des eigenen Unternehmens: Ist Ihr Unternehmen Entwickler (Anbieter) oder Nutzer (Betreiber) von KI-Systemen?
- Risikobewusstsein: Welche spezifischen Risiken sind mit den eingesetzten KI-Systemen verbunden? Was müssen Mitarbeiter wissen, um diese Risiken zu erkennen und zu minimieren?
- Praxisnahe Maßnahmen: Aufbauend auf den vorherigen Punkten sollten konkrete Schulungsmaßnahmen entwickelt werden, die das technische Wissen, die Erfahrung und den Bildungsgrad der Mitarbeiter berücksichtigen. Auch der Kontext, in dem die KI-Systeme eingesetzt werden (z.B. Branche, Zweck), spielt eine wichtige Rolle.
Wichtig ist hierbei, dass auch rechtliche und ethische Aspekte thematisiert werden. Ein grundlegendes Verständnis des KI-Gesetzes sowie ethischer Prinzipien und Governance-Fragen ist daher unerlässlich.
Risikobasierter Ansatz und praktische Umsetzung
Der Grad der erforderlichen KI-Kompetenz hängt auch vom Risikolevel der eingesetzten KI-Systeme ab. Handelt es sich beispielsweise um Hochrisiko-KI-Systeme (gemäß Anhang III des KI-Gesetzes), sind intensivere Schulungsmaßnahmen notwendig, um sicherzustellen, dass Mitarbeiter die Systeme sicher handhaben und Risiken effektiv vermeiden oder mindern können.
Es genügt dabei oft nicht, den Mitarbeitern lediglich die Bedienungsanleitung eines KI-Systems zur Verfügung zu stellen. Vielmehr sind gezielte Trainings und Anleitungen gefragt, die auf die jeweilige Zielgruppe und den Einsatzkontext zugeschnitten sind. Dies steht auch im Einklang mit anderen Vorschriften des KI-Gesetzes, wie beispielsweise Artikel 26, der für Betreiber von Hochrisiko-Systemen explizit fordert, dass das Personal ausreichend geschult ist, um das System zu handhaben und die menschliche Aufsicht zu gewährleisten.
Selbst Mitarbeiter mit einem Abschluss oder Erfahrung in der KI-Entwicklung sollten nicht pauschal als ausreichend KI-kompetent eingestuft werden, ohne weitere Maßnahmen zu ergreifen. Angesichts der rasanten technologischen Entwicklung muss geprüft werden, ob das vorhandene Wissen aktuell und spezifisch genug für die im Unternehmen eingesetzten Systeme ist. Auch hier können rechtliche und ethische Aspekte eine wichtige Ergänzung darstellen.
Dokumentation und Zertifizierung: Was wird verlangt?
Eine formale Zertifizierung der KI-Kompetenz ist laut aktuellem Stand nicht zwingend erforderlich. Unternehmen sollten jedoch interne Aufzeichnungen über durchgeführte Schulungen und andere Orientierungsinitiativen führen. Auch die Einrichtung einer speziellen Position wie eines KI-Beauftragten oder eines KI-Governance-Gremiums ist nicht explizit vorgeschrieben, um Artikel 4 zu erfüllen.
Wann wird es ernst? Fristen und Durchsetzung
Artikel 4 des KI-Gesetzes ist bereits am 2. Februar 2025 in Kraft getreten. Das bedeutet, die Verpflichtung, Maßnahmen zur Sicherstellung der KI-Kompetenz zu ergreifen, gilt schon jetzt. Die Aufsichts- und Durchsetzungsregeln greifen ab dem 3. August 2026.
Die Überwachung und Durchsetzung von Artikel 4 obliegt nicht dem zentralen KI-Büro der EU, sondern den nationalen Marktüberwachungsbehörden. Diese müssen bis zum 2. August 2025 benannt sein und nehmen ihre Aufsichts- und Durchsetzungstätigkeit ab dem 2. August 2026 auf. Bei Verstößen können diese Behörden Sanktionen und andere Durchsetzungsmaßnahmen verhängen, basierend auf nationalen Gesetzen, die die Mitgliedstaaten bis zum 2. August 2025 erlassen müssen.
Dabei gilt ein Verhältnismäßigkeitsgrundsatz: Sanktionen müssen im Einzelfall angemessen sein und Faktoren wie die Art und Schwere des Verstoßes sowie dessen vorsätzlichen oder fahrlässigen Charakter berücksichtigen. Ein höheres Risiko für Sanktionen besteht insbesondere dann, wenn ein Vorfall auf mangelnde Schulung und Anleitung der Mitarbeiter zurückzuführen ist.
Was bedeutet das für Unternehmen außerhalb der EU?
Das KI-Gesetz gilt auch für Akteure außerhalb der EU, sofern das KI-System auf dem Unionsmarkt platziert, in der Union genutzt wird oder seine Nutzung Auswirkungen auf Personen in der EU hat. Dies schließt auch die Anforderungen des Artikels 4 zur KI-Kompetenz mit ein.
Unterstützung und weitere Informationen
Die Europäische Kommission plant derzeit keine starren Richtlinien zu Artikel 4, sondern setzt auf Beispiele guter Praxis, Webinare und Q&A-Dokumente. Das AI Office wird eng mit dem AI Board zusammenarbeiten, um eine angemessene Umsetzung zu unterstützen. Für Betreiber von Hochrisiko-KI-Systemen wird die Kommission Leitlinien zur Anwendung der Anforderungen veröffentlichen, die auch Aspekte der KI-Kompetenz, beispielsweise im Kontext der menschlichen Aufsicht oder des Risikomanagements, berühren werden.
Für kleine und mittlere Unternehmen (KMU) mit begrenzten Ressourcen gibt es Unterstützungsangebote, wie das Netzwerk der Europäischen Digitalen Innovationszentren (EDIHs). Diese bieten unter anderem Schulungen und Workshops zum Thema KI an.
Fazit: Proaktives Handeln ist gefragt!
Die Anforderungen des Artikels 4 des KI-Gesetzes zur KI-Kompetenz sind ein wichtiger Schritt, um den sicheren und verantwortungsvollen Einsatz von Künstlicher Intelligenz zu gewährleisten. Unternehmen sind gut beraten, sich frühzeitig mit diesen Vorgaben auseinanderzusetzen und entsprechende Schulungsmaßnahmen für ihre Mitarbeiter zu planen und umzusetzen.
Haben Sie Fragen zur Umsetzung von Artikel 4 des KI-Gesetzes in Ihrem Unternehmen oder benötigen Sie Unterstützung bei der rechtssicheren Gestaltung Ihrer KI-Strategie? Die Kanzlei Kramarz steht Ihnen mit 15 Jahren Erfahrung im Urheber- und Medienrecht sowie im Informationstechnologierecht zur Seite. Nutzen Sie unsere kostenlose telefonische Erstberatung, um Ihre individuellen Anliegen zu besprechen. Wir helfen Ihnen, die rechtlichen Hürden im Bereich KI erfolgreich zu meistern!
Häufig gestellte Fragen (FAQ) zur KI-Kompetenz (Artikel 4 KI-Gesetz)
Was versteht das KI-Gesetz unter "KI-Kompetenz"?
KI-Kompetenz im Sinne von Artikel 4 des KI-Gesetzes bedeutet die Fähigkeiten, Kenntnisse und das Verständnis, die es Anbietern, Anwendern und betroffenen Personen ermöglichen, KI-Systeme informiert einzusetzen. Dies beinhaltet auch das Bewusstsein für die Chancen und Risiken von KI sowie mögliche Schäden, die sie verursachen kann, unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten.
Wen betrifft die Anforderung an KI-Kompetenz gemäß Artikel 4 des KI-Gesetzes?
Artikel 4 betrifft Anbieter und Anwender von KI-Systemen. Er schreibt vor, dass sie sicherstellen müssen, dass ihr Personal und andere Personen, die in ihrem Namen mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen. "Andere Personen" können dabei Auftragnehmer, Dienstleister oder Kunden sein – im Wesentlichen jeder, der unter den organisatorischen Geltungsbereich fällt und direkt mit einem KI-System zu tun hat.
Müssen Organisationen den Wissensstand ihrer Mitarbeiter im Bereich KI messen?
Nein, Artikel 4 des KI-Gesetzes verpflichtet Organisationen nicht explizit dazu, den Wissensstand ihrer Mitarbeiter im Bereich KI zu messen. Es verlangt jedoch, dass Anbieter und Anwender ein ausreichendes Maß an KI-Kompetenz sicherstellen, indem sie das technische Wissen, die Erfahrung, die Ausbildung und das Training der Mitarbeiter berücksichtigen.
Was sollte ein KI-Kompetenzprogramm, das Artikel 4 des KI-Gesetzes entspricht, mindestens beinhalten?
Um Artikel 4 einzuhalten, sollten Anbieter und Anwender von KI-Systemen mindestens folgende Punkte berücksichtigen:
- a) Ein allgemeines Verständnis von KI innerhalb der Organisation (Was ist KI? Wie funktioniert sie? Welche KI wird verwendet? Chancen und Gefahren).
- b) Die Rolle der Organisation (Anbieter oder Anwender).
- c) Die Risiken der bereitgestellten oder eingesetzten KI-Systeme (Was müssen Mitarbeiter über die Systeme wissen? Welche Risiken gibt es und wie können sie gemindert werden?).
- d) Aufbau von KI-Kompetenzmaßnahmen basierend auf der vorhergehenden Analyse, unter Berücksichtigung des vorhandenen Wissens, der Erfahrung, Ausbildung und des Kontexts der Nutzung.
Es wird auch ermutigt, rechtliche und ethische Aspekte, einschließlich des Verständnisses des KI-Gesetzes und ethischer Prinzipien, einzubeziehen.
Verfolgt der Ansatz zur KI-Kompetenz gemäß Artikel 4 einen risikobasierten Ansatz?
Ja, Organisationen sollten bei der Gestaltung ihrer KI-Kompetenzmaßnahmen ihre Rolle (Anbieter oder Anwender) sowie die mit den von ihnen bereitgestellten und/oder eingesetzten KI-Systemen verbundenen Risiken berücksichtigen. Insbesondere bei Hochrisiko-KI-Systemen gemäß Kapitel III des KI-Gesetzes können zusätzliche Maßnahmen erforderlich sein, um sicherzustellen, dass Mitarbeiter wissen, wie sie mit diesen Systemen umgehen, Risiken vermeiden und mindern können.
Wann treten die Anforderungen an die KI-Kompetenz gemäß Artikel 4 des KI-Gesetzes in Kraft und wer ist für die Durchsetzung zuständig?
Artikel 4 des KI-Gesetzes trat bereits am 2. Februar 2025 in Kraft, was bedeutet, dass die Verpflichtung, Maßnahmen zur Gewährleistung der KI-Kompetenz zu ergreifen, bereits gilt. Die Überwachung und Durchsetzung der Regeln beginnt ab dem 3. August 2026. Die Durchsetzung von Artikel 4 liegt nicht beim AI Office, sondern in der Zuständigkeit der nationalen Marktüberwachungsbehörden, die bis zum 2. August 2025 benannt werden müssen.
Können Unternehmen, deren Mitarbeiter generative KI-Tools wie ChatGPT für einfache Aufgaben nutzen, die Anforderungen an die KI-Kompetenz ignorieren?
Nein, auch Unternehmen, deren Mitarbeiter generative KI-Tools für Aufgaben wie das Schreiben von Werbetexten oder die Übersetzung nutzen, müssen die Anforderungen an die KI-Kompetenz von Artikel 4 des KI-Gesetzes erfüllen. Die Mitarbeiter sollten über die spezifischen Risiken solcher Tools informiert werden, wie zum Beispiel das Risiko von "Halluzinationen" (Fehlinformationen).
Gibt es spezifische EU-weite Unterstützungsangebote, insbesondere für KMU, um die notwendige KI-Kompetenz zu erlangen?
Ja, ein Beispiel für eine EU-Initiative zur Unterstützung von KMU ist das Netzwerk der Europäischen Digitalen Innovationszentren (EDIHs). Dies sind zentrale Anlaufstellen in ganz Europa, die KMU und Organisationen des öffentlichen Sektors bei der Digitalisierung unterstützen, einschließlich Dienstleistungen im Bereich KI wie Schulungen, Workshops und Bootcamps. EDIHs können als erste Anlaufstelle für Fragen zum KI-Gesetz dienen und den Zugang zu anderen EU-finanzierten Unterstützungsmaßnahmen erleichtern. Darüber hinaus bieten Plattformen wie die Digital Skills and Jobs Platform offene Ressourcen und Lernangebote zu digitalen Kompetenzen, einschließlich KI.
