Das EU-KI-Gesetz ist da und Artikel 4 zur KI-Kompetenz ist bereits seit dem 2. Februar 2025 in Kraft! Sind Sie sicher, dass Ihr Unternehmen und Ihre Mitarbeiter richtig aufgestellt sind? Die Zeit zum Handeln ist jetzt, bevor die Durchsetzung durch die Behörden beginnt.
In dieser Folge erklärt Rechtsanwalt Christian Kramarz, LL.M., Fachanwalt für IT-Recht und Medienrecht, was hinter den Anforderungen zur KI-Kompetenz steckt, wer betroffen ist und welche Schritte Sie jetzt einleiten müssen – von Schulungsprogrammen bis zum risikobasierten Ansatz.
Erfahren Sie, wie Sie Ihr Unternehmen rechtssicher aufstellen und die Chancen der KI verantwortungsvoll nutzen.
Sie haben Fragen oder benötigen Unterstützung bei der Umsetzung? Nutzen Sie unsere kostenlose strategische Ersteinschätzung! Rufen Sie uns an unter: 06151-2768225 oder schreiben Sie eine E-Mail an: anfrage@kanzlei-kramarz.de.
Weitere detaillierte Informationen zu diesem Thema finden Sie auch in unserem Blog-Artikel: https://kanzlei-kramarz.de/ki-kompetenz-nach-art-4-ki-gesetz-was-unternehmen-jetzt-wissen-muessen/
Transkript der Folge
Rechtsanwalt Kramarz (Intro): Herzlich willkommen zum Podcast von Rechtsanwalt Kramarz. Mein Name ist Christian Kramarz und ich bin Rechtsanwalt. Ich vertrete Mandanten in Darmstadt und bundesweit. Mit meinem Master of Law im Medienrecht und meiner Spezialisierung als Fachanwalt für Urheber- und Medienrecht sowie für Informationstechnologierecht stehe ich Ihnen gerne kompetent zur Seite. Umfassende Informationen finden Sie auf meiner Webseite unter www.kanzlei-kramarz.de. Sie erreichen mich für eine erste kostenlose telefonische Beratung unter der Nummer 06151 2768227 oder per E-Mail unter anfrage@kanzlei-kramarz.de. Wir übergeben jetzt an Lex und Nova mit den Details zum aktuellen Thema. Viel Spaß.
Lex: Willkommen zu unserer heutigen Analyse. Im Fokus: der neue EU AI Act. Genauer gesagt, Artikel 4 und diese wichtige Frage: Was heißt eigentlich KI-Kompetenz?
Nova: Genau.
Lex: Wir stützen uns dabei auf offizielle Fragen und Antworten der EU, und unser Ziel ist es, für Sie zu klären, was das praktisch bedeutet für Unternehmen und alle, die KI nutzen oder entwickeln. Packen wir es an.
Nova: Genau, Artikel 4 ist da ziemlich zentral. Er sagt im Grunde: Anbieter und Nutzer von KI-Systemen müssen dafür sorgen, dass alle Beteiligten – das ist wichtig, auch externe Kräfte, die in ihrem Auftrag handeln – genug über KI wissen.
Lex: Ah, okay, also nicht nur die eigenen Leute.
Nova: Nein, eben nicht nur. Es geht darum, KI informiert einzusetzen und sich der Risiken bewusst zu sein. Das ist der Kern.
Lex: Was versteht das Gesetz denn konkret darunter, gerade wenn auch Externe reinkommen? Das macht den Kreis ja viel größer.
Nova: Richtig, die Definition steht in Artikel 3 Absatz 56, und die ist bewusst breit gehalten. Es geht um die Fähigkeiten, das Wissen, das Verständnis, um KI-Systeme informiert zu nutzen, und eben auch die Chancen, Risiken und möglichen Schäden einschätzen zu können. Und ja, ganz explizit nicht nur Angestellte, sondern eben auch Dienstleister oder Auftragnehmer.
Lex: Die Verantwortung bleibt aber beim Unternehmen, nehme ich an.
Nova: Genau, die Verantwortung bleibt beim Unternehmen. Das ist ein wichtiger Punkt.
Lex: Okay, das heißt also, die Verantwortung endet nicht einfach an der Firmentür. Heißt das dann im Umkehrschluss, Unternehmen müssen jetzt anfangen, die KI-Kenntnisse ihrer Leute formal zu prüfen oder zertifizieren zu lassen?
Nova: Nein, also eine explizite Pflicht zur Messung oder Zertifizierung gibt es so nicht.
Lex: Ah, gut.
Nova: Aber, und das ist entscheidend, sie müssen Maßnahmen ergreifen, um ein ausreichendes Niveau sicherzustellen.
Lex: Und was ist ausreichend?
Nova: Ja, das ist die Frage. Das hängt stark vom Kontext ab, vom technischen Wissen der Person, der Erfahrung, der Bildung und ganz wichtig, wofür und wie die KI eingesetzt wird.
Lex: Okay, verstehe. Also keine standardisierten Tests für alle, sondern kontextabhängig. Gibt’s denn trotzdem so eine Art Mindestanforderung? Was müssen diese Maßnahmen auf jeden Fall abdecken?
Nova: Ja, die gibt es schon. Also zumindest ein grundlegendes Verständnis von KI sollte da sein: Was ist das generell, wie funktioniert die eingesetzte Technologie so grob, welche KI wird konkret genutzt. Man muss auch die eigene Rolle kennen – bin ich Anbieter oder Nutzer? Und ganz zentral: das Bewusstsein für die spezifischen Risiken der Systeme, die man verwendet.
Lex: Mhm, und darauf aufbauend müssen dann konkrete Maßnahmen her. Die sollten übrigens auch rechtliche und ethische Aspekte nicht ausklammern. Eine Verknüpfung zum AI Act selbst, zu Ethikleitlinien, das ist durchaus sinnvoll.
Nova: Das heißt also Flexibilität, ja, aber schon mit klaren Leitplanken. Und ich nehme mal an, bei risikoreicheren Systemen steigen die Anforderungen. Man hört ja immer wieder von diesen Hochrisiko-KI-Systemen im AI Act.
Lex: Exakt. Das ist dieser risikobasierte Ansatz, der zieht sich ja durch den ganzen Act. Artikel 26 zum Beispiel sagt ganz klar: Bei Hochrisikosystemen reicht eine reine Gebrauchsanweisung nicht aus.
Nova: Aha.
Lex: Da sind gezielte Schulungen zur menschlichen Aufsicht gefordert. Also, je höher das Risiko, desto intensiver müssen die Kompetenzmaßnahmen sein. Es geht darum, dass man nachweisen kann, dass man die nötige Sorgfalt hat walten lassen.
Nova: Wie könnte das denn in der Praxis aussehen? Müssen jetzt alle Mitarbeiter in umfassende KI-Schulungen gesteckt werden?
Lex: Nicht unbedingt nur Schulungen, auch wenn die oft der direkteste Weg sind. Klar, es kommt auf den Mix an, auf den Bedarf. Ein Entwickler braucht natürlich tiefere Einblicke als jemand, der vielleicht KI-Tools im Marketing nutzt.
Nova: Stimmt. Unterschiedliche Detailtiefen sind also erlaubt und auch sinnvoll. Wichtig ist, die Maßnahmen müssen intern dokumentiert werden. Aber formlos, offizielle Zertifikate braucht es nicht. Und braucht man einen eigenen KI-Beauftragten?
Lex: Nein, auch das ist keine gesetzliche Vorgabe. Kann sinnvoll sein, muss aber nicht.
Nova: Nehmen wir es mal ganz konkret: Ein Team nutzt, sagen wir, ChatGPT, um erste Entwürfe für Werbetexte zu erstellen. Greift Artikel 4 auch da schon?
Lex: Ja, definitiv. Auch bei solchen allgemeinen KI-Anwendungen müssen die Nutzer über spezifische Risiken Bescheid wissen.
Nova: Zum Beispiel?
Lex: Na ja, bei Sprachmodellen wie ChatGPT wäre das eben diese bekannte Neigung zu Halluzinationen, also dass die KI Fakten erfindet, die aber total überzeugend klingen.
Nova: Ah ja, das kennt man.
Lex: Genau. Und dieses Bewusstsein muss geschaffen werden, das ist Teil der Kompetenz.
Nova: Verstanden. Das betrifft also wirklich ganz breite Anwendungsfälle. Wann wird diese Pflicht denn jetzt nun verbindlich durchgesetzt? Gibt es da schon einen Zeitplan?
Lex: Also, Artikel 4 ist formal schon seit Februar 2025 in Kraft.
Nova: Ach, schon.
Lex: Ja, aber die eigentliche Überwachung und Durchsetzung durch die nationalen Behörden startet erst am 2. August 2026.
Nova: Okay, also noch etwas Zeit, gewissermaßen. Aber wichtig ist auch, das gilt global: Unternehmen außerhalb der EU unterliegen dem ebenfalls, wenn ihre KI-Systeme auf dem EU-Markt landen oder Auswirkungen auf Menschen in der EU haben. Und wer überwacht das dann ab August 2026? Wer ist da zuständig?
Lex: Das sind in erster Linie die nationalen Marktüberwachungsbehörden. Die müssen übrigens bis August 2025 benannt sein.
Nova: Okay. Was hier aber ja besonders aufhorchen lässt: Es gibt auch die Möglichkeit der sogenannten privaten Durchsetzung. Was heißt das?
Lex: Das heißt, wenn jemand einen Schaden erleidet und nachweisen kann, dass dieser Schaden auf mangelnde KI-Kompetenz zurückzuführen ist und damit auf einen Verstoß gegen Artikel 4…
Nova: Ja.
Lex: …dann könnten theoretisch Schadensersatzklagen auf Basis des nationalen Rechts folgen.
Nova: Oh, okay, das ist interessant. Also nicht nur die Behörden.
Lex: Genau. Gut, fassen wir noch mal kurz zusammen für unsere Zuhörer: Artikel 4 des AI Act nimmt Unternehmen in die Pflicht. Sie müssen für angemessene KI-Kompetenz sorgen, bei internen Leuten, aber auch bei externen Akteuren.
Nova: Richtig, es ist ein flexibler Ansatz, risikobasiert, keine starre Zertifizierungspflicht. Aber es gibt klare Mindestinhalte und eine interne Dokumentationsnotwendigkeit. Habe ich das so richtig erfasst?
Lex: Genau, das ist der Kern. Was hier halt wirklich spannend ist: Die Pflicht besteht jetzt, auch wenn die behördliche Kontrolle erst 2026 richtig beginnt.
Nova: Stimmt, das sagten Sie.
Lex: Und diese Tür für private Klagen ist theoretisch auch schon offen. Das wirft natürlich eine wichtige strategische Frage auf, nämlich: Was meinen Sie? Na ja, angesichts der rasanten KI-Entwicklung, das geht ja wahnsinnig schnell, und der Tatsache, dass Sanktionen oder Klagen ja vor allem dann drohen, wenn was schiefgeht – wie weit sollten Sie als Organisation vielleicht über diese reinen dokumentierten Mindestanforderungen hinausgehen? Nicht nur, um formal die Vorgaben zu erfüllen, also compliant zu sein, sondern um tatsächliche Risiken proaktiv und wirksam zu managen – das ist, glaube ich, eine Überlegung wert.
Rechtsanwalt Kramarz (Outro): So, das war’s von Lex und Nova für diese Folge. Wir hoffen, Sie konnten heute wieder etwas schlauer werden, ohne dabei einzuschlafen. Und bevor Sie nun Ihre neu gewonnenen Erkenntnisse anwenden, hier kommt noch etwas Wichtiges: Ich unterstütze Mandanten sowohl in Darmstadt als auch bundesweit in vielfältigen rechtlichen Fragestellungen. Wenn Sie zu dem Thema dieser Podcast-Episode Beratungsbedarf haben oder eine allgemeine Rechtsfrage besteht, lade ich Sie herzlich ein, mit mir in Kontakt zu treten. Sie erreichen mich telefonisch unter 06151 2768227. Falls Sie mich nicht direkt persönlich erreichen, hinterlassen Sie mir Ihre Anfrage, ich melde mich. Selbstverständlich können Sie mir Ihr Anliegen auch jederzeit per E-Mail an anfrage@kanzlei-kramarz.de senden. Umfassende Informationen über meine Kanzlei und meine Rechtsgebiete finden Sie auf meiner Webseite unter www.kanzlei-kramarz.de. Ich freue mich darauf, von Ihnen zu hören. Bis zum nächsten Mal.
Hinweis: Die Stimmen und Inhalte dieses Podcasts werden mithilfe künstlicher Intelligenz erzeugt. Die rechtlichen Inhalte wurden von Rechtsanwalt Kramarz geprüft.
