Künstliche Intelligenz ist heute wichtiger denn je. Dies zeigt sich ganz deutlich durch ihren Einsatz in verschiedenen Bereichen der Wirtschaft und Gesellschaft. Mit dem Inkrafttreten der KI-Verordnung am 01.08.2024 werden neue Regelungen für KI innerhalb der EU und auch in Deutschland eingeführt.
Diese Verordnung legt fest, welche rechtlichen Rahmenbedingungen Unternehmen befolgen müssen, wenn sie KI-Systeme entwickeln, verkaufen oder einsetzen möchten. Sie geht dabei auch die drängenden Probleme an, nämlich die mangelnde Transparenz von KI-Systemen sowie mögliche Diskriminierungs- und Sicherheitsrisiken. Diskriminierende und unakzeptable Praktiken dürfen nur unter strengeren Bedingungen eingesetzt werden. In manchen Fällen sind sie sogar durch die KI-Verordnung verboten.
Diese Verordnung schafft und fördert den Rechtsrahmen für die Einführung von menschenzentrierten und vertrauenswürdigen KI-Systemen. Die Entwicklung, Einführung und Verwendung von KI-Systemen wird neu definiert, um ein angemessenes Schutzniveau für die in der Grundrechtecharta verankerten Grundrechte zu gewährleisten. Das Ziel ist klar: Wir müssen das Vertrauen der Bürger und Bürgerinnen in KI-Systeme stärken.
Die KI-Verordnung findet Anwendung auf KI-Systeme, die eigenständige, anpassungsfähige Systeme sind. Diese generieren Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen, indem sie Daten auswerten.
Verschiedene Arten von KI
Es gibt Verschiedene Arten von KI und entsprechende Verpflichtungen.v
Die Einstufung von KI erfolgt nach einem risikobasierten Ansatz. Es gibt vier Kategorien von KI-Systemen: Es gibt drei Arten von KI-Systemen: verbotene, Hochrisiko- und KI-Systeme mit begrenztem Risiko.
Die Verordnung führt unterschiedliche Verpflichtungen ein, je nach Art der KI-Systeme. Allerdings nur für Hochrisiko-KI-Systeme und KI-Systeme mit begrenztem Risiko.
Verbotene KI-Systeme sind solche, die zu einem der folgenden Zwecke eingesetzt werden:
– Unterschwellige Beeinflussung zur Manipulation des menschlichen Verhaltens
– Ausnutzung von Schwächen Ausnutzung insbesondere aufgrund von Alter oder Behinderung, sozialem Scoring, Echtzeitidentifizierung in der Öffentlichkeit.
Diese Verfahren dürfen nicht eingesetzt werden, um Menschen zu benachteiligen oder zu schädigen.
Für Minimalrisiko-KI-Systeme sieht die KI-Verordnung keine speziellen Regelungen vor. Dazu gehören beispielsweise Spam-Filter, KI-gestützte Videospiele, Suchalgorithmen und vieles mehr. Deshalb müssen freiwillige Verhaltenskodizes eingeführt werden.
Hochrisiko-Systeme stehen im Zentrum dieser Verordnung. Hochrisiko-KI-Systeme sind KI-Systeme, die ein hohes Risiko für die Gesundheit, Sicherheit oder Grundrechte von natürlichen Personen darstellen. Dazu zählen KI-Systeme, die die Menschenwürde verletzen und die Meinungs- sowie Informationsfreiheit einschränken.
Es gibt eine Reihe von Beispielen für solche KI-Systeme:
Zu den Hochrisiko-Systemen zählen beispielsweise:
Deren Anbieter, Betreiber, Händler und Einführer sind dazu verpflichtet, sicherzustellen, dass umfassende Dokumentations-, Überwachungs-, Qualitäts- sowie Informationspflichten erfüllt sind.
Auch KI-Systeme mit begrenztem Risiko müssen durch diese Verordnung stärker reguliert werden. Unter diesem Begriff versteht man Systeme, bei denen die Risiken vor allem durch mangelnde Transparenz entstehen. Chatbots wie ChatGPT und Deepfakes sind Beispiele für KI-Systeme, die direkt mit Menschen interagieren. Dabei werden Bilder oder Videoinhalte erzeugt oder manipuliert, die einer Person als wahrheitsgemäß erscheinen. Diese Verordnung stellt sicher, dass Nutzer eindeutig darauf hingewiesen werden, wenn Inhalte von einem KI-System generiert wurden. Die Verordnung muss auch Maßnahmen enthalten, um die Erstellung illegaler Inhalte, die Urheberrechte verletzen, zu verhindern.
Lob und Kritik
Diese Regelung ist ein wichtiger Schritt nach vorne. Sie sorgt für mehr Rechtssicherheit im Umgang mit KI und verbessert die Interaktion zwischen Menschen und KI-Systemen. Sie schafft ein Umfeld, in dem die Grundrechte der Menschen gewahrt werden und gleichzeitig die Förderung von Innovationen, von vertrauenswürdigen KI, ermöglicht wird. Diese Verordnung schafft Klarheit, indem sie KI nach einer systematischen Klassifikation einteilt und Unternehmen aufzeigt, welche Pflichten sie einzuhalten haben.
Andererseits gibt es auch Kritik an der rechtlichen Unsicherheit bezüglich der Definition von KI sowie deren Einstufung, insbesondere bei Hochrisiko-KI-Systemen. Der KI-Experte Carsten Kraus machte deutlich, dass die Liste der Hochrisikoanwendungen jederzeit erweitert werden kann und muss. Unternehmen wissen nicht, ob ihre Entwicklungen in den Anwendungsbereich der KI-Verordnung fallen und daher zur Einhaltung der Regelungen verpflichtet sind. Die mit der KI-Verordnung verbundene Bürokratie wird zu Recht auch als Innovationshemmnis kritisiert. Langfristig wird die Verordnung jedoch zweifellos Innovationen fördern.
Auswirkungen der Regelung
Die Auswirkungen und Herausforderungen sind:
Die KI-Verordnung stellt Unternehmen vor neue Herausforderungen. Insbesondere müssen sie ihre KI-Systeme an die in der Verordnung vorgeschriebenen Anforderungen und Pflichten anpassen. Das führt zu erhöhtem Verwaltungsaufwand.
Die KI-Verordnung stärkt auf jeden Fall auch den Verbraucherschutz. Die Verbraucher können sicher sein, dass ihre Grundrechte durch die Nutzung von KI-Systemen nicht beeinträchtigt werden. Die KI-Verordnung stellt sicher, dass ihre Rechte und Interessen geschützt werden und sie über den Einsatz informiert werden (Transparenz- und Informationspflichten).
Fazit:
Die KI-Verordnung ist ein wichtiger Fortschritt für die EU und Deutschland. Erstmals wurden umfassende Regelungen zur KI etabliert. Doch trotz dieser positiven Aspekte birgt die Verordnung auch Herausforderungen. Die Unternehmen, die KI-Systeme entwickeln und einführen, sind besonders betroffen, da sie nun an gesetzliche Vorgaben gebunden sind. Aber: Unternehmen haben die Möglichkeit, sich mit diesen umfangreichen Regelungen bis zu deren Inkrafttreten in Deutschland (i. d. R. nach zwei Jahren – also am 01.08.2026) vertraut zu machen sowie ihre KI-Systeme entsprechend anzupassen.
