KI-Gesetz: Ein neuer Rechtsrahmen für künstliche Intelligenz in Europa

Die Einführung des EU-KI-Gesetzes (Gesetz über künstliche Intelligenz) ist ein Meilenstein in der Regulierung der Entwicklung und Nutzung von künstlicher Intelligenz (KI) in Europa. Das Gesetz trat am 1. August 2024 in Kraft und hat das Ziel, rechtliche Rahmenbedingungen zu schaffen, die Innovationen fördern und gleichzeitig die Sicherheit und den Schutz der Bürgerrechte gewährleisten. Das KI-Gesetz ist die weltweit erste so umfassende Regulierung im Bereich von KI und macht Europa zu einem Vorreiter in der verantwortungsvollen Entwicklung dieser Technologie.

Was versteht man unter dem Begriff KI?

Künstliche Intelligenz (KI) ist eine Technologie, die es Maschinen und Computersystemen ermöglicht, menschliche Fähigkeiten nachzuahmen, wie z.B. Schlussfolgern, Lernen, Sprachverständnis und Entscheidungsfindung. KI funktioniert auf Grundlage der Datenanalyse, wodurch sie in der Lage ist, Prognosen zu erstellen, Empfehlungen zu generieren und Aufgaben unterschiedlicher Komplexität sowohl in der physischen als auch in der digitalen Welt auszuführen.

Zu den wichtigsten Merkmalen der KI gehören:

• Autonomie – KI-Systeme können autonom arbeiten, ohne dass eine direkte menschliche Überwachung erforderlich ist.
• Anpassungsfähigkeit – KI lernt aus den bereitgestellten Daten, was es ihr ermöglicht, ihre Ergebnisse zu verbessern und ihre Handlungen an neue Umstände anzupassen.
• Inferenz – Basierend auf den analysierten Informationen erstellt KI-Entscheidungen und Prognosen.

Nicht alle fortschrittlichen technologischen Systeme erfüllen die Kriterien, um als KI zu gelten.

Beispiele für Technologien, die nicht als KI verstanden werden, sind:

• Algorithmen mit fester Funktion – Systeme, die lediglich programmierte Operationen ausführen, ohne die Fähigkeit, selbstständig zu lernen oder sich anzupassen.
• Alarmsysteme – Technologien, die automatisch auf bestimmte Reize reagieren, jedoch nicht in der Lage sind, zu schlussfolgern oder ihre Handlungen auf der Grundlage neuer Daten anzupassen.
• Prozessautomatisierung – Obwohl Automatisierung komplex sein kann, werden Systeme wie Produktionsroboter, die nach festgelegten Mustern arbeiten, ohne die Fähigkeit zu lernen, nicht als KI betrachtet.

Ein wesentliches Merkmal der künstlichen Intelligenz ist also ihre Fähigkeit zur selbstständigen Entwicklung und Anpassung, was bei einfacheren, statischen Technologien nicht der Fall ist .

Was ist das KI-Gesetz?

Das KI-Gesetz, offiziell die Verordnung (EU) 2024/1689, ist eine Gesetzgebung der Europäischen Union, die einheitliche Regeln für die Entwicklung und den Einsatz von KI-Systemen einführt. Ihr Hauptziel ist es, ein vertrauenswürdiges Umfeld für die Entwicklung künstlicher Intelligenz zu schaffen, das die Menschenrechte achtet und Sicherheit gewährleistet. Er regelt unter anderem Fragen der Ethik, Sicherheit und Haftung bei der Implementierung von KI.

Warum ist es notwendig?

Mit der dynamischen Entwicklung von KI gibt es Bedenken hinsichtlich Transparenz, Diskriminierung und Rechenschaftspflicht im Zusammenhang mit den KI-Entscheidungen. Beispiele hierfür sind automatisierte Kreditbewertungen oder Rekrutierungsprozesse, bei denen das Fehlen geeigneter Sicherheitsmaßnahmen zu unbegründeten Entscheidungen führen kann. Das KI-Gesetz soll die Bürger vor unerwünschten Auswirkungen der KI schützen und eine transparente und verantwortungsvolle Nutzung dieser Technologie unterstützen.

Wer ist von den Vorschriften des KI-Gesetzes betroffen?

Das KI-Gesetz wird ein breites Spektrum von Unternehmen betreffen, nicht nur diejenigen, die direkt in der IT-Branche oder der Entwicklung künstlicher Intelligenz tätig sind. Die Vorschriften werden Auswirkungen auf Lieferanten, Importeure, Händler und Nutzer von KI-Systemen haben. Wichtig ist, dass die Verordnung nicht nur für Unternehmen mit Sitz in der Europäischen Union gilt, sondern auch für Unternehmen außerhalb der EU, wenn die Ergebnisse ihrer KI-Systeme innerhalb der EU verwendet werden. Das bedeutet, dass selbst global agierende Unternehmen ihre Technologien an die EU-Standards anpassen müssen, wenn ihre Lösungen in Europa eingesetzt werden.

Ausgenommen vom KI-Gesetz sind KI-Systeme, die ausschließlich für militärische, verteidigungspolitische oder nationale Sicherheitszwecke verwendet werden, sowie Technologien, die nicht auf dem EU-Markt erhältlich sind und in der Union nicht für diese Zwecke eingesetzt werden.

Neue Pflichten für Unternehmer

Das KI-Gesetz erlegt dem Unternehmer eine Reihe von Verpflichtungen in Bezug auf die Entwicklung, Vermarktung und Nutzung von KI-Systemen auf. Anbieter von KI-Systemen, insbesondere von Hochrisikosystemen, sind verpflichtet, eine Risikoanalyse durchzuführen, detaillierte technische Dokumentationen bereitzustellen sowie Transparenz und Sicherheit der Systeme zu gewährleisten. Sie müssen regelmäßig Compliance-Audits durchführen und die entwickelten Technologien aktualisieren, um die Anforderungen des KI-Gesetzes zu erfüllen.

Händler und Importeure sind verpflichtet sicherzustellen, dass die von ihnen vertriebenen KI-Systeme alle gesetzlichen Anforderungen erfüllen. Im Falle von Verstößen können sie ähnlich haftbar gemacht werden wie die Anbieter. Die Nutzer wiederum sind verpflichtet, die Leistung der Systeme zu überwachen, Probleme zu melden und sicherzustellen, dass die Technologien entsprechend ihrem Verwendungszweck und den Empfehlungen des Anbieters eingesetzt werden.

Risikoklassifikation gemäß dem KI-Gesetz

Das KI-Gesetz führt vier Risikostufen im Zusammenhang mit dem Einsatz von Systemen der künstlichen Intelligenz ein. Je höher die Risikostufe, desto strenger sind die regulatorischen Anforderungen.

1. Unzulässiges Risiko – Umfasst KI-Systeme, die als besonders gefährlich eingestuft werden. Sie sind vollständig verboten, wie z.B. Social Scoring oder die Manipulation des Verhaltens von Menschen durch subliminale Techniken. Innerhalb der Kategorie des unzulässigen Risikos gibt es einige Ausnahmen, die den Einsatz von KI hauptsächlich im Kontext von Maßnahmen der Strafverfolgung durch staatliche Behörden zulassen.
2. Hohes Risiko – Umfasst KI-Systeme, die Auswirkungen auf die Gesundheit, Sicherheit und Rechte der Bürger haben können, z.B. Systeme, die im Gesundheitswesen, im Verkehrswesen oder in der Personalrekrutierung eingesetzt werden. Für KI-Systeme mit hohem Risiko gibt es eine Reihe von Anforderungen, die erfüllt werden müssen. Dazu gehört u.a. die Durchführung einer gründlichen Analyse und Bewertung potenzieller Risiken sowie die Implementierung eines umfassenden Risikomanagementsystems im Zusammenhang mit KI.
3. Begrenztes Risiko – Betrifft Systeme, die negative Auswirkungen haben können, jedoch in geringerem Maße. Beispiele sind unter anderem Chatbots und generative KI (z.B. Texterstellung, Grafikgenerierung). Bei Systemen mit geringem (begrenztem) Risiko müssen die Anbieter ein angemessenes Maß an Transparenz gewährleisten – die Nutzer dieser Systeme müssen sich bewusst sein, dass sie es mit künstlicher Intelligenz zu tun haben.
4. Minimales Risiko – Umfasst die meisten KI-Systeme, wie Spamfilter oder Computerspiele. Diese Systeme können ohne zusätzliche Anforderungen frei verwendet werden.

Inkrafttreten des KI-Gesetzes

Das KI-Gesetz trat am 1. August 2024 in Kraft, jedoch werden seine Vorschriften schrittweise eingeführt, um den Unternehmen und Mitgliedstaaten Zeit zu geben, sich an die neuen Regelungen anzupassen. Wichtige Termine und Phasen der Einführung der Vorschriften sind:

• 1. August 2024 – Das KI-Gesetz tritt in Kraft, jedoch beginnt die Durchsetzung der Vorschriften an diesem Tag nicht. Stattdessen wird die freiwillige Einhaltung der Vorschriften gefördert.
• 2. Februar 2025 – Die Vorschriften über den Anwendungsbereich, Definitionen, Regeln für die KI-Ausbildung und verbotene Praktiken treten in Kraft.
• 2. August 2025 – Die Vorschriften über Meldungen, GPAI-Modelle, Fragen der Durchsetzung und Geldstrafen treten in Kraft.
• 2. August 2026 – Die Übergangsfrist für KI-Systeme mit hohem Risiko endet, und die wichtigsten Bestimmungen des KI-Gesetzes treten in Kraft.
• 2. August 2027 – Die Vorschriften für Systeme mit hohem Risiko gemäß Artikel 6(1) des KI-Gesetzes treten in Kraft.
• 2. August 2030 – Die Übergangsfrist für KI-Systeme mit hohem Risiko, die für die Nutzung durch öffentliche Behörden bestimmt sind, endet.

Unternehmen sollten bereits jetzt mit den Vorbereitungen auf die kommenden Regelungen des KI-Gesetzes beginnen. Zu den wichtigsten Schritten gehören die Klassifizierung von KI-Systemen gemäß der EU-Taxonomie und die Bewertung der Auswirkungen der Regulierung auf bestehende Lösungen, um geeignete Unternehmensstrategien zu entwickeln und Rahmenbedingungen für das Management von KI zu implementieren.

Sanktionen im Rahmen des KI-Gesetzes

Das KI-Gesetz führt strenge finanzielle Sanktionen für Unternehmen ein, die die neuen Vorschriften zur künstlichen Intelligenz nicht einhalten. Die Struktur der Strafen wurde so konzipiert, dass sie proportional zur Unternehmensgröße ist, gleichzeitig eine abschreckende Wirkung hat und die wirksame Durchsetzung der Regelungen gewährleistet.

Die wichtigsten Sanktionsregeln sind:

• Verstoß gegen verbotene KI-Praktiken: Unternehmen, die Technologien einsetzen, die durch das KI-Gesetz verboten sind, wie z.B. die Manipulation des Nutzerverhaltens oder die biometrische Fernidentifizierung in Echtzeit, können mit Geldstrafen von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes des Unternehmens belegt werden, je nachdem, welcher Betrag höher ist.
• Verstoß gegen andere Vorschriften: Unternehmen, die andere Anforderungen des KI-Gesetzes, wie beispielsweise Vorschriften zum Risikomanagement oder zur technischen Dokumentation, nicht einhalten, müssen mit Geldstrafen von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes rechnen, je nachdem, welcher Betrag höher ist.
• Verstoß gegen Berichterstattungspflichten: Unternehmen, die benannten Stellen oder nationalen Behörden falsche, unvollständige oder irreführende Informationen zur Verfügung stellen, können mit einer Geldstrafe von bis zu 7,5 Millionen Euro oder 1 % des weltweiten Jahresumsatzes belegt werden, je nachdem, welcher Betrag höher ist.

Diese Sanktionen zielen darauf ab, die Einhaltung der Vorschriften durch alle Unternehmen, die künstliche Intelligenz anwenden, sicherzustellen sowie die Rechte der Nutzer und das öffentliche Interesse zu schützen.

Zusammenfassung

Das KI-Gesetz ist die weltweit erste umfassende Regelung für künstliche Intelligenz, die darauf abzielt, sicherzustellen, dass ihre Entwicklung und Nutzung im Einklang mit ethischen Grundsätzen, Sicherheitsanforderungen und dem Schutz der Menschenrechte steht. Das am 1. August 2024 eingeführte KI-Gesetz deckt ein breites Spektrum von Unternehmen ab – von Anbietern von KI-Technologie bis hin zu Unternehmen, die KI-Systeme in ihrem Geschäftsbetrieb nutzen. Diese Regelungen gelten nicht nur innerhalb der Europäischen Union, sondern gelten auch für Unternehmen außerhalb der EU, wenn deren KI-Systeme EU-Bürger betreffen.

Das KI-Gesetz soll ein ausgewogenes Umfeld für die Entwicklung von Innovationen schaffen und gleichzeitig sicherstellen, dass künstliche Intelligenz verantwortungsbewusst, transparent und sicher für die Gesellschaft entwickelt wird. Für Unternehmen bedeutet dies die Notwendigkeit, ihre Systeme sorgfältig auf die Konformität mit den neuen Vorschriften zu überprüfen und gegebenenfalls Maßnahmen vor dem Inkrafttreten aller Regelungen zu ergreifen.

Die vollständige Fassung des KI-Gesetzes können Sie auf der Seite eur-lex.europa.eu einsehen.

Wenn Sie Fragen zu diesem Thema haben, oder zusätzliche Informationen benötigen, zögern Sie bitte nicht, uns zu kontaktieren:

Kontakt »

ABTEILUNG KUNDENBETREUUNG

ELŻBIETA NARON
Abteilungsleiter Kundenbetreuung
getsix® Gruppe

***