Artificial Intelligence Act – Alle Fakten zum AI Act der EU

Was ist der Artificial Intelligence Act – kurz AI Act der EU?

Der Artificial Intelligence Act (AI Act) ist das weltweit erste bindende Gesetz, das Künstliche Intelligenz (KI) reguliert. Der AI Act wurde 13.03.2024 von der Europäischen Kommission beschlossen, nachdem er im April 2021 als legislativer Vorschlag eingeführt wurde.

Der AI Act ist ein zentrales Element der breit angelegten KI-Strategie der Europäischen Union (EU). Diese Strategie zielt darauf ab, das volle Potenzial von KI-Technologien zu erschließen, dabei Risiken zu minimieren und Chancen in Verbindung mit KI gezielt zu fördern. Gleichzeitig soll Diskriminierung vermieden und Transparenz in der Nutzung künstlicher Intelligenz sichergestellt werden.

Ziele des AI Act

Das Hauptziel des AI Act ist es, einen harmonisierten Rechtsrahmen für die Entwicklung, den Einsatz und den Vertrieb von KI-Systemen innerhalb der EU zu schaffen.

Dieser EU-weite Rechtsrahmen verfolgt mehrere Ziele:

• Risikominderung: Der AI Act verfolgt einen risikobasierten Ansatz, bei dem KI-Systeme je nach den potenziellen Risiken, die sie für die Gesellschaft und Einzelpersonen darstellen, unterschiedlichen Regulierungsstufen unterliegen. Indem er spezifische Anforderungen für KI-Systeme festlegt, die als „hochriskant“ eingestuft werden, zielt der Act darauf ab, potenzielle Schäden zu minimieren und die Sicherheit und Zuverlässigkeit von KI-Anwendungen zu verbessern.
• Chancenschaffung: Durch die Schaffung eines klaren und vorhersehbaren rechtlichen Umfelds fördert der AI Act Innovation und Investitionen in KI-Technologien. Unternehmen und Entwickler profitieren von klaren Leitlinien, die ihnen helfen, Produkte compliant – also konform der EU-Regularien – zu entwickeln. Gleichzeitig stärkt das KI-Gesetz das Vertrauen der Nutzer in KI-basierte Lösungen.
• Bekämpfung von Diskriminierung: Der AI Act definiert strenge Anforderungen an Transparenz, Datenqualität und zur Überwachung von KI-Systemen. So können wir abgesichert über einen rechtlichen Rahmen sicherstellen, dass der Einsatz von KI nicht zu Diskriminierung oder Ungerechtigkeit führt. Dies beinhaltet Verbote für bestimmte Anwendungen von KI, die als inakzeptabel oder hochgradig riskant angesehen werden, wie etwa Technologien, die auf unethischen oder voreingenommenen Daten basieren.
• Gewährleistung von Transparenz: Die KI Regularien fordern Transparenz in der Funktionsweise von KI-Systemen, insbesondere wenn sie mit Menschen interagieren. So können wir sicher stellen, dass Nutzer verstehen, wenn sie mit KI-Systemen interagieren. Es fördert aktiv das Bewusstsein und Verständnis für die Entscheidungsfindungsprozesse hinter KI-Anwendungen.

Relevanz des AI Act

Der Artificial Intelligence Act ist ein signifikanter Schritt für die europaweite Regulierung von KI-Technologien. Das KI-Regelwerk positioniert die Europäische Union als Pionier in der Schaffung eines rechtssicheren Raumes für die Entwicklung und Nutzung von Künstlicher Intelligenz.

Indem die KI-Regularien ethische und rechtliche Standards setzen, zielt der AI Act darauf ab, Europa zu einem weltweit führenden Zentrum für vertrauenswürdige und sichere KI zu machen.

Mit seinem risikobasierten Ansatz bietet der AI Act eine ausgewogene Herangehensweise, die sowohl den Schutz der Grundrechte und Freiheiten der Bürger als auch die Förderung von Innovation und Wirtschaftswachstum berücksichtigt.

Der AI Act unterstreicht die Verpflichtung der EU zu einem „menschzentrierten“ Ansatz in der KI, der darauf abzielt, Technologie zum Wohl der Gesellschaft zu nutzen und gleichzeitig potenzielle negative Auswirkungen auf das Individuum und die Gesellschaft zu verhindern.

Kontext und Hintergrund des Artificial Intelligence Act (AI Act)

Entwicklung des AI Acts

Die Entwicklung des Artificial Intelligence Act (AI Act) der Europäischen Union ist ein signifikanter Schritt zur Regulierung digitaler Technologien und markiert einen entscheidenden Meilenstein in Richtung der Gestaltung unserer globalen KI-Landschaft. Der Vorschlag für den AI Act wurde im April 2021 von der Europäischen Kommission vorgestellt und ist das Ergebnis eines umfassenden, dreijährigen Beratungsprozesses, der verschiedene Stakeholder aus Industrie, Forschungseinrichtungen, der Zivilgesellschaft und Regierungseinrichtungen miteinbezogen hat. Dieser evaluierende Prozess zielte darauf ab, einen ausgewogenen Rechtsrahmen zu schaffen, der die Innovation fördert und gleichzeitig Risiken, die mit der Nutzung und dem Einsatz von Künstlicher Intelligenz verbunden sind, adressiert.

Die Initiative zum AI Act entstand aus der zunehmenden Erkenntnis, dass KI-Technologien das Potenzial haben, tiefgreifende Auswirkungen auf die Gesellschaft, Wirtschaft und das persönliche Leben von uns Menschen zu nehmen. Mit KI-Anwendungen, die immer häufiger in kritischen und sensiblen Bereichen wie Gesundheitswesen, Bildung, Justiz und HR eingesetzt werden, wurde die Notwendigkeit einer regulativen Intervention deutlich, um sicherzustellen, dass diese Technologien auf eine Weise entwickelt und eingesetzt werden, die mit den Grundwerten und -rechten der EU übereinstimmt.

Bedeutung im Kontext des Datenschutzes

Der AI Act steht nicht isoliert, sondern ergänzt bestehende EU-Regulierungen wie die Datenschutz-Grundverordnung (DSGVO), die seit Mai 2018 die Verarbeitung personenbezogener Daten innerhalb der EU regelt. Die DSGVO legt den Schwerpunkt auf den Schutz personenbezogener Daten und die Gewährleistung der Privatsphäre der Bürger, während der AI Act speziell darauf ausgerichtet ist, die Risiken anzugehen, die durch die spezifischen Eigenschaften und Anwendungen von KI-Systemen entstehen.

Die Bedeutung des AI Act im Kontext des Datenschutzes lässt sich durch mehrere Schlüsselaspekte verdeutlichen:

• Ergänzung zur DSGVO: Der AI Act baut auf den Prinzipien des Datenschutzes auf, die durch die DSGVO etabliert wurden, und erweitert diese, indem er spezifische Anforderungen für KI-Systeme einführt, die personenbezogene Daten verarbeiten. Dadurch wird der Schutz der Bürger in der digitalen Welt weiter verstärkt.
• Stärkung des Schutzes vor automatisierter Entscheidungsfindung: Der AI Act adressiert speziell die Herausforderungen und Risiken, die mit automatisierter Entscheidungsfindung und Profiling durch KI-Systeme verbunden sind, indem er Transparenz, Genauigkeit und Fairness in diesen Prozessen fördert.
• Menschliche Aufsicht: Der AI Act betont die Bedeutung menschlicher Aufsicht bei der Verwendung von KI-Systemen, insbesondere in sensiblen Bereichen, um sicherzustellen, dass Entscheidungen, die erhebliche Auswirkungen auf Individuen haben, überprüfbar und verantwortungsvoll sind.

Damit ist der AI Act ein fundamentaler Baustein in der EU-Strategie für digitale Ethik und den Schutz der Bürgerrechte ist. Er repräsentiert einen vorausschauenden Ansatz zur Regulierung von KI, der darauf abzielt, die Vorteile dieser Technologien zu maximieren, während gleichzeitig ihre Risiken minimiert werden, und ergänzt damit bestehende Datenschutzregelungen durch spezifische Vorschriften für Künstliche Intelligenz.

Stellungnahmen und Kritik zum Artificial Intelligence Act (AI Act)

Der Artificial Intelligence Act (AI Act) hat seit seiner Vorstellung durch die Europäische Kommission im April 2021 eine breite Palette von Stellungnahmen und Kritikpunkten aus verschiedenen Sektoren hervorgerufen. Zu den wichtigsten Stimmen gehören EU-Binnenmarktkommissar Thierry Breton, die Berichterstatter des EU-Parlaments sowie Datenschutzbeauftragte und Verbraucherschützer.

Aussagen von EU-Binnenmarktkommissar Thierry Breton

Thierry Breton hat den AI Act als einen wichtigen Schritt hin zu einer sicheren und ethischen Nutzung von KI-Technologien in der EU bezeichnet. Er betonte, dass Europa mit dem AI Act globale Standards für vertrauenswürdige KI setzt und erklärte, dass mit dem Act das weltweit erste verbindliche Gesetz zur Künstlichen Intelligenz geschaffen wird, um Risiken zu reduzieren, Chancen zu schaffen, Diskriminierung zu bekämpfen und Transparenz zu gewährleisten. Breton hob hervor, dass der AI Act ein ausgewogener Ansatz ist, der Innovation fördert und gleichzeitig die Sicherheit und die Grundrechte der Bürger schützt.

Stellungnahmen der Berichterstatter des EU-Parlaments

Die Berichterstatter des EU-Parlaments, darunter Brando Benifei und Dragos Tudorache, äußerten sich ebenfalls positiv über den AI Act. Sie betonten, dass die EU mit dem Act eine Führungsrolle in der globalen Diskussion über die Regulierung von KI übernimmt. Benifei hob hervor, dass der Act Diskriminierung bekämpft und Transparenz fördert, während Tudorache darauf hinwies, dass der AI Act nur ein erster Schritt sei und weitere Regulierungen notwendig sein werden, da KI tiefgreifende Auswirkungen auf den Gesellschaftsvertrag hat.

Kritik von Datenschutzbeauftragten und Verbraucherschützern

Trotz der positiven Bewertungen gab es auch kritische Stimmen. Datenschutzbeauftragte wie der Bundesdatenschutzbeauftragte Ulrich Kelber lobten zwar, dass der AI Act den Schutz vor automatisierter Entscheidungsfindung stärkt, kritisierten jedoch das Fehlen eines klaren Verbots biometrischer Fernerkennung im öffentlichen Raum. Kelber empfahl, dass die Bundesregierung die Öffnungsklausel für striktere nationale Verbote nutzen sollte.

Verbraucherschützer, vertreten durch Organisationen wie den Bundesverband der Verbraucherzentralen (vzbv), begrüßten die Verbesserungen in Bezug auf Transparenz und das Verbot manipulativer Praktiken. Sie wiesen jedoch darauf hin, dass der AI Act in seiner aktuellen Form nicht ausreiche, um Verbraucher effektiv vor den Risiken der KI zu schützen. Kritisiert wurde insbesondere, dass einige manipulative Praktiken nur dann verboten sind, wenn sie absichtlich erfolgen, was in der Praxis schwer nachzuweisen sein kann.

Kritikpunkte zu dystopischen Technologien und automatisierter Entscheidungsfindung

Ein wiederkehrender Kritikpunkt betrifft die nicht ausreichend adressierten dystopischen Technologien und die großen Lücken im Schutz vor automatisierter Entscheidungsfindung.

Eine dystopische Technologie ist definiert als eine technologische Entwicklung oder Anwendung, die negative, unterdrückende oder schädliche Auswirkungen auf die Gesellschaft, die individuelle Freiheit oder die ethischen Werte hat. Sie wird oft in einem Kontext diskutiert, in dem technologischer Fortschritt ohne ausreichende ethische Überlegungen, Regulierungen oder Rücksicht auf mögliche negative Konsequenzen vorangetrieben wird. Dystopische Technologien können die Privatsphäre erodieren, Überwachungsstaaten fördern, zu unkontrollierter Manipulation führen oder die menschliche Autonomie untergraben.

Beispiele hierfür können allgegenwärtige Überwachungssysteme, tiefgreifende KI-gestützte Profiling-Techniken oder autonome Waffensysteme umfassen, die ethische Grenzen überschreiten. Der Aufruf zur Adressierung solcher Technologien in gesetzlichen Rahmenwerken zielt darauf ab, sicherzustellen, dass technologischer Fortschritt im Einklang mit den Grundprinzipien der Menschenrechte, der sozialen Gerechtigkeit und der demokratischen Werte steht.

Kritiker argumentieren, dass der AI Act bestimmte Anwendungen von KI, wie flächendeckende Überwachungssysteme und den Einsatz von „Video-Lügendetektoren“, nicht ausreichend verbietet oder einschränkt. Diese Technologien bergen das Risiko, die Privatsphäre und die Grundrechte der Bürger massiv zu verletzen, ohne dass angemessene Schutzmaßnahmen vorgesehen sind.

Das führt uns zu einerseits zu der Erkenntnis, dass der AI Act als ein erster, bedeutender Schritt in Richtung einer sinnvoll regulierten Nutzung von KI-Technologien in der EU angesehen werden kann. Jedoch gibt es klare Forderungen nach Nachbesserungen, insbesondere im Hinblick auf den Schutz der Privatsphäre und die Verhinderung von Missbrauch durch dystopische Technologien. Die Debatte um den AI Act zeigt die Notwendigkeit auf, einen ausgewogenen Weg zwischen der Förderung von Innovation und dem Schutz der Grundrechte zu finden.

Auswirkungen und zukünftige Regulierungen des Artificial Intelligence Act (AI Act)

Rolle des AI Acts als Ergänzung zur DSGVO

Der Artificial Intelligence Act (AI Act) stellt eine wichtige Ergänzung zur bestehenden Datenschutz-Grundverordnung (DSGVO) der Europäischen Union dar. Während die DSGVO den Schwerpunkt auf den Schutz personenbezogener Daten legt und die Rechte von Individuen im Hinblick auf die Verarbeitung ihrer Daten stärkt, adressiert der AI Act spezifisch die Herausforderungen und Risiken, die mit der Entwicklung und Nutzung von Künstlicher Intelligenz verbunden sind.

Einer der wichtigsten Aspekte des AI Acts ist die Stärkung des Schutzes vor automatisierter Entscheidungsfindung. Der AI Act legt detaillierte Transparenz- und Überwachungsanforderungen für KI-Systeme fest, die in der Lage sind, Entscheidungen zu treffen, die erhebliche Auswirkungen auf Individuen haben können. Dies umfasst Bestimmungen, die sicherstellen, dass solche Systeme nachvollziehbar, fair und diskriminierungsfrei sind. Diese Anforderungen ergänzen die Rechte, die Individuen bereits unter der DSGVO haben, insbesondere das Recht, nicht ausschließlich einer automatisierten Entscheidungsfindung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt.

Vorschläge und Empfehlungen für strengere nationale Verbote und erweiterte Schutzmaßnahmen

Datenschutzbeauftragte und Verbraucherschutzorganisationen haben eine Reihe von Vorschlägen und Empfehlungen vorgelegt, um die durch den AI Act gebotenen Schutzmaßnahmen weiter zu stärken:

1. Klares Verbot biometrischer Fernerkennung im öffentlichen Raum: Datenschutzbeauftragte haben wiederholt ein klares Verbot der Nutzung biometrischer Fernerkennungstechnologien im öffentlichen Raum gefordert. Dies würde den Schutz der Privatsphäre und der Grundrechte der Bürger vor invasiver Überwachung verstärken.
2. Strengere nationale Verbote: Es wurde empfohlen, dass die Mitgliedstaaten die Möglichkeit nutzen sollten, strengere nationale Verbote einzuführen, die über die Bestimmungen des AI Acts hinausgehen. Dies könnte beispielsweise strengere Regelungen für den Einsatz von KI in bestimmten sensiblen Bereichen wie Strafverfolgung oder Gesundheitswesen umfassen.
3. Erweiterte Schutzmaßnahmen gegen Diskriminierung: Verbraucherschutzorganisationen fordern stärkere Maßnahmen, um sicherzustellen, dass KI-Systeme keine diskriminierenden Entscheidungen treffen. Dies könnte die Entwicklung strengerer Richtlinien für die Gestaltung und Überprüfung von Algorithmen beinhalten, um Voreingenommenheit zu minimieren.
4. Erhöhte Transparenz und Rechenschaftspflicht: Es wurde vorgeschlagen, die Anforderungen an die Transparenz von KI-Systemen und die Rechenschaftspflicht ihrer Anbieter zu erhöhen. Dies könnte die Verpflichtung umfassen, Algorithmen unabhängigen Audits zu unterziehen und detaillierte Informationen über die Funktionsweise und die Entscheidungsfindungsprozesse von KI-Systemen öffentlich zugänglich zu machen.
5. Stärkung der Rechte der betroffenen Personen: Um den Schutz der Individuen weiter zu verbessern, könnten zusätzliche Maßnahmen ergriffen werden, die den Betroffenen mehr Kontrolle über die durch KI getroffenen Entscheidungen geben. Dazu gehört das Recht, eine Überprüfung durch den Menschen zu verlangen, sowie verbesserte Möglichkeiten, gegen als unfair oder diskriminierend empfundene Entscheidungen vorzugehen.

Der AI Act ist somit ein wichtiger Schritt in Richtung der Regulierung der Nutzung von KI-Technologien gesehen wird, aber sowohl auf EU-Ebene als auch auf nationaler Ebene weitere Maßnahmen erforderlich sind, um den Schutz der Grundrechte und die ethische Nutzung von KI sicherzustellen.

Die Vorschläge und Empfehlungen von Datenschutzbeauftragten und Verbraucherschutzorganisationen unterstreichen die Notwendigkeit, kontinuierlich an der Verbesserung und Anpassung der regulatorischen Rahmenbedingungen zu arbeiten, um den Herausforderungen der rasanten technologischen Entwicklung gerecht zu werden.

Vorbereitung auf die Implementierung des Artificial Intelligence Act (AI Act)

Die Einführung des Artificial Intelligence Act (AI Act) stellt für Akteure im KI-Ökosystem eine bedeutende regulatorische Veränderung dar. Eine frühzeitige und gründliche Vorbereitung ist essentiell, um sicherzustellen, dass Unternehmen, Forschungseinrichtungen und andere betroffene Organisationen den neuen Anforderungen gerecht werden können.

Folgende Empfehlungen sind ein ausdrücklicher Hinweis zur intensiven Vorbereitung auf die Implementierung des AI Acts:

Bedeutung der frühzeitigen Vorbereitung

• Verständnis der Anforderungen: Es ist entscheidend, dass alle Stakeholder in Organisationen und insbesondere Akteure im direkten Umfeld des KI-Ökosystems den AI Act und seine spezifischen Anforderungen verstehen. Dazu gehört die Kenntnis darüber, welche KI-Systeme als hochriskant eingestuft werden und welche spezifischen Verpflichtungen damit verbunden sind

• Risikobasierte Bewertung: Unternehmen sollten beginnen, ihre KI-Systeme einer risikobasierten Bewertung zu unterziehen, um festzustellen, welche ihrer Anwendungen unter die strengeren Anforderungen des AI Acts fallen könnten.
• Rechtzeitige Anpassung: Eine frühzeitige Anpassung an die Anforderungen des AI Acts ermöglicht es Organisationen, mögliche Compliance-Risiken zu minimieren und den reibungslosen Einsatz ihrer KI-Systeme sicherzustellen.

Integration in bestehende KI-Systeme

• Qualitätsmanagement: Organisationen sollten prüfen, wie die Anforderungen des AI Acts in ihre bestehenden Qualitätsmanagementsysteme integriert werden können. Dies sollte die Entwicklung neuer Qualitätskriterien für die Entwicklung und den Einsatz von KI-Systemen beinhalten, um deren Sicherheit, Transparenz und Fairness zu gewährleisten.
• Risikomanagement: Der AI Act erfordert einen risikobasierten Ansatz zur Bewertung und Handhabung der Risiken, die mit KI-Systemen verbunden sind. Organisationen sollten ihre bestehenden Risikomanagementprozesse überprüfen und anpassen, um sicherzustellen, dass sie die spezifischen Risiken von KI-Systemen effektiv identifizieren, bewerten und steuern können.
• Dokumentation und Berichterstattung: Der AI Act legt besonderen Wert auf die Dokumentation und Berichterstattung, um die Transparenz und Nachvollziehbarkeit von KI-Systemen zu verbessern. Organisationen sollten Verfahren zur detaillierten Dokumentation der Entwicklung, des Einsatzes und der Leistung ihrer KI-Systeme einführen, einschließlich Informationen über die verwendeten Trainingsdaten, Algorithmen und Entscheidungsfindungsprozesse.
• Schulung und Bewusstseinsbildung: Es ist wichtig, dass alle Mitarbeiter, die an der Entwicklung, dem Einsatz oder der Überwachung von KI-Systemen beteiligt sind, hinsichtlich der Anforderungen des AI Acts geschult werden. Dies umfasst auch die Sensibilisierung für ethische Aspekte und die potenziellen Risiken von KI-Systemen.

Empfehlungen für eine erfolgreiche KI-Implementierung

• Frühzeitige Einbindung der Rechts- und Compliance-Abteilungen: Um eine vollständige Übereinstimmung mit dem AI Act zu gewährleisten, sollten Organisationen ihre Rechts- und Compliance-Teams frühzeitig in den Prozess einbinden.
• Zusammenarbeit mit externen Experten: In einigen Fällen kann es sinnvoll sein, externe Experten oder Berater hinzuzuziehen, um spezifische Aspekte der Compliance mit dem AI Act zu adressieren.
• Laufende Überwachung und Anpassung: Da der regulatorische Rahmen für KI sich weiterentwickeln wird, ist es wichtig, dass Organisationen ihre Compliance-Maßnahmen regelmäßig überprüfen und bei Bedarf anpassen.

Die Vorbereitung auf die Implementierung des AI Acts erfordert eine proaktive und strategische Herangehensweise. Durch die Integration der Anforderungen in bestehende Qualitäts- und Risikomanagementsysteme können Organisationen nicht nur die Compliance sicherstellen, sondern auch das Vertrauen in ihre KI-Systeme stärken und so zur Förderung einer ethischen und verantwortungsvollen Nutzung von KI beitragen.