Häufig gestellte Fragen zum EU AI Act
Umfassende Antworten auf Ihre Fragen zur neuen EU-KI-Verordnung und unseren Compliance-Lösungen
Grundlagen des EU AI Acts
Der EU AI Act trat im Mai 2024 in Kraft und wird stufenweise umgesetzt:
Sofort nach Inkrafttreten (Mai 2024)
- Verbot bestimmter KI-Praktiken
- Prohibierte Anwendungen sind sofort untersagt
6 Monate nach Inkrafttreten (November 2024)
- Bildung des Europäischen KI-Ausschusses
- Entwicklung von Codes of Practice
12 Monate nach Inkrafttreten (Mai 2025)
- Transparenzpflichten für bestimmte KI-Systeme
- Kennzeichnungspflichten für Deepfakes und Chatbots
24 Monate nach Inkrafttreten (Mai 2026)
- Vollständige Anwendung der Anforderungen für Hochrisiko-KI-Systeme
- Konformitätsbewertungsverfahren werden verpflichtend
36 Monate nach Inkrafttreten (Mai 2027)
- Vollständige Umsetzung aller Bestimmungen
- Alle Übergangsfristen enden
Wichtiger Hinweis:
Unternehmen sollten frühzeitig mit der Vorbereitung beginnen, um ausreichend Zeit für die Implementierung der erforderlichen Maßnahmen zu haben. Eine schrittweise Umsetzung parallel zu den gesetzlichen Fristen ist empfehlenswert.
Der EU AI Act verfolgt mehrere Hauptziele:
-
Schutz der Grundrechte: Sicherstellung, dass KI-Systeme die Grundrechte, Gesundheit und Sicherheit der EU-Bürger respektieren
-
Ethische KI-Entwicklung: Förderung vertrauenswürdiger und ethischer KI-Anwendungen
-
Harmonisierter Rechtsrahmen: Schaffung einheitlicher Regeln für KI in der gesamten EU
-
Innovation fördern: Stärkung der europäischen Wettbewerbsfähigkeit im KI-Bereich
-
Rechtssicherheit: Klare Vorgaben für Unternehmen und Entwickler
Die Verordnung verfolgt einen risikobasierten Ansatz, bei dem die regulatorischen Anforderungen mit dem Risikoniveau der KI-Anwendung steigen.
Der EU AI Act definiert KI-Systeme breit und umfasst verschiedene Technologien:
Technische Ansätze:
- Maschinelles Lernen (überwacht, unüberwacht, bestärkend)
- Deep Learning und neuronale Netze
- Logik- und wissensbasierte Ansätze
- Statistische Ansätze und Bayessche Schätzung
- Such- und Optimierungsmethoden
Anwendungsbereich:
Die Verordnung gilt für KI-Systeme, die in der EU in Verkehr gebracht oder in Betrieb genommen werden, unabhängig davon, ob die Anbieter in der EU ansässig sind oder nicht.
Ausnahmen:
- KI-Systeme für militärische, Verteidigungs- oder nationale Sicherheitszwecke
- KI-Systeme ausschließlich für Forschungszwecke
- Open-Source-KI-Komponenten (mit Einschränkungen)
Der EU AI Act teilt KI-Systeme in vier Risikoklassen ein:
Unannehmbares Risiko (Verboten)
- Unterschwellige Manipulation
- Ausnutzung von Vulnerabilitäten
- Social Scoring durch Behörden
- Biometrische Echtzeit-Fernidentifizierung
Hochrisiko (Strenge Anforderungen)
- Biometrische Identifizierung
- Kritische Infrastruktur
- Bildungs- und Berufssysteme
- Beschäftigungssysteme
- Zugang zu Dienstleistungen
- Strafverfolgung
- Migration und Grenzkontrolle
- Rechtspflege
Begrenztes Risiko (Transparenzpflichten)
- Chatbots und virtuelle Assistenten
- Emotionserkennungssysteme
- Deepfakes und manipulierte Inhalte
- Biometrische Kategorisierung
Minimales Risiko (Keine spezifischen Pflichten)
- Einfache Textverarbeitung
- Grundlegende Datenanalyse
- Einfache Empfehlungssysteme
- Standard-Suchmaschinen
Wichtig: Die Klassifizierung hängt vom Verwendungszweck ab, nicht von der zugrundeliegenden Technologie. Ein und dieselbe KI-Software kann je nach Einsatzbereich unterschiedlich klassifiziert werden.
Compliance-Anforderungen
Hochrisiko-KI-Systeme unterliegen umfassenden Anforderungen:
Risikomanagement-System
- Kontinuierliche Identifikation von Risiken
- Bewertung und Priorisierung von Risiken
- Implementierung von Risikominderungsmaßnahmen
- Regelmäßige Überprüfung der Wirksamkeit
Datenqualität und Governance
- Strenge Anforderungen an Trainingsdaten
- Sicherstellung der Repräsentativität
- Vermeidung von Bias und Diskriminierung
- Qualitätssicherungsmaßnahmen
Technische Dokumentation
- Detaillierte Beschreibung des Systems
- Entwicklungs- und Validierungsprozesse
- Funktionsweise und Kontrollen
- Leistungsmetriken und Grenzen
Aufzeichnungspflichten
- Protokollierung aller Systemaktivitäten
- Nachvollziehbarkeit von Entscheidungen
- Audit-Trails für Compliance-Nachweis
- Langzeitspeicherung der Logs
Transparenz und menschliche Aufsicht
- Klare Informationen für Nutzer
- Wirksame menschliche Überwachung
- Möglichkeit zur Intervention
- Verständliche Bedienoberflächen
Genauigkeit und Robustheit
- Angemessenes Niveau an Genauigkeit
- Robustheit gegen Angriffe
- Cybersicherheitsmaßnahmen
- Kontinuierliches Monitoring
Konformitätsbewertung und Registrierung
- Durchführung vor Inverkehrbringen
- CE-Kennzeichnung
- EU-Konformitätserklärung
- Eintragung in EU-Datenbank
Wichtiger Hinweis:
Die Einhaltung dieser Anforderungen muss durch geeignete Dokumentation nachgewiesen werden können. Bei wesentlichen Änderungen am System ist eine erneute Konformitätsbewertung erforderlich.
Der EU AI Act verbietet bestimmte KI-Praktiken, die als unannehmbares Risiko eingestuft werden:
Unterschwellige Manipulation
KI-Systeme, die unterschwellige Techniken verwenden, um das Verhalten einer Person zu manipulieren und ihr oder anderen Personen Schaden zuzufügen.
Ausnutzung von Vulnerabilitäten
KI-Systeme, die Schwachstellen bestimmter Personengruppen (Alter, Behinderung) ausnutzen, um ihr Verhalten wesentlich zu manipulieren.
Social Scoring durch Behörden
Bewertungssysteme, die zu ungerechtfertigter Diskriminierung oder nachteiligen Auswirkungen auf betroffene Personen führen.
Biometrische Echtzeit-Fernidentifizierung
In öffentlich zugänglichen Räumen für Strafverfolgungszwecke (mit eng definierten Ausnahmen für schwere Straftaten).
Emotionserkennungssysteme
Am Arbeitsplatz und in Bildungseinrichtungen (außer für medizinische oder Sicherheitszwecke).
Prädiktive Polizeiarbeit
Basierend auf Profiling natürlicher Personen oder deren Eigenschaften.
Sanktionen:
Diese Verbote gelten uneingeschränkt und ohne Ausnahmen für alle Marktteilnehmer. Verstöße können mit Geldbußen von bis zu 35 Millionen Euro oder 7% des weltweiten Jahresumsatzes geahndet werden.
Der EU AI Act legt verschiedene Transparenzpflichten fest, die je nach Art des KI-Systems variieren:
Für alle KI-Systeme
- Anbieter müssen sicherstellen, dass KI-Systeme so konzipiert sind, dass ihre Ausgaben für Nutzer verständlich sind
- Grundlegende Informationen über Funktionsweise und Zweck
Für Hochrisiko-KI-Systeme
- Umfassende technische Dokumentation
- Detaillierte Gebrauchsanweisungen
- Informationen über Leistung und Einschränkungen
- Risikobewertung und Sicherheitsmaßnahmen
Chatbots und virtuelle Assistenten
- Müssen sich klar als KI-Systeme zu erkennen geben
- Nutzer müssen über KI-Interaktion informiert werden
- Kennzeichnung bereits bei erster Kontaktaufnahme
Emotionserkennungssysteme
- Personen müssen darüber informiert werden, dass sie dieser Technologie ausgesetzt sind
- Aufklärung über Zweck und Funktionsweise
- Hinweise auf Opt-out-Möglichkeiten (wo anwendbar)
Deepfakes und manipulierte Inhalte
- Müssen als künstlich erzeugte Inhalte gekennzeichnet werden
- Deutlich sichtbare und verständliche Kennzeichnung
- Ausnahmen nur für autorisierte Verwendung (z.B. künstlerische Zwecke)
Biometrische Kategorisierungssysteme
- Personen müssen über ihre Anwendung informiert werden
- Aufklärung über verarbeitete biometrische Daten
- Information über Zweck der Kategorisierung
Ziel der Transparenzpflichten:
Diese Transparenzpflichten sollen sicherstellen, dass Nutzer und betroffene Personen angemessen über den Einsatz von KI-Systemen informiert werden und deren Funktionsweise verstehen können.
Haben Sie weitere Fragen?
Wenn Sie keine Antwort auf Ihre Frage gefunden haben, können Sie uns Ihre Frage direkt senden. Unser Expertenteam wird sich so schnell wie möglich bei Ihnen melden.
Bereit für Ihre AI Act Compliance-Reise?
Vereinbaren Sie ein kostenloses Erstgespräch mit unseren Experten und erfahren Sie, wie wir Sie bei der Umsetzung des EU AI Acts unterstützen können.