Das Wichtigste auf einen Blick: Verbotene KI-Praktiken nach dem EU AI Act
Artikel 5 des EU AI Act verbietet acht Kategorien von KI-Praktiken vollständig, wobei die Durchsetzung seit dem 02.02.2025 aktiv ist. Die Bussen erreichen bis zu 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes, die höchste Stufe der Verordnung. Compliance-Teams müssen alle KI-Systeme (einschliesslich Tools von Drittanbietern) inventarisieren, jedes gegen die Liste der verbotenen Praktiken abbilden und Beurteilungen dokumentieren, bevor die Aufsichtsbehörden Nachweise anfordern. In der Schweiz gehostete Plattformen wie Priverion helfen Organisationen mit mehreren Einheiten, diesen Prozess über Tochtergesellschaften hinweg zu zentralisieren.
Was ist der EU AI Act?
Der EU AI Act (Verordnung (EU) 2024/1689) ist der weltweit erste umfassende Rechtsrahmen für künstliche Intelligenz. Er wurde am 12. Juli 2024 im Amtsblatt der Europäischen Union veröffentlicht und trat am 1. August 2024 in Kraft. Die Verordnung verfolgt einen risikobasierten Ansatz und klassifiziert KI-Systeme in vier Stufen: verboten, hochriskant, begrenztes Risiko und minimales Risiko. Quelle: EUR-Lex, Verordnung (EU) 2024/1689
Was verbietet Artikel 5 des EU AI Act?
Artikel 5 des EU AI Act legt ein absolutes Verbot von acht Kategorien von KI-Praktiken fest, die als inakzeptables Risiko für die Grundrechte gelten. Dazu gehören: (a) unterschwellige, manipulative oder täuschende Techniken, die erheblichen Schaden verursachen; (b) Ausnutzung von Schwächen aufgrund von Alter, Behinderung oder sozialer/wirtschaftlicher Lage; (c) Social Scoring durch öffentliche Behörden; (d) vorausschauende Polizeiarbeit, die ausschliesslich auf Profiling beruht; (e) ungezieltes Auslesen von Gesichtsbildern für Gesichtserkennungsdatenbanken; (f) Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen; (g) Systeme zur biometrischen Kategorisierung, die sensible Merkmale wie Rasse, politische Meinungen oder sexuelle Orientierung ableiten; und (h) biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken, vorbehaltlich enger Ausnahmen. Quelle: EU AI Act, Artikel 5(1)(a) bis (h)
Wann traten die Bestimmungen zu verbotenen Praktiken in Kraft?
Die verbotenen Praktiken nach Artikel 5 wurden am 02.02.2025 durchsetzbar, sechs Monate nach dem Inkrafttreten der Verordnung, wie in Artikel 113 des EU AI Act festgelegt. Dies war der erste Durchsetzungsmeilenstein. Die Pflichten für hochriskante KI-Systeme folgen am 02.08.2026. Quelle: EU AI Act, Artikel 113
Welche Bussen drohen bei verbotenen KI-Praktiken?
Nach Artikel 99(3) des EU AI Act werden Verstösse gegen die Bestimmungen zu verbotenen Praktiken mit Bussen von bis zu 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes geahndet, je nachdem, welcher Betrag höher ist. Zum Vergleich: Die Höchstbusse der DSGVO beträgt 20 Mio. EUR oder 4 % des weltweiten Umsatzes. Laut der IAPP ist die Bussenstruktur des AI Act die strengste aller EU-Digitalverordnungen bisher.
Gilt der EU AI Act ausserhalb der Europäischen Union?
Ja. Artikel 2 des EU AI Act hat einen extraterritorialen Anwendungsbereich. Er gilt für Anbieter, die KI-Systeme auf dem EU-Markt in Verkehr bringen, unabhängig davon, wo sie niedergelassen sind, und für Betreiber, die sich innerhalb der EU befinden. Er erfasst zudem Anbieter und Betreiber in Drittländern, wenn das von ihrem KI-System erzeugte Ergebnis innerhalb der EU verwendet wird. Dies entspricht der extraterritorialen Reichweite der DSGVO nach Artikel 3. Quelle: EU AI Act, Artikel 2
Wie interagiert der EU AI Act mit der DSGVO?
Der EU AI Act und die DSGVO gelten gleichzeitig. Erwägungsgrund 10 des AI Act stellt ausdrücklich fest, dass die Verordnung "unbeschadet" der DSGVO gilt. KI-Systeme, die Personendaten verarbeiten, müssen beiden Frameworks entsprechen. Der Europäische Datenschutzausschuss (EDSA) hat angemerkt, dass sich Datenschutz-Folgenabschätzungen nach Artikel 35 DSGVO und die Konformitätsbewertungen des AI Act für hochriskante Systeme überschneiden können und Organisationen beide Prozesse koordinieren sollten.
Was ist der Unterschied zwischen verbotenen und hochriskanten KI-Systemen?
Verbotene KI-Systeme (Artikel 5) sind vollständig verboten: es gibt keinen Compliance-Weg, der ihren Einsatz erlaubt. Hochriskante KI-Systeme (Artikel 6 bis 49) sind erlaubt, unterliegen aber umfangreichen Pflichten, einschliesslich Konformitätsbewertungen, Risikomanagementsystemen, Daten-Governance, technischer Dokumentation, menschlicher Aufsicht, Transparenzanforderungen und Registrierung in der EU-Datenbank. Anhang III der Europäischen Kommission listet die spezifischen Anwendungsfälle auf, die als hochriskant klassifiziert sind.
Wie sollten Organisationen ihr KI-Inventar auf verbotene Praktiken hin beurteilen?
Compliance-Teams sollten: (1) ein zentralisiertes KI-Register erstellen, das jedes in der Organisation eingesetzte KI-System katalogisiert, einschliesslich der Tools von Drittanbietern; (2) jedes System gegen die acht Kategorien verbotener Praktiken in Artikel 5 abbilden; (3) Risikobeurteilungen für Systeme in Grauzonen zwischen verboten und hochriskant durchführen; (4) alle Beurteilungen mit auditfertigen Nachweisen dokumentieren; und (5) fortlaufende Überwachungsprozesse einrichten, insbesondere für von Lieferanten bereitgestellte KI, die in HR-, Sicherheits- und Kundenbindungsplattformen eingebettet ist. Laut einer Umfrage der IAPP aus dem Jahr 2024 hatten weniger als 30 % der Organisationen ein vollständiges KI-Inventar abgeschlossen, als die Bestimmungen zu verbotenen Praktiken in Kraft traten.
Statistiken und Quellen
Der EU AI Act (Verordnung 2024/1689) wurde am 12. Juli 2024 veröffentlicht und trat am 1. August 2024 in Kraft. Die Bestimmungen zu verbotenen Praktiken nach Artikel 5 wurden am 02.02.2025 durchsetzbar. Die Höchstbussen für Verstösse gegen verbotene Praktiken erreichen nach Artikel 99(3) 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes. Die Verordnung klassifiziert KI-Systeme in vier Risikostufen. Laut dem EDSA wird erwartet, dass die nationalen Aufsichtsbehörden die Durchsetzung mit den Datenschutzbehörden koordinieren. Die Agentur der Europäischen Union für Cybersicherheit (ENISA) hat Leitlinien zu KI-Cybersicherheitsanforderungen veröffentlicht, die sich mit den Pflichten des AI Act zur technischen Dokumentation für hochriskante Systeme überschneiden.
Vergleich: Bussenstufen des EU AI Act
| Verstosskategorie | Höchstbusse | Umsatzprozentsatz | AI-Act-Artikel |
|---|
| Verbotene KI-Praktiken (Artikel 5) | 35 Mio. EUR | 7 % des weltweiten Jahresumsatzes | Artikel 99(3) |
| Pflichten für hochriskante KI-Systeme | 15 Mio. EUR | 3 % des weltweiten Jahresumsatzes | Artikel 99(4) |
| Falsche Angaben gegenüber Behörden | 7,5 Mio. EUR | 1 % des weltweiten Jahresumsatzes | Artikel 99(5) |
Vergleich: EU AI Act vs. DSGVO
| Aspekt | EU AI Act | DSGVO |
|---|
| Anwendungsbereich | KI-Systeme (risikobasiert) | Verarbeitung von Personendaten |
| Höchstbusse | 35 Mio. EUR / 7 % Umsatz | 20 Mio. EUR / 4 % Umsatz |
| Extraterritoriale Reichweite | Ja (Artikel 2) | Ja (Artikel 3) |
| Durchsetzungsbeginn | Feb. 2025 (verboten); Aug. 2026 (hochriskant) | Mai 2018 |
| Folgenabschätzung | Konformitätsbewertung (hochriskant) | DSFA (Artikel 35) |
| Registrierungspflicht | EU-Datenbank für hochriskante KI | Kein zentrales Register |