Seit dem 2. Februar 2025 gelten die ersten Bestimmungen des europäischen KI-Gesetzes (EU AI Act). Besonders relevant sind dabei die Vorschriften zu verbotenen Praktiken im Bereich der Künstlichen Intelligenz sowie die neuen Anforderungen an KI-Kompetenz. Doch was bedeutet das konkret für Unternehmen und KI-Anwender?
Verbotene KI-Praktiken: Wo zieht der Gesetzgeber die Grenze?
Der EU AI Act untersagt bestimmte Anwendungen von Künstlicher Intelligenz, die als besonders risikobehaftet oder ethisch bedenklich eingestuft werden. Diese sind in Artikel 5 des Gesetzes festgehalten und umfassen unter anderem:
- Gesichtserkennungsdatenbanken, die durch Scraping von Online-Bildern oder Sicherheitskameras erstellt wurden
- Biometrische Systeme, die Menschen anhand sensibler Daten identifizieren
- Manipulative KI-Techniken, die gezielt das Verhalten von Menschen beeinflussen
- Soziales Scoring, ähnlich dem chinesischen Modell, das Bürger anhand ihres Verhaltens bewertet
- KI-gestützte Kriminalitätsvorhersage, die aufgrund von Datenanalysen potenzielle Täter identifiziert
- Emotionserkennung in Schulen und am Arbeitsplatz, die darauf abzielt, Gefühle zu messen
- Systeme, die Schwächen von Personen ausnutzen, etwa aufgrund ihres Alters, einer Behinderung oder ihrer sozioökonomischen Lage
Unternehmen, die gegen diese Verbote verstoßen, drohen empfindliche Geldstrafen von bis zu 7 % des weltweiten Jahresumsatzes oder 35 Millionen Euro – je nachdem, welcher Betrag höher ausfällt.
KI-Kompetenz: Unternehmen müssen sich weiterbilden
Ein weiterer zentraler Punkt des neuen Gesetzes ist die Förderung von KI-Kompetenz (engl. „AI Literacy“). Artikel 4 verpflichtet Unternehmen dazu, sicherzustellen, dass ihre Mitarbeiter, die mit KI arbeiten, über ausreichend Wissen verfügen. Dazu gehören:
- Technisches Verständnis der KI-Systeme, mit denen sie arbeiten
- Bewusstsein für den Anwendungsbereich der jeweiligen KI
- Kenntnisse über die Auswirkungen der KI auf Menschen und Gesellschaft
Um Unternehmen bei der Umsetzung dieser Vorschriften zu unterstützen, hat die Europäische Kommission eine Sammlung bewährter KI-Literacy-Praktiken veröffentlicht. Zudem wird am 20. Februar 2025 ein Webinar angeboten, das sich speziell mit den neuen Anforderungen aus Artikel 4 befasst.
Was kommt als Nächstes?
Während diese ersten Regelungen bereits in Kraft sind, treten weitere zentrale Bestimmungen des KI-Gesetzes erst in den kommenden Monaten in Kraft. Besonders wichtig ist der 2. August 2025:
- Ernennung der Aufsichtsbehörden in den Mitgliedstaaten
- Beginn der Durchsetzung des Gesetzes, inklusive der Verhängung von Strafen
- Verpflichtungen für Anbieter von allgemeinen KI-Modellen, die besonders leistungsfähige KI-Systeme entwickeln
Parallel dazu arbeitet die EU an einem Code of Practice für General-Purpose-KI, der voraussichtlich im April 2025 finalisiert wird.
Ausnahmen für Strafverfolgung sorgen für Kritik
Nicht alle KI-gestützten Systeme sind uneingeschränkt verboten. Der EU AI Act sieht Ausnahmen für Strafverfolgungsbehörden vor, etwa bei der Echtzeit-Gesichtserkennung im öffentlichen Raum zur Ermittlung von Verdächtigen. Diese Sonderregelungen stoßen jedoch auf Kritik, insbesondere von Menschenrechtsorganisationen. So bemängelte das Center for Democracy and Technology Europe, dass die Konsultation zu den Leitlinien nicht transparent genug gewesen sei.
Fazit: Jetzt handeln, um Bußgelder zu vermeiden
Für Unternehmen bedeutet das neue Gesetz vor allem eins: Jetzt handeln! Wer KI einsetzt, sollte sich dringend mit den neuen Vorschriften auseinandersetzen und die erforderlichen Maßnahmen ergreifen. Die ersten Regelungen gelten bereits – und ab August wird es ernst mit der Durchsetzung.