EU KI-Gesetz: Verbotene Praktiken, Strafen und Schlupflöcher

Ab Februar 2025 tritt ein bahnbrechendes Gesetz in der Europäischen Union in Kraft: Der AI Act, das erste umfassende Regelwerk zur Künstlichen Intelligenz (KI), das bestimmte KI-Praktiken verbietet, die als unannehmbar hohes Risiko für die Sicherheit, Gesundheit und Grundrechte der Menschen eingestuft werden. Dieses Gesetz soll verhindern, dass KI-Systeme zu fehlerhaften, irreführenden oder sogar voreingenommenen Ergebnissen führen, die die Grundrechte der Bürger verletzen. Der AI Act zielt darauf ab, Diskriminierung, Überwachung und andere schädliche Anwendungen von KI einzudämmen. Es geht darum, einen Rahmen zu schaffen, der Innovation und technologischen Fortschritt mit dem Schutz von Menschenrechten und ethischen Standards in Einklang bringt. Dabei ist zu beachten, dass die Verbote auch dann gelten, wenn das KI-System außerhalb der EU betrieben wird, aber Auswirkungen innerhalb der EU hat.

Welche KI-Praktiken sind nun (teilweise) verboten?

Der AI Act verbietet eine Reihe von KI-Systemen und -Praktiken, die als besonders risikoreich eingestuft wurden. Dazu gehören: KI-Systeme, die zur Manipulation oder Täuschung des menschlichen Verhaltens eingesetzt werden, wie zum Beispiel sprachgesteuerte Spielzeuge, die Kinder zu gefährlichem Verhalten anstiften. Ebenso untersagt sind KI-Systeme, die die Schwächen von Menschen oder Gruppen ausnutzen. Bestimmte Formen des Social Scoring, die nicht im Kontext der Datenerhebung stehen, sind ebenfalls verboten. Desweiteren sind KI-Systeme zur Erstellung oder Erweiterung von Gesichtserkennungsdatenbanken durch ungezielt das Sammeln von Gesichtsbildern aus dem Internet oder Überwachungskameras untersagt. Auch die Live-Gesichtserkennung im öffentlichen Raum durch die Polizei ist grundsätzlich verboten, allerdings gibt es hier Ausnahmen.

Teilweise Verbote im Detail

Neben den vollständigen Verboten gibt es auch Praktiken, die unter bestimmten Umständen eingeschränkt sind. Dazu gehört Predictive Policing, also der Einsatz von KI-Systemen, die auf Basis von Persönlichkeitsmerkmalen das Risiko von Straftaten bewerten. Eingeschränkt ist die Nutzung von KI für Predictive Policing, wenn sie das Ergebnis einer Risikobewertung aufgrund von Persönlichkeitsmerkmalen ist. Hingegen ist die Nutzung von Systemen, die auf objektiven und nachweisbaren Fakten im direkten Zusammenhang mit einer kriminellen Handlung basieren, nicht untersagt. Ebenfalls eingeschränkt sind Kategorisierungssysteme, die versuchen, Rasse, politische Meinungen, Gewerkschaftszugehörigkeit, religiöse oder weltanschauliche Überzeugungen, Sexualleben oder sexuelle Orientierung aufgrund von biometrischen Daten herzuleiten. Diese Einschränkung gilt jedoch nicht für Strafverfolgungsbehörden. Zudem sind Emotionserkennungssysteme im Bildungs- und Arbeitskontext verboten, die versuchen, den emotionalen Zustand oder charakteristische Merkmale durch biometrische Daten wie Gesichtsausdrücke zu ermitteln. Hier gibt es Ausnahmen für medizinische und Sicherheitsgründe.

Schlupflöcher und Ausnahmen

Trotz der weitreichenden Verbote gibt es Schlupflöcher und Ausnahmen. Die "nationale Sicherheit" wurde als Ausnahme im AI Act mit aufgenommen. Dies bedeutet, dass die Schutzmaßnahmen des Gesetzes nicht für KI-Systeme gelten, die ausschließlich zum Zweck der nationalen Sicherheit entwickelt oder eingesetzt werden, unabhängig davon, ob dies von einer Behörde oder einem Privatunternehmen geschieht. Diese Ausnahme ist jedoch nicht als pauschale Freistellung zu verstehen und muss im Einklang mit der EU-Grundrechtecharta stehen. Des Weiteren gilt das KI-Gesetz nur für Systeme, die auf dem EU-Markt platziert oder in der EU verwendet werden. Dies bedeutet, dass verbotene Systeme in Drittländer exportiert werden können.

Was tun bei Rechtsverletzungen?

Sollte jemand glauben, dass seine Rechte durch die Verwendung eines verbotenen KI-Systems verletzt wurden, können Beschwerden bei der zuständigen Marktüberwachungsbehörde eingereicht werden. In Deutschland ist dies die Bundesnetzagentur. Es bleibt abzuwarten, wie effektiv diese Behörden die Einhaltung der Vorschriften durchsetzen und Verstöße ahnden werden. Die Nichteinhaltung der Verbote kann mit Verwaltungsstrafen von bis zu 35.000.000 Euro oder für Unternehmen mit bis zu 7% ihres Gesamtjahresumsatzes geahndet werden.

Weiterführende Informationen

Für weitere Informationen zum AI Act und damit verbundenen Themen stehen verschiedene Ressourcen zur Verfügung. Dazu gehören politische Dokumente, Stellungnahmen von Interessenvertretungen, der Gesetzestext selbst sowie weitere Erklärungen und Leitlinien.

Fazit

Das EU-KI-Gesetz ist ein wichtiger Schritt zum Schutz vor den Gefahren von missbräuchlicher KI. Es gibt jedoch Herausforderungen bei der Durchsetzung und es gibt Schlupflöcher, die ausgenutzt werden könnten. Es wird entscheidend sein, wie die EU und die Mitgliedsstaaten die Vorgaben des Gesetzes umsetzen und wie gut der Schutz der Grundrechte durchgesetzt wird. Es wird sich zeigen, ob der AI Act in der Lage ist, die Zukunft der KI in der EU im Sinne der Menschenrechte zu gestalten.