Die Europäische Union hat einen historischen Schritt im Umgang mit künstlicher Intelligenz (KI) getätigt, indem sie sich auf den Artificial Intelligence Act geeinigt hat. Die Mitgliedsstaaten haben nicht nur strengere Regeln für KI-Modelle, darunter solche von Branchengrößen wie OpenAI, beschlossen, sondern auch bestimmte Anwendungsfälle verboten.

Unterteilung in Risikogruppen

Die EU-Kommission hat die KI-Anwendungen nach großen internen Diskussionen in drei Risikogruppen unterteilt: minimal, hochriskant und inakzeptabel. Die Einstufung der Gruppe ‚inakzeptabel‘, soll verboten werden, da sie eine potenzielle Bedrohung für Bürgerrechte und Demokratie darstellen könnte. Hierzu zählen das ungezielte Auslesen von Fotos zur Erstellung von Gesichtserkennungsdatenbanken sowie Systeme zur Kategorisierung nach politischer Überzeugung oder sexueller Orientierung.

Ebenfalls unter das Verbot fallen KI-Systeme, die das Verhalten von Menschen manipulieren und ihren freien Willen beeinflussen könnten. Des Weiteren sollen Systeme untersagt werden, die die Überwachung und Bewertung von Beschäftigten am Arbeitsplatz oder Privatpersonen basierend auf ihrem Sozialverhalten ermöglichen.

Trotz dieser strikten Regulierungen behält sich die EU-Kommission eine Ausnahme für biometrische Identifikationssysteme vor, die von Strafverfolgungsbehörden mit richterlicher Genehmigung eingesetzt werden können. Diese Ausnahme gilt jedoch nur für eine streng definierte Liste von Straftaten und ist zeitlich sowie örtlich begrenzt.

Transparenzanforderungen und Berichtspflichten

Für als ‚hochriskant‘ eingestufte KI-Systeme wurden Transparenzanforderungen festgelegt. Anbieter müssen demnach eine technische Dokumentation bereitstellen und Informationen über die verwendeten Trainingsdaten offenlegen. Im Falle von Modellen, die Kriterien für hochriskante Anwendungen erfüllen, besteht eine Berichtspflicht für schwerwiegende Vorfälle sowie für die Energieeffizienz.

Ursula von der Leyen, Präsidentin der Europäischen Kommission, begrüßt das Gesetz als einen entscheidenden Beitrag zur Entwicklung globaler Regeln und Grundsätze für menschenzentrierte KI. Sie betonte, dass der Artificial Intelligence Act verantwortungsvolle Innovation fördern wird, indem er die Sicherheit und Grundrechte von Menschen und Unternehmen gewährleistet.

Was bedeutet der Beschluss für Unternehmen und Mitarbeitende?

Der Beschluss hat weitreichende Auswirkungen auf Unternehmen, die KI-Technologien entwickeln, einsetzen oder davon betroffen sind und ihre Mitarbeitenden. Klar definierte Kategorien und Verbote erfordern von Unternehmen eine Überprüfung und Anpassung ihrer Technologien, um den neuen Vorschriften zu entsprechen. Dies könnte Investitionen in die Entwicklung sichererer und ethisch verantwortlicher KI-Modelle erforderlich machen.

Die Transparenzanforderungen und Berichtspflichten bedeuten, dass Unternehmen transparenter über ihre Technologien und deren Funktionsweise informieren müssen. Dies könnte zu einer verbesserten Vertrauensbasis zwischen Unternehmen, Verbrauchern und Regulierungsbehörden führen.

In Bezug auf die Mitarbeitenden ist davon auszugehen, dass der Einsatz von KI-Systemen am Arbeitsplatz strenger reguliert werden wird. Die Manipulation des Verhaltens von Mitarbeitenden oder eine Bewertung aufgrund ihres Sozialverhaltens wird explizit verboten. Unternehmen müssen sicherstellen, dass ihre KI-Anwendungen die Grundrechte und den freien Willen der Mitarbeitenden respektieren.