Nach mehreren Empfehlungen, die in den letzten drei Jahren für den Bereich der künstlichen Intelligenz (KI) verabschiedet wurden, und einer Marktkonsultation hat die EU-Exekutive am 21. April einen Verordnungsvorschlag zum Schutz der EU-Werte und Grundrechte sowie der Sicherheit der Nutzer vorgelegt, der darauf abzielt, als risikoreich eingestufte Systeme zur Einhaltung verbindlicher Anforderungen an ihre Zuverlässigkeit zu verpflichten.

"Die Nichteinhaltung durch einen KI-Anbieter [...] kann eine Geldstrafe von bis zu 6 Prozent seines weltweiten Jahresumsatzes nach sich ziehen", erklärte Margrethe Vestager, Exekutiv-Vizepräsidentin der Europäischen Kommission mit dem Ressort "Ein Europa, fit für das digitale Zeitalter", auf einer Pressekonferenz in Brüssel.

Durch einen risikobasierten Ansatz hat die EU-Exekutive vorgeschlagen, dass in dieser ersten EU-Gesetzgebung für KI strenge Kontrollen für Systeme vorgeschrieben werden sollen, die als hohes Risiko eingestuft werden, und solche mit inakzeptablem Risiko verboten werden sollen.

Obwohl biometrische Identifikationssysteme aus der Ferne in der neuen Gesetzgebung als "hohes Risiko" erwähnt werden, stellte Margrethe Vestager gegenüber der Presse klar, dass es Anwendungen gibt, die "nicht problematisch" sind, wie z.B. Gesichtserkennung oder Fingerabdrücke, sofern sie für den persönlichen Gebrauch sind.

"Eine spezifische Anwendung von KI, die sowohl in die Hochrisiko-Kategorie als auch in die Verbots-Kategorie fällt, ist die biometrische Identifizierung durch Fernidentifizierung, die für viele Zwecke eingesetzt werden kann und von denen einige unproblematisch sind, wie z.B. wenn sie bei der Eins-zu-eins-Grenzkontrolle durch die Zollbehörden eingesetzt wird oder wenn wir gebeten werden, mit unseren Fingerabdrücken oder per Gesichtserkennung zu unterschreiben", präzisierte sie.

Im Gegenteil: "In unserem Vorschlag konzentrieren wir uns auf die biometrische Fernidentifizierung, bei der viele Menschen gleichzeitig erfasst werden", betonte Margrethe Vestager und argumentierte, dass "jede derartige Verwendung aus grundrechtlicher Sicht höchst riskant ist".

"Und deshalb unterwerfen wir die biometrische Fernidentifizierung noch strengeren Regeln als andere risikoreiche Anwendungsfälle", begründete sie.

Er fuhr fort, dass "es Situationen gibt, in denen [die Regeln für Hochrisikosysteme] nicht ausreichen, und das ist, wenn biometrische Fernidentifikation in Echtzeit von Strafverfolgungsbehörden an öffentlichen Orten verwendet wird", so dass ihre Verwendung nun in der EU verboten sein wird, da "es keinen Platz für Massenüberwachung in der europäischen Gesellschaft gibt".

Das neue Gesetz sieht vor, dass alle Systeme zur Erkennung von Emotionen und zur biometrischen Kategorisierung besonderen Transparenzanforderungen unterliegen und auch bei der Verwendung in den Bereichen Beschäftigung, Bildung, Strafverfolgung, Migration und Grenzkontrolle als hochriskant eingestuft werden sollen.

Auch wird es laut Margrethe Vestager an den Mitgliedsstaaten liegen, zu bestimmen, welche nationale Behörde am besten geeignet ist", die neuen Regeln zu überwachen, sei es zum Beispiel der Datenschutz oder die Marktüberwachung.

In diesem Dossier, das für die portugiesische EU-Ratspräsidentschaft Priorität hat, schafft Brüssel dann die erste Gesetzgebung, die auf KI abzielt, obwohl die Verantwortlichen für diese Technologie bereits der europäischen Gesetzgebung zu Grundrechten wie Datenschutz, Privatsphäre und Nicht-Diskriminierung unterliegen.