În urma mai multor recomandări adoptate în ultimii trei ani pentru domeniul inteligenței artificiale (AI) și a unei consultări de piață, executivul UE a prezentat, la 21 aprilie, un regulament propus pentru a proteja valorile și drepturile fundamentale ale UE și securitatea utilizatorilor, cu scopul de a obliga sistemele considerate ca fiind cu risc ridicat pentru a respecta cerințele obligatorii legate de fiabilitatea acestora.

„ Nerespectarea de către un furnizor de AI [...] poate atrage după sine o amendă de până la 6% din cifra sa de afaceri anuală globală”, a explicat Margrethe Vestager, vicepreședinte executiv al Comisiei Europene cu portofoliul „unei Europe apt pentru era digitală”, la o conferință de presă organizată la Bruxelles.

Printr-o abordare bazată pe riscuri, executivul UE a propus ca, în această primă legislație a UE pentru AI, să se impună controale stricte asupra sistemelor considerate ca fiind cu risc ridicat, iar cele cu risc inacceptabil să fie interzise.

Cu toate acestea, deși sistemele de identificare biometrică la distanță sunt menționate în noua legislație drept „risc ridicat”, Margrethe Vestager a clarificat presei că există aplicații care nu sunt „problematice”, cum ar fi recunoașterea facială sau amprentele digitale, cu condiția ca acestea să fie destinate uzului personal.

„ O utilizare specifică a AI care se încadrează atât în categoriile cu risc ridicat, cât și în categoriile de interdicție este identificarea biometrică prin identificarea de la distanță, care poate fi utilizată în mai multe scopuri, iar unele dintre ele nu sunt problematice, cum ar fi atunci când este utilizată în controlul de frontieră unu-la-unu de către autoritățile vamale sau atunci când a cerut să semneze cu amprentele noastre sau prin recunoaștere facială”, a precizat ea.

Dimpotrivă, „în propunerea noastră, ne concentrăm pe identificarea biometrică de la distanță, prin care mulți oameni sunt urmăriți în același timp”, a subliniat Margrethe Vestager, argumentând că „orice astfel de utilizare este extrem de riscantă din punct de vedere al drepturilor fundamentale”.

„ Și de aceea supunem identificarea biometrică la distanță unor reguli și mai stricte decât alte cazuri de utilizare cu risc ridicat”, a justificat ea.

El a continuat să spună că „există situații în care [normele pentru sistemele cu risc ridicat] ar putea să nu fie suficiente și atunci când identificarea biometrică de la distanță este utilizată în timp real de către autoritățile de aplicare a legii în locuri publice”, astfel încât utilizarea sa va fi interzisă acum în UE, deoarece „nu există loc pentru masă supravegherea în societatea europeană”.

Noua lege prevede că toate sistemele de recunoaștere a emoțiilor și de clasificare biometrică vor fi supuse unor cerințe specifice de transparență și, de asemenea, ar trebui considerate ca fiind un risc ridicat în cazurile de utilizare în domeniile ocupării forței de muncă, educației, aplicării legii, migrației și controlului frontierelor, de exemplu.

De asemenea, potrivit lui Margrethe Vestager, „va depinde de statele membre să identifice care autoritate națională va fi cea mai bună” să supravegheze noile norme, fie că, de exemplu, protecția datelor sau supravegherea pieței.

În acest dosar, care este o prioritate pentru președinția portugheză a UE, Bruxelles creează apoi prima legislație care vizează AI, deși cei responsabili de această tehnologie sunt deja supuși legislației europene privind drepturile fundamentale, cum ar fi protecția datelor, viața privată și nediscriminarea.