Toen de voorzitter van de Europese Commissie in december 2019 haar eerste toespraak hield voor het Europees Parlement, erkende zij "Kunstmatige Intelligentie" (AI) officieel als een gebied van strategisch belang voor de Europese Unie. Negen maanden later, toen ze het Europees Parlement opnieuw toesprak in haar eerste "State of the Union"-toespraak, was ze van "Artificial Intelligence" naar "AI" gegaan - zo bekend is de technologie binnen de EU-zeepbel nu. Dit is niet zo verwonderlijk wanneer AI wordt ingezet in de meeste (zo niet alle) sectoren van de economie, van de diagnose van ziekten tot het minimaliseren van de milieu-impact van de landbouw.

Het is waar dat de Europese Commissie veel werk heeft verricht sinds president Ursula Von der Leyen en haar team zijn aangetreden. Reeds in december 2019 werd een "wetsvoorstel" over AI beloofd - wat in februari werd opgeleverd was een AI-witboek. Hoewel dit, toegegeven, geen wetsvoorstel is, is het een document dat het debat over menselijke en ethische AI, het gebruik van Big Data, en hoe deze technologieën kunnen worden gebruikt om welvaart te creëren voor de samenleving en het bedrijfsleven, op gang heeft gebracht.

Het Witboek van de Commissie benadrukt het belang van een uniforme aanpak van AI in de 27 lidstaten van de EU, waar verschillende landen hun eigen aanpak van de regelgeving zijn gaan hanteren en dus mogelijk belemmeringen voor de interne markt van de EU opwerpen. Ook, en dat is belangrijk voor Huawei, wordt er gesproken over plannen voor een op risico gebaseerde aanpak van de regulering van AI.

Bij Huawei hebben we het Witboek met belangstelling bestudeerd en samen met (meer dan 1.250!) andere belanghebbenden een bijdrage geleverd aan de openbare raadpleging van de Commissie, die op 14 juni werd afgesloten met onze inbreng en ideeën als deskundigen op dit gebied.

De balans opmaken

Het belangrijkste punt waarop we de Commissie hebben gewezen is de noodzaak om het juiste evenwicht te vinden tussen het toestaan van innovatie en het waarborgen van adequate bescherming voor de burgers.

We hebben ons met name gericht op de noodzaak om risicovolle toepassingen in een duidelijk wettelijk kader te regelen, en we hebben ideeën voorgesteld voor wat de definitie van AI zou moeten zijn. In dit verband zijn wij van mening dat de definitie van AI moet neerkomen op de toepassing ervan, waarbij de risicobeoordelingen gericht moeten zijn op het beoogde gebruik van de toepassing en het soort effect dat voortvloeit uit de AI-functie. Als er gedetailleerde beoordelingslijsten en procedures zijn voor bedrijven om hun eigen self-assessments te maken, dan zal dit de kosten van de initiële risicobeoordeling - die moet voldoen aan de sectorspecifieke eisen - verminderen.

We hebben aanbevolen dat de Commissie onderzoekt of consumentenorganisaties, de academische wereld, de lidstaten en het bedrijfsleven bij elkaar kunnen worden gebracht om te beoordelen of een AI-systeem als risicovol kan worden aangemerkt. Er is al een gevestigde instantie die zich met dit soort zaken bezighoudt - het Permanent Technisch Comité Hoog Risico Systemen (TCRAI). Wij zijn van mening dat dit orgaan AI-systemen zou kunnen beoordelen en evalueren op basis van zowel wettelijke als technische criteria voor hoog risico. Als dit orgaan enige controle zou nemen, in combinatie met een vrijwillig etiketteringsysteem, zou er een bestuursmodel worden aangeboden dat

  • de gehele toeleveringsketen beschouwt
  • de juiste criteria vaststelt en zich richt op het beoogde doel van transparantie voor consumenten/bedrijven
  • de verantwoorde ontwikkeling en inzet van AI stimuleert, en
  • een ecosysteem van vertrouwen creëert.

Buiten de risicovolle toepassingen van AI hebben we de Commissie verklaard dat het bestaande wettelijke kader op basis van schuldaansprakelijkheid en contractuele aansprakelijkheid voldoende is - zelfs voor geavanceerde technologieën zoals AI, waar gevreesd zou kunnen worden dat nieuwe technologie nieuwe regels vereist. Extra regelgeving is echter onnodig; het zou te belastend zijn en de invoering van AI ontmoedigen.

Uit wat we weten over het huidige denken binnen de Commissie, blijkt dat zij ook van plan is om een op risico gebaseerde aanpak te hanteren voor de regulering van AI. De Commissie stelt met name voor om zich op korte termijn te concentreren op "risicovolle" AI-toepassingen - d.w.z. hetzij in sectoren met een hoog risico (zoals de gezondheidszorg), hetzij bij risicovol gebruik (bijvoorbeeld of het gebruik van AI juridische of soortgelijke significante gevolgen heeft voor de rechten van een individu).

Dus, wat gebeurt er nu?

De Commissie heeft veel werk te doen om alle reacties op de raadpleging door te nemen, rekening houdend met de behoeften van het bedrijfsleven, het maatschappelijk middenveld, handelsverenigingen, NGO's en anderen. De extra last van het werken door de coronaviruscrisis heeft de zaken niet geholpen, aangezien de formele reactie van de Commissie nu pas in het eerste kwartaal van 2021 wordt verwacht.

Het coronavirus is natuurlijk een spelbreker geweest voor het gebruik van technologie in de gezondheidszorg en zal ongetwijfeld van invloed zijn op het denken van de Commissie op dit gebied. Over termen als "telegeneeskunde" wordt al jaren gesproken, maar de crisis heeft virtuele raadplegingen in de praktijk gebracht - bijna van de ene dag op de andere.

Naast de gezondheidszorg zien we dat AI voortdurend wordt ingezet op gebieden als de landbouw en in de inspanningen van de EU om de klimaatverandering tegen te gaan. We zijn er bij Huawei trots op dat we deel uitmaken van deze voortdurende digitale ontwikkeling in Europa - een regio waar en waarvoor we al 20 jaar werken. De ontwikkeling van digitale vaardigheden staat hierbij centraal, waardoor niet alleen toekomstige generaties worden uitgerust met de instrumenten om het potentieel van AI te benutten, maar waardoor ook de huidige beroepsbevolking actief en wendbaar kan zijn in een steeds veranderende wereld: er is behoefte aan een inclusieve, op levenslang leren gebaseerde en op innovatie gerichte aanpak van AI-onderwijs en -opleiding, om mensen te helpen naadloos over te stappen van de ene naar de andere baan. De arbeidsmarkt is zwaar getroffen door de crisis en er zijn snelle oplossingen nodig.

In afwachting van de formele reactie van de Commissie op het Witboek, wat valt er nog meer te zeggen over AI in Europa? Betere gezondheidszorg, veiliger en schoner vervoer, efficiëntere productie, slimme landbouw en goedkopere en duurzamere energiebronnen: dit zijn slechts enkele van de voordelen die AI kan opleveren voor onze samenlevingen en voor de EU als geheel. Huawei zal samenwerken met de beleidsmakers in de EU en ernaar streven dat de regio het juiste evenwicht vindt: innovatie in combinatie met consumentenbescherming.