De Europese Commissie wil haar burgers beschermen door uitwassen van kunstmatige intelligentie de weg te versperren. Zo wil de commissie overheden verbieden om burgers met zulke systemen op de voet te volgen en punten te geven voor hun gedrag, zoals in China gebeurt.
De EU komt als eerste wereldmacht met regels om misbruik te voorkomen, in de hoop zo de lijnen uit te zetten voor wereldwijde actie. ‘We kunnen de weg plaveien voor ethische technologie in de hele wereld’, zegt vicevoorzitter Margrethe Vestager.
Het dagelijks bestuur van de EU wil vormen van kunstmatige intelligentie daarbij indelen naargelang het gevaar dat ze vormen voor de rechten van burgers. ‘Onaanvaardbaar gevaarlijke’ technologie moet verboden worden. Daaronder valt bijvoorbeeld speelgoed dat kinderen tot gevaarlijk gedrag kan aanzetten.
Chatbots
Voor kunstmatige intelligentie die een hoog risico vormt, komen als het aan de commissie ligt strenge regels. Zo moeten de gegevens waarmee deze systemen werken tiptop in orde zijn, om te voorkomen dat mensen onrecht wordt gedaan. Ook moet te achterhalen zijn hoe een systeem tot een bepaalde conclusie is gekomen. En er moet altijd een mens een oogje in het zeil houden.
Ook minder risicovolle technologie, zoals de chatbots die veel instanties inzetten om bezoekers te woord te staan, moet aan regels voldoen, zij het lichtere. Zo moet altijd duidelijk zijn wie aan het woord is, een mens, of slimme software. ‘Vertrouwen is bij kunstmatige intelligentie geen aardigheidje, maar een vereiste’, onderstreept Vestager.
Geen social credit
In de praktijk komt het erop neer dat zogeheten ‘social credit’ systemen, zoals China al inzet, verboden worden. De regels moeten ook manipulatie en het uitbuiten van kwetsbare mensen vermijden. Gebruik van AI door politie, via bijvoorbeeld gezichtsherkenning, wordt ‘in principe verboden’, zij het met een lijst aan uitzonderingen. Zo kunnen rechters het gebruik van AI toestaan om bepaalde misdaden op te lossen of terroristische aanslagen te voorkomen.
Binnen die veilige perken moet de kunstmatige intelligentie in de EU opbloeien, is de bedoeling. De technologie bevat immers ‘een immense belofte’, zegt EU-commisssaris Thierry Breton (Interne Markt). Daarom moet de EU ‘een mondiaal knooppunt worden voor uitblinken in kunstmatige intelligentie, van het laboratorium tot de markt’. De Fransman wil daarin geld en energie steken, zodat meer getalenteerde mensen opstaan, en onderzoekers en bedrijven elkaar weten te vinden en de ruimte krijgen.
De regels lijken, gebaseerd op de eerste openbare kritiek, redelijk gebalanceerd, in dat niemand er echt blij mee is. Privacy-activisten klagen aan dat de regels niet ver genoeg gaan in hun bescherming, omdat ze bijvoorbeeld nog steeds gezichtsherkenning toelaten. De (Amerikaanse) tech-industrie vindt dan weer dat ze veel te ver gaan en dringt aan op een minder streng framework voor AI.
Fout opgemerkt of meer nieuws? Meld het hier