Het Europees Parlement heeft met grote meerderheid een eerste versie van de zogeheten AI Act goedgekeurd, die regels wil uitwerken voor AI-systemen. Onder meer automatische gezichtsherkenning wordt verboden.
De huidige versie deelt AI-systemen in op basis van veiligheidsrisico. De EU identificeert er vier, van ‘onaanvaardbaar hoog’ tot ‘minimaal’. AI met onaanvaardbaar risico wordt daarbij volledig verboden. Het gaat dan bijvoorbeeld om sociale scoringsystemen zoals die in China hier en daar in voege zijn. Ook realtime gezichtsherkenning wordt momenteel verboden, al wil de grootste fractie van het halfrond (de EVP) daar nog uitzonderingen aan toevoegen voor het opsporen voor bijvoorbeeld terreurverdachten of vermiste kinderen. Deze regel kan er in de finale versie dus misschien nog anders uitzien.
Verder wel verboden is AI die kwetsbare mensen kan uitbuiten of subtiele manipulatie gebruikt om mogelijk kwaad te doen. Ook ‘predictive policing’ (software die probeert te voorspellen wie misdaden zal begaan, genre ‘Minority Report’), mag helemaal niet. Software die bijvoorbeeld emoties probeert te herkennen, of gezichtsherkenning gebaseerd op foto’s die van het internet werden geschraapt (genre Palantir) mag dan weer niet gebruikt worden door politiediensten en grensbeheer, in scholen op op de werkplek.
Transparantie
Meer risicovolle toepassingen van AI, zoals apps voor personeelsbeleid of toepassingen die op kinderen gericht zijn, krijgen verder striktere regels dan minder risicovolle toepassingen. Zij moeten dan bijvoorbeeld meer transparant zijn over hoe ze werken, en welke data ze gebruiken. Daar is de vraag vooral of de databases waarop de AI getraind wordt, vrij zijn van inherente ‘bias’. Op die manier zou anders discriminatie in de systemen zelf ingebakken kunnen raken.
Daarbij moet wel gezegd dat de meeste AI-systemen waarschijnlijk in de categorie ‘laag risico’ vallen, en dus niet aan bijzonder strenge regels moeten voldoen. Denk dan bijvoorbeeld aan videogames, AI-filters voor sociale media of spam filters voor je mailbox.
Generatieve AI
Een van de regels die er de voorbije weken nog is bijgekomen, draait rond generatieve AI-toepassingen zoals ChatGPT. De AI Act vereist nu dat bedrijven en organisaties documenteren welke door auteursrecht beschermde werken gebruikt worden om AI-systemen te trainen. Dat moet onder meer tegemoet komen aan de vraag van verschillende uitgevers, schrijvers, muzikanten en kunstenaars die hun werken gekopieerd zien.
Met de stemming is Europa een van de eerste mondiale spelers die een regelgevend kader probeert uit te werken voor het gebruik van kunstmatige intelligentie. De wet komt er na de Digital Services Act (DSA) rond digitale rechten van gebruikers en de Digital Markets Act (DMA) rond grote techbedrijven, die al eerdere technologieën aan banden legden. Met de AI Act kan de EU wel eens de toon zetten voor andere landen. Onder meer de Verenigde Staten werken aan een gelijkaardig kader, maar ze lopen daarbij achter op de EU.
Nog niet in voege
Aan de wet wordt al een tijd getimmerd in verschillende commissies, maar met de stemming in het Parlement staat het voorstel nu een stap dichter bij het effectief in voege treden. In een laatste fase moeten de lidstaten zelf nog hun goedkeuring geven. De parlementsleden hopen dat onderdeel tegen het einde van dit jaar af te ronden.
Momenteel hangen er aan overtredingen van de wet boetes tot dertig miljoen euro of zes procent van de jaarlijkse globale inkomsten van een bedrijf.
Fout opgemerkt of meer nieuws? Meld het hier