In april van dit jaar publiceerde de Europese Commissie haar visie op strengere regels voor kunstmatige intelligentie (AI). Een 'voorstel tot verordening', heet dat dan. Daarbij wordt er onder meer gekeken naar een getrapt systeem dat strengere normen oplegt aan AI die een risico kan vormen voor grondrechten als non-discriminatie, privacy of veiligheid.

Het proces richting zo'n verordening is echter lang, en bevat onder meer allerlei publieke consultaties bij verschillende spelers. Wat gebeurde er sindsdien? 'Daar is eerst en vooral een nieuwe consultatie over gekomen', zegt Nathalie Smuha, rechtsgeleerde met specialisatie in internationaal recht en AI, en onderzoekster aan de KU Leuven. 'Die consultatie liep in de zomer af. Alle feedback is nu verzameld.'

Niet voor morgen

De Commissie zelf is daarmee min of meer rond, zegt Smuha: 'In feite zijn het Europees Parlement en Raad van de EU nu aan zet.' De Raad, die bestaat uit de regeringsleiders van de 27 lidstaten, en het Parlement van Europese verkozenen moeten het nu dus eens worden over hoe ze het voorstel om gaan zetten tot wet.

Hoe gaan die onderhandelingen dan verlopen? Dat hangt er wat van af. 'Er zijn ondertussen parlementsleden die positie innemen en zeggen 'dit gaat niet ver genoeg voor ons'', zegt Smuha. 'Denk dan aan gezichtsherkenningssoftware door de politie, bijvoorbeeld. Daar gaan Parlement en Raad waarschijnlijk tegenover elkaar staan.' De kans zit er namelijk in dat de parlementsleden een pak gevoeliger zijn voor privacy-argumenten dan pakweg de ministers van Binnenlandse Zaken in de Raad, die in hun land ook voor die politiediensten verantwoordelijk zijn. 'Die negotiaties gaan hoogstwaarschijnlijk een jaar of twee, drie innemen', gokt Smuha. 'De weg naar de GDPR (de Europese privacyregelgeving, nvdr.) heeft vier jaar geduurd, en nog twee jaar om in werking te treden. Het is dus niet voor morgen.'

Niet of maar wanneer

Maar het komt er wel? 'Het is wel duidelijk dat het er gaat komen, dus de open vragen zijn eerder, gaan we de politie meer of minder marge geven, en welke uitzonderingen gaan er zijn', legt Smuha uit.

Voor bedrijven is het hoe dan ook zaak om zich voor te bereiden. Ook bedrijven wiens systeem niet echt onder de regels valt, denkt Smuha: 'Aan de kant van de consument is daar steeds meer gevoeligheid rond. De vereisten van de EU zijn uiteindelijk vereisten waarvan we als consument hopen dat er sowieso rekening mee wordt gehouden.' Denk dan bijvoorbeeld aan het vermijden van vooroordelen of privacy-inbreuken, of het bijhouden van documentatie over het ontwerp van een AI, zodat dat systeem kan worden nagekeken. 'Dat zijn relatief logische zaken,' zegt Smuha, 'dat er voldoende menselijk toezicht is, dat een systeem voldoende accuraat, veilig en robuust is. Het zou zot zijn als bedrijven daar niet naar kijken.'

Ook al omdat Europa niet langer de enige regio is waar er aan reglementering wordt gewerkt. 'In de Verenigde Staten staan ze nu ook meer open om strengere regels aan te nemen, dat maakt de positie van Europa sterker', zegt ze. 'We zijn dan niet meer de enige die reguleert.' Ook de Raad van Europa (niet te verwarren met de Raad van de EU) werkt aan een nieuw verdrag rond AI en mensenrechten. Dit is de club van een vijftigtal Europese landen, waaronder ook het VK, Rusland en Turkije. Dezelfde organisatie nam eerder het Europees Verdrag voor de Rechten van de Mens aan. De kans is groot dat het verdrag van die Raad van Europa gaat lijken op dat van de EU, maar dan met wat extra internationaal cachet.

In april van dit jaar publiceerde de Europese Commissie haar visie op strengere regels voor kunstmatige intelligentie (AI). Een 'voorstel tot verordening', heet dat dan. Daarbij wordt er onder meer gekeken naar een getrapt systeem dat strengere normen oplegt aan AI die een risico kan vormen voor grondrechten als non-discriminatie, privacy of veiligheid. Het proces richting zo'n verordening is echter lang, en bevat onder meer allerlei publieke consultaties bij verschillende spelers. Wat gebeurde er sindsdien? 'Daar is eerst en vooral een nieuwe consultatie over gekomen', zegt Nathalie Smuha, rechtsgeleerde met specialisatie in internationaal recht en AI, en onderzoekster aan de KU Leuven. 'Die consultatie liep in de zomer af. Alle feedback is nu verzameld.' De Commissie zelf is daarmee min of meer rond, zegt Smuha: 'In feite zijn het Europees Parlement en Raad van de EU nu aan zet.' De Raad, die bestaat uit de regeringsleiders van de 27 lidstaten, en het Parlement van Europese verkozenen moeten het nu dus eens worden over hoe ze het voorstel om gaan zetten tot wet. Hoe gaan die onderhandelingen dan verlopen? Dat hangt er wat van af. 'Er zijn ondertussen parlementsleden die positie innemen en zeggen 'dit gaat niet ver genoeg voor ons'', zegt Smuha. 'Denk dan aan gezichtsherkenningssoftware door de politie, bijvoorbeeld. Daar gaan Parlement en Raad waarschijnlijk tegenover elkaar staan.' De kans zit er namelijk in dat de parlementsleden een pak gevoeliger zijn voor privacy-argumenten dan pakweg de ministers van Binnenlandse Zaken in de Raad, die in hun land ook voor die politiediensten verantwoordelijk zijn. 'Die negotiaties gaan hoogstwaarschijnlijk een jaar of twee, drie innemen', gokt Smuha. 'De weg naar de GDPR (de Europese privacyregelgeving, nvdr.) heeft vier jaar geduurd, en nog twee jaar om in werking te treden. Het is dus niet voor morgen.' Maar het komt er wel? 'Het is wel duidelijk dat het er gaat komen, dus de open vragen zijn eerder, gaan we de politie meer of minder marge geven, en welke uitzonderingen gaan er zijn', legt Smuha uit.Voor bedrijven is het hoe dan ook zaak om zich voor te bereiden. Ook bedrijven wiens systeem niet echt onder de regels valt, denkt Smuha: 'Aan de kant van de consument is daar steeds meer gevoeligheid rond. De vereisten van de EU zijn uiteindelijk vereisten waarvan we als consument hopen dat er sowieso rekening mee wordt gehouden.' Denk dan bijvoorbeeld aan het vermijden van vooroordelen of privacy-inbreuken, of het bijhouden van documentatie over het ontwerp van een AI, zodat dat systeem kan worden nagekeken. 'Dat zijn relatief logische zaken,' zegt Smuha, 'dat er voldoende menselijk toezicht is, dat een systeem voldoende accuraat, veilig en robuust is. Het zou zot zijn als bedrijven daar niet naar kijken.' Ook al omdat Europa niet langer de enige regio is waar er aan reglementering wordt gewerkt. 'In de Verenigde Staten staan ze nu ook meer open om strengere regels aan te nemen, dat maakt de positie van Europa sterker', zegt ze. 'We zijn dan niet meer de enige die reguleert.' Ook de Raad van Europa (niet te verwarren met de Raad van de EU) werkt aan een nieuw verdrag rond AI en mensenrechten. Dit is de club van een vijftigtal Europese landen, waaronder ook het VK, Rusland en Turkije. Dezelfde organisatie nam eerder het Europees Verdrag voor de Rechten van de Mens aan. De kans is groot dat het verdrag van die Raad van Europa gaat lijken op dat van de EU, maar dan met wat extra internationaal cachet.