Politiesystemen die massaal data gebruiken om misdrijven te voorspellen, moeten worden verboden in België. Dat zegt onderzoeker Corentin Debailleul (ULB) in een nieuwe studie die de Liga voor Mensenrechten en Statewatch maandag hebben gepubliceerd.
‘Het is een denkfout om te geloven dat de Belgische politie de regels rond AI correct zal naleven’, zegt Debailleul. In België bestaan er verschillende politiezones die een beroep doen op zogenoemde ‘predictive police’-systemen. Dat is een techniek waarbij speurders aan de hand van de analyse van allerlei data proberen te voorspellen waar en wanneer misdrijven zich zullen voordoen. Op die manier kan er preventief worden opgetreden, kunnen misdrijven worden voorkomen en worden middelen efficiënter ingezet.
Maar volgens Debailleul zijn de theorieën waarop zulke voorspellende technieken gebaseerd zijn, sterk gecontesteerd. Ze veronderstellen dat bepaalde geografische gebieden inherent criminaliteit aantrekken of genereren. Daarvoor bestaat er echter weinig empirisch bewijs. Daarnaast is er volgens het onderzoek te weinig transparantie over de manier waarop die systemen werken en de data waarop de algoritmes zich beroepen. De data zelf zouden ook vertekend zijn, wat discriminatie, etnische profilering en overdreven politieaanwezigheid in de hand werkt.
Systemische vooroordelen
‘Politiedata zijn vaak onnauwkeurig en weerspiegelen systemische vooroordelen binnen de politie en de bredere samenleving – in het bijzonder racisme, islamofobie en klassenongelijkheid’, staat te lezen in het onderzoek. Bovendien bestaat er een risico op ‘self-fulfilling prophecies’: als agenten meer aanwezig zijn in een bepaalde wijk, zal dat automatisch tot meer onderzoeken en arrestaties leiden, waardoor de politie nog meer zal opdraven.
Sommige gegevens uit de politiedatabanken zouden zelfs niet meer zijn dan geruchten of zouden zelfs compleet verzonnen zijn, aldus het onderzoek. Debailleul geeft het voorbeeld van een jongeman die ten onrechte werd beschuldigd van de deelname aan een betoging van een extremistische islamitische organisatie. Hoewel hij niets met de zaak te maken had, werd de informatie toch bewaard, wat repercussies had tijdens sollicitaties. Op luchthavens wordt de jongeman jaren later nog altijd uit de rij gehaald en ondervraagd vanwege zijn vermeende banden met een terroristische groepering. Er bestaan ten slotte ook te weinig werkelijke beroepsmogelijkheden om foutieve beslissingen aan te vechten, zegt het onderzoek.
Volgens Debailleul komen daardoor mensenrechten, zoals de rechten op privacy, vrijheid, een eerlijk proces en een gelijke behandeling, in het gedrang. Strengere regels zijn volgens de onderzoeker onvoldoende, omdat de bestaande regels nu al niet nageleefd worden. Daarom moet het gebruik van voorspellende politietechnieken verboden worden, zegt Debailleul.
In een schriftelijke reactie zegt de federale politie dat ‘de beschikbare tools en technieken om informatiegestuurd te werken, net als alles in de samenleving, evolueren naar meer gebruik van big data en artificiële intelligentie’. De politie zegt te geloven in de meerwaarde van het gebruik van artificiële intelligentie, maar enkel op de ‘absolute voorwaarde dat het gebruik past binnen een welomlijnd wettelijk kader, met de nodige aandacht voor deontologie en steeds met een menselijke opvolging’.
