Mijn kleine meid en zoontje in een wereld vol bias: hoe meer AI voor minder ongelijkheid zorgt

Als moeder van een dochtertje van één jaar en een zoontje van vier vind ik het belangrijk dat mijn kinderen dezelfde kansen krijgen en in gelijkheid opgroeien. Ze krijgen dat van thuis dan ook met de paplepel mee. En toch heeft mijn zoontje in zijn korte tijd op deze wereld al heel wat bias opgepikt. Het toont dat onze samenleving bol staat van vooroordelen waarvan we ons vaak niet bewust van zijn. Gelukkig heeft AI het potentieel om een oplossing te bieden.

“Dat is iets wat alleen jongens kunnen, meisjes niet.” Het verraste me onlangs om dit uit de mond van mijn zoontje te vernemen. Thuis hoort hij zoiets niet, maar toch associeert hij bepaalde taken met jongens. Ondanks onze inspanningen wordt hij automatisch meegetrokken in de hardnekkige vooroordelen die al decennialang aanwezig zijn in onze maatschappij.

Hoe kunnen we die ongelijkheid neutraliseren? Het antwoord zal misschien verrassend klinken: met AI. Terwijl Artificiële Intelligentie zelf al vaak de mist is ingegaan onder invloed van bias, heeft net deze technologie de sleutel in handen om voor meer gelijkheid te zorgen. In de eerste plaats omdat AI kan helpen om de aanwezige bias in de maatschappij tastbaar te maken.

AI legt ongelijkheid bloot

Er zijn intussen genoeg voorbeelden van AI-systemen die ongelijkheid blootleggen. Denk aan een recruitmenttool die op basis van historische gegevens het vrouwelijk geslacht van een kandidaat als een negatieve factor beoordeelt. Of aan modellen die er in de medische sector voor zorgen dat vrouwen anders behandeld worden dan mannen. In plaats van enkel met de vinger te wijzen naar AI en te stellen dat we die modellen niet mogen gebruiken, moeten we er een bevestiging in zien dat onze samenleving van nature uit heel spontaan ongeliAI is geen magische oplossing, maar een krachtig middel om ongelijkheid bespreekbaar te maken. In vaktermen noemen we dit biasmitigatie. Zodra we weten waar er bias opduikt, kunnen we gaten opvullen met synthetische data. Dat zijn gegevens die kenmerken simuleren en op die manier het tekort aan informatie over bepaalde minderheidsgroepen helpen opvangen. Vrouwen die niet genoeg vertegenwoordigd zijn in historische data, worden op die manier versterkt, waardoor AI-systemen ook in hun beslissingslogica meer gelijkwaardigheid gaan opnemen.

Uiteindelijk is het eenvoudiger om bias uit technologie te halen dan uit de maatschappij, omdat je ongelijkheid in tech kunt meten en aanpassen. In de samenleving duurt dit proces veel langer.

Van verpleegster naar creatief directeur

Ook algoritmen hebben stappen gezet om bias te voorkomen. Vaak beschikken ze over metrics die fairness definiëren. Afhankelijk van de definitie wordt dit in het leerproces opgenomen, zodat Large Language Models (LLM’s) factoren zoals geslacht of etniciteit fair beoordelen.

Het beste voorbeeld is ChatGPT. Exact één jaar geleden vroeg ik de tool van OpenAI, naar aanleiding van een opiniestuk, wat een goed beroep voor een jongen is. Het model gaf “softwareontwikkelaar”, “technicus in de bouw”, “sportcoach”, “brandweerman” en “technisch tekenaar” als opties. Toen ik dezelfde oefening voor meisjes deed, kwamen jobs als “psycholoog”, “verpleegkundige”, “onderwijzer, “grafisch ontwerper”, en “milieudeskundige” uit de bus. Drie technologiejobs voor jongens, tegenover nul voor meisjes …

Als we ChatGPT vandaag dezelfde vraag stellen, dan zijn de resultaten op z’n minst verrassend te noemen. Meisjes kunnen volgens het model “data scientist”, “onderzoeker”, “creatief directeur”, “leraar” en “socioloog” worden. Opvallend: de grafisch ontwerper is op de hiërarchische ladder opgeklommen naar de leidinggevende rol van creatief directeur. ChatGPT stelt dat deze lijst voor jongens niet anders hoeft te zijn. Maar als we doorduwen, verschijnt zowaar “verpleegkundige” als optie, naast “journalist”, “softwareontwikkelaar”, “marketingspecialist” en “ingenieur”.

Het experiment bewijst dat het harde werk z’n vruchten afwerpt en AI op de goede weg is om de ongelijkheid uit onze samenleving weg te nemen. Het geeft me dan ook een goed gevoel te mogen vaststellen dat mijn dochter straks meer kansen zal hebben dan de generaties vrouwen voor haar. Simpelweg omdat AI gaat helpen om de blinde vlekken in de maatschappij te zien en te corrigeren.