Hoe zou het nog zijn met bias in AI? Nu de technologie overal wordt ingezet, moeten we er ook bij stilstaan of die algoritmes niet per ongeluk hele bevolkingsgroepen vergeten.
Want moesten we er nog eens op wijzen: diversiteit is belangrijk, niet in het minst omdat het eventuele ‘bias’ in data van algoritmes kan blootleggen. Daarvan zijn voorbeelden genoeg, van zeepdispensers wiens sensoren geen donkere huid herkennen, tot Amazons experimentele cv-algoritme dat op basis van historisch kleine percentages vrouwelijke medewerkers, concludeerde dat vrouwen niet in aanmerking kwamen voor een techjob bij de gigant.
“Het is lang niet duidelijk geweest maar de komst van AI laat zien dat degene die het maakt degene is met de macht”, zegt Dewi Van De Vyver, CEO van Flow Pilots en Data News ICT Woman of the Year. “Je neemt de vooroordelen van de maker mee in het systeem. Dat kan er toe leiden dat bijvoorbeeld een AI voor het detecteren van hartinfarcten alleen de symptomen van mannen herkent omdat de symptomen die vrouwen hebben niet aan het systeem werden aangeleerd. Die data zijn misschien gewoon niet voorhanden. Daarom is het noodzakelijk dat vrouwen betrokken worden.”
Maar zoals menig Data News Career Guide u kan aantonen: IT is een mannenbastion. Dus laten we voor AI maar met het goede nieuws beginnen, AI-bedrijven doen het qua genderdiversiteit in België relatief goed. We zetten er zelfs iets vaker vrouwen aan het hoofd dan andere landen, al blijven die cijfers nog altijd laag. “Slechts 9,5% van de oprichters of CEO’s van Belgische technologiebedrijven zijn vrouwen. Maar voor AI-bedrijven is dat 13%, een significant verschil. Voor AI-bedrijven in Vlaanderen is dat zelfs 14,8%”, zegt Omar Mohout, entrepreneurship fellow bij de onderzoekscentrum Sirris. Hij verzamelt onder meer data over vrouwelijke ondernemers en CEO’s in de technologiesector en kan zo een goed overzicht krijgen. En dat overzicht kleurt relatief optimistisch naar de toekomst toe. “Wat hoop geeft, is dat van de twintig AI-productbedrijven die in 2019-2020 werden opgestart, er zeven bij zijn met vrouwelijke oprichters.”
Die trend is opmerkelijk, zegt Mohout, die zo’n 3.500 Belgische techbedrijven op de voet volgt, en lijkt bovendien vooral in België te spelen. “Slechts 6,9% van de Europese technologische scale-ups hebben een vrouwelijke oprichter of CEO. Zuiderse landen als Griekenland (19%) en Portugal (19%) doen het hier beter dan Scandinavische zoals Finland (5,4%), Noorwegen (5,7%), Sweden (6,4%) en Denemarken (3,2%). Voor AI is het net iets minder: 6,5%”, legt hij uit.
Instroom
In ons land doen AI-bedrijven het dus net iets beter dan in de rest van de sector, al zitten we nog lang niet aan een genderbalans. Mohout wijst erop dat u voor data-analyse vanuit verschillende STEM-richtingen aan de slag kan, niet alleen vanuit computerwetenschappen. “In klassieke softwarebedrijven zie je vaak mensen met een ingenieursachtergrond”, legt hij uit. “Maar ingenieursrichtingen zijn nog onderbemand qua vrouwelijke studenten. Je hebt daar minder doorstroom. AI is daarentegen vaak gebaseerd op wiskundige modellen, en er zitten gewoon meer vrouwen in die richtingen.”
Dat zou het voor AI-bedrijven inderdaad makkelijker moeten maken om vrouwelijke kandidaten te vinden, want hoewel ondertussen meer meisjes technische richtingen volgen, is dat, zoals Mohout aangeeft, voor ICT helemaal niet het geval. Halen we er de (Vlaamse) cijfers van de STEM-monitor bij, dan zien we bijvoorbeeld dat de verschillende campagnes om meer meisjes in STEM-richtingen te krijgen zachtjesaan beginnen te werken, toch als we de academische wetenschappelijke richtingen bekijken. In de cijfers die gaan over het schooljaar 2017-2018, ligt het aandeel vrouwen bij academische STEM-bachelors op 34,45%. Daarbij zijn vooral richtingen als biologie en biochemie populair, met ongeveer de helft vrouwelijke studenten in het eerste jaar. Voor een studie als wiskunde ligt het aandeel meisjes op een degelijke 33%, al is het over het algemeen een kleinere richting. Wat is dan het aandeel meisjes voor informatica? 8%.
Breed profiel
Voor AI-bedrijven die met diversiteit begaan zijn is het dus maar wat handig dat ze een breder profiel kunnen inzetten om hun algoritmes te trainen dan de traditionele ‘coder’. “Er is niet één profiel van data scientist”, beaamt Lynn D’eer. Zij is doctor in Toegepaste Wiskunde, met een getuigschrift rond Big Data, en werkt als data scientist bij verzekeringsmaatschappij Baloise Insurance. “De job heeft te maken met statistiek, met machine learning en algoritmen. Wiskunde zit er zeker in, maar je moet vooral helder kunnen communiceren. Je moet weten wat er in die data zit, en wat er niet in zit. En je moet weten hoe een bedrijf functioneert. Ik ben zelf geen expert in verzekeringen, maar het is wel belangrijk voor projecten dat je dicht bij de business staat, en dat je inhoudelijk kunt communiceren. Het gaat dus wel breed. Een van mijn collega’s is econoom, er zijn ook biologen die deze job doen. En de ene blinkt al wat meer uit in statistiek of communicatie en de ander kent de business dan weer beter.”
Als we teruggaan naar de AI-startups van de laatste jaren en hun founders, dan valt ook daar op dat ze vaak tot stand komen door verschillende expertises in te zetten. Kijk bijvoorbeeld naar Shavatar, de imec spin-off die een 3D-ontwerp van uw lichaam maakt dat u in online winkels kunt gebruiken. De technologie van de start-up is gebaseerd op het doctoraatsonderzoek van co-founder Femke Danckaers voor het departement Fysica aan UAntwerpen.
Iets gelijkaardigs zien we bij Avantopy, een Belgische start-up van ongeveer een jaar oud die zich specialiseert in intelligente tekstoplossingen, via AI. Co-founder Andrea Pizarro Pedraza is zelf linguïste en startte het bedrijf op met haar echtgenoot. “Ik zat op dat moment op een carrièrewissel”, zegt ze. “Ik had lang in de academische wereld gewerkt, maar zag daar niet meteen een vaste job, dus ik had iets anders nodig. Mijn man zat in een gelijkaardige situatie en had het idee om met enkele projecten te starten. Omdat we complementaire profielen hebben, heeft hij me overtuigd mee te doen.” Daarbij is Dirk De Hertog de technische linguïst, en Pizarro Pedraza de sociolinguïst. “Veel taalkundigen werken rond AI en machine learning”, legt Pizarro Pedraza uit. “Zelf doe ik twee dingen voor het bedrijf. Enerzijds is er de communicatie met de klanten: praten met hen en hun noden begrijpen zodat we dat kunnen vertalen in ons product. Daarnaast ben ik expert in annotatie. Met ons bedrijf werken we vanuit teksten, daar zijn we experts in. Ik train dus de algoritmes die mijn man vervolgens codeert.”
De stap naar AI-onderneming was niet simpel, zegt Pizarro Pedraza nog. “Ik had me niet voorgesteld dat ik zoiets zou doen. Ik zag mezelf tien jaar geleden niet als entrepreneur. Het beeld waar we meestal aan denken bij een prototypische entrepreneur is dat van de ‘Silicon Valley alpha male’, iemand die TED Talks geeft en altijd de ster van de show is. Zo zag ik mezelf nooit. Maar de realiteit is heel anders. Er zijn veel mensen die gewoon willen zorgen dat dingen werken, die bescheiden zijn, en een droom nastreven waar ze in geloven. Het is waar dat er meer mannen ondernemingen starten, maar om ondernemer te zijn is er toch een spectrum. Je hebt die typische sterren, en dan heb je ook gewone mensen.”
Zien of zijn
Goede tekenen, dus, maar de huidige realiteit is dat vrouwen een minderheid zijn. Ligt er daardoor geen extra druk op die enkelen om de vooroordelen en foutjes in bijvoorbeeld algoritmes te vinden? “Als vrouw in deze sector ben je vaak de diversiteit”, zegt Lynn D’eer. “Ik merk zelf wel dat je er als vrouw vaker mee geconfronteerd wordt, maar gelukkig heb ik in mijn team progressieve mannen zitten. Die zijn zich ook bewust van bias, en wij kunnen daar ook conversaties over voeren. Ik geef toe dat ik daar als vrouw automatisch meer mee bezig ben, ook omdat ik het belangrijker vind.”
“In de problemen die we tot nu toe met Avantopy aangepakt hebben, was dat niet echt een factor”, zegt Andrea Pizarro Pedrada. “We hadden van bij het begin de mogelijkheid om die bias aan te pakken. Het is natuurlijk wel een probleem dat me interesseert en waar ik rekening mee houd. Als je vanuit de humane wetenschappen komt, is dat iets dat je bijna automatisch meeneemt, wij krijgen dat kritisch denken sterk aangeleerd. Zeker als sociolinguïst ben ik me wel bewust van de sociale factoren van AI.”
Daarnaast zijn er overigens ook die andere facetten van diversiteit: cultuur en huidskleur. “Vrouwen in de wetenschap zijn meestal blank en hoog opgeleid”, aldus D’eer. “Dat is niet alleen een wiskundeprobleem of een wetenschap-probleem, maar een maatschappelijk probleem. Vrouwen in wetenschap vinden is noodzakelijk, en wat mij betreft moet dat ook toegankelijk zijn voor iedereen.” Het is een probleem dat in België bovendien onderbelicht is, gezien er hier amper cijfers over te vinden zijn.
Vinden en houden
We schrijven er al een tijdje over: hoe kunnen techbedrijven een diverser profiel aantrekken? Een studie van Accenture en de Amerikaanse organisatie Girls Who Code rapporteerde eind september nog dat de helft van de vrouwen in tech hun job weer verlaat voor haar 35ste. In AI is dat niet anders. Wat meteen ook de vraag stelt: hoe houden we die daar? Een klassiek argument ligt hier bij kinderopvang, die ervoor moet zorgen dat vrouwen ook tijd hebben om hun job te doen.
“Gezien we een familiebedrijf zijn, is het voor ons alvast anders”, zegt Andrea Pizarro Pedraza. “We hebben een zoon, dus naast het bedrijf zorgen we daar ook voor. We hebben prioriteiten afgesproken en het is eerst de zoon, en daarna het bedrijf.” Uw eigen baas zijn, zegt ze, geeft haar de vrijheid om haar agenda zelf te regelen, wat zeker helpt. “Je moet veel werken, natuurlijk, maar je doet het wel op de momenten die je zelf kiest.”
Nog een belangrijke factor die uit de studie naar voren komt is bedrijfscultuur. Geeft een bedrijf of sector ook de indruk dat vrouwen welkom zijn? “Je hebt voorbeelden nodig, maar ook ‘ allies‘: medestanders en mentoren, bijvoorbeeld, van alle genders”, vindt Lynn D’eer.
“Naar mijn gevoel zijn we al lang bezig met het bespreekbaar te maken, en door initiatieven als Inspiring Fifty en She Goes ICT probeer je elke keer opnieuw de focus daarop te krijgen, om meer vrouwelijke stemmen in het debat te krijgen”, zegt Dewi Van De Vyver. “Het helpt niet dat vrouwen de mantra nog altijd mee krijgen dat ze hun mannetje moeten staan. Nee, je moet je vrouwtje staan. Je moet zijn wie je bent, want het heeft geen zin om je als vrouw zo ver aan te passen dat je weer een man bent.”
Fout opgemerkt of meer nieuws? Meld het hier