• Rubrieken

Twitter verontschuldigt zich voor racistisch algoritme

Een algoritme dat moet kiezen waar foto's uitgesneden worden in een tweet, blijkt zich vooral op blanke gezichten te concentreren.

Twitter-gebruikers hebben een opvallend probleem gevonden met de automatische uitsnijding van foto's op het sociale netwerk: die blijkt blanke gezichten veel vaker als brandpunt te kiezen dan het gezicht van mensen met donkere huid. Het probleem lijkt te zitten bij een algoritme dat automatisch moet bepalen waar de focus van een foto ligt. Wanneer je een foto publiceert in een tweet, wordt die automatisch bijgeknipt naar het juiste formaat. Je kan dan doorklikken om de hele foto te zien.

Twitter trainde een neuraal netwerk om te kiezen hoe die uitsnijding moet gebeuren, met onder meer een focus op gezichten. Maar dat neuraal netwerk heeft steken laten vallen, zo moet blijken uit demonstraties van verschillende Twitter-gebruikers.

Bij verschillende foto's waarop zowel een blanke als een zwarte man staat, in hetzelfde pak en met vergelijkbare poses, kiest het algoritme bijna altijd het blanke gezicht.

De reeks informele testen werd gestart door een gebruiker die een tweet probeerde te posten over de automatische gezichtsherkenning in Zoom. Ook die had problemen om het gezicht van een zwarte collega te herkennen. Toen hij de tweet had gepubliceerd, bleek Twitter liever zijn blanke gezicht te tonen, dan het gezicht van de collega. Uit verschillende verdere testen blijkt het algoritme een duidelijke voorkeur te hebben.

Twitter zelf heeft zich ondertussen al verontschuldigd, en geeft aan dat er aan het systeem wordt gewerkt. "Het is duidelijk dat we meer analyse moeten uitvoeren", zegt Liz Kelley van Twitters communicatiedienst in een tweet. "We gaan ons werk openbron maken zodat anderen het kunnen nakijken en repliceren."