Voor social media zijn racisten een doelgroep als de anderen. Creatieve marketeers konden tot voor kort hun advertentiecampagnes specifiek aanbieden aan antisemieten op Facebook en gebruikers van racistische taal op Twitter.
Een advertentie speciaal voor antisemieten? Perfect mogelijk op Facebook, ontdekte onderzoekssite ProPublica vorige week. Volgens de website hadden 2.300 mensen op Facebook aangegeven dat ze geïnteresseerd waren in ”het haten van Joden”, ”Joden verbranden” en ”hoe Joden de wereld vernietigen”. ProPublica betaalde 30 dollar, omgerekend 25 euro, voor drie ‘promoted posts’ aan deze groepen. Binnen een kwartier had Facebook de advertenties geaccepteerd.
Dat werkt zo: Facebook laat adverteerders toe om doelgroepen te kiezen, gebaseerd op interesses en informatie die gebruikers zelf opgeven. Naast studies, werkgever en ‘fan van Game of Thrones’, kan dat dus ook perfect ‘fan van Ku-Klux-Klan’ zijn. Na het rapport van ProPublica heeft Facebook de specifieke marketingoptie voorlopig stopgezet. “Om ervoor te zorgen dat de doelgroepfunctie niet gebruikt wordt voor discriminerende doeleinden, hebben we interessevelden verwijderd tot we de juiste processen hebben geïnstalleerd om dat probleem op te lossen,” schrijft Facebook in een blogpost. “We willen dat Facebook een veilige plaats is voor mensen en bedrijven, en we blijven alles doen om haat van Facebook weg te houden.” Het platform zegt dat de groepen worden weggehaald en dat adverteerders andere ongepaste doelgroepen kunnen melden.
Ondertussen op Twitter
Twitter, van zijn kant, komt deze week ook uit met het nieuws dat het een ‘bug’ uit het platform heeft gehaald waardoor adverteerders zich tot gebruikers konden richten die interesse tonen in racistische scheldwoorden en termen als ‘Nazi’. Dat werd dan weer opgemerkt door website The Daily Beast. De reporter kwam te weten dat Twitter Ads, de geautomatiseerde advertentiepiloot van het platform, voor potentiële advertentiecampagnes miljoenen gebruikers aanduidde die mogelijk goed zouden reageren op racistische praat.
“We hebben gezien dat deze zeldzame campagnes konden doorgaan door een bug, en dat hebben we nu gefixt,” zegt een Twitter-woordvoerder in een mededeling naar aanleiding van het rapport. “Twitter verbiedt en voorkomt advertentiecampagnes die beledigende of ongepaste inhoud bevatten.” Volgens Twitter stonden de sleutelwoorden die The Daily Beast voor zijn onderzoek gebruikte al jaren op een zwarte lijst, en was het hen niet meteen duidelijk waarom het toch lukte om daar campagnes voor te maken.
En Google
Volgens nog een derde site, BuzzFeed, is ook Google niet immuun voor het probleem. De reporter daar vond het ook bijzonder makkelijk om campagnes te targeten op basis van discriminerende uitspraken, waarop ook die techreus zich genoodzaakt zag zijn algoritme aan te passen.
De onderzoeken tonen het gevaar aan van volledig geautomatiseerde algoritmes en dat probleem is niet echt nieuw. Eerder kreeg YouTube het bijvoorbeeld al met adverteerders aan de stok nadat bleek dat het hun reclame naast, pakweg, extremistische filmpjes zette. Een mogelijke oplossing is uiteraard om daar enkele weldenkende mensen op te zetten om het algoritme beter in het oog te houden, maar de techreuzen moeten dan wel, net als de rest van de maatschappij, kunnen uitmaken waar de lijn tussen ‘gepast’ en ‘fout’ ligt.
Fout opgemerkt of meer nieuws? Meld het hier