Annelien Smets

‘Google zegt niet langer alleen hoe we ons moeten verplaatsen, maar ook waar we naartoe moeten gaan’

Annelien Smets Onderzoeker (imec-SMIT/ VUB), werkt aan doctoraat rond de invloed van algoritmische personalisatie.   

Exact tien jaar geleden begon Google met het personaliseren van zoekresultaten. Tegenwoordig vindt die personalisatie steeds meer haar weg naar de publieke ruimte, iets wat volgens Annelien Smets tot ongewenste effecten kan leiden. “Door informatie aan een bepaalde groep niet te tonen, riskeren we de toegankelijkheid van de publieke ruimte aan banden te leggen”, waarschuwt ze.

Exact tien jaar geleden, op 4 december 2009, startte internetgigant Google met het personaliseren van zoekresultaten. Op basis van onder andere locatiegegevens en recente zoekopdrachten toont Google de meest relevante resultaten voor jou, zelfs wanneer je niet bent ingelogd. Voor Google is dat duidelijk een goede zet geweest, ze zijn nog steeds onverslagen marktleider van een gratis product. Maar nu we niet langer alleen websites opzoeken, moeten we de vraag stellen: is die personalisatie ook een goede zaak voor ons?

Personalisatie is in essentie een antwoord op het overaanbod dat online te vinden is. Met algoritmes trachten online platformen net datgene aan te bieden dat relevant is voor jou om zo een uniek, individueel aanbod te creëren. Populaire webwinkels, sociale media en streamingdiensten zoals Spotify of Netflix; allemaal worden ze achterliggend wel door één of meerdere algoritmes aangestuurd om de inhoud afstemmen op jouw maat.

Ook voor Google is personalisatie een belangrijke factor in het succes van haar zoekmachine: ‘Milaan’ googelen zal voor een fervent reiziger andere resultaten opleveren dan voor een voetbalfanaat. Het mechanisme achter deze algoritmes is op zich een aanvaardbaar systeem, maar de gevolgen nemen ongewenste proporties aan door de dominantie van de applicaties waarin ze gebruikt worden.

Commerciële belangen bevoordelen populariteit

Om de relevantie van een item te voorspellen, gaat het algoritme op zoek naar patronen in de data die het bezit. Dat zijn patronen in je eigen gedrag en/of de gelijkenissen tussen jou en andere gebruikers. Op die manier krijg je bijvoorbeeld aanbevelingen te zien van producten die door anderen vaak samen met het boek gekocht worden dat jij net in je online winkelmandje plaatste. Deze aanbevelingen worden uiteraard getoond met het doel om te verkopen. Daarom krijgen we vooral populaire items te zien: als veel mensen de nieuwe Brusselmans aanklikten, is de kans groot dat ook jij hiernaar op zoek bent. De minder populaire items komen bijgevolg vaak onderaan de lijst terecht of zelfs op een volgende pagina. En geef toe, hoe vaak bekijken we deze?

We klikken massaal opnieuw de populaire items aan en geven het algoritme zo een bevestigend signaal. Op die manier worden bestaande patronen versterkt en het algoritme nog zekerder van zijn stuk. Door massaal bij die ene winkel van ons allemaal te shoppen, zijn we onderhevig aan dezelfde personalisatielogica en het slachtoffer van elkaars bevestigend gedrag. Omdat onze aankopen of televisiekijkgedrag tot de private sfeer behoren, is dit gevolg van personalisatie echter eerder latent. Een kwestie die anders ligt in de publieke ruimte.

Google zegt niet langer alleen hoe we ons moeten verplaatsen, maar ook waar we naartoe moeten gaan.

Google als gids

Onze steden krijgen in toenemende mate een digitale bovenlaag. Dat geeft applicaties zoals Google Maps en Waze (ook van Google trouwens) de macht om mee te bepalen welke delen van de stad we te zien krijgen. Zo meldde Google vorige maand nog dat Google Maps niet alleen gebruikt wordt voor routebeschrijvingen, maar ook steeds vaker voor aanbevelingen voor een avondje uit.

Google beïnvloedt dus niet langer alleen hoe we ons verplaatsen, maar ook waar we naartoe gaan. Hetzelfde geldt trouwens voor sociale media, zoals Instagram of Pinterest. Uit onderzoek blijkt dat we deze kanalen steeds meer gebruiken tijdens het plannen van onze volgende uitstap. Deze invloed van technologiebedrijven doet de vraag rijzen of we dezelfde personalisatielogica wel zomaar mogen copy-pasten naar de publieke ruimte. De algoritmes van onder andere Instagram en Google dragen ook zonder twijfel bij aan de u wel bekende beelden: een massa toeristen in rij om een typische foto te maken bij de Noorse Kjeragbolten of het paarse tapijt hyacinten in het Hallerbos. Hoewel deze voorbeelden op het eerste zicht hooguit vervelend lijken voor de toerist in kwestie, toont de situatie in steden als Brugge of Amsterdam dat de gevolgen van massatoerisme wel verder reiken.

Andere personalisatie?

Personalisatie lijkt voorlopig haar belofte van de individuele beleving niet waar te maken. De vraag is alleen of een sterker doorgedreven personalisatie wel altijd de oplossing is. Personalisatie in de publieke context kan ook ongewenste effecten creëren die haaks staan op haar open en divers karakter. Door informatie aan een bepaalde groep niet te tonen, riskeren we de toegankelijkheid van de publieke ruimte aan banden te leggen.

We moeten op zoek gaan naar een gezamenlijk gedragen visie over de ordening van de digitale informatie over onze publieke ruimte. Bovendien stelt zich de vraag wie we dergelijke logica laten bepalen. Laten we dat zomaar over aan de patronen in de data? En wat met de rol van de overheid? Hoe vermijden we terecht te komen in scenario’s zoals in China?

Facebook moet vandaag zijn verantwoordelijkheid nemen, nadat het platform misbruikt werd om fake news te verspreiden. Pas toen het verkeerd ging, werd onze aandacht gericht op de rol die algoritmes daarin spelen en werd gewezen op de maatschappelijke verantwoordelijkheid van Facebook. In het geval van Google dringt zich nu de vraag op in welke mate we de invloed van de algoritmes op onze publieke ruimte maatschappelijk verantwoord vinden. Het zou verstandig zijn om niet te wachten op een fake news-equivalent alvorens hierop een antwoord te formuleren.

Fout opgemerkt of meer nieuws? Meld het hier

Partner Content