In 2016 stond Microsoft onder druk. Hun nieuwe besturingssysteem Windows 10 was net uit, maar bleek niet populair genoeg. Dus besloot het Amerikaanse bedrijf daar wat aan te doen. Gebruikers kregen een pop-up te zien met de vraag of ze hun versie wilden updaten. Maar als ze op het kruisje van die pop-up klikten, installeerde Microsoft alsnog Windows 10 op hun computer. Ze veranderden dus de betekenis van een knop.

Dit is een zogenaamde 'dark pattern', een design-truc die menselijke psychologie inzet om gebruikers iets te laten doen dat ze niet willen. Het fenomeen heeft een lange geschiedenis, maar werd extra potent in de digitale eeuw. Zo hanteren bedrijven met miljarden gebruikers zoals Microsoft en Facebook regelmatig dit soort technieken om meer kliks, data en downloads te verzamelen. En dat past binnen een bredere beweging waarbij digitale platformen munt slaan uit psychologische manipulatie.

Donkere UX

"Dark patterns misleiden bewust gebruikers, de ethische grens die je overschrijdt is dus dat je actief iemand iets laat doen wat ze niet willen", legt Hannes Van de Velde uit. Hij is director of Product Design bij de digitale studio In The Pocket, waar hij meeschreef aan hun raamwerk voor ethisch web- en appdesign. "Alhoewel dark patterns of dark UX termen zijn die recent opkwamen, kennen ze een lange geschiedenis. Het is helaas iets van alle tijden. Je zult fysiek of digitaal altijd mensen vinden die via achterpoortjes gebruikers proberen misleiden."

Je zult fysiek of digitaal altijd mensen vinden die via achterpoortjes gebruikers proberen misleiden.

Hannes Van de Velde

Onder dark patterns vallen alvast heel wat, vaak goedkope, trucjes. Denk maar aan het veranderen van de betekenis van knoppen, zoals Microsoft in 2016 deed. Of confirmshaming, waarbij u een keuze ongelijk verwoordt. Bijvoorbeeld door gebruikers de keuze te geven tussen 'Ja, ik wil succesvol zijn' (de optie die u reclame doet ontvangen) of 'Nee, ik wil niet succesvol zijn' (de optie die u geen reclame doet ontvangen).

"Een klassiek voorbeeld is om na een gratis proefperiode een gebruiker automatisch te laten betalen voor een dienst", vertelt Van de Velde. "Een ander voorbeeld is dubbele negaties, bijvoorbeeld in checkboxes. Sommige diensten laten je zo een checkbox aankruisen als je geen reclame wil krijgen. Want ze gaan ervan uit dat gebruikers de tekst toch niet lezen en het standaardgedrag is dat je iets niet aanvinkt om geen reclame te ontvangen."

Digitale technologie heeft dat soort acties natuurlijk zichtbaarder gemaakt, maar de basis ervan gaat verder terug. "Deur-aan-deur stofzuigerverkopers of marktkramers werken bijvoorbeeld evengoed met psychologische trucjes om mensen te misleiden", vertelt Van de Velde.

Maar volgens Ben Caudron, technologiesocioloog aan de Erasmushogeschool Brussel, past dit soort dark patterns binnen een bredere economische verschuiving. "Vandaag bestaat er een machtige online 'engagement-industrie'", vertelt Caudron. "Zij verleiden mensen om zoveel mogelijk tijd op hun platform door te brengen, zodat ze maximaal data produceren. Een kleine groep bedrijven installeert zo een nieuwe vorm van kapitalisme dat systemen gebruikt die realtime gedragscorrecties aanbrengen."

Dark patterns passen dus binnen een breder gebruik van psychologie door bedrijven zoals Facebook, Google en Amazon. Niet al die trucs zijn natuurlijk dark patterns, maar het gebruik ervan roept wel bezorgdheid op.

De hond van Pavlov

"Facebook heeft bijvoorbeeld aardig wat vacatures openstaan voor gedragsspecialisten", vertelt Caudron. "Zij werken met designtrucjes, waaronder bijvoorbeeld nudging, om gebruikers te sturen." Zo geeft Facebook u bijvoorbeeld erg veel stimuli wanneer u een eerste keer iets post op hun platform, maar houdt het die stimuli weg naarmate u meer posts plaatst. Zo trekken ze u steeds dieper in hun platform door u op strategische momenten stimuli en beloningen te geven.

Volgens Caudron heeft dit veel gemeen met behaviorisme, een psychologische school die menselijk gedrag verklaart vanuit externe stimuli. Het beroemdste experiment van de school is dat van Russisch wetenschapper Ivan Pavlov die een hond steeds voedde na een belletje te rinkelen. Na een tijdje begon de hond te kwijlen enkel en alleen wanneer het belletje gerinkeld werd.

Vandaag doen Pavlov's geestelijke opvolgers geen experimenten meer op honden, maar op online gebruikers. "Hier passen ze een theorie toe waarin de mens wordt voorgesteld als een mechanisch onderdeel dat makkelijk kan gemanipuleerd worden", vertelt Caudron. "Je steekt er iets in, en je krijgt een voorspelbaar resultaat. Het mensbeeld daarachter is allesbehalve humanistisch. Maar op een basaal niveau werken dit soort technieken: je kan er simpele gedragsuitingen mee bijsturen."

Maar dit soort psychologische trucs kan u ook inzetten om goed te doen. "Een zeer bekende psychologische bias is loss aversion", legt Maarten Van den Bossche, growth strategist bij In The Pocket, uit. "Je bent banger om iets te verliezen dan dat je blij bent om iets te winnen. Snapchat gebruikt dat bijvoorbeeld via streaks, als je zo een dag niets post, dan verlies je punten. In dat geval is het natuurlijk betwijfelbaar dat elke dag Snapchat gebruiken wenselijk is. Maar je kan dezelfde techniek inzetten om mensen beter te laten sorteren, met alle ecologische voordelen van dien."

Programmeurs moeten niet enkel nadenken over de puur technische vragen, maar ook hoe ze waarde voor gebruikers bouwen

Maarten Van den Bossche

Voor In The Pocket, dat via een ethisch kader voor hun bedrijf dit soort negatieve manipulatie voorkomt, is die relatie tussen doelen en middelen alvast erg belangrijk. "We vragen altijd eerst hoe we waarde kunnen creëren voor bedrijven en gebruikers, en daarna kijken we welke middelen best bij die doelen passen", vertelt Hannes Van de Velde.

Clickbait zet langetermijnrelatie onder druk

Een ander centraal aspect van online ethiek zijn metrics. "We werken vaak voor mediaklanten. Daar zou het erg makkelijk zijn om klikcijfers op te drijven door clickbait en allerhande notificaties in te zetten", vertelt Maarten Van den Bossche. "Maar daar is het net belangrijk om met een breed scala aan metrics de echte tevredenheid te meten. Want clickbait zal de langetermijnrelatie met je gebruiker onder druk zetten."

Dark patterns kunnen zo het resultaat zijn van slechte metrics. "In grote bedrijven is het niet ondenkbaar dat de beoordeling van je job als designer afhangt van één bepaalde metric", vertelt Hannes Van de Velde. "Zo krijg je natuurlijk een tunnelvisie op die ene metric, en zal je als designer sneller het grotere geheel uit het oog verliezen. Die tunnelvisie kan er dan voor zorgen dat je als goedbedoelende designer, bewust of onbewust, dark patterns inzet."

Daarom legt In The Pocket in hun ethisch kader naast goede metrics ook de nadruk op interdisciplinaire teams. "Isolatie is altijd erg slecht voor ethiek. Als je enkel op één element werkt dan zal je nooit andere meningen tegenkomen en mis je het grotere plaatje", vertelt Van den Bossche. "Daarom zetten we in op kleine zelfsturende teams met verschillende profielen. Een programmeur moet dus niet enkel nadenken over de puur technische vragen, maar ook hoe ze waarde voor gebruikers bouwen."

Als Facebook over 'ethiek' of 'maatschappelijke verantwoordelijkheid' spreekt, hoor ik vooral hun PR-machine aan het werk

Ben Caudron

Caudron voegt eraan toe dat onderwijs ook erg belangrijk blijkt. "Ingenieurs en ontwerpers zijn vaak vooral met technische aspecten bezig. Bij de de sociale impact staan ze doorgaans niet stil", vertelt hij. "In hun opleiding schenken we ook nauwelijks of geen aandacht aan deze sociale en ethische vraagstukken. Dit weerspiegelt de bredere tendens die de meeste mensen treft: we worden niet aangeleerd na te denken over technologische ontwikkeling als een sociaal gegeven."

Niettemin is Caudron sceptisch dat meer aandacht voor ethiek negatieve psychologische manipulatie zal verminderen. "Als Facebook over 'ethiek' of 'maatschappelijke verantwoordelijkheid' spreekt, hoor ik vooral hun PR-machine aan het werk", stelt hij. "Zolang ze niet gedwongen worden, bijvoorbeeld door hun gebruikers, hebben ze geen baat bij verandering. Zij leerden ook dat de #deletefacebook beweging die opkwam na het Cambridge Analytica schandaal hen nauwelijks trof. Uiteindelijk zal het dus nog meer moeten afhangen van beleidsmakers, alleen zien zij vandaag maar weinig electoraal voordeel in dit soort thema's."