Dat antwoord hoor je vaker van technologiebedrijven. In werkelijkheid blijkt meestal het tegendeel. Ook al zijn algoritmes en verleidelijke user interfaces gericht op het genereren van groei, ze hebben allemaal een maatschappelijk neveneffect. Negatieve neveneffecten zoals de sluiproutes van Waze die de rust in woonwijken wel eens verstoren. Maar ook positieve neveneffecten, zoals een food delivery app die regelmatig vegetarisch eten voorstelt om de ecologische voetafdruk van de gebruiker te verkleinen.

Gaan apps met een mening de wereld redden?

De vriendin in kwestie was niet tevreden met mijn antwoord: 'er rust wel wat verantwoordelijkheid op jullie schouders'. Ze had gelijk. Meer dan 100.000 meetings tijdens (online) networking evenementen werden al via Conversation Starter gepland. Grofweg 70.000 daarvan werden in de hand geholpen door onze suggestie algoritmes. Wat als Conversation Starter straks groeit tot miljoenen gebruikers? Dan heeft één algoritme, ontwikkeld in Antwerpen, invloed op het pad van wel héél veel ondernemers.

Conversation Starter heeft nog geen miljoenen gebruikers, maar talloze andere apps wel. Kijk bijvoorbeeld naar de Vlaamse regering die recent met het bedrijf Via een contract sloot om allerlei vervoersmiddelen te combineren in één software platform. De mobiliteit van 6,5 miljoen Vlamingen zal hierdoor straks beïnvloed worden.

Via zou kunnen opteren om hun software te optimaliseren naar de noden van de individuele gebruiker. Neemt die liever de auto dan de fiets, dan wordt de auto sneller naar voor geschoven in de routeplanner.

Via zou ook kunnen opteren om de software te optimaliseren naar de beleidsrichting van de Vlaamse regering. Zouden invloedrijke bedrijven dan de routeplanner algoritmes naar hun hand trachten te zetten? Het is niet ondenkbaar. Facebook bleek bijvoorbeeld een geheim XCheck programma opgezet te hebben waarbij invloedrijke gebruikers algoritmes en regels konden omzeilen.

Neutrale software is onmogelijk. Dat is misschien maar goed ook.

Neutrale software is onmogelijk. Dat is misschien maar goed ook. Kunnen apps met doordachte maatschappelijke neveneffecten de wereld verbeteren? Via zou bijvoorbeeld kunnen kiezen om groene mobiliteit maximaal te promoten. En de algoritmes van Conversation Starter zouden er bijvoorbeeld voor kunnen zorgen dat gebruikers van kleine ondernemingen meer kansen krijgen op vruchtbare meetings dan gebruikers van multinationals.

Ik stel voor dat er minder lichtzinnig omgegaan wordt met de maatschappelijke neveneffecten van dominante software:

  • Door onafhankelijke audits mogelijk te maken kan de maatschappij inzicht verwerven in neveneffecten. Het Belgische burgerparticipatie platform Citizen Lab scoort bijvoorbeeld goede punten door de kern van hun software open source te maken.
  • Door gebruikers van de software én iedereen die er de neveneffecten van ondervindt te betrekken bij het ontwerp kan de software op maat van de maatschappij gemaakt worden. Dat zou kunnen via de klassieke democratische weg, maar ook via een mini-democratie ingebouwd in de software. Een technologie zoals blockchain zou de laatste optie mogelijk kunnen maken.

De vertaling naar de praktijk is niet eenvoudig. Toch ben ik optimistisch dat deze voorstellen niet alleen een maatschappelijk verschil zullen maken. Ze zullen ook aandeelhouders tevreden stellen omdat ze ervoor zorgen dat de klanten langer blijven. Met goede audit resultaten wordt het vertrouwen en loyaliteit bevorderd en door alle stakeholders te betrekken blijft de software steeds aangepast aan de markt.

Met dank aan: Thomas Smolders, Hans Constandt, Gerda Tersago, Marieke Carpentier, Pieter Seyssens.

Dat antwoord hoor je vaker van technologiebedrijven. In werkelijkheid blijkt meestal het tegendeel. Ook al zijn algoritmes en verleidelijke user interfaces gericht op het genereren van groei, ze hebben allemaal een maatschappelijk neveneffect. Negatieve neveneffecten zoals de sluiproutes van Waze die de rust in woonwijken wel eens verstoren. Maar ook positieve neveneffecten, zoals een food delivery app die regelmatig vegetarisch eten voorstelt om de ecologische voetafdruk van de gebruiker te verkleinen.De vriendin in kwestie was niet tevreden met mijn antwoord: 'er rust wel wat verantwoordelijkheid op jullie schouders'. Ze had gelijk. Meer dan 100.000 meetings tijdens (online) networking evenementen werden al via Conversation Starter gepland. Grofweg 70.000 daarvan werden in de hand geholpen door onze suggestie algoritmes. Wat als Conversation Starter straks groeit tot miljoenen gebruikers? Dan heeft één algoritme, ontwikkeld in Antwerpen, invloed op het pad van wel héél veel ondernemers. Conversation Starter heeft nog geen miljoenen gebruikers, maar talloze andere apps wel. Kijk bijvoorbeeld naar de Vlaamse regering die recent met het bedrijf Via een contract sloot om allerlei vervoersmiddelen te combineren in één software platform. De mobiliteit van 6,5 miljoen Vlamingen zal hierdoor straks beïnvloed worden.Via zou kunnen opteren om hun software te optimaliseren naar de noden van de individuele gebruiker. Neemt die liever de auto dan de fiets, dan wordt de auto sneller naar voor geschoven in de routeplanner. Via zou ook kunnen opteren om de software te optimaliseren naar de beleidsrichting van de Vlaamse regering. Zouden invloedrijke bedrijven dan de routeplanner algoritmes naar hun hand trachten te zetten? Het is niet ondenkbaar. Facebook bleek bijvoorbeeld een geheim XCheck programma opgezet te hebben waarbij invloedrijke gebruikers algoritmes en regels konden omzeilen.Neutrale software is onmogelijk. Dat is misschien maar goed ook. Kunnen apps met doordachte maatschappelijke neveneffecten de wereld verbeteren? Via zou bijvoorbeeld kunnen kiezen om groene mobiliteit maximaal te promoten. En de algoritmes van Conversation Starter zouden er bijvoorbeeld voor kunnen zorgen dat gebruikers van kleine ondernemingen meer kansen krijgen op vruchtbare meetings dan gebruikers van multinationals.Ik stel voor dat er minder lichtzinnig omgegaan wordt met de maatschappelijke neveneffecten van dominante software:De vertaling naar de praktijk is niet eenvoudig. Toch ben ik optimistisch dat deze voorstellen niet alleen een maatschappelijk verschil zullen maken. Ze zullen ook aandeelhouders tevreden stellen omdat ze ervoor zorgen dat de klanten langer blijven. Met goede audit resultaten wordt het vertrouwen en loyaliteit bevorderd en door alle stakeholders te betrekken blijft de software steeds aangepast aan de markt.Met dank aan: Thomas Smolders, Hans Constandt, Gerda Tersago, Marieke Carpentier, Pieter Seyssens.