‘Developers hebben veel macht. En ze moeten die verantwoord gebruiken’

Uber en Volkswagen deden aan grootschalige fraude op basis van code, schrijft techblogger Quincy Larson. Hij vraagt verantwoordelijkheid van programmeurs: ‘Enkel jij kan kwaadaardige code tegenwerken.’

Uber en de onbestaande taxi’s

Op 3 maart jongstleden legde The New York Times het grootste verhaal over Uber tot nu toe bloot. Sinds 2013 gebruikt het taxibedrijf een ingewikkelde tool om lokale wetshandhaving te ondermijnen. Het programma heet Greyball en werkt als volgt:

1. In steden waar Uber illegaal werkt – en dat zijn er nog steeds wel wat – kan Greyball undercoveragenten identificeren die proberen om Uberchauffeurs te betrappen en hun wagens in beslag te nemen.
2. Wanneer de politie de Uberapp opent en probeert een rit te pakken te krijgen, zien ze nepchauffeurs rondrijden door de stad, maar slagen ze er niet in om een chauffeur te regelen.
3. Omdat de auto’s die de politie ziet niet echt zijn en ze geen chauffeur kunnen pakken, kunnen ze niemand tegenwerken. Het eindresultaat is dat Uber simpelweg kan negeren dat een stad autodelen nog niet heeft goedgekeurd en toch in die stad kan werken.

Neem een momentje om dat te laten bezinken. Uber staat in essentie boven de wet, met dank aan haar superieure software.

De manier waarop ze chauffeurs identificeren, is vrij geniaal. Op basis van de kredietkaarten van de agenten kan Uber databases van handelaars vergelijken met lijsten van publieke ambtenaren en zo uitzoeken wie waarschijnlijk een politieman is om die mensen het vervolgens onmogelijk te maken Uber te gebruiken.

Politieagenten geraken nooit aan een ritje, maar denken dat ze gewoon op het verkeerde moment op de verkeerde plaats zijn. Dat is hoe Uber deze dekmantel jarenlang kon volhouden tot een paar Uberingenieurs met een schuldgevoel de kat de bel ontbonden.

Zenefits en de illegale verzekeringsagenten

Het bedrijf Zenefits levert software aan bedrijven en probeert ze dan verzekeringspakketten te verkopen. In 2016 geraakte bekend dat CEO Parker Conrad aan zijn developmentteam had gevraagd om een tool te ontwerpen die de weg vrijmaakt voor Zenefitsagenten om gemakkelijk aan hun licensie te geraken.

Met de hulp van een op maat gemaakte browserextensie konden Zenefitsagenten een wettelijk verplichte onlinecursus van 52 uur met bijhorende examens overslaan. In de plaats van nieuwe krachten te betalen om gedurende anderhalve week een cursus af te werken, konden ze hen meteen verzekeringen laten verkopen.

Vlak na die onthulling nam Conrad ontslag. Door het schandaal verloor het bedrijf de helft van haar waarde – 2,5 miljard euro – en moest het honderden mensen ontslaan.

Volkswagen en de longkanker

Tussen 2008 en 2015 produceerde Volkswagen meer dan 10 miljoen schone dieselauto’s. Veel iungenieurs waren verbaasd dat dieselmotoren zoveel minder emissie konden uitstoten dan standaard dieselwagens en toch zoveel kilometers konden afmalen. Wel, hun twijfels werden ondersteund in 2014 wanneer onderzoekers ontdekten dat de auto’s in kwestie voorzien waren van zogenaamde sjoemelsoftware.

Toplui van Volkswagen bevalen hun software-ingenieurs om een manier te vinden om het Environmental Protection Agency om de tuin te leiden bij emissietesten. Ze wisten dat reguleerders tijdens die testen specifieke parameters zouden gebruiken. Zij schreven een logica die bepaalde dat – wanneer die parameters werden geselecteerd – de motor dan op een bepaalde manier zou werken.

De sjoemelsoftware maskeerde het feit dat de schonedieselmotoren van Volkswagen in feite veel meer stikstofoxide uitstootten dan wettelijk toegelaten, tot wel veertig keer meer dan toegelaten zelfs.

En die uitstoot veroorzaakt longkanker. MIT-wetenschappers schatten dat dit uitstoot er uiteindelijk voor zal zorgen dat zestig mensen vroegtijdig sterven. Enkel in Amerika.

Juist: de software dat deze ontwikkelaars schreven doodt onschuldige mensen.

Na de schikking van 13,86 miljard euro in 2016 is Volkswagen een schaduw van zichzelf geworden. Haar reputatie zal nooit volledig hersteld worden. En het zal een van de grootste milieutragedies van onze tijd blijven – veroorzaakt door enkele developers die enkel orders opvolgden.

De rode draad? Code

De wereld is steeds meer afhankelijk van de code die ontwikkelaars schrijven. Zo horen developers stilaan bij de machtigste mensen ter wereld.

Coderen is een superkracht. Je kan er reality mee ombuigen naar de wereld. Je kan er de wereld een betere plaats mee maken. Of je kan die vernietigen.

Je kan de wetgever, de politie en de rechters oplichten. Je kan de publieke opinie oplichten. Je kan dat tot in het oneindige doen zonder te worden gesnapt.

Maar dat maakt het niet juist.

Ontwikkelaars hebben veel macht. En ze moeten die verantwoord gebruiken.

Als je een developer bent, of er eentje wil worden, beveel ik je aan om The Code I’m Still Ashamed Of te lezen, een artikel van Bill Sourour.

En als iemand je vraagt om iets te bouwen dat duidelijk illegaal is – of gewoon kwaadaardig – ga naar de pers. De developers in de bovenstaande drie cases hadden dat kunnen doen en de wereld zo veel pijn kunnen besparen.

Enkel jij kan kwaadaardige code tegenwerken.