Ik, Robot

Slechts een derde van de negen miljoen Joden die voor de oorlog in Europa leefden, ontsnapte aan de Holocaust. Hoeveel zouden er dat geweest zijn indien de nazi’s moderne informaticatechnologie zouden hebben gehad? Zo goed als niemand, valt te vrezen.

Slechts een derde van de negen miljoen Joden die voor de oorlog in Europa leefden, ontsnapte aan de Holocaust. Hoeveel zouden er dat geweest zijn indien de nazi’s moderne informaticatechnologie zouden hebben gehad? Zo goed als niemand, valt te vrezen.

Doe maar even het gedachte-experiment. Probeer je in te denken hoe je als Jood, getuige van Jehova, zigeuner, mindervalide, holebi, socialist, communist of weerstander zou kunnen ontsnappen aan een totalitair regime dat via datamining, bewakingscamera’s, trajectcontroles, elektronische identiteitskaarten, internetbewaking, gis-systemen en gsm-netwerken zijn burgers totaal controleert. Informaticatechnologie en internet kunnen ook tegen totalitaire regimes worden gebruikt. De revoluties in Tunesië, Egypte, Syrië en Libië bewijzen het. Die worden, met nogal wat overdrijving, beschreven als Facebook- en Twitter-revoluties. In al die landen probeert de overheid trouwens het internet-, gsm- en telefoonverkeer lam te leggen, zodat er zo weinig mogelijk informatie uitlekt. Door de mondialisering blijkt dat echter niet zo eenvoudig. Netwerken zijn vaak in handen van internationale bedrijven en die laten zich niet zomaar de wet dicteren door lokale overheden. Khadaffi blijkt in dat opzicht slimmer dan zijn collega-dictators. Hij, of toch zijn zoon, is gewoon eigenaar van het belangrijkste gsm-netwerk in Libië.

Al deze voorbeelden leren ons een belangrijke les. Technologie mag dan al waardevrij zijn (iets waar ik niet eens zo zeker van ben), maar kan wel ideologisch worden gebruikt én misbruikt. Misschien moeten we daar als democratie toch eens wat meer over nadenken. Moeten we niet een aantal democratische principes en mensenrechtenprincipes hardwarematig coderen in Westerse technologie? Het idee is niet origineel. De Amerikaanse schrijver Isaac Asimov formuleerde al in de jaren veertig van de vorige eeuw de drie wetten der robotica in zijn verhalenbundel Ik, Robot: een robot mag een mens geen letsel toebrengen of laten overkomen, moet door mensen gegeven orders uitvoeren tenzij die in strijd zijn met de eerste wet en moet zichzelf beschermen, tenzij dit in strijd is met de eerste en tweede wet.

Asimov’s roboticawetten blijven fictie. Zijn robots zijn ondertussen echter harde realiteit. Twee procent van de Amerikaanse troepen in Afghanistan zijn robots. En die helpen heus niet allemaal bij het ontmantelen van bommen. Bob Woodward rapporteert in Obama’s Wars dat in april 2010 robots om de drie dagen een of meer Al Quaeda strijders “uitschakelden” in het grensgebied tussen Pakistan en Afghanistan. Hardwarematig coderen van menselijke waarden is trouwens ook niet langer sciencefiction. Het is een goed bewaard geheim dat in sommige voor de export bestemde Amerikaanse oorlogswapens computerchips zitten die garanderen dat het wapen niet ingezet kan worden tegen Amerikaanse troepen. En momenteel experimenteren de Amerikanen in Afghanistan met intelligente kogels met een richtchip. Als dat nu al technisch kan, waarom kunnen we dan niet minstens het mensenrechtenhandvest van de V.N. op een of andere manier in computerfirmware gieten?