‘Innovatie waar je als collectief voordeel uit haalt is niet noodzakelijk op individueel vlak goed’

Zelfrijdende wagens zullen allicht duurzamer rijden, minder ongevallen veroorzaken en ook het fileleed verminderen. Maar die collectieve voordelen mogen er niet toe leiden dat we andere morele uitdagingen op individueel niveau wegwuiven, zegt expert mensgericht ondernemen en toekomstdenken Jochanan Eynikel.

Mensen zijn de belangrijkste hindernis voor de doorbraak van de zelfrijdende wagen. Zo kopte de Financial Times vorige week (FT 30 aug. 16). We zijn bang om de controle uit handen te geven, dat de wagen niet veilig genoeg zal zijn of voor verschrikkelijke dilemma’s zal komen te staan wanneer een ongeval niet te vermijden valt.

Het klopt dat deze bedenkingen vandaag concrete uitdagingen vormen voor autoconstructeurs en technologiebedrijven. Zeker nu verschillende technologiegiganten elkaar de loef trachten af te steken om als eerste een doorbraak te realiseren met autonome wagens. In Singapore doet de start-up NuTonomy reeds testen met de eerste autonome taxi en steekt daarmee Uber de loef af dat dezelfde plannen heeft met Volvo. Google daagt op zijn beurt Uber uit door zelf een geautomatiseerde carpooldienst te ontwikkelen. BMW en Ford willen over vijf jaar een zelfrijdende wagen commercialiseren. Het gaat hard in de high tech automarkt.

Stellen dat de mens een hindernis vormt voor de uitrol van deze technologie, is echter de wereld op zijn kop. Het lijkt wel of de toepassing van de technologie een doel op zich is. Hoort technologische innovatie niet ten dienste te staan van de mens? Is het niet goed dat innovatoren behoedzaamheid aan de dag leggen in het uitrollen van nieuwe technologie? Zeker wanneer het om autonome machines gaat die in een delicate en complexe context als het wegverkeer moeten opereren.

Minder doden door autopilot van Tesla

Voor visionaire ondernemers zoals Elon Musk kan de uitrol van deze technologie niet snel genoeg gaan. Na het dodelijke ongeval met de semiautonome Tesla in mei eerder dit jaar, wees hij erop dat je gewoon “de verdomde berekening moet maken” om dat in te zien. Een gewone auto zou vandaag om de 150 miljoen kilometer een slachtoffer maken. Met het semiautonome Autopilotsysteem van Tesla ligt dat gemiddelde nu op 1 op de 200 miljoen kilometer. Conclusie: de autonome technologie is veiliger en kan dus maar beter zo snel mogelijk de menselijke bestuurder vervangen. Die is makkelijker afgeleid, vermoeid en soms gewoon onverantwoordelijk.

Ik hoop ook dat de zelfrijdende wagen er komt. De wagens zullen allicht duurzamer rijden, minder ongevallen veroorzaken en daardoor ook het fileleed verminderen. Maar die collectieve voordelen mogen er niet toe leiden dat we andere morele uitdagingen op individueel niveau wegwuiven. Ik denk dat er een morele denkfout schuilt in de idee dat een innovatie die collectief voordeel oplevert, ook op individueel vlak goed is. Zeker als er mensenlevens in betrokken zijn. Niemand zou bijvoorbeeld een systeem aanvaarden waarbij de overheid elk jaar een aantal gezonde burgers opoffert om met hun organen een veelvoud van zieke burgers te redden. De collectieve winst – minder sterfgevallen – weegt niet op tegen deontologische principes zoals rechtvaardigheid en bestaanszekerheid op individueel vlak. Dat geldt ook voor technologie die collectief ongetwijfeld voordelen oplevert maar individueel behoorlijke schade kan toebrengen. Zoals wanneer een autonome wagen een ongeval niet kan vermijden en de keuze moet maken tussen de veiligheid van de passagiers en die van andere weggebruikers.

Altijd de wet volgen?

Hoe zelfrijdende wagens – of andere slimme machines zoals robots – moeten handelen in moreel geladen situaties, is een ongeziene uitdaging. Volgens welke principes moeten de algoritmes van autonome wagens opgesteld worden? Altijd de wet volgen? Maar ethiek en de wet vallen helaas niet altijd samen. Zo kan het soms beter zijn de wet te overtreden om erger kwaad te vermijden. Denken we maar aan het overschrijden van een volle witte lijn om een plots overstekende persoon te ontwijken. Altijd zoveel mogelijk slachtoffers vermijden? Dat is allicht een bruikbaar principe, maar ook niet zaligmakend. Moet een autonome wagen bijvoorbeeld de passagier die hij vervoert opofferen om de drie mensen die door het rood oversteken te sparen? En wat als het kinderen zijn? Het uitgangspunt om mensenlevens louter kwantitatief te benaderen, voelt niet in alle omstandigheden even ‘juist’.

Autonome technologie zal moeten leren omgaan met ethiek. Menselijke chauffeurs doen dat niet noodzakelijk beter, zeker niet in crisissituaties, maar ze hebben dan ook weinig tijd om erover na te denken. Hoe pijnlijk de uitkomst soms ook is, we begrijpen dat mensen bij een verkeersongval soms instinctmatig of zelfs uit paniek reageren. Dat ‘excuus’ gaat niet op voor zelfrijdende wagens waarbij programmeurs en constructeurs deze scenario’s op hun bord krijgen vóór ze zich daadwerkelijk voordoen. Bij 100% autonome wagens verschuift de morele verantwoordelijkheid van chauffeur naar de programmeur. Laat ons hen dus maar wat tijd gunnen om de gerobotiseerde wagen menselijk te houden alvorens hem de baan op te sturen.