Een zelfrijdende auto moet het leven van een kind redden ten koste van het leven van een bejaarde. Die consensus vonden onderzoekers van MIT terug nadat ze mensen van over de hele wereld 40 miljoen morele dilemma’s hadden voorgelegd. Gaat het echter over het geslacht, de sociale status of de rechtschapenheid van het slachtoffer, dan blijken de antwoorden te verschillen van cultuur tot cultuur.
Naar verwachting zullen zelfrijdende auto’s miljoenen levens redden. Er zullen echter ook gevaarlijke verkeerssituaties opduiken waarbij de auto geen traject meer vindt dat iedereen kan redden. En dan moeten moeilijke beslissingen genomen worden, soms op leven en dood. Moet de auto een roekeloos overstekende tiener ontwijken ten koste van een oudere passagier? Mag hij het leven van een dakloze man en een hond opofferen om dat van een zwangere vrouw te sparen?
Over dit soort ethische dilemma’s denken moraalfilosofen al vijftig jaar na. Vijftig jaar geleden was dit ‘trolley-probleem’ nog louter een gedachte-experiment. Nu ingenieurs de programmatuur van zelfrijdende auto’s aan het schrijven zijn, kunnen dit soort morele afwegingen ook gevolgen hebben in de praktijk. Het wordt dus belangrijk dat we er snel een gemeenschappelijke consensus over bereiken.
Daarom schotelden onderzoekers van het Massachusetts Institute of Technology (MIT) de voorbije twee jaar aan miljoenen mensen uit 233 landen en regio’s precies dit soort dilemma’s voor. Dat deden ze met The Moral Machine, een viraal quizje waarbij ze je dertien keer laten kiezen tussen twee scenario’s. De wetenschappers varieerden de mogelijke slachtoffers aan de hand van negen parameters: passagier of voetganger, man of vrouw, jong of oud, atletisch of dik, hoge of lage sociale status en mens of dier. Sommige van die voetgangers hielden zich netjes aan de verkeersregels terwijl anderen een rood licht negeerden. De vraag of de auto op zijn baan moet blijven of een manoeuvre moet maken, speelde ook een rol. Tegelijk varieerde ook nog eens het aantal mogelijke slachtoffers.
Doe hier zelf de test
De resultaten van die morele optelsom werden donderdag gepubliceerd in Nature. Er kwamen drie universele principes uit voort. De meerderheid is het erover eens dat een zelfrijdende auto altijd het manoeuvre moet maken dat het kleinste aantal slachtoffers oplevert, dat die beter het leven van een kind spaart dan dat van een bejaarde en dat het leven van mensen voorrang moet krijgen op dat van dieren.
Op andere punten liepen de antwoorden meer uit elkaar. Ze bleken ook afhankelijk van het werelddeel waarin het dilemma beantwoord werd. Op basis van de geolocatie vonden de onderzoekers drie clusters waarbinnen de deelnemers min of meer dezelfde morele afwegingen maken: een westerse cluster (Europa en de VS), een zuiderse cluster (vooral Latijns-Amerika) en een oosterse cluster (het Midden-Oosten en Azië).
De wetenschappers rapporteren ook een systematisch verschil tussen wat ze zelf individualistische en collectivistische culturen noemen. Deelnemers van collectivistische culturen hebben bijvoorbeeld meer respect voor ouderen: ze toonden een minder grote voorkeur voor het sparen van jonge mensen.
In landen met grote inkomensongelijkheid, antwoordt men dan weer vaker dat ook de sociale status een rol moet spelen (sneller een arts redden dan een dakloze). De verklaring daarvoor laten de onderzoekers open: “Het is mogelijk dat die ongelijkheid doorsijpelt in de morele voorkeuren van mensen, maar het omgekeerde kan ook: dat die morele voorkeuren al aanwezig waren en hun invloed hadden op de ongelijkheid in dat land.”
Overal blijken deelnemers iets liever vrouwen dan mannen te redden, maar in landen waar het beter gesteld is met de gezondheids- en overlevingsperspectieven van vrouwen, was die voorkeur meer uitgesproken.
De onderzoekers vonden bovendien dat deelnemers van welvarende landen sneller bereid waren om voetgangers op te offeren die de verkeersregels aan hun laars hadden gelapt. “Deelnemers van armere landen met zwakkere instellingen zijn toleranter tegenover voetgangers die illegaal oversteken, vermoedelijk omdat het niet naleven van verkeersregels daar minder hard wordt bestraft”, speculeren de wetenschappers.
De auteurs willen er niet mee gezegd hebben dat mensen nu inspraak moeten krijgen in de manier waarop zelfrijdende auto’s geprogrammeerd worden. “De normatieve regels moeten opgesteld worden door experten, maar die moeten wel op de hoogte zijn wat er leeft bij het grote publiek en welke reacties ze kunnen verwachten.”
Ze verwijzen naar de tot nog toe enige lijst van ethische regels daarover, vorig jaar opgesteld door de Duitse ethische commissie. Die stelt dat in een onvermijdelijk ongeval menselijk leven de voorkeur moet krijgen op dat van dieren – wat nu dus in overeenstemming blijkt met de sociale verwachtingen. Het Duitse rapport zegt echter ook dat er geen onderscheid mag worden gemaakt op basis van leeftijd, geslacht en fysieke of mentale eigenschappen. Dit blijkt dan weer in tegenstrijd met de heersende opvatting dat kinderen gespaard moeten blijven ten koste van oudere mensen. Dat maakt duidelijk hoe moeilijk het zal worden om de regels vast te leggen die zelfrijdende auto’s zullen moeten volgen. Er is dus nog werk aan de winkel voor moraalfilosofen.
Fout opgemerkt of meer nieuws? Meld het hier