De remmen van een zelfrijdende auto blokkeren. De auto moet nu kiezen: crashen tegen een stenen muur of uitrollen in een park. In het eerste geval berekent de auto dat de kans 90% is dat de bestuurder sterft. Maar uitrollen in een park is niet zonder risico’s: er spelen kinderen en de kans is groot dat er één of meerdere kinderen geraakt worden. Wat nu?

In de toekomst berekenen zelfrijdende auto’s in een fractie van een seconde hoeveel procent kans een bestuurder heeft om een ongeluk te overleven. Dit gebeurt al met droneaanvallen, zoals te zien is in de recente film ‘Eye in the Sky‘. Militairen willen een onderduikadres van terroristen aanvallen met een drone, maar net buiten het huis speelt een klein meisje. De kans is 85% dat zij sterft. Gaat de droneaanval door of staken de militairen de missie?

Doodt een zelfrijdende auto één kind (meer verwachte levensjaren) of een bejaard echtpaar (meer personen)?

Maar hoe zit dat met zelfrijdende auto’s? Als een zelfrijdende auto moet kiezen tussen het aanrijden van twee bejaarde voetgangers of één jong kind, wordt er dan gekeken naar het aantal verwachte levensjaren (het kind wordt gered) of naar het aantal personen (het bejaarde duo overleeft de crash)?

Eigen hachje
“De meeste mensen willen leven in een wereld waarin auto’s zo min mogelijk slachtoffers veroorzaken”, vertelt professor Iyad Rahwan van het MIT. “Maar iedereen wil tegelijkertijd dat hun eigen auto hen beschermd, ook al heeft dit gevolgen voor anderen op de weg.” Dit vormt een sociaal dilemma met negatieve gevolgen. Als alle mensen voor zichzelf kiezen, ontstaan er onveilige situaties op de weg.

Uit eerdere onderzoeken blijkt dat mensen willen dat autonome voertuigen het aantal slachtoffers beperken bij een ongeluk. Een auto moet dus uitwijken om een botsing met tien voetgangers te voorkomen. Toch stappen mensen niet aan boord van een voertuig die op deze manier geprogrammeerd is. De bestuurder kan bijvoorbeeld de dupe worden van een fout van een andere weggebruiker en moet dat dan bekopen met de dood, omdat de zelfrijdende auto besloot om de ander te redden.

Snel knopen doorhakken
In het paper ‘The social dilemma of autonomous vehicles‘ schrijft Rahwan dat het niet makkelijk is om een algoritme te ontwikkelen die rekening houdt met morele waarden én met het belang van de automobilist. Het is van belang dat de politici en autofabrikanten snel knopen gaan doorhakken. Als zelfrijdende auto’s veiliger zijn dan normale auto’s, dan is het van belang dat deze auto’s zo snel mogelijk op straat verschijnen.

De zelfrijdende auto komt
“Op een bepaald moment zorgen autonome voertuigen voor een omslagpunt, waarna ‘het gaat gebeuren’ verandert in ‘het gebeurt’,” zegt professor Ian Yeoman van de universiteit van Victoria in Wellington. “Eerst zien we nog een reeks kleine stappen, zoals de autonome taxi’s in Pittsburgh en autonome schepen en vrachtvliegtuigen. We zijn altijd bang voor de toekomst, maar zonder wetenschap en vooruitgang zouden we nu nog steeds in een grot zitten en zou het wiel niet zijn uitgevonden.”

Dossier: zelfrijdende auto
Alles weten over de zelfrijdende auto? Scientias.nl bundelt alle achtergronden en nieuwsberichten in het dossier ‘Zelfrijdende auto‘.