Vroeg of laat zal een zelfrijdende auto een keer moeten kiezen tussen twee mensenlevens. Welke keuze moet hij dan maken? Welke keuze zou een mens maken? Een spel duikt in dat lastige dilemma.

De zelfrijdende auto wordt geprezen om zijn veiligheid: het leeuwendeel van de ernstige auto-ongelukken wordt immers veroorzaakt door fouten van bestuurders. Maar ook een zelfrijdende auto kan in de problemen komen. Bijvoorbeeld doordat de remmen het begeven. Stel je eens zo’n zelfrijdende auto met falende remmen voor. De auto nadert een zebrapad waar net een groep schoolkinderen oversteekt. Wat moet de auto doen? Het zebrapad oprijden en de kinderen ernstig verwonden of erger? Of het trottoir opschieten en het risico lopen dat zijn passagier ernstige verwondingen oploopt?

Spel
Het is een dilemma waar zelfrijdende auto’s voor kunnen komen te staan en waar we dus over na moeten denken, vinden wetenschappers van het Massachussetts Institute of Technology. En daarom hebben ze een spel ontwikkeld waarin je met dit soort dilemma’s geconfronteerd wordt en een keuze moet maken. Het doel? Een beeld krijgen van de beslissingen die een zelfrijdende auto volgens het publiek in dergelijke situaties zou moeten maken. En de discussie over deze dilemma’s op gang brengen.

Wat moet de zelfrijdende auto doen? Doorrijden en een vrouwelijke dokter, een man en een vrouw doden? Of uitwijken en de passagiers - twee criminelen en een dakloze - doden?

Wat moet de zelfrijdende auto doen? Doorrijden en een vrouwelijke dokter, een man en een vrouw doden? Of uitwijken en de passagiers – twee criminelen en een dakloze – doden?

Verschillende scenario’s
In het spel – Moral Machine genoemd – krijg je elke keer totaal verschillende scenario’s voorgeschoteld. Zo moet je bijvoorbeeld kiezen tussen het doden van één man op een zebrapad (die weliswaar door rood gaat) of uitwijken en vijf voetgangers op het zebrapad doden (die wel groen licht hebben). Of kiezen tussen het doden van vier voetgangers en een hond of de auto laten crashen op een wegblokkade (waarbij de vijf inzittenden, waaronder twee kinderen omkomen). In elk scenario vind je weer andere personages: mannen, vrouwen, kinderen, dieren, zwangere vrouwen, ouderen, criminelen en elke keer is het dus eigenlijk een afweging: wiens leven is het meeste waard?

Wat nu? Doorrijden en vijf ouderen - die door rood lopen - doden? Of uitwijken en de passagiers - waaronder drie kinderen - doden?

Wat nu? Doorrijden en vijf ouderen – die door rood lopen – doden? Of uitwijken en de passagiers – waaronder drie kinderen – doden?

Resultaten
Aan het eind van het spel kun je zien welk personage je het vaakst hebt gedood. En welk personage je het vaakst hebt gered. Ook kun je zien hoe belangrijk het voor jou is om zoveel mogelijk levens te redden en hoe belangrijk het voor jou is om passagiers te redden. Tevens kun je zien hoe jouw visie hierop zich verhoudt tot die van anderen die het spel hebben gespeeld.

En het moet gezegd: het spel zet je aan het denken. Kunnen we het eens worden over wat moreel acceptabel is? En die moraal vervolgens opleggen aan de zelfrijdende auto? Nieuwsgierig geworden? Speel het spel hier!