Dat is nog niet zo eenvoudig.

De zelfrijdende auto is aan een opmars bezig. Op steeds meer plekken wordt er met de autonome auto geëxperimenteerd en de afgelopen jaren zijn er grote stappen gezet. Maar soms gaat het ook mis. Zo vond een paar weken geleden in de VS het allereerste dodelijke ongeval met een zelfrijdende auto plaats. Een vrouw die laat op de avond de weg overstak, werd geschept door een zelfrijdende auto van Uber die sinds enige tijd op de openbare weg wordt getest. Het slachtoffer bezweek aan haar verwondingen en Uber schortte het hele testprogramma (tijdelijk) op.

Verantwoordelijkheid
Direct na het ongeluk klonk natuurlijk weer de bekende vraag: wie is er in zo’n situatie verantwoordelijk? Wanneer je in een ‘gewone’ auto rijdt en een ongeluk meemaakt, is het antwoord meestal simpel: de bestuurder die de fout maakte, is verantwoordelijk. Maar hoe zit dat bij de vele malen complexere zelfrijdende auto? Dat is een stuk ingewikkelder. We illustreren dat aan de hand van het ongeluk dat een paar weken geleden laat in de avond in de VS plaatsvond. Op het moment van het ongeluk reed de zelfrijdende auto zelfstandig. Maar de auto was niet leeg: er was een mens aanwezig om – indien nodig – in te grijpen. Het betekent dat er verschillende mensen of bedrijven verantwoordelijk kunnen zijn, zo legt professor in de rechten, Robert L. Rabin uit. “Als de reserve-bestuurder naar alle redelijkheid niet heeft geprobeerd om het ongeluk te voorkomen, is Uber verantwoordelijk voor de nalatigheid van de bestuurder. Als de geautomatiseerde systemen van de zelfrijdende auto het slachtoffer niet hebben opgemerkt, kan zowel de producent van het voertuig als Uber verantwoordelijk worden gehouden. Als het slachtoffer op de weg liep en in de duisternis niet goed zichtbaar was, kan zij deels ook verantwoordelijk zijn. In het uiterste geval kan ze – als haar gedrag het ongeluk onvermijdelijk heeft gemaakt – ook volledig verantwoordelijk zijn, maar dat lijkt onwaarschijnlijk.”

Toedracht
Om te achterhalen wie er verantwoordelijk is, moet je de toedracht van het ongeval kennen. Daarover is in het geval van het dodelijke ongeval in de VS op dit moment nog niet zoveel te zeggen: de autoriteiten doen nog volop onderzoek. Vrijgegeven beelden van het onderzoek (je kunt ze hieronder bekijken) roepen in de tussentijd genoeg vragen op. Want hadden de sensoren van de auto – die geen enkel moment lijkt af te remmen – deze vrouw niet op moeten merken?

Juridisch kader
Het moge duidelijk zijn: bij een ongeval met een zelfrijdende auto is de schuldvraag niet zo gemakkelijk te beantwoorden. Het vraagt dan ook om een stevig juridisch kader. Maar dat is er eigenlijk niet. blijkt wel als we een blik werpen op de site van de Nederlandse Rijksoverheid. “De regels voor aansprakelijkheid die gelden voor normale auto’s gelden ook bij testen met zelfrijdende auto’s. De bestuurder is verantwoordelijk, als hij zelf het voertuig bestuurt. Maar als het systeem niet goed werkt, is de producent verantwoordelijk.” Dat lijkt wat summier. Maar het is volgens de Rijksoverheid in dit stadium genoeg: “De wetgeving is voor de testfase voldoende.”

Op de openbare weg
Wat ons bij een andere vraag brengt; horen zelfrijdende auto’s in die testfase eigenlijk wel thuis op de openbare weg? In de VS heeft elke staat daar zijn eigen ideeën bij, waarbij Arizona – de staat waarin het eerste dodelijke ongeluk plaatsvond – de minste eisen stelt aan zelfrijdende auto’s alvorens ze de weg op mogen. En er zijn niet alleen grote verschillen tussen de Amerikaanse staten. Ook tussen de zelfrijdende auto’s zijn de verschillen groot. “Niet alle zelfrijdende software bevindt zich in hetzelfde stadium van ontwikkeling. Sommige bedrijven testen de zelfrijdende software al jaren en hun algoritmes zijn veel verder ontwikkeld dan die van andere,” zo stelde professor Hussein Dia kort na het ongeluk met de Uber-auto. “Er moet beter gekeken worden naar de onderliggende kunstmatig intelligente systemen alvorens autonome voertuigen op de openbare weg worden toegestaan.” In Nederland is het zo dat zelfrijdende auto’s in principe ook op de openbare weg mogen worden getest. Maar pas nadat de RDW ze uitgebreid gekeurd heeft en uit experimenten op een afgesloten terrein is gebleken dat ze goed functioneren.

Cyber security

De veiligheid van zelfrijdende auto’s valt of staat niet alleen met steengoede algoritmes en sensoren. Ook de beveiliging van de systemen is belangrijk. Want je wilt niet dat iemand zelfrijdende auto’s kan hacken. En dus moeten ook daar (internationale) regels voor worden opgesteld: een zelfrijdende auto moet niet te hacken zijn.

Natuurlijk blijft een rondje rijden op een afgesloten terrein heel anders dan een ritje maken op de openbare weg vol met onbedachtzame, afgeleide, gehaaste mensen en dus kun je jezelf afvragen: is een zelfrijdende auto ooit echt klaar om de openbare weg op te gaan? Het antwoord is waarschijnlijk: nee. En dat is ook de reden dat producenten ‘m op de openbare weg moeten testen. Om ervan te leren en uiteindelijk een auto te leveren die daar wel goed gedijt. Maar zelfs als dat uiteindelijk lukt, moeten we één ding altijd in gedachten houden, aldus onderzoeker Zubair Baig, expert op het gebied van cyber security aan de Edith Cowan University. “Het is absoluut noodzakelijk dat we begrijpen dat deze voertuigen niet ongeval-proof zijn.” Al wordt de zelfrijdende auto nog zo intelligent en al rust je ‘m uit met honderden sensoren: er kan altijd iets misgaan. En daar moeten we dus op inspelen met heldere regelgeving omtrent verantwoordelijkheid. Maar dat niet alleen; we moeten er tevens alles aan doen om de zelfrijdende auto zo veilig mogelijk te maken en dus ook harde eisen stellen aan de software en beveiliging daarvan (zie kader hiernaast).

Onvermijdelijke ongevallen
Ook de zelfrijdende auto kan te maken krijgen met een onvermijdelijk ongeval. Een voorbeeldje: hij rijdt door een straat en opeens steekt een kind de weg over.
Remmen gaat niet meer. Uitwijken wel. Maar als de auto uitwijkt, schept deze een tegemoetkomende bejaarde. Wat nu? Het zijn vraagstukken waar momenteel intensief onderzoek naar wordt gedaan. In feite moeten we een zelfrijdende auto namelijk ook nog aan een moraal helpen.

De opkomst van de zelfrijdende auto brengt een hoop vraagstukken met zich mee. Niet alleen voor producenten van auto’s, maar juist ook voor overheden, naar wie er toch altijd weer gekeken wordt als dingen goed mis gaan. In die zin kan het ongeluk aan de andere kant van de oceaan gezien worden als een geduchte waarschuwing: de zelfrijdende auto komt eraan, is op papier veiliger dan ooit (en ook veiliger dan de auto waar je nu in rijdt), maar vrijwaart ons er niet van om ons op het ergste voor te bereiden.