Moet hij zich tegen een muur storten – en daarmee zijn bestuurder zwaar verwonden of de dood in jagen – of moet hij proberen te stoppen, ondanks dat duidelijk is dat hij minstens een aantal van die mensen zal raken? Onderzoekers van de Toulouse School of Economics hebben een aantal mensen die vraag voorgelegd, er van uit gaande dat de programmeurs van zelfrijdende auto’s dat ethische dilemma vroeg of laat zullen moeten oplossen. De antwoorden waren niet verrassend: de meeste ondervraagden vonden dat de auto zijn bestuurder moest opofferen om die mensen op de weg te redden. Tenzij zij zelf de bestuurder waren, dan lag het anders….. 

Dat roept een moeilijke vraag op voor de software-ontwikkelaars van zelfrijdende auto’s. Het lijkt logisch te kiezen voor de strategie dat de robotauto altijd zal proberen mensen te ontwijken, zeker groepen, ook al betekent het dat hij zijn bestuurder en mogelijk andere inzittenden daarvoor moet offeren. Maar wie gaat straks een auto kopen waarvan je weet dat hij je te pletter rijdt, als zijn software meent dat er een doel is dat zulks verlangt? En stel je voor dat de robotauto geprogrammeerd is om altijd te stoppen, ga je daar blij mee zijn als er een paar struikrovers op de weg staan? Het lijken allemaal academische vragen, maar we kunnen er niet omheen dat de zelfrijdende auto’s van de toekomst een strategie zullen moeten hebben voor noodsituaties. Hem altijd alleen maar zo hard mogelijk laten remmen, is een matige prestatie voor een zogenaamd ‘intelligent voertuig’, daar verwacht je méér van.

Het onderzoek deed me denken aan een avontuur dat mijn vrouw meemaakte. Ze reed een bergpas op in Spanje, die deel uitmaakte van de route van de Volta Ciclista a Catalunya.

Van die wielerwedstrijd wist ze niets af, want de Spanjaarden hadden verzuimd aan het einde van de afdaling borden neer te zetten dat inrijden even niet was toegestaan. Toen ze een bocht omkwam, stormden haar twee verbouwereerde motoragenten tegemoet, onmiddellijk gevolgd door de kopgroep van de Volta Ciclista, die met 80 km/uur de berg afdenderde. Ze deed het enige juiste. Ze stopte meteen en drukte zo hard mogelijk op de claxon zodat de renners opkeken, haar zagen en nog net om haar auto heen zwierden.

Als ze toen in een zelfrijdende auto had gereden, was deze  in die situatie acuut de afgrond ingedoken.