Grote vragen over leven en dood door zelfrijdende auto

Er gebeuren heel rare dingen als je in een auto rijdt, zegt professor Chris Gerdes van de Amerikaanse Stanford Universiteit. En deze bewering treft het hart van de problematiek van de autonoom rijdende auto. Hoe kunnen wij van een robot verwachten dat hij kan reageren op alle eventualiteiten die mensen in het verkeer tegenkomen: onvoorspelbare voetgangers, plotseling opduikende afzettingen en pylonen of rommel die door een windvlaag over de weg wordt geblazen. En: wat doen we met de zogenoemde ‘algoritmen van de dood’? Kunnen we het aan robots overlaten om de minst slechte keuze te maken bij onvermijdelijke botsingen?

Ik denk niet dat we al een technologie beschikbaar hebben die zich gedraagt als mensen in zulke situaties", aldus Gerdes, de directeur van het automotive research laboratory van Stanford. "Dit is een plaats waar we een robot iets laten doen wat tot dusver exclusief voor de mens was. Bij autonoom rijden ontstaan grote ethische vragen die buitengewoon complex zijn."  

Gevestigde autofabrikanten als Daimler en BMW en de nieuwe ‘tech-merken’ als Tesla en Google staan erom bekend dat ze experts zoals professor Gerdes inhuren om over de ethische kwesties te praten. Andere bedrijven, zoals Fiat Chrysler, zeggen dat zij ingenieurs laten onderzoeken wat de gevolgen zijn autonoom rijden. GM zegt dat een autonoom systeem dat vandaag geproduceerd zou kunnen worden bij lange na niet de antwoorden op alle vragen heeft, of sterker: niet eens alle vragen kent. Maar Nissan gaat verder door een speciale onderzoeker aan te stellen op zijn kantoor in Silicon Valley om de ethische materie te onderzoeken. De antropoloog Melissa Cefkin onderzoekt de interactie tussen autonoom rijdende auto’s en voetgangers en fietsers.  

Kind of bejaarde dood?
Een onderdeel van de ethische vraagstukken omvat scenario’s en gedachtenexperimenten. Daniel Hirsch, een automotive expert bij PA Consulting, geeft een voorbeeld: "Een kind rent de straat op en de auto heeft maar één keuzemogelijkheid: het kind doodrijden of de oude, aan kanker lijdende inzittende van de auto laten verongelukken." De ‘correcte’ keuze zal in verschillende landen en culturen een andere zijn. Het kan zelfs illegaal zijn, want bijvoorbeeld in Duitsland en Zwitserland zegt de wet dat mensenlevens niet tegen elkaar kunnen worden afgewogen. En hoe moet het met grote partijen zoals de verzekeraars? "Bij een belangrijk aantal van deze kwesties zou de verzekeringsmaatschappij anders kiezen. Een gehandicapt kind is veel duurder voor hen dan een gehandicapte oudere die nog maar een beperkte tijd te leven heeft", aldus Hirsch.

Onmogelijke keuze voorkomen
Volledig autonoom rijdende auto’s zullen nog wel aan aantal jaren op zich laten wachten, maar geautomatiseerde auto’s met allerlei geavanceerde botspreventieapparatuur rijden nu al rond. De meeste moderne auto’s hebben wel een vorm van een systeem voor actieve veiligheid. Deze overwegingen zorgen ervoor dat autofabrikanten de ethische kwesties serieus nemen. "Er ontstaat een toenemende bewustwording bij alle autofabrikanten dat zij moeten omgaan met de psychologische kwesties van deze auto’s", zegt Hans-Werner Kaas, een senior partner bij McKinsey. "Ze proberen allemaal hun vaardigheden te vergroten." Deze acties onderstrepen dat de industrie hypergevoelig is voor veiligheid als gevolg van een serie van ‘high-profile’ terugroepacties van miljoenen voertuigen, wat betekent dat de race die gaande is over de inzet van nieuwe technologieën toch wel met voorzichtigheid moet worden benaderd. Volvo, die zijn merk rondom veiligheid heeft opgebouwd, is typisch voor de aanpak. Erik Coelingh, een leidinggevende bij de technische afdeling voor veiligheid bij Volvo: "In de praktijk komt het erop neer dat de auto nooit in een situatie terecht moet komen waarin hij een onmogelijke keuze moet maken." Dit betekent conservatief rijden en de verkeersregels in acht nemen. Om zijn punt te onderstrepen, zei Volvo in oktober vorig jaar dat men bij ongevallen, die door de zelfrijdende technologie zijn verooraakt, de volledige civiele aansprakelijkheid accepteert. Dat is niet hetzelfde als zeggen dat berijders zichzelf in de ‘brain off modus’ kunnen zetten, zoals een BMW-manager het uitdrukt.

Weense Conventie
Voordat we het totale dilemma van autonoom rijden tegemoet moeten treden, zullen nog enige jaren voorbij gaan. De staat Californië, die qua regelgeving erg vooruitstrevend is op het gebied van autonoom rijden, heeft vorige maand regels aangenomen waarin staat dat mensen te allen tijde de controle over het voertuig moeten behouden, zoals is beschreven in de Weense Conventie, waar veel Europese landen naar kijken. Dat betekent vooralsnog dat de ingebruikname van autonoom rijdende auto’s uitgesloten wordt.
"Als maatschappij moeten we de beslissing nemen of we klaar zijn voor een machine die zonder bemoeienis van een berijder beslist wat er moet gebeuren in een kritieke situatie", zegt Ian Robertson, verantwoordelijk voor marketing in de raad van bestuur van BMW Group. "Ik ben er niet zeker van dat we al zover zijn."

U las zojuist één van de gratis premium artikelen

Onbeperkt lezen? Sluit nu een gratis proefabonnement af

Bekijk de aanbieding

Grote vragen over leven en dood door zelfrijdende auto - Automobielmanagement.nl

Grote vragen over leven en dood door zelfrijdende auto

Er gebeuren heel rare dingen als je in een auto rijdt, zegt professor Chris Gerdes van de Amerikaanse Stanford Universiteit. En deze bewering treft het hart van de problematiek van de autonoom rijdende auto. Hoe kunnen wij van een robot verwachten dat hij kan reageren op alle eventualiteiten die mensen in het verkeer tegenkomen: onvoorspelbare voetgangers, plotseling opduikende afzettingen en pylonen of rommel die door een windvlaag over de weg wordt geblazen. En: wat doen we met de zogenoemde ‘algoritmen van de dood’? Kunnen we het aan robots overlaten om de minst slechte keuze te maken bij onvermijdelijke botsingen?

Ik denk niet dat we al een technologie beschikbaar hebben die zich gedraagt als mensen in zulke situaties", aldus Gerdes, de directeur van het automotive research laboratory van Stanford. "Dit is een plaats waar we een robot iets laten doen wat tot dusver exclusief voor de mens was. Bij autonoom rijden ontstaan grote ethische vragen die buitengewoon complex zijn."  

Gevestigde autofabrikanten als Daimler en BMW en de nieuwe ‘tech-merken’ als Tesla en Google staan erom bekend dat ze experts zoals professor Gerdes inhuren om over de ethische kwesties te praten. Andere bedrijven, zoals Fiat Chrysler, zeggen dat zij ingenieurs laten onderzoeken wat de gevolgen zijn autonoom rijden. GM zegt dat een autonoom systeem dat vandaag geproduceerd zou kunnen worden bij lange na niet de antwoorden op alle vragen heeft, of sterker: niet eens alle vragen kent. Maar Nissan gaat verder door een speciale onderzoeker aan te stellen op zijn kantoor in Silicon Valley om de ethische materie te onderzoeken. De antropoloog Melissa Cefkin onderzoekt de interactie tussen autonoom rijdende auto’s en voetgangers en fietsers.  

Kind of bejaarde dood?
Een onderdeel van de ethische vraagstukken omvat scenario’s en gedachtenexperimenten. Daniel Hirsch, een automotive expert bij PA Consulting, geeft een voorbeeld: "Een kind rent de straat op en de auto heeft maar één keuzemogelijkheid: het kind doodrijden of de oude, aan kanker lijdende inzittende van de auto laten verongelukken." De ‘correcte’ keuze zal in verschillende landen en culturen een andere zijn. Het kan zelfs illegaal zijn, want bijvoorbeeld in Duitsland en Zwitserland zegt de wet dat mensenlevens niet tegen elkaar kunnen worden afgewogen. En hoe moet het met grote partijen zoals de verzekeraars? "Bij een belangrijk aantal van deze kwesties zou de verzekeringsmaatschappij anders kiezen. Een gehandicapt kind is veel duurder voor hen dan een gehandicapte oudere die nog maar een beperkte tijd te leven heeft", aldus Hirsch.

Onmogelijke keuze voorkomen
Volledig autonoom rijdende auto’s zullen nog wel aan aantal jaren op zich laten wachten, maar geautomatiseerde auto’s met allerlei geavanceerde botspreventieapparatuur rijden nu al rond. De meeste moderne auto’s hebben wel een vorm van een systeem voor actieve veiligheid. Deze overwegingen zorgen ervoor dat autofabrikanten de ethische kwesties serieus nemen. "Er ontstaat een toenemende bewustwording bij alle autofabrikanten dat zij moeten omgaan met de psychologische kwesties van deze auto’s", zegt Hans-Werner Kaas, een senior partner bij McKinsey. "Ze proberen allemaal hun vaardigheden te vergroten." Deze acties onderstrepen dat de industrie hypergevoelig is voor veiligheid als gevolg van een serie van ‘high-profile’ terugroepacties van miljoenen voertuigen, wat betekent dat de race die gaande is over de inzet van nieuwe technologieën toch wel met voorzichtigheid moet worden benaderd. Volvo, die zijn merk rondom veiligheid heeft opgebouwd, is typisch voor de aanpak. Erik Coelingh, een leidinggevende bij de technische afdeling voor veiligheid bij Volvo: "In de praktijk komt het erop neer dat de auto nooit in een situatie terecht moet komen waarin hij een onmogelijke keuze moet maken." Dit betekent conservatief rijden en de verkeersregels in acht nemen. Om zijn punt te onderstrepen, zei Volvo in oktober vorig jaar dat men bij ongevallen, die door de zelfrijdende technologie zijn verooraakt, de volledige civiele aansprakelijkheid accepteert. Dat is niet hetzelfde als zeggen dat berijders zichzelf in de ‘brain off modus’ kunnen zetten, zoals een BMW-manager het uitdrukt.

Weense Conventie
Voordat we het totale dilemma van autonoom rijden tegemoet moeten treden, zullen nog enige jaren voorbij gaan. De staat Californië, die qua regelgeving erg vooruitstrevend is op het gebied van autonoom rijden, heeft vorige maand regels aangenomen waarin staat dat mensen te allen tijde de controle over het voertuig moeten behouden, zoals is beschreven in de Weense Conventie, waar veel Europese landen naar kijken. Dat betekent vooralsnog dat de ingebruikname van autonoom rijdende auto’s uitgesloten wordt.
"Als maatschappij moeten we de beslissing nemen of we klaar zijn voor een machine die zonder bemoeienis van een berijder beslist wat er moet gebeuren in een kritieke situatie", zegt Ian Robertson, verantwoordelijk voor marketing in de raad van bestuur van BMW Group. "Ik ben er niet zeker van dat we al zover zijn."

U las zojuist één van de gratis premium artikelen

Onbeperkt lezen? Sluit nu een gratis proefabonnement af

Bekijk de aanbieding