Att beräkna värdet på ett liv

Publicerad i Dagens Industri den 4 maj 2015

Nio av tio trafikolyckor beror på den mänskliga faktorn. Vi slarvar, gör missbedömningar, är övermodiga och vissa av oss är inte ens vid våra sinnens fulla bruk. När en trafikfara uppstår har vi i alla tider varit utlämnade åt instinktiva mänskliga beslut. Vi måste inom ett kort ögonblick lösa ett moraliskt dilemma: vilken manöver är mest lämplig för att undvika skador på oss själva såväl, på våra medtrafikanter och på sakerna runtomkring.

Nu kommer de självstyrande bilarna. Enligt McKinsey blir då endast tio procent av alla trafikolyckor kvar. Den självstyrande bilen kommer att upptäcka faror tidigare än den mänskliga föraren, ha snabbare reaktionsförmåga, bättre precision och kalkylera exakt vilka lösningar som finns tillgängliga vid en trafikfarlig situation. En självstyrande bil kan däremot inte utvärdera det moraliska dilemmat i vilka som är prioriterade vid en eventuell olycka.

Den helt självstyrande bilen kommer att behöva bedöma etiska aspekter av en bilkrasch baserat på en förprogrammerad algoritm. Bilen kan beordras att gira förbi en hund för att istället köra över en katt.  Om en mötande lastbil kommer in på fel sida av körbanan kan den självstyrande bilen välja att rädda sin passagerare genom att köra upp i väggrenen, även om en cyklist offras på vägen.

Människan bakom ratten kan förlåtas för felaktiga ögonblicksreaktioner, men en robotstyrd bil har programmerats i förväg till definierade manöver för varje unik trafiksituation. Noah Goodall vid University of Virginia har forskat om moraliska principer vid automatiskt bilkörande. Hans slutsats är att det är mycket svårt att lära bilen djupt mänskliga prioriteringar. Goodall liknar bilens programmering för eventuella krascher vid målsökande algoritmer som används av militära vapensystem och drönare, som ska slå ut militära mål, men undvika att skada civilbefolkningen. Bilens dator måste ha ett program som avgör vad bilen ska köra mot när en krock är oundviklig. Ska bilen sätta sin passagerare främst, genom att hellre köra på en liten bil än en stor SUV? Ska den välja att köra på en Volvo eftersom de som färdas i en säkrare bil rimligen har större chans att överleva? Eller ska den beräkna det totala antalet liv som kan sparas och hellre offra sin ensamma bilåkare än en mötande familj. Alla fallen ter sig orimliga, men prioriteringarna måste ges en lösning i algoritmernas värld.

Den självstyrande bilen kommer att introduceras i steg till marknaden. Googles bilar har rullat i en miljon kilometer utan allvarliga olyckor och Volvo släpper hundra bilar till privatpersoner 2017, men vi får enligt McKinseys rapport vänta till år 2040 för att se tre fjärdedelar av alla bilar helt autonoma. Mercedes Benz S-Class finns redan nu på marknaden. Den kombinerar aktiv farthållare och automatisk filkörning med självstyrande inbromsning och acceleration i hastigheter upp till 60 kilometer i timmen. Det gör bilen till vad branschen kallar 70 procent självstyrande – men det är de enkla 70 procenten.

Behovet av etiska riktlinjer för morgondagens trafik kommer att bli allt större. Det är högst oklart hur prioriteringarna kommer att se ut när livet är som skörast. Situationer som tidigare varit omöjliga att undvika kan nu kalkyleras bort av datorer. Frågan är bara för vem och i vilken rangordning. Tack vare automatisering kan vi skapa ett betydligt säkrare samhälle. Kvar blir betydligt färre olyckor. Men hur olustigt det än kan låta måste vi inleda en diskussion om hur robotar ska värdera liv och hur en dödsalgoritm egentligen kan se ut.

Leave a Reply

Your email address will not be published. Required fields are marked *