Førerløs moral

Kronikk

28. oktober 2016 08:24

(oppdatert: 28. oktober 2016 09:14)

Førerløs moral

Før førerløse biler slippes ut på veien, må vi bestemme hvem de skal kjøre på når ulykken er ute.

En førerløs bil raser nedover en vei. Plutselig løper to personer ut i veien. Bilen har ikke tid til å bremse tilstrekkelig, og hvis den fortsetter rett frem, vil begge personene bli drept i sammenstøtet. Bilen kan unngå sammenstøtet ved å svinge opp på fortauet, men der er det en annen person som vil bli drept. Hva bør bilen gjøre?

Dette er en versjon av det klassiske «trolley-problemet», et tankeeksperiment hvor man svarer på hva man ville ha gjort dersom man kunne reddet livet til fire arbeidere på et togspor ved å lede en løpsk togvogn over i et annet spor hvor det bare står én arbeider.

Algoritmer avgjør ulykker

Varianter av dette dilemmaet har sysselsatt filosofer i flere tiår, men nå som selvkjørende biler er i ferd med å realiseres, har dilemmaet blitt flyttet fra filosofenes lenestoler til ingeniørenes arbeidsbord. Når Google, Tesla, Volvo og andre lanserer sine selvkjørende biler, vil de være utstyrt med algoritmer som forteller bilen hva den skal gjøre når en ulykke er uunngåelig.

Én mulighet er at bilene programmeres til å følge et nytteetisk prinsipp om å minimere velferdstap ved ulykker. Det vil i så fall bety at bilen skal programmeres til å svinge til siden i situasjonen beskrevet ovenfor, fordi velferdstapet er mindre når én person dør enn når to personer dør, alt annet likt. Men hva om personene i veien og personen på fortauet er forskjellige?

Hva om bilen for eksempel registrerer at personene i veien er to gamle mennesker, mens personen på fortauet er et barn som kan forventes å ha et langt liv foran seg: Bør bilen da, i tråd med en nytteetikken, velge å kjøre ned de to gamle fremfor den ene unge?

Moralske dilemmaer

Et annet moralsk dilemma er knyttet til om man utelukkende skal være opptatt av konsekvensene av den algoritmen de selvkjørende bilene benytter, eller om man også skal ta hensyn til individers ansvar.

Se for deg en bil som møter en hindring i veibanen og må velge mellom å svinge til høyere eller til venstre. På begge sider vil en motorsykkel bli truffet hvis bilen svinger dit, men bare sjåføren til venstre har hjelm. Fra et nytteetisk perspektiv er det utvilsomt best å svinge til venstre, fordi sjåføren med hjelm har størst sjanse for å overleve.

Men et slikt valg kan samtidig betraktes som urimelig, fordi man belønner motorsyklisten som ikke bruker hjelm og straffer motorsyklisten som har etterlevd pålegget om å bruke hjelm. Kanskje er det derfor mest rettferdig å svinge til høyre?

Selvkjørende biler er forventet å redusere antallet ulykker i trafikken dramatisk. Bilens «moralske» algoritme kan imidlertid dempe folks vilje til å gi slipp på rattet. Dette gjelder spesielt dersom bilene noen ganger er programmert til å ofre passasjerene fremfor å ta livet av andre trafikanter.

Bør ikke overlates til bilprodusentene

I en artikkel i tidsskriftet Science, «The social dilemma of autonomous vehicles», finner forfatterne at folk flest er tilhengere av at selvkjørende biler benytter et nytteetisk prinsipp og ofrer sine passasjerene dersom det er til det felles beste.

Når folk blir spurt om hva slags selvkjørende biler de selv vil kjøre, er imidlertid innstillingen en annen. Da foretrekker de fleste å kjøre i biler som beskytter sine passasjerer for enhver pris.

Vi bør neppe overlate til bilprodusentene eller til den enkelte kunde å bestemme hvordan de selvkjørende bilene skal programmeres. Vi kan heller ikke overlate det til filosofene - de har tross alt ikke kommet til noen svar etter flere tiår med teoretisering. Så vi får sette vår lit til at den offentlige debatt kan gi oss noen svar.

De som ønsker å forberede seg på den debatten kan gå inn på nettsiden moralmachine.mit.edu, som lar deg teste dine moralske intuisjoner i slike situasjoner.

Kanskje haster det: Et EU-direktiv som regulerer svingingen til selvkjørende biler, er trolig ikke langt unna.

Kronikken var på trykk i Dagens Næringsliv 28. oktober 2016

Her kan du lese flere kronikker fra NHH-forskere.

Forskningsnytt fra NHH