Hvem skal selvkørende biler slå ihjel? Nu har hele verden svaret
Er du enig? Se, hvad danskerne mener, og test dig selv.
Førerløse biler etik dilemma hvem skal de ramme uheld

Hvem skal bilen ramme? De tre sunde kvinder eller de tre andre kvinder? Den type dilemmaer har borgere verden over svaret på i nyt eksperiment. (Illustration: Moral Machine / MIT)

Hvem er vigtigst at redde, når en selvkørende bil kører galt?

Er det barnet på gaden, der har det længste liv foran sig? Eller er det den størst mulige gruppe mennesker, der skal overleve? Og vil du nogensinde sætte dig ind i en bil, hvis den er programmeret til at beskytte andre, frem for dig?

Den slags svære dilemmaer nager bilproducenter, lovgivere, fremtidige bilkøbere - og ikke mindst filosoffer.

Men nu kan der være hjælp på vej. En ny stor undersøgelse netop udgivet i tidsskriftet Nature indeholder mange millioner af svar indhentet fra borgere i 233 forskellige lande og territorier.

»Det er et stort og veludført studie. Det er vigtigt, at befolkningens holdning bliver hørt, når der skal lovgives, og det er måske et første skridt i retning af at finde ud af, hvordan kunstig intelligens skal forholde sig til moralske dilemmaer,« siger Lasse Nielsen, der er lektor i politisk filosofi ved Syddansk Universitet.

»Men når det så er sagt, så skal vi passe på ikke at forveksle holdninger med, hvad der er moralsk rigtigt eller forkert,« tilføjer han. Det vender vi tilbage til senere i artiklen.

Hvilken ulykke er mest overkommelig?

De mange svar i studiet stammer fra projektet Moral Machine fra Massachusetts Institute of Technology (MIT).

I projektet er deltagerne blevet præsenteret for billeder af en bil på vej mod to mulige ulykker. Her blev de bedt om at vælge det udfald, der forekom som det mest overkommelige.

For eksempel vil mange nok vælge et scenarie, hvor fire personer dør, frem for fem. Men det bliver sværere, når svarmulighederne er mere mudrede - for eksempel hvis man skal vælge mellem bilist eller fodgænger - læge eller hjemløs.

Prøv selv kræfter med et par af spørgsmålene, før du læser videre om folks svar.

Forestil dig, at den selvkørende bils bremser ikke virker, og den kan enten vælge et dødeligt møde med en betonklods eller svinge ind i fodgængere i følgende scenarier:

 

 

 

 

På Moral Machine-hjemmesiden kan du teste dig selv i flere situationer og se, hvordan dine etiske overvejelser er i forhold til andre folks svar.

Kultur smitter af på etiske overvejelser

Der stor forskel på, hvordan borgere i forskellige lande svarer, viser det nye studie.

Studiet viser blandt andet, at lande med høj ulighed generelt svarer, at borgere med høj status skal reddes.

»Vi vidste allerede, at vi har forskellige holdninger til etiske spørgsmål i forskellige regioner, men det er nyt og meget interessant, at de holdninger også ser ud til at følge de institutionelle rammer, vi lever i,« siger Lasse Nielsen.

»Det viser, at vores holdninger til etiske beslutninger i høj grad er socialt bestemte,« siger han.

Dilemmaet for selvkørende biler

I Californien, USA, har du siden februar kunnet sætte dig til rette i en førerløs bil.

I sommers blev det tilladt at teste selvkørende biler herhjemme, men Vejdirektoratet forudser dog, at biler uden chauffører først bliver et almindeligt syn på de danske veje i 2030.

En af de ting, der skal være helt styr på, er sikkerheden. I marts 2018 blev en fodgænger ramt af en selvkørende bil i Arizona, USA.

Selv hvis vi lærer bilerne at blive så sikre som muligt, vil der i trafikken altid være risiko for ulykker, og her er det ifølge forskerne nødvendigt at tage stilling til det etiske i de valg, som bilen træffer.

Øst og vest er forskellige

De etiske valg i den nye undersøgelse varierer altså meget fra land til land.

Selvom det i Danmark måske virker meget naturligt at ville redde flest muligt, så er der store dele af verden, hvor man vælger anderledes.

Blandt andet viser studiet, at borgere i vestlige lande som Danmark, der generelt har en individualistisk kultur, hvor værdier som selvstændighed og individuel frihed er i højsædet, foretrækker at redde så mange mennesker som muligt.

»Det skyldes, at de værdsætter den enkeltes rettigheder højere, og derfor vil der være mere værdi i at redde flere. Det er også den gruppe lande, der typisk har en vis historik med klassiske liberalistiske værdier,« siger Lasse Nielsen.

Men selvom det for os danskere måske virker meget naturligt at ville redde flest muligt, så er der store dele af verden, hvor man vælger anderledes. 

I mange asiatiske lande er man eksempelvis mere tilbøjelig til at ville redde fodgængere og i særlig grad dem, der følger færdselsreglerne.

Det betyder, at de i flere tilfælde end de vestlige borgere vil redde fodgængerne, der går over for grønt, selvom der måske er flere personer i bilen.

Førerløse biler etik dilemma hvem skal de ramme uheld

De forskellige farvede plamager viser forskellen på de valg, som grupperne Vest, Øst og Syd gennemsnitligt foretog. (Illustration: Rahwan et al.)

Verden inddeles i tre grupper

Trods forskelle fra land til land ser forskerne også mønstre i svarene, som ikke bare læner sig op ad geografiske egne, men også politisk, kulturel eller religiøs sammenhørighed.

På den baggrund har de delt de 130 lande med flest svar op i forskellige overgrupper, som de kalder Vest, Øst og Syd.

  • I Vest-kategorien er Nordamerika og mange europæiske lande med protestantisk, katolske eller ortodoks kristne kulturer. Herunder også Skandinavien og Commonwealth-landene Australien og New Zealand, men ikke Indien.
  • I Øst-kategorien findes asiatiske lande som Kina, Japan, Taiwan samt flere islamiske lande i Mellemøsten.  
  • I Syd-kategorien er latinamerikanske lande og fransktalende lande i Sydamerika og Afrika.

Baggrunden for inddelingerne er ifølge forskerne, at der er flere institutionelle ligheder mellem disse lande, både i forhold til kulturelt ophav, men også i forhold til social fordeling.

9 kriterier er vigtigst

I studiet blev deltagerne vist billeder af en bil, der var på vej til at ramme forskellige personer eller dyr.

Billederne viste to mulige scenarier, og forsøgsdeltagerne skulle vælge det scenario, de vurderede som det mindste af to onder.

Valgene gav mulighed for at vælge i retning af ni forskellige kriterier. De lyder i vilkårlig rækkefølge:

  1. Grib ikke ind (ændring af bilens kurs)
  2. Red fodgængere
  3. Red kvinder
  4. Red sunde mennesker
  5. Red lovlydige mennesker
  6. Red højstatus mennesker
  7. Red børn/unge mennesker
  8. Red flest mulige mennesker
  9. Red mennesker (frem for dyr)

Morten Ebbe Juul Nielsen, der er lektor i filosofi ved Københavns Universitet og forsker i moralfilosofi og politisk filosofi, er enig i, at det giver mening at lave en sådan opdeling i undersøgelsen.

»Vi er traditionsbundne og gruppebundne, i forhold til hvad vi vælger intuitivt. Vi vil gerne passe ind i en gruppe, og vi svarer det, vi tror, gruppen forventer af os. På den måde kan man sige, at de ting, vores del af verden har været udsat for af historiske begivenheder, afspejler, de etiske værdier vi tilslutter os.«

Ifølge Morten Ebbe Juul Nielsen behøver der som sådan ikke at være en logisk sammenhæng i de overbevisninger, vi prioriterer, så længe de knytter os til gruppen. 

»Hvis vi for eksempel kigger på Trump-vælgere, så er de generelt for rettigheder til våben, men imod fri abort, frihandel og høje skatter. De tror ikke på klimaforandringer, men på helvede og på en Jord skabt for 4.000 år siden. Der er ikke noget, der logisk binder disse ting sammen. Det, der binder dem sammen, er ønsket om at være en del af den gruppe med de overbevisninger,« siger Morten Ebbe Juul Nielsen.

»På samme måde kan man sikkert finde begivenheder i historien, som peger på, hvorfor visse kulturer har de overbevisninger, de har,« siger han.

Førerløse biler etik dilemma hvem skal de ramme uheld

Danskerne ligger i top fem, når det kommer til at sætte menneskeliv over dyr. Vi har også en tendens til ikke at ville gribe ind, at redde fodgængere, lovlydige og generelt redde flest muligt. (Illustration: Moral Machine/MIT)

Danskerne sætter menneskeliv højest

Danskernes valg stemmer fint overens med de generelle vestlige værdier i undersøgelsen. Vi prioriterede generelt at redde fodgængere, lovlydige og flest muligt.

Men der er alligevel nogle svar, hvor vi danskere skiller os mere eller mindre ud.

Det er eksempelvis først og fremmest vigtigt for danskerne at prioritere menneskeliv over dyreliv. Faktisk så vigtigt, at vi er markant anderledes end andre vestlige lande.

Danskerne blev nummer 4 i hele verden over lande, der værdsatte menneskeliv som højest og dermed også dyreliv som lavest.

»Det kommer en anelse bag på mig på en positiv måde. Det tyder på, vi er en smule mindre sentimentale end andre kulturer, for selvom en hundehvalp ser sød ud, så burde det slet ikke være et spørgsmål i forhold til menneskeliv,« siger han.

Overraskende nok var de andre lande, der lå i top 5 omkring det spørgsmål, ikke umiddelbart lande, som Danmark normalt identificerer sig med:

  1. Nigeria
  2. Kenya
  3. Korea
  4. Danmark
  5. Ungarn
Sådan har forskellige verdensdele svaret

I de vestlige lande er der generelt en meget moderat og jævn fordeling af, hvem man foretrækker at redde. Der er dog en tendens til at ville: 

  • redde flest muligt,
  • redde mennesker frem for dyr,
  • redde unge mennesker frem for ældre 
  • og generelt ikke gribe for meget ind.

Øst-landene foretrækker at redde mennesker frem for dyr, fodgængere og lovlydige borgere.

Men der er til gengæld meget lidt fokus på at redde flest muligt samt unge frem for ældre.

I Syd-landene er der stort fokus på at redde borgere af højere status. Der er også stort fokus på at redde kvinder og redde unge borgere.

Der er til gengæld ikke samme fokus på at redde mennesker frem for dyr.

Verden vil hellere redde hunde end kriminelle

Det kan måske virke indlysende at sætte mennesker over hunde og katte, men på verdensplan forholder det sig faktisk ikke nødvendigvis sådan.

Globalt set har forsøgsdeltagerne nemlig svaret, at de hellere vil redde en hund end en kriminel.

Lasse Nielsen peger på, at det kan skyldes, at metoden ikke måler det, som deltagerne reelt selv ville gøre i situationen.

»Hvis de selv sad i bilen, tror jeg næppe, de ville vælge sådan, men det betyder ikke, at forskerne måler noget irrelevant,« siger han og forklarer:

»Den provokerende konklusion er et udtryk for etiske værdier, vi alle kender - nemlig moralsk ansvar. At man skal gøre sig fortjent til at blive behandlet på en bestemt måde.«

Når det så er sagt, tror Lasse Nielsen, at de fleste personer verden over ville nå frem til det samme svar, hvis man begynder at reflektere nærmere over situationen.

»Forestiller man sig den kriminelle som en bankrøver med en pistol i hånden overfor en uskyldig hundehvalp, så er det en anderledes situation, end hvis man forestiller sig en person, der lever i nød og ikke har råd til at forsørge sine børn,« siger han.

Derfor foretrækker vi slet ikke at gøre noget

Et andet sted, hvor danskerne skiller sig ud, er, når det kommer til vores ønske om slet ikke at ville gribe ind i situationen.

Generelt er de vestlige lande mere tilbøjelige til ikke at ville gribe ind, men danskerne ligger helt oppe i top ti.

Vi foretrækker altså, at bilen fortsætter sin kurs, selv i tilfælde, hvor det faktisk kunne være fordelagtigt for udfaldet at gribe ind. For eksempel i to mulige udfald, hvor enten fem eller fire fodgængere bliver ramt.

»Forskellen kan opfattes som bestående i, at selvom bilen måske slår en person mindre ihjel, når vi beder bilen dreje, så er vi aktivt med til at slå de andre personer ihjel, som den rammer i stedet,« siger Morten Ebbe Juul Nielsen, der i samme ombæring sætter ord på to forskellige filosofiske tilgange til etik:

Utilitaristen, der har øje for konsekvensen af handlingen, og som søger at maksimere velfærden - altså i dette tilfælde at redde flest mulige personer.

Pligt-etikeren, der har øje for selve handlingen, og som derfor forbyder sig selv at gribe ind, fordi handlingen slår fire personer ihjel, som ellers var overlevet.

»Pligt-etikerne er kendt for at have det problem, at de er nødt til at overholde nogle bestemte regler. Det er altid ansvaret og respekten for den enkelte person, der i højsædet hos dem,« byder Lasse Nielsen ind.

Vesten er mærkelig

WEIRD - eller Western Egalitarian Industrialized Rich Democracies, er et begreb udviklet af psykologerne Joseph Henrich, Steve Heine og Ara Norenzayan.

Det dækker over de velstående lande i Nordamerika og Europa, som ifølge undersøgelser er meget overrepræsenterede indenfor social forskning.

Problemet med dette er ifølge forskerne, at vi får et billede af denne gruppes værdier og opførsel som almindelige, selvom gruppen måske i virkeligheden er undtagelsen.

»Det ser man blandt andet også beviser på i denne undersøgelse, da valgene i regioner udenfor disse lande adskiller sig meget fra vores,« siger Morten Ebbe Juul Nielsen.

Danskerne går ikke op i social status

En sidste ting, hvor danskerne adskiller sig, ikke bare for resten af verden, men også fra flere europæiske lande, er, at vi ikke går op i, hvem vi kører ned.

Eller - sagt på en lidt anden måde: Det har ikke stor betydning for os, om det er en mand eller kvinde, tynd eller tyk, rig eller fattig.

»Igen tyder det på, at vores holdning i høj grad er socialt bestemt. Vi har en tradition for en velfærdsstat, hvor der måske ikke er lige så stor forskel på lægen og den hjemløse som i andre lande,« siger Lasse Nielsen.

Danmark ligger nummer 100 ud af 117, når det kommer til at ville redde personer af høj status. Til sammenligning ligger Frankrig for eksempel nummer 37.

»Danmark har stor lighed, og vi er generelt meget skeptiske overfor autoriteter. Det er faktisk ret unik globalt set,« siger Morten Ebbe Juul Nielsen.  

Forskel på etiske holdninger og moralfilosofi

Resultaterne fra det nye studie er interessante, og de er vigtige i forhold til en mulig lovgivning om selvkørende biler, men vi må ikke forveksle konklusionerne med at være svar på, hvad der er moralsk rigtigt og forkert, fortæller forskerne.

»Det her er eksperimentalfilosofi, og de svar, vi sidder med her, er holdninger til nogle meget standardiserede, hypotetiske situationer. De siger ikke nødvendigvis noget om, hvad der er moralsk rigtigt eller forkert,« siger Lasse Nielsen.

Vil vi finde ud af det, skal vi ifølge ham i stedet arbejde os gennem saglig argumentation. Modsat politik handler det ikke om at få ret, men om en fælles søgen. Ad den vej vil vi kunne nå frem til nogle principper, som er svære at være uenige i.

»Moralske argumenter er universelt gyldige. Jeg er ikke sikker på, at der findes moralske fakta, som der findes fakta om Solens kernetemperatur, men der findes moralske sandheder, som vi nægter at gå på kompromis med,« siger Lasse Nielsen.

Han fremhæver blandt andet, at det at redde mange overfor få og ikke at yde unødvendig skade på individer er to bud på moralske principper, der generelt er accepterede.

Hvad de universelle og overordnede moralske principper bør være, er dog ikke ligetil, fortæller Morten Ebbe Juul Nielsen, men han er enig i, at de ikke kan baseres på holdninger som i undersøgelsen her.

»Hvis jeg kunne svare på det, så sad jeg nok ikke her. Men jeg kan sige, at vi nok alle i dag er enige om, at vi står på et moralsk højere sted, end vi gjorde for 500 år siden. Det havde vi ikke gjort, hvis vi altid havde konsulteret traditionerne og flertallet,« siger han.

Skal bilen ændre indstillinger mellem grænserne?

I forhold til fremtidig lovgivning om førerløse biler mener Lasse Nielsen dog, at borgernes holdninger skal inddrages, uanset hvilke moralske principper der må gælde.

»Det er vigtigt, at borgerne er med til at bestemme lovgivningen. Også selvom der optræder forskelle mellem landene,« siger han.

Han kan godt forestille sig, at lovgivningen om etikken bag førerløse biler, ligesom de gældende trafikregler, kan variere fra land til land, og at man i stedet for blot at skifte til venstre side af vejbanen, når man kører i England, også lige skifter de etiske indstillinger på den selvkørende bil.

»Det lyder faktisk ikke helt usandsynligt. Jeg tror dog, at man vil nå frem til nogle fælles europæiske regler,« vurderer Lasse Nielsen.

Videnskab.dk Podcast

Lyt til vores seneste podcast herunder eller via en podcast-app på din smartphone.





Det sker