Hvem skal din førerløse bil slå ihjel?
Hvis du om få år sidder i en førerløs bil, og der pludselig opstår en situation, hvor en tragisk ulykke er uundgåelig, kan bilen blive tvunget til at beslutte, om den skal ofre dig for at undgå sammenstød med andre trafikanter.

I en fransk-amerikansk undersøgelse blev folk bedt om at vælge, om den førerløse bil med en passager skulle undvige et varierende antal personer på kørebanen, selvom undvigemanøvren enten ville koste en anden fodgænger livet (a) eller ofre passageren ved sammenstød med en væg (b & c). (Illustration: Jean-François Bonnefon et al.)

 

Førerløse biler er på vej, men før vi slipper rattet, er vi nødt til at besvare nogle livsvigtige spørgsmål:

Hvis en fodgænger pludselig træder ud lige foran bilen, skal bilen så køre fodgængeren ned, eller skal den undvige og i stedet køre ind i en væg, selvom det betyder den sikre død for bilens passager? Og hvad hvis en hel familie står foran bilen?

Den slags dilemmaer, der inden for etikken er kendt som Trolley-problemet (se faktaboks), har berømte filosoffer spekuleret over i årtier. Men nu hvor blandt andre Google er ved at udvikle førerløse biler, skal de abstrakte spørgsmål besvares på en meget konkret måde.

Bilerne skal formentlig programmeres til at kunne vælge, om de skal ofre passageren eller andre trafikanter i situationer, hvor det er umuligt at undgå en ulykke.

Udformningen af sådan en algoritme kommer til at blive diskuteret blandt bilfabrikanter, politikere og i befolkningen – ja, spørgsmålene får selv en forsker med speciale i teknologifilosofi til at rynke panden.

»Man kan selvfølgelig knytte det an til nogle generelle filosofiske overvejelser, men det skaber nogle nye problemstillinger, og vi har ikke noget i vores værktøjskasse, der sådan lige kan give en one size fits all-løsning på, hvordan vi bryder det ned og lovgiver om det. Det er super komplekst, og det er noget, vi skal beskæftige os med og ikke bare lade markedet styre af sig selv,« siger Søren Riis, der er lektor i filosofi ved Institut for Kultur og Identitet på Roskilde Universitet.

Hvilke liv bør prioriteres, når førerløse biler reagerer ved en ulykke? (Video: The social dilemma of self-driving cars, Science Magazine)

Vil du købe en bil, der ofrer dig?

Forskere fra Frankrig og USA har for nylig publiceret resultaterne af en online spørgeskemaundersøgelse, hvor 913 deltagere gav svar på, hvordan de forholder sig til det moderne Trolley-problem.

Generelt mener de adspurgte, at førerløse biler bør gå efter at redde den største gruppe, hvilket i filosofien kaldes utilitarisme. Omkring tre fjerdedele går ind for, at bilen ofrer sin passager, hvis den dermed kan redde 10 mennesker.

Trolley-problemet

Trolley-problemet er inden for etikken en betegnelse for en række tankeeksperimenter, som den britiske filosof Philippa Foot formulerede den første variant af tilbage i 1967:

Forestil dig, at du er føreren af en løbsk sporvogn, der farer ned ad sporene mod 5 arbejdsmænd, der ikke kan nå at flytte sig.

For at forhindre deres død, er din eneste mulighed at styre sporvognen over på et sidespor, men det valg vil dræbe 1 arbejdsmand på sidesporet.

Hvad gør du?

»Jeg tror, at mange er utilitarister intuitivt. Men spørgsmålet er, om du selv ville gå ned og købe en bil, der har en funktion indbygget, hvor teknologien, som du betaler for i dyre domme, i værste fald slår dig ihjel med vilje. Den kunne redde dig, men den slår dig ihjel til fordel for andre,« siger Søren Riis.

Undersøgelsen viser da også, at folk er mere skeptiske over for lovgivning, der fører til, at passageren kan blive ofret, hvis det drejer sig om deres egen bil, mens de har nemmere ved at acceptere en sådan lovgivning i scenarier, der omhandler andre folks biler.

Alle biler skal følge de samme regler

Vi kommer dog ikke uden om at lovgive på området, vurderer Søren Riis.

»Politikere bør helt sikkert tage stilling til det, og der skal sættes nogle grænser for, hvor meget bilen skal gøre for at beskytte bilistens liv,« mener han.

Algoritmen bør tage stilling til, hvor mange der er i fare inde i og uden for bilen, men den bør også medregne, hvorvidt nogen har brudt loven, foreslår Søren Riis.

»Hvis der er en person i bilen og en udenfor, og personen udenfor ikke overholder loven, ville det være absurd at slå bilisten ihjel,« siger han.

Han understreger, at det er vigtigt, at diskussionen kommer op, og at der bliver fastlagt en fælles standard, så reglerne er de samme for alle bilfabrikanter. Desuden skal teknologien lægges åbent frem for bilkøberne, så de er helt klar over, at de også køber et eventuelt selvopofrende system.

Hvem er ansvarlig for den førerløse bils uheld?

Åbenheden omkring et selvopofrende system kan have en afskrækkende effekt, så de førerløse biler må vente længere tid på at blive sluppet løs i trafikken. I første omgang regner Søren Riis med, at førerløse biler må nøjes med at køre i lukkede områder og med meget lav hastighed.

Google er formentlig længst fremme i udviklingen af en helt førerløs bil. Google-bilen bliver nu testkørt på veje i USA. Der sidder dog stadig et par mennesker i bilen, der kan gribe ind, hvis noget er ved at gå galt. (Foto: Google)

»Jeg tror ikke, at det kommer til at forsinke udviklingen af de her biler, fordi man er nået så langt, at når den der tematik bliver et spørgsmål, så har man allerede lavet den førerløse bil. Men det kan forhindre udbredelsen. Det kan påvirke mange købere, der er til den her teknologi, specielt hvis der er en lovgivning, der siger, at teknologien skal være meget restriktiv i forhold til at beskytte den, der har købt bilen,« siger Søren Riis.

Biler vil i de kommende år blive i stand til at køre mere og mere selv, men det kommer til at vare mindst 10 år, før biler uden rat bliver udbredt til kørsel i byer, vurderer Søren Riis. Udviklingen vil også stille spørgsmål ved, hvem der har ansvaret, hvis bilen kører galt.

»Der vil komme en fundamental ændring i lovgivningen, frem mod at det bliver muligt at køre i helt førerløse biler. Men allerede nu begynder man at dele ansvaret mellem bilproducenten og bilisten,« siger Søren Riis.

 

Førerløse biler kan føre til færre ulykker

Producenter af førerløse biler forventer, at bilerne bliver langt sikrere, end når der er mennesker bag rattet. Potentielt vil de også kunne mindske trængslen på vejene, da de vil kunne køre helt tæt op ad hinanden, og folk vil i højere grad kunne deles om bilerne, da de vil kunne sætte passagerer af et sted og køre direkte videre og samle andre op et andet sted.

Samlet set er indførelsen af førerløse biler derfor et skridt i den rigtige retning rent etisk, mener Søren Riis.

»Trafikuheld skyldes tit mangel på koncentration og påvirkning af alkohol, og mange argumenter omkring trafiksikkerhed taler for de førerløse biler,« siger han.

I praksis vil Trolley-problemet formentlig ikke opstå så ofte.

»Teknologien kan regne på så mange muligheder i løbet af et splitsekund, at der er mulighed for at tænke i sikkerhed med airbags og bremse- og undvigelsesmekanismer, så man sjældent kommer i det dilemma, hvor man direkte taler om den ene eller den andens død,« siger Søren Riis.

Videnskab.dk Podcast

Lyt til vores seneste podcast herunder eller via en podcast-app på din smartphone.





Det sker