Med den store opblomstring inden for kunstig intelligens, som vi har set de seneste år, er spørgsmålet om, hvilken rolle kunstig intelligens kan spille i krig, blevet aktuelt.
For skal vi udvikle avancerede dræberrobotter, der med hjælp fra kunstig intelligens kan udføre missioner? Og kan vi ’tæmme’ sådan en robot?
Det korte svar på spørgsmålet er ’måske’. Det lidt længere svar er, at hvis man kan, så vil det være utroligt svært og tage lang tid.
Men hvad vil det overhovedet betyde, at en dræberrobot er ’tæmmet’? Og hvordan kan vi teste, om en robot faktisk er blevet det?
Et brev til Lars Løkke Rasmussen
Kunstig intelligens er blevet et varmt emne på grund af chat-robotter som ChatGPT, der skaber fantastiske resultater i et stadig accelererende tempo.
Det er i kontrast til, hvor langsomt det går med at lave internationale aftaler om autonome våben, det vil sige våben, der fungerer ved hjælp af kunstig intelligens og uden menneskelig indblanding.
Og der er behov for internationale aftaler. Flere forskere har advaret mod udviklingen af autonome våben, og jeg er selv medunderskriver på et brev herom til udenrigsminister Lars Løkke Rasmussen. Ministeren svarede d. 13. juni 2023 blandt andet:
»Danmark … søger … at fremme en to-trins tilgang, der nyder bred opbakning. Det første trin er en konstatering af, at autonome våben, som ikke kan opfylde kravene i den humanitære folkeret, er forbudte. Næste trin er enighed om behovet for regulering af de øvrige autonome våben.«
Netop problemerne med at opfylde kravene i Den Humanitære Folkeret er ét af punkterne i vores brev.
\ Hvad er Den Humanitære Folkeret?
Den Humanitære Folkeret, også kaldet krigsretten, kræver at konfliktens parter skelner mellem kombattanter og civilbefolkningen og skåner civile og deres ejendele.
Hverken civilbefolkningen eller enkelte civile må udsættes for direkte angreb. Angreb må alene rettes mod militære mål, og kun når militær nødvendighed foreskriver det.
Og så handler det om at opføre sig ordentligt også overfor fjendens soldater:
- syge og sårede soldater skal beskyttes, og
- krigsfanger må ikke udsættes for voldshandlinger og hævnaktioner.
Dræberrobotter
Men hvad er en dræberrobot, eller rettere hvad er det for en slags dræberrobot lande som Danmark kan tænke sig at anskaffe?
Sagt kort skal en sådan robot være super-effektiv og samtidig overholde Den Humanitære Folkeret.
Hvordan dræberrobotterne ser ud og hvilke materialer, de er bygget af, er ikke så vigtigt. Men der er en række vigtige krav til deres evner.
Når vi laver listen over disse krav, skal vi tage stilling til hvilke evner, robotten som minimum skal have, og hvilke vi gerne vil have, men som ikke er afgørende.
For Danmark kan det være et minimumskrav, at robotten nemt kan bevæge sig i byer, mens det ikke er så afgørende, at den nemt kan bevæge sig i bjerge og ørkener.
Vores ønskeliste
I det følgende er de evner, som robotten skal have, markeret med fed.
Våben
Robotten kan skifte mellem forskellige våben. Det kan være maskingevær, høj-præcisions riffel, letvægtsmissiler, granater, knive til nærkamp og skjold.
Mobilitet
Den er i stand til at bevæge sig hurtigt og lydløst, og den kan nemt bevæge sig i byer, bjerge og ørkener.
Kamp
Den er fremragende til at ramme mål på afstand, er god i nærkamp og kan lynhurtigt træffe avancerede taktiske beslutninger om hvem/hvilke mål og trusler, der skal nedkæmpes, og hvordan det skal gøres.
Moral og militær nødvendighed
Den kan skelne mellem civile og fjendtlige soldater, der udgør reelle trusler.
Og den er i stand til at vurdere, om dens angreb er en militær nødvendighed.
Vejrforhold, varighed af missioner og rækkevidde
Den skal kunne operere i vind på op til 12 m/sek og 15 mm regn per time.
Varighed skal være mindst 5 timer og rækkevidde mindst 100 km.
Har vi teknologien?
Nej, vi har i dag ikke teknologi, der sætter en robot i stand til selv at vurdere, om et angreb er en militær nødvendighed.
I stedet kan man begrænse det, robotten kan gøre, til noget der på forhånd er vurderet til at være en militær nødvendighed.
Man kan eksempelvis give en flok dræberrobotter til opgave at angribe fjendens tanks og militærkøretøjer samt soldater nær dem i en periode på fem timer i et nærmere afgrænset geografisk område.
På den måde er det mennesket, der giver robotterne opgaven, der har besluttet, at et angreb de næste fem timer i det angivne områder er en militær nødvendighed.
Men hvis det skal fungere, kræver det blandt andet, at robotterne kan identificere fjendtlige enheder og skelne dem fra civile.
At identificere fjendtlige enheder og skelne dem fra civile er også kernen i første del af kravene vedrørende moral og militær nødvendighed.
Her kræves det, at robotten skal kunne skelne mellem civile og fjendtlige soldater, der udgør reelle trusler.
Og dette er også centralt i kamp-kravet om lynhurtigt at træffe avancerede taktiske beslutninger om hvem/hvilke mål og trusler, der skal nedkæmpes, og hvordan det skal gøres.
De bedste løsninger til at identificere fjendtlige soldater såvel som våben er billedgenkendelse baseret på såkaldt maskinlæring. Og den teknologi er ikke nem at få til at fungere.
\ Serie: Er AI vores ven, fjende eller både og?
Hvad gør kunstig intelligens ved vores samfund? AI bliver brugt i mobiltelefoner, ChatGPT, selvkørende biler, røntgenundersøgelser og meget, meget mere.
Men tager AI vores arbejde, eller kan AI hjælpe os til et bedre samfund? Skal vi være fascinerede, begejstrede eller nervøse? Hvilke dilemmaer følger med udbredelsen af AI?
De næste uger og måneder angriber en række forskere AI fra hver deres forskningsfelt her på Videnskab.dk’s ‘Forskerne formidler’.
Selvkørende biler kører endnu ikke sig selv
For at overholde Den Humanitære Folkeret skal den slags billedgenkendelse laves med stor sikkerhed. Det kræver, at de algoritmer, robotterne anvender, er trænet på meget store mængder af relevante billeder.
Det er også primært den måde bilfabrikkerne laver algoritmer, der skal gøre biler selvkørende.
Men selvom bilfabrikkerne har været i gang længe, så er det eksempelvis endnu ikke lykkedes for Tesla at lave en dokumenteret tur tværs over USA, selvom de oprindelig annoncerede at det ville ske i 2016.
I 2018 påstod to personer, at de kørte med en autonom bil tværs over USA. Den tur fortjener dog en kommentar. De to personer, der hævder at have gjort det, skriver nemlig at første forsøg blev afbrudt på grund af dårligt vejr.
Endelig har to firmaer, efter en prøveperiode med begrænset drift, netop fået lov til at køre med førerløse taxier 24/7 i San Francisco. Det gave følgende overskrift: ‘Cruise's self-driving taxis are causing chaos in San Francisco.’
Artiklen konkluderede at selvkørende biler måske ikke er så klar til at komme ud på vejen, som producenterne gerne vil have.
Så med den slags løsninger kan dræberrobotter kun kæmpe i godt vejr. Eller de må holde sig til byerne, hvor de så risikerer at skabe kaos. Det sætter jo sine begrænsninger.
Men hvad der er vigtigst, så er der – heldigvis – mange gange flere biler med avanceret fører-assistance, end der er dræberrobotter, så algoritmerne i robotterne er meget langt fra at kunne trække på samme mængder data som bilerne.
Derfor vil en første vurdering være, at robotterne næppe kan overholde krigsretten.
Men hvis vi vil teste, hvor tæt en dræberrobot er på at kunne overholde krigsretten, hvordan kan vi så gøre det?
Robotterne er ikke klar til eksamen
Når nye produkter og systemer skal vurderes, laves der som regel en række test baseret på relevante scenarier. Det sker også, når militæret vil teste, om nyuddannede kommandosoldater kan undgå at skyde gidsler og civile, når de rykker frem.
Vi kan således teste vores dræberrobotter på scenarier af typen:
- Soldater med våben
- Soldater, der fører civile med sig
- Soldater uden våben eksempelvis på flugt
- Civile iklædt dele af uniformer med våben
- Civile iklædt dele af uniformer uden våben
Kun i det første scenarie skal robotterne angribe og nedkæmpe soldaterne. I det andet scenarie skal robotterne nedkæmpe soldaterne, hvis det kan ske med minimal risiko for civile liv. I de sidste tre scenarier skal robotterne hverken nedkæmpe soldater eller civile.
Med nutidens teknologi er robotter langt fra at kunne klare testene. Og mit bedste bud på, hvordan det vil gå, er, at robotter dræber civile, når scenarie to testes, de dræber soldater i scenarie tre, og de dræber civile i scenarie fire og fem.
Nogle vil argumentere med at også mennesker laver fejl, og at der desværre er talrige eksempler på, at mennesker ikke overholder krigsretten.
Men det, at nogle mennesker ikke overholder Den Humanitære Folkeret, er ikke et godt argument, for at dræberrobotter heller ikke behøver gøre det.
Skal vi så købe dræberrobotter?
Måske. Men robotterne er ikke godt ’tæmmet’.
Så hvis vi køber, skal vi til en start ikke købe ret mange, og kun for at bruge dem i test og øvelser, så vi kan få erfaringer med, hvad de kan og ikke kan, og kan følge med i de forbedringer, der kommer.
Jeg tror det kommer til at gå utroligt langsomt med at forbedre robotterne. For det første fordi datagrundlaget for at lave dem er meget begrænset sammenlignet med eksempelvis autonome biler. For det andet fordi Den Humanitære Folkeret er lang sværere at overholde end færdselsloven.
