Hvor galt kan det gå med dræberrobotter?
En FN-rapport konkluderer, at dræberdroner har været i brug i Libyen. Det kan være starten på en dødbringende glidebane med historiske paralleller.
droner-robotter-krig

Automatiske dræberdroner, der uden input fra et menneske kan udvælge og angribe andre mennesker, hører ikke længere fremtiden til. (Foto: Shutterstock)

Automatiske dræberdroner, der uden input fra et menneske kan udvælge og angribe andre mennesker, hører ikke længere fremtiden til. (Foto: Shutterstock)

En klynge af droner hænger faretruende i luften over et nordafrikansk ørkenlandskab. Pludselig dykker den summende sværm mod en deling menneskelige soldater.

De flygter i vild forvirring, men dronerne jager dem og beskyder dem med indbyggede maskingeværer.

Intet menneske er involveret i dronernes beslutningsproces, de vælger autonomt deres mål, beskyder dem og glemmer dem igen.

Teknologien er baseret på kunstig intelligens, blandt andet ansigtsgenkendelse. 

Lyder det som science fiction?

Ikke længere.

En FN-rapport fra marts 2021 konkluderer, at droner af typen Kargu 2 blev brugt i 2020 i Libyen, hvor de forfulgte og angreb flygtende oprørstropper.

Dette er en historisk hændelse, og vi kan måske også lære af historien, hvor galt det kan ende.

Radikal ny krigsteknologi i Libyen for 110 år siden

Det er ikke første gang i nyere historie, at kontroversiel ny krigsteknologi bliver afprøvet i Libyen.

I november 1911 kastede den italienske sekondløjtnant Giulio Gavotti fire håndgranater fra sin endækker (se billede herunder, se en tegnet illustration af nedkastningen her) mod tyrkiske soldater i, hvad der dengang var, en osmannisk provins.

Endækkeren-libyen.1911-fly-krig

Endækkeren – også kaldet et monoplan fly – var verdens første improviserede bombefly i Libyen 1911. (Foto: Bundesarchiv)

Nedkastningen var et led i den italiensk-tyrkiske krig, der endte med, at Italien koloniserede det nordafrikanske område, der senere blev Libyen.

Hændelsen bliver betragtet som det første bombardement fra fly i historien, og beskrivelser af den gik kloden rundt.

Verdenspressen fordømte generelt manøvren som usportslig, da de osmanniske styrker ikke havde mulighed for at forsvare sig.

Ugen efter skød de et italiensk fly ned med rifler – så det viste sig ikke at være helt rigtigt.

Det er dog korrekt, at bomber fra fly i det kommende år førte til en ekstrem forøgelse af asymmetrien i krigsførelse.

Fakta
Om Forskerzonen

Denne artikel er en del af Videnskab.dk’s Forskerzonen, hvor forskerne selv formidler deres forskning, viden og holdninger til et bredt publikum – med hjælp fra redaktionen.

Forskerzonen bliver udgivet takket være støtte fra vores partnere: Lundbeckfonden, Aalborg Universitet, Roskilde Universitet og Syddansk Universitet.

Forskerzonens redaktion prioriterer indholdet og styrer de redaktionelle processer, uafhængigt af partnerne. Læs mere om Forskerzonens mål, visioner og retningslinjer her.

En dødbringende glidebane

Det internationale samfund havde i årtier været bekymret for muligheden af bomber kastet fra luften – fra luftballoner og senere fly.

Det førte til et forslag om et internationalt forbud, der blev forsøgt etableret ved fredskonferencerne i Haag i 1899 og i 1907.

Sådan skulle det som bekendt ikke gå. To år efter Giovattis spektakulære stunt havde Italien og England udviklet de første deciderede bombefly.

Et tilsyneladende ustoppeligt forløb var sat i gang, som nåede et klimaks i de systematiske massebombninger af civile under 2. Verdenskrig.

Mest grundige var de allieredes bombardementer af de tyske og japanske befolkninger med det erklærede formål at demoralisere civilbefolkningerne, så de opgav støtten til krigen.

Det viste sig kun at være en effektiv strategi i den mest grufulde ekstrem – nemlig USA’s atombombninger af Hiroshima og Nagasaki.

Japanerne kapitulerede, og menneskeheden lever med den foruroligende indsigt, at vi kan forårsage vores egen totale selvdestruktion.

Lever dræberdroner op til krigens regler?              

Efter krigen indførtes krav om distinktion og proportionalitet som modsvar til disse uhyrligheder.

Distinktionsprincippet siger, at krigens parter altid skal skelne mellem civile og kombattanter, og at krigsaktiviteter kun må være rettet mod militære mål.

Proportionalitetsprincippet siger, at de forventede menneskelige og materielle tab ved en krigshandling ikke må være overdrevet i forhold til den forventede nytte ved opnåelsen af det militære mål.

Det er disse krav, som vi nu diskuterer, hvorvidt dræberdroner, der selv udvælger deres mål, lever op til.

Droner i Libyen

Da droner blev indsat i Libyen, var det som et led i den anden libyske borgerkrig, der varede fra 2014 til 2020.

Tyrkiet spillede en ny rolle denne gang. I 1911 var det tyrkiske (dengang osmanniske) militær offer for den nye teknologi.

I 2020 leverede de militær opbakning til regeringshæren (Government of National Accord) – blandt andet ved at tilvejebringe den nye krigsteknologi, dronen Kargu 2, der ifølge producenten bruger ansigtsgenkendelse og andre teknikker fra kunstig intelligens baseret på maskinlæring.

Disse droner kan fjernstyres, men de er også i stand til selvstændigt at udvælge og engagere mål uden input fra en menneskelig operatør.

Det betyder, at de klassificeres som dødbringende, autonome våbensystemer, og det er – så vidt vi ved – første gang nogensinde, de er blevet indsat i kamp.

FN’s rapport konkluderer, at de autonome våbensystemer spillede en afgørende rolle i regeringshærens nedkæmpelse af oprørsstyrkerne.

Hvad er det gode argument mod droner?

Dette har dog endnu ikke ført til en udbredt fordømmelse hverken i verdenspressen eller i Danmark. Det skyldes formentlig til dels, at andre emner dominerer, særligt COVID-19 pandemien.

Og sådan gik det indtil slutningen af maj 2021, hvor New Scientist gravede den korte beskrivelse af dronerne ud af den 548 sider lange FN-rapport. En uge senere blev historien samlet op af blandt andet New York Times, Ingeniøren og Politiken.

Men der er måske også en anden grund til at der har været relativt stille omkring emnet: Vi ved ikke helt, hvad det gode argument for fordømmelse er.

Proportionalitet og distinktion er ikke de største problemer

Vores principper om proportionalitet og distinktion blev vedtaget som en refleksion af problemerne med massebombninger af civile under 2. verdenskrig.

Selvom det er rimeligt at hævde, at en drone som Kargu 2 ikke overholder disse principper tilstrækkeligt, vil det ikke være tilfældet fremover.

Dødbringende autonome våben vil formentlig kunne udvikles til at følge disse principper. Det er faktisk et aspekt, der gør dem attraktive fra en militær betragtning.

En sværm af droner kan være så præcis, at den kun dræber mennesker på en specifik liste, for eksempel genereret ved hjælp af data fra de sociale medier.

Dronerne kan hænge tålmodigt i luften og dominere et område, så længe man ønsker, og dermed sikre, at alle civile får en chance for at forføje sig, og fjender kan vælge at overgive sig, før der bliver brugt dødelig kraft.

Batteritid er stadig et problem, men så er der altid gradvis udskiftning af sværmens medlemmer.

Måske lyder uendelig dominans af en præcist afgrænset gruppe ikke særlig menneskevenligt, men det virker ikke overbevisende at hævde, at problemet er mangel på distinktion eller proportionalitet, som disse begreber fortolkes nu.

Hvad er problemet egentligt?

Hvad er problemet så? Menneskeretsgrupper har slået sig sammen for at få et forbud gennemført. Filosoffer gør sig store anstrengelser i jagten på de rigtige begreber.  

Desværre er deres argumenter ikke helt klare. Et argument for et forbud er baseret på, at det er uværdigt for mennesker at blive slået ihjel af en robot.

Det er dog ikke klart, hvorfor det skulle være mere uværdigt at blive slået ihjel af en robot end for eksempel et missil.

Et andet argument går ud på, at det ikke er tydeligt, hvem der har ansvaret, når en robot slår ihjel.

Selvom det er en reel udfordring, er dog ikke klart, hvorfor det skulle være umuligt at imødekomme den.

I mange tilfælde vil det være den person – og i sidste ende den politiske eller militære instans – der har aktiveret dronen, som har ansvaret. På samme måde som den, der affyrer et ballistisk missil, har ansvaret for det.

I andre tilfælde, som når teknologien slår fejl, er det klart, at man måtte indføre en juridisk ramme, der sikrer placering af ansvar. Heller ikke dette forekommer umuligt.

Risiko for 3. verdenskrig – udkæmpet af robotter

Man kan forsøge at begrunde et forbud i et forsigtighedsprincip, givet den store risiko for spredning og ondsindet brug af teknologien.

Dræberdroner som terrorvåben er ikke just et ønskescenarie.

Og hvis man kan udvikle robotter til at følge principper, kan man også udvikle dem til at ignorere dem. Det hjælper dog ikke at appellere til et forsigtighedsprincip i en kapløbssituation, medmindre alle parter kan tilslutte sig.

Med den givne spændte situation mellem USA og Kina og med andre innovative aktører såsom Tyrkiet, er det ikke sikkert, at parterne kan overbevises om, at de andre vil holde sig fra at udvikle teknologien, trods eventuelle erklæringer.

Den mistroiske rationalitet risikerer at ende med et udfald, der ikke er gavnligt for menneskeheden.

Manglen på gode argumenter giver i øjeblikket producenterne af krigsteknologi en stor fordel. Kan de udvikle teknologien, før der er fundet overbevisende grunde til at forbyde dem, risikerer vi at ende i en 3. verdenskrig udkæmpet med AI og robotter.

 
Robotter-hær-robothær-krig

Robotter føler hverken frygt eller smerte. En hær af den type soldater er skræmmende for enhver almindelig soldat. (Foto: Shutterstock)

Et våbenkapløb er sat i gang

Den tyrkisk producerede drone er ikke endepunktet for autonome våbensystemer.

Det forekommer rimeligt at antage, at et våbenkapløb om udvikling af langt mere sofistikerede dræberrobotter allerede er i gang, og at de vigtigste beslutninger vil blive taget i Washington og Beijing.

Den slags kan gå stærkt. Vi kom fra nedkastning af håndgranater til nedkastning af atombomber på 34 år.  Og hastigheden af den teknologiske udvikling er ikke just aftaget siden.

Den militære udvikling drives også frem af det globale kapløb om at være førende inden for kunstig intelligens, som Kina og USA leder.

Jo mindre disse aktører bekymrer sig om at overholde krigens love, jo lettere er det at udvikle teknologien.

Hvis man blot ønsker et instrument, der kan udpege mennesker og slå dem ihjel uafhængigt af principperne for krigens love, har hændelsen i Libyen vist, at det kan gøres effektivt i forhold til at nå militære mål. 

Desuden er krigens love, som vi kender dem, formentlig uvirksomme i forhold til at forhindre de negative konsekvenser af denne nye teknologi, da disse konsekvenser er forbundet med en høj grad af usikkerhed.

Vores juridiske og etiske begreber er simpelthen ikke udviklet til at håndtere denne nye situation. 

Hvor ender det?

Det er med et citat af Einstein skrækindjagende tydeligt, at teknologien har overgået vores menneskelighed.

Denne gang endnu mere bogstaveligt end med atombomben, idet dronerne simpelthen overtager menneskelige soldaters rolle og tager beslutninger om liv og død på slagmarken.

Fra den tidligste udvikling af nye våbentyper, for eksempel spyd, har mennesker vist sig villige - i mange tilfælde ivrige - efter at afprøve deres kraft i vores tilsyneladende evige bestræbelser på gensidig dominans.

Historisk har internationale aftaler begrænset virkning i forhold til at bremse brugen af ny krigsteknologi.

Mennesker-krig-mod-maskiner

Mennesket i krig mod maskinerne er en populær fortælling i film, bøger og tegneserier. Nu nærmer vi os en tidsalder, hvor dystopien kan blive virkelighed. (Foto: Shutterstock)

I sidste ende bestemmer vi selv udviklingen

Der er ingen tvivl om, at mennesket har en utrolig evne til at gennemføre tilsyneladende umulige projekter inden for en kort periode.

Menneskets håbefulde drømme og uhyrlige ambitioner har en imponerende kraft.

Det første fly lettede i 1903. 10 år senere var de første bombefly udviklede.

Men teknologien ledte også til positive bedrifter. 66 år senere i 1969 landede de første mennesker på Månen. Det krævede en kæmpe indsats, der både involverede stater, virksomheder og individer.

I tusindvis af år har teknogien været primus motor i samfundsmæssige udviklingsprocesser. Men hverken historien eller teknologiens udvikling er deterministisk; frie menneskelige valg spiller en vigtig rolle.

Intet er givet, og selvom vi kan lære af at sammenligne tidligere våbenkapløb med det nuværende, er sammenligningen ufuldstændig og har ikke karakter af et bevis.

Givet menneskehedens historie og den nuværende højspændte politiske kontekst er det vanskeligt at forudse, om de afgørende aktører kan blive enige om at tage valg, der fører til en sikker og fredelig udvikling.

Alle må bruge og viderebringe Forskerzonens artikler

På Forskerzonen skriver forskere selv om deres forskning. Vi mener, det er vigtigt, at alle får mulighed for at læse om forskning fra forskerens egen hånd.

Alle må derfor bruge, kopiere og viderebringe Forskerzonens artikler udfra følgende enkle krav:

  • Det skal krediteres: 'Artiklen er oprindelig bragt på Videnskab.dk’s Forskerzonen, hvor forskerne selv formidler'. Hvis artiklen bringes på web, skal der linkes til artiklen på Forskerzonen.
  • Artiklen må ikke redigeres og skal bringes i fuld længde (medmindre andet aftales med forskeren).
  • Du skal give forskeren besked om, at du genpublicerer.
  • Artikler, som er oversat fra The Conversation, skal have indsat en HTML-kode til indsamling af statistik i bunden. HTML-koden finder du i den originale artikel på The Conversations hjemmeside ved at klikke på knappen "Republish this article" ude til højre, derefter klikke på 'Advanced' og kopiere koden. Du finder linket til artiklen på The Conversation i bunden af Forskerzonens oversatte artikel. 

Det er ikke et krav, men vi sætter pris på, at du giver os besked, hvis du publicerer vores indhold (undtaget indhold fra The Conversation). Skriv til redaktør Anders Høeg Lammers på ahl@videnskab.dk.

Læs mere om Forskerzonen i Forskerzonens redaktionelle retningslinjer.

DOI - Digital Object Identifier

Artikler, produceret til Forskerzonen, får tildelt et DOI-nummer, som er et 'online fingeraftryk', der sikrer, at artiklerne altid kan findes, tilgås og citeres. Generelt får forskningsdata og andre forskningsobjekter typisk DOI-numre.

Hej! Vi vil gerne fortælle dig lidt om os selv

Nu hvor du er nået helt herned på vores hjemmeside, er det vist på tide, at vi introducerer os.

Vi hedder Videnskab.dk, kom til verden i 2008 og er siden vokset til at blive Danmarks største videnskabsmedie med 1 million brugere om måneden.

Vores uafhængige redaktion leverer dagligt gratis forskningsnyheder og andet prisvindende indhold, der med solidt afsæt i videnskabens verden forsøger at give dig aha-oplevelser og væbne dig mod misinformation.

Vores journalister fortæller historier om både kultur, astronomi, sundhed, klima, filosofi og al anden god videnskab indimellem - i form af artikler, podcasts, YouTube-videoer og indhold på sociale medier.

Vi stiller meget høje krav til, hvordan vi finder og laver vores historier. Vi har lavet et manifest med gode råd til at finde troværdig information, og vi modtog i 2021 en fornem pris for vores guide til god, kritisk videnskabsjournalistik.

Vores redaktion gør en dyd ud af at få uafhængige forskere til at bedømme betydningen af nye studier, og alle interviewede forskere citat- og faktatjekker vores artikler før publicering.

Hvis du går rundt og undrer dig over stort eller småt, vil vi elske at høre fra dig og forsøge at give dig svar med forskernes hjælp. Send bare dit spørgsmål til vores brevkasse Spørg Videnskaben.

Vi håber, at du vil følge med i forskningens forunderlige opdagelser her på Videnskab.dk.

Få et af vores gratis nyhedsbreve sendt til din indbakke. Du kan også følge os på sociale medier: Facebook, Twitter, Instagram, YouTube eller LinkedIn.

Med venlig hilsen

Videnskab.dk

Videnskab.dk Podcast

Lyt til vores seneste podcast herunder eller via en podcast-app på din smartphone.

Danske corona-tal

Videnskab.dk går i dybden med den seneste corona-forskning. Læs vores artikler i temaet her.

Hver dag opdaterer vi også de seneste tal.

Dyk ned i grafer om udviklingen i antal smittede, indlagte og døde i Danmark og alle andre lande.

Ny video fra Tjek

Tjek er en YouTube-kanal om videnskab henvendt til unge.

Indholdet på kanalen bliver produceret af Videnskab.dk's videojournalister med samme journalistiske arbejdsgange, som bliver anvendt på Videnskab.dk.


Ugens videnskabsbillede

Se flere forskningsfotos på Instagram, og læs om astronautens foto af polarlys, som du kan se herunder.