Kunstig intelligens kan blive vor tids atombombe
Brugen af kunstig intelligens og smart teknologi i Ukraine-krigen viser os konturerne af fremtidens krige og et digitalt våbenkapløb, der er gået et gear op.

Kunstig intelligens er allerede en del af våbenarsenalet i moderne krig, både på den digitale og den fysiske kampplads, hvor højteknologiske autonome våbensystemer vinder frem. (Foto: Shutterstock)  

Kunstig intelligens er allerede en del af våbenarsenalet i moderne krig, både på den digitale og den fysiske kampplads, hvor højteknologiske autonome våbensystemer vinder frem. (Foto: Shutterstock)  

Det er den 16. marts 2022.

Det er under en måned siden, at russiske styrker invaderede Ukraine. Landets præsident, Volodymyr Zelenskyj, toner ofte frem i sit militærgrønne tøj i korte videoer med budskaber om modstand og kampgejst.

Men denne dag er det et ganske andet budskab, han leverer.      

»Læg jeres våben, og vend hjem til jeres familier. Det kan ikke betale sig at dø i den her krig.«

Det var overraskende ord – og det var da heller ikke hans. Videoen var nemlig falsk.

Det var formentlig det første forsøg, vi har set, på at bruge deepfake-teknologi som et våben.

Og det er et tydeligt eksempel på krigens anatomi anno 2022. Vi lever i den digitale tidsalder, og i denne epoke udkæmpes krige også med digitale redskaber på den udvidede kampplads. 

Højteknologiske autonome våbensystemer vinder frem. Kunstig intelligens bliver brugt til at analysere data fra satellitter i realtid, på en måde der ikke kunne lade sig gøre for få år siden. Og propagandakrigen udkæmpes i et samspil mellem sociale medier og politiske institutioner.

Her kan storme af vrede og medfølelse mobiliseres til hurtigt at blæse de politiske beslutninger i bestemte retninger.

Men hvad kan nutidens digitale våben – som vi blandt andet ser blive brugt lige nu i Ukraine-krigen – fortælle os om fremtidens krige? Det er omdrejningspunktet for denne artikel.

Fakta
Forskerzonen

Denne artikel er en del af Forskerzonen, som er stedet, hvor forskerne selv kommer direkte til orde.

Her skriver de om deres forskning og forskningsfelt, bringer relevant viden ind i den offentlige debat og formidler til et bredt publikum.

Forskerzonen er støttet af Lundbeckfonden.

Verdensherredømme og dræberrobotter

I 2017 udtalte Putin, at den, der sætter sig i spidsen for kunstig intelligens, vil blive »verdens hersker«.

Han har omtalt ideen om dræberrobotter på slagmarken i rosende vendinger, og Ruslands militær vil implementere en strategi fra ’digitalisering’ af våben til ’intellektualisering’.

Det vil sige, at våbenteknologierne skal have evnen til selvstændigt at ræsonnere og tage beslutninger

Det ser endnu ikke ud til, at disse ord er blevet omsat systematisk til militær praksis i den aktuelle krig. Der er dog formodninger om, at Rusland har brugt den autonome drone Kalashnikov ZALA Aero KUB-BLA i Kyiv.

Denne dræberrobot kan selvstændigt genkende og angribe et militært mål.

Det ville i så fald være anden gang i historien, at dræberrobotter er dokumenteret brugt på slagmarken. Første gang var den tyrkiske drone Kargu 2, der blev brugt i 2020 under borgerkrigen i Libyen.

Pålideligheden af dokumentationen er dog i ingen af tilfældene 100 procent, da det er svært at afgøre, om en drone opererer autonomt eller fjernstyret.

Rusland eller dets støtter må desuden formodes at stå bag den historisk første brug af deepfake som våben i form af den føromtale video af Volodymyr Zelenskyj, der florerede på internettet den 16. marts 2022, hvor en simuleret præsident Zelensky fortalte ukrainerne, at de skulle overgive sig.

Videoen var dog let gennemskuelig på grund af den teknisk dårlige kvalitet og blev forkastet af Zelenskyj selv efter få minutter. 

Deep fake-videoen af præsident Zelenskyj er formodentlig det første forsøg, vi har set, på at bruge deepfake-teknologi som et våben. (Kilde: The Telegraph) 

En digital mur

For at vinde informationskrigen i hjemlandet har Rusland valgt den kinesiske model med en firewall omkring det russiske internet, hvor uønskede hjemmesider er utilgængelige for borgerne.

Man forsøger hermed at isolere befolkningen fra den øvrige verden. Det er dog tvivlsomt, hvor tæt sådan en væg kan gøres.

Når russisk propaganda alligevel har en succes i hjemlandet, afhænger det formentlig mere af en kombination af to ting:

  • At de fleste russere får informationer gennem stats-tv
  • Den nationalromantiske stolthed, som Putin har forsøgt at genoplive efter Sovjetunionens fald

Kunstig intelligens i våbenarsenalet 

På den modsatte side kæmper Ukraine med en anden stormagt i ryggen.

Det er blevet klart, at USA i stigende grad har involveret sig i en stedfortræderkrig mod Rusland i Ukraine. Det vil sige, at selvom amerikanske soldater ikke kæmper direkte mod russiske, støtter amerikanerne Ukraine massivt, både militært og gennem for eksempel officielle udtalelser fra præsident Biden.

Et vigtigt element i den militære støtte til Ukraine er informationsdeling. Det har ifølge New York Times både ført til sænkningen af det russiske militærskib Moskva og til, at Ukraine har slået over 10 russiske generaler ihjel på slagmarken.

Detaljerne om informationsdelingen er hemmelig i de enkelte tilfælde. Men magasinet Defense One kan alligevel rapportere, at det amerikanske militær bruger kunstig intelligens til at analysere billeder fra droner og satellitter i realtid og videregiver information herom til ukrainerne.

Automatiseret objektgenkendelse via maskinlæring er kommet langt de seneste fire-fem år og bliver nu systematisk brugt til overvågning og rekognoscering.

En rekognosceringsdrone kan for eksempel genkende et fjendtligt mål, videregive positionen og overvåge målet højt oppefra, indtil tanks eller soldater kommer frem.

Desuden bruger amerikanerne al den data, de indsamler, til at generere simulationer, der sidenhen kan bruges til at skabe mere realistiske krigsøvelser.

Herudover eskalerer amerikanerne teknologiniveauet af det militære udstyr, de sender til Ukraine.

I de første uger af krigen sendte de primært lettere udstyr, som den skulderholdte anti-tank raketaffyrer Javelin. Fra slutningen af april 2022 blev der nu også sendt tungere artilleri, blandt andet i form af haubitser-kanoner og to typer kamikaze-droner (en kaldes Switchblade og en ny type kaldes Phoenix Ghost).

I midten af maj 2022 har USA givet sikkerhedsstøtte til Ukraine for cirka 3,4 milliarder dollars.

Ansigtsgenkendelse brugt på faldne soldater

Amerikanske firmaer stiller også deres ekspertise til rådighed. Software fra firmaet Clearview bliver brugt af ukrainerne til at rapportere russiske dødsfald til efterladte i Rusland udenom Kremls firewall.

Clearviews ansigtsgenkendelse er baseret på en database af milliarder af billeder hentet fra nettet, og det er en noget kontroversiel teknologi.

Selv hævder Clearview, at det fungerer som en googlesøgning, men det også blevet pointeret, at brugerne ikke har givet deres samtykke. Politiet i New York City har brugt teknologien til at udpege mistænkte, og det har ført til anholdelser.

Som alle andre teknologier baseret på statistiske metoder, vil teknologien give falske positiver, hvilket kan føre til uretmæssige anholdelser.

Det er også blevet pointeret, at hvis brugen af teknologien skulle blive udvidet til at omfatte udpegning af menneskelige mål i krig, så ville sådanne falske positiver kunne lede til drab af civile.

Det ville i så fald kunne føre til brud på distinktionsprincippet i krig – altså, at man skal skelne mellem civile og soldater.

Ansigtsgenkendelse er et udbredt værktøj inden for kriminalitetsbekæmpelse. Men det er også en kontroversiel teknologi, ikke mindst hvis den bruges i krig. (Foto: Shutterstock)

Den udvidede kampplads

Udover de højteknologiske våben, er der også en anden vigtig og delvist virtuel arena, hvor moderne krige udkæmpes.

Den danske militæranalytiker Jeanette Serritzlev har i den forbindelse argumenteret for, at Ukraine indtil videre står stærkt på det, der kaldes den udvidede kampplads. Den omfatter diplomati, information, militær og økonomi (på engelsk forkortes det ’DIME’).

Det er især den digitale kampplads, der adskiller fortidens krige fra nutidens.

Ser vi eksempelvis på informationskrigen, så er Vestens propaganda præget af optimeringsalgoritmer på de sociale medier.

De er sværere at kontrollere statsligt. Derfor er de mere robuste over for at blive kritiseret for at være statspropaganda – i hvert fald virker det umiddelbart, som om de nyheder, der spredes, er i overensstemmelse med befolkningernes præferencer og ’frie valg’.

I den sammenhæng bør man minde sig selv om, at disse sociale medier er designede til at manipulere vores præferencer. De har også en tendens til at skabe ekkokamre, hvor ligesindede finder sammen om at bekræfte hinanden i, hvad de allerede mener.

Desuden er de store techfirmaer bag kendt for micro targeting (at nå specifikke grupper eller individer med skræddersyede budskaber), hvilket åbenlyst også kunne bruges i propagandasammenhæng.

Taber slaget om information på den virtuelle slagmark

Det ville derfor være naivt at hævde, at informationsspredningen og holdningsdannelsen på de sociale medier er transparent og sandhedsbevarende.  

Kombinationen af traditionelle medier og sociale medier har dog under denne krig vist sig at være effektiv.

I modsætning til under den kolde krig skal man i dag kigge langt efter vestlige kilder, der åbent støtter Putin. Det længste, man kan gå, er en vis forståelse for geopolitiske interesser og historiske forudsætninger.

Derfor har Rusland indtil videre tabt informationskrigen internationalt.

Det er imidlertid svært at vurdere, hvor dybt den tilsyneladende allestedsnærværende sympati for Ukraine stikker. Og hvor meget, der skal til, før den slår om i den mere sædvanlige apati i forhold til internationale konflikter.

Kina i kulissen

Vi befinder os i dag i et nyt våbenkapløb om at udvikle våben baseret på kunstig intelligens. Det er utvivlsomt en vigtig årsag til, at stormagter som USA og Kina poster så mange ressourcer ind i netop computerteknologi.

Udover udviklingen inden for maskinlæring kan dødbringende, autonome våbensystemer og kvantecomputere fundamentalt ændre spillereglerne for krig.

Kvantecomputere vil gøre almindelige metoder til kryptering af information ubrugelige med tilbagevirkende kraft, og autonome våbensystemer vil blandt andet øge asymmetrien til fordel for teknologistærke nationer.

I dette kapløb er USA og Kina førende. Men hvis vi kigger et årti eller to frem i tiden, vurderes det, at Kina står til at vinde. Landet bruger flere ressourcer og har en organiseret strategi.

Denne formodede trussel og de tætte bånd mellem Kina og Rusland kan på den anden side føre til fornyet mobilisering i Vesten.

Her vil vi formentlig se den største koncentration af forening af magt og teknologi i verdenshistorien i det kommende årti i form af et samarbejde mellem Pentagon og Silicon Valley.

Fremtidens militær-industrielle kompleks

Pentagon, der repræsenterer den amerikanske stat og Silicon Valley, der er den populære betegnelse for high tech-industrien, har ofte været på ideologisk kollisionskurs.

Traditionelt har Silicon Valley været præget af en ultraliberal minimalstatslig ideologi med fokus på individets frihed.

Pentagon er derimod præget af en nationalkonservativ ideologi med fokus på fædrelandets enhed og sikkerhed.

Der har også været visse anti-militære tendenser, for eksempel hos Google. Den kapitalistiske markedsøkonomi betyder dog, at hvis Google siger nej, så siger Clearview ja.  

Googles førerposition er altså ikke større – og teknologien ikke mere hemmelig – end at andre aktører kan komme i spil. Nye samarbejder, for eksempel mellem Clearview og det amerikanske flyvevåben, kommer i disse dage i stand, og de vil have varige konsekvenser.

Manhattan-projekt for dræberrobotter?

På grund af krigen i Ukraine og kineserne, der lurer i kulissen, er vi formentlig kommet tættere på en forening af Pentagon og Silicon Valley.

I sin mest koordinerede form ville den forening være som et Manhattan Project (samarbejdet om at udvikle atombomben, red.) for dræberrobotter.  

Den bebudede europæiske oprustning, særligt i Tyskland, som i forvejen står stærkest i Europa inden for kunstig intelligens og robotik, vil også eskalere kapløbet gennem NATO-samarbejdet.

Vi står hermed over for en hidtil uset sammensmeltning af militær, økonomisk og teknologisk magt, et nyt våbenkapløb og nye trusler mod almindelige menneskers frihed og sikkerhed. 

Alle må bruge og viderebringe Forskerzonens artikler

På Forskerzonen skriver forskere selv om deres forskning. Vi mener, det er vigtigt, at alle får mulighed for at læse om forskning fra forskerens egen hånd.

Alle må derfor bruge, kopiere og viderebringe Forskerzonens artikler udfra følgende enkle krav:

  • Det skal krediteres: 'Artiklen er oprindelig bragt på Videnskab.dk’s Forskerzonen, hvor forskerne selv formidler'. Hvis artiklen bringes på web, skal der linkes til artiklen på Forskerzonen.
  • Artiklen må ikke redigeres og skal bringes i fuld længde (medmindre andet aftales med forskeren).
  • Du skal give forskeren besked om, at du genpublicerer.
  • Artikler, som er oversat fra The Conversation, skal have indsat en HTML-kode til indsamling af statistik i bunden. HTML-koden finder du i den originale artikel på The Conversations hjemmeside ved at klikke på knappen "Republish this article" ude til højre, derefter klikke på 'Advanced' og kopiere koden. Du finder linket til artiklen på The Conversation i bunden af Forskerzonens oversatte artikel. 

Det er ikke et krav, men vi sætter pris på, at du giver os besked, hvis du publicerer vores indhold (undtaget indhold fra The Conversation). Skriv til redaktør Anders Høeg Lammers på ahl@videnskab.dk.

Læs mere om Forskerzonen i Forskerzonens redaktionelle retningslinjer.

Videnskab.dk Podcast

Lyt til vores seneste podcast herunder eller via en podcast-app på din smartphone.

Ny video fra Tjek

Tjek er en YouTube-kanal om videnskab henvendt til unge.

Indholdet på kanalen bliver produceret af Videnskab.dk's videojournalister med samme journalistiske arbejdsgange, som bliver anvendt på Videnskab.dk.

Ugens videnskabsbillede

Se flere forskningsfotos på Instagram, og læs om, hvorfor denne 'sort hul'-illusion narrer din hjerne.

Hej! Vi vil gerne fortælle dig lidt om os selv

Nu hvor du er nået helt herned på vores hjemmeside, er det vist på tide, at vi introducerer os.

Vi hedder Videnskab.dk, kom til verden i 2008 og er siden vokset til at blive Danmarks største videnskabsmedie med over en halv million brugere om måneden.

Vores uafhængige redaktion leverer dagligt gratis forskningsnyheder og andet prisvindende indhold, der med solidt afsæt i videnskabens verden forsøger at give dig aha-oplevelser og væbne dig mod misinformation.

Vores journalister fortæller historier om både kultur, astronomi, sundhed, klima, filosofi og al anden god videnskab indimellem - i form af artikler, podcasts, YouTube-videoer og indhold på sociale medier.

Vi stiller meget høje krav til, hvordan vi finder og laver vores historier. Vi har lavet et manifest med gode råd til at finde troværdig information, og vi modtog i 2021 en fornem pris for vores guide til god, kritisk videnskabsjournalistik.

Vores redaktion gør en dyd ud af at få uafhængige forskere til at bedømme betydningen af nye studier, og alle interviewede forskere citat- og faktatjekker vores artikler før publicering.

Hvis du går rundt og undrer dig over stort eller småt, vil vi elske at høre fra dig og forsøge at give dig svar med forskernes hjælp. Send bare dit spørgsmål til vores brevkasse Spørg Videnskaben.

Vi håber, at du vil følge med i forskningens forunderlige opdagelser her på Videnskab.dk.

Få et af vores gratis nyhedsbreve sendt til din indbakke. Du kan også følge os på sociale medier: Facebook, Twitter, Instagram, YouTube eller LinkedIn.

Med venlig hilsen

Videnskab.dk