»Når de dødbringende våben først er udviklet, vil de bane vejen for væbnede konflikter i en størrelsesorden, vi ikke hidtil har kendt, og i en fart, som mennesker får svært ved at forstå.«
Det kunne være den mørke voiceover, der sætter scenen til endnu en dyster sci-fi franchise - men det er det ikke.
Ordene er klippet direkte ud fra det åbne brev, som Elon Musk og 115 magtfulde tech-bosser underskrev og adresserede til verdens magtcentrum, FN, i august.
I brevet advarede de mere end 100 pionerer inden for robotteknologi og kunstig intelligens mod deres egen accelererende branches evne til at starte et nyt våbenkapløb, der kan resultere i nye store krige, som verden aldrig har set før.
»Vi har ikke lang tid til at handle. Når Pandoras æske først er åbnet, bliver den svær at lukke,« advarer de yderligere.
I denne uges podcast har vi sat Hans Peter Michaelsen, major og militæranalytiker på Center for Militære Studier på Københavns Universitet, samt professor i robotteknologi og kunstig intelligens på IT Universitetet, Kasper Støy, der nægtede at underskrive brevet, i stævne for at vurdere, om de 116 brevskrivere har ret i deres bekymring.
Hvordan undviger man en dræberdrone?
Først og fremmest, og måske mest væsentligt, hvor langt er vi fra at åbne den såkaldte Pandoras æske, når det gælder dræberrobotter og dræberdroner?
Ikke særligt langt, forsikrer Kasper Støy i podcasten til Videnskab.dk, hvori han også præsenterer en guide til at undvige en dræberdrone.
»Vi kæmper stadig med helt basale problemer og med at få de enkle robotter til at fungere,« fortæller han.
Videnskab.dk eksperimenterer med at lave podcasts.
Vi udgiver en podcast om ugen og bare lige for at rydde eventuel forvirring af vejen: En podcast er bare digital radio, du kan høre, når du vil.
Du kan lytte til ugens podcast i afspilleren i toppen af artiklen eller via en podcastapp på din smartphone.
Du kan finde information om podcastapps, og hvordan du finder vores podcasts på din smartphone, i bunden af artiklen.
»Der er jo en enorm interesse for selvkørende biler, men de kommer trods alt ikke stormende ind på markedet. Det betyder, at der er nogle kæmpe, kæmpe udfordringer i det,« fortæller han yderligere i forhold til bekymringen om, hvorvidt en autonom kunstig intelligens kan ende med at gøre skade på mennesker, hvilket podcasten også kommer ind på.
Teknologien er simpelthen ikke avanceret nok til, at Kasper Støy ønsker at projicere fanden på væggen. Det var også derfor, han afviste at skrive under på brevet.
»Der er måske ingen grund til at puste til den frygt, der allerede findes. Der er mange positive anvendelsesmuligheder ved robotteknologien, og jeg synes ikke, at man skal skævvride det med det her fokus,« fortæller Kasper Støy.
I de forkerte hænder
En af flere andre bekymringer, som brevskriverne har nedfældet, går på, at dræberdroner og dræberrobotter kan ende i hænderne på tyranner og terrorister, der vil misbruge dem mod uskyldige mennesker.
En bekymring, som major Hans Peter Michaelsen anerkender, fortæller han i podcasten til Videnskab.dk:
»Vi har set gennem krigsførelsen, at den svage part i en konflikt er meget kreativ til at finde nogle forhåndenværende søm, som den kan bruge til at skade den anden part - blandt andet med vejsidebomber i Afghanistan og Irak.«
Der findes beretninger fra Irak om, hvordan terrorister har gjort brug af droner med en påmonteret håndgranat. Den slags er svært at undgå, fortæller militæranalytikeren til Videnskab.dk:
»Vi har set, at teknologi, der kan findes på det kommercielle marked, kan bruges. Al teknologi har en forside og en bagside - ligesom en kniv kan bruges til at skære med og stikke et menneske ihjel med.«
Derfor hilser Hans Peter Michaelsen også initiativet fra brevskriverne velkomment.
»Det er en problemstilling, som man skal tage alvorlig,« mener han.
Du kan blive klogere på hele den avancerede sag, hvis du lytter til hele podcasten, hvor forskerne også kommer ind på, om man kan hive en robot i retten for krigsforbrydelser, og hvorfor Tesla-stifteren, Elon Musk, minder om den amerikanske præsident, Donald Trump.
Nye bronzealderfund vækker opsigt
Vi halser videre til noget helt andet.
I ugens podcast kan du naturligvis også høre lidt om nogle af de andre aktuelle historier på Videnskab.dk.
Her er fem af de seneste podcasts fra Videnskab.dk:
Ugens podcast: Forskere er bange for sex
Ugens podcast: Historien bruges til at fremme nye agendaer
Ugens podcast: Her er den største misforståelse om vikingetiden
Ugens podcast: Kan journalistik om videnskab være objektiv?
Ugens podcast: Hvordan beskytter vi os mod hormonforstyrrende stoffer?
Nyhedsredaktør Jonas Salomonsen leverer, vanen tro, en Top 3 over ugens mest interessante historier.
Vi er blandt andet blevet forkælet med flere opsigtsvækkende bronzealderfund.
I Bayern-regionen i Tyskland har syv forskellige arkæologiske udgravninger fundet sted. I den forbindelse har man analyseret 84 skeletter, hvoraf en del af dem var fra kvinder.
Analyserne viser, at 60 procent af disse kvinderne er døde og begravet langt fra deres fødested.
Det peger på, at det har været en trend, at man har rejst meget rundt - især som kvinde. Noget, der bekræftes af analyserne, man har lavet af de danske bronzealderskeletter fra Egtved- og Skydstruppigen, der begge har vist sig at stamme fra udlandet.
Du kan læse hele artiklen om de nye bronzealderfund her.
Blomsters duft og farve - og gamle fodboldspillere
Og så har en række danske forskere været på øen Lesbos i Grækenland for at samle blomster i poser.
Her har de fundet ud af, at der findes en sammenhæng mellem blomsters duft og farve.
»For eksempel har hvide blomster en meget sød duft, så de kan tiltrække natsværmere. Samtidig med det har de en farve, der gør dem nemme at se om natten, og det er jo ret smart, at farven og duften på den måde spiller sammen,« forklarer Jonas Salomonsen.
Den historie får du i sin helhed lige her.
Det sidste, som du simpelthen bare må høre om, er et studie, der viser, at 70-årige mænd, der har spillet fodbold hele deres liv har knogler som 25-årige.
Det skyldes et højt mineralindhold i fodboldspillernes knogler, hvilket kan modvirke knogleskørhed, og at man let brækker knoglerne.
Den historie kan du læse her.