Stephen Hawking og 1.000 andre forskere vil forbyde intelligente krigsrobotter
Kunstigt intelligente ‘dræber-robotter’ bør forbydes, skriver Stephen Hawking sammen med mere end 1.000 forskere i robotteknologi og kunstig intelligens i et åbent brev.

Fremtidens krigsrobotter vil næppe ligne dem, vi kender fra Terminator-filmene. Men forskerne frygter et fremtidsscenarie med krige, hvor det, ligesom i filmene, ikke længere er mennesker, der affyrer våbnene. (Foto: Wikimedia Commons.)

Fremtidens krigsrobotter vil næppe ligne dem, vi kender fra Terminator-filmene. Men forskerne frygter et fremtidsscenarie med krige, hvor det, ligesom i filmene, ikke længere er mennesker, der affyrer våbnene. (Foto: Wikimedia Commons.)

Det lyder som noget fra en dommedagsprofetisk robotfilm med Arnold Schwarzenegger i hovedrollen. Men det er det slet ikke. Den er god nok.

Stephen Hawking har sammen med over 1.000 forskere i robotteknologi og kunstig intelligens skrevet et åbent brev, der advarer om, at udviklingen af kunstig intelligens er nået så langt, at de frygter, at teknologien vil blive brugt til såkaldte autonome våben.

Våbnene bliver mere populært kaldet ‘killer robots,’ fordi de selv kan opspore mål og skyde dem ned.

»Vi er nået til et punkt, hvor kunstig intelligens er inden for rækkevidde, hvis ikke lovligt, så praktisk, inden for år - ikke årtier, og indsatsen er høj. Autonome våben er blevet beskrevet som den tredje revolution indenfor krigsførelse efter krudt og atomvåben,« skriver forskerne i brevet, der beder verdens magthavere om ikke at benytte sig af autonome våben.

Det lyder vildt, men den verdenskendte, danske robotforsker Henrik Schärfe forsikrer, at der er tale om en reel bekymring, og at brevet er »blodig alvor.«

»Vi er nu der, hvor vi er tvunget til at tage stilling til de etiske, eksistentielle og politiske spørgsmål, som vi har diskuteret teoretisk i mange år. Det varer ikke længe, før der kører selvkørende biler rundt i Danmark, og algoritmerne har længe styret aktiemarkedet. Kunstig intelligens har så stor indflydelse, at vi ikke bare kan udvikle systemerne uden at forholde os til deres konsekvenser. Erklæringen afspejler en bekymring, som er meget stærk i forskningsmiljøet,« siger Henrik Schärfe til Jyllands-Posten.

Brevet er lavet af gruppen ‘Future of Life Institute', der arbejder for at mindske »eksistensielle risici for menneskeheden,« og de advarer mod at starte et »militært ræs ud i kunstigt intelligente våben.«

I dag ser vi allerede droner, der skyder mål ned, mennesker som bygninger, mens piloten selv sidder i sikkerhed flere tusind kilometer væk. Ifølge forskerne er det næste naturlige skridt i udviklingen, at dronen klarer det hele selv - uden behov for en pilot, der trykker på aftrækkeren. Og det vil de undgå.

Dræber-robotter kan føre til mere krig i verden - og et potentielt dommedag

På Future of Life Institute er de ikke bange for at bruge store ord om truslen fra robotterne, og på deres hjemmeside kan man blandt andet læse, »Teknologi har givet liv muligheden for at blomstre som aldrig før... eller til at selvdestruere.«

Blandt bestyrelsen finder man en blanding af prominente folk som fysikeren Stephen Hawking samt kendisser som ingeniøren og entreprenøren Elon Musk, der blandt andet står bag PayPal og Tesla Motors, og ikke mindst skuespilleren Morgan Freeman. Der er desuden indsamlet signaturer fra Apples med-grundlægger Steve Wozniak, chefen for Googles Deepmind-afdeling, Demis Hassabis, professor Noam Chomsky og Googles research-leder Peter Norvig.

Ud over de prominente navne har intet mindre end 1.000 førende forskere i robotteknologi og kunstig intelligens også valgt at bakke op om budskabet med deres underskrift. 

En af de ting, som forskerne frygter, at de selvtænkende robotkrigere kan føre med sig, er for det første mere krig i verden. De skriver, at når robotterne selv kan udføre krig på menneskers vegne, så vil konsekvenserne ved at gå i krig også være mindre for et land - og det kan potentielt skabe mere krig i verden. Specielt, når teknologien bliver billig, hvilket den ifølge forskerne også vil blive hurtigt.

»Hvis en større militærmagt først begynder på udviklingen af autonome våben, så vil et globalt våbenræs være nærmest uundgåeligt, og resultatet af denne teknologiske sti er åbenlys: Autonome våben vil blive fremtidens kalashnikovs,« skriver gruppen i brevet - som du kan læse i fuld længde her, samt se navnene på de mange opbakkende forskere.

Stil spørgsmål om kunstig intelligens til Stephen Hawking

Forskerne bag brevet vil også forbyde de autonome våben, fordi de kan kaste et dårligt lys over forskning i kunstig intelligens, som de også mener kan bringe mange positive fremskridt med sig.

Hvilke fremskridt der er tale om, har du mulighed for selv at spørge en af mest kendte forskere bag brevet om. For netop i denne uge har Stephen Hawking inviteret alle til at stille ham spørgsmål om mulighederne inden for kunstig intelligens på internetforummet Reddit.

Spørgsmålene vælter allerede ind, og de spænder over dystre, etiske dilemmaer, som eksempelvis robotter i krig, men også mere fredelige spørgsmål, som »Vil vi komme til at arbejde mindre i fremtiden, når robotter lærer at udføre flere og flere jobs?« eller »Kan en robot nogensinde opnå ægte bevidsthed?«

Hvis du har nogle tanker om Stephen Hawkings advarsler om krig og kunstig intelligens, eller blot vil spørge ind til noget mere fredsommeligt, er han til rådighed på Reddits tråd ved navn AMA (Ask Me Anything), som vil køre ugen ud.

Hej! Vi vil gerne fortælle dig lidt om os selv

Nu hvor du er nået helt herned på vores hjemmeside, er det vist på tide, at vi introducerer os.

Vi hedder Videnskab.dk, kom til verden i 2008 og er siden vokset til at blive Danmarks største videnskabsmedie med 1 million brugere om måneden.

Vores uafhængige redaktion leverer dagligt gratis forskningsnyheder og andet prisvindende indhold, der med solidt afsæt i videnskabens verden forsøger at give dig aha-oplevelser og væbne dig mod misinformation.

Vores journalister fortæller historier om både kultur, astronomi, sundhed, klima, filosofi og al anden god videnskab indimellem - i form af artikler, podcasts, YouTube-videoer og indhold på sociale medier.

Vi stiller meget høje krav til, hvordan vi finder og laver vores historier. Vi har lavet et manifest med gode råd til at finde troværdig information, og vi modtog i 2021 en fornem pris for vores guide til god, kritisk videnskabsjournalistik.

Vores redaktion gør en dyd ud af at få uafhængige forskere til at bedømme betydningen af nye studier, og alle interviewede forskere citat- og faktatjekker vores artikler før publicering.

Hvis du går rundt og undrer dig over stort eller småt, vil vi elske at høre fra dig og forsøge at give dig svar med forskernes hjælp. Send bare dit spørgsmål til vores brevkasse Spørg Videnskaben.

Vi håber, at du vil følge med i forskningens forunderlige opdagelser her på Videnskab.dk.

Få et af vores gratis nyhedsbreve sendt til din indbakke. Du kan også følge os på sociale medier: Facebook, Twitter, Instagram, YouTube eller LinkedIn.

Med venlig hilsen

Videnskab.dk

Videnskab.dk Podcast

Lyt til vores seneste podcast herunder eller via en podcast-app på din smartphone.

Danske corona-tal

Videnskab.dk går i dybden med den seneste corona-forskning. Læs vores artikler i temaet her.

Hver dag opdaterer vi også de seneste tal.

Dyk ned i grafer om udviklingen i antal smittede, indlagte og døde i Danmark og alle andre lande.

Ny video fra Tjek

Tjek er en YouTube-kanal om videnskab henvendt til unge.

Indholdet på kanalen bliver produceret af Videnskab.dk's videojournalister med samme journalistiske arbejdsgange, som bliver anvendt på Videnskab.dk.


Ugens videnskabsbillede

Se flere forskningsfotos på Instagram, og læs om astronautens foto af polarlys, som du kan se herunder.