Stephen Hawking og 1.000 andre forskere vil forbyde intelligente krigsrobotter
Kunstigt intelligente ‘dræber-robotter’ bør forbydes, skriver Stephen Hawking sammen med mere end 1.000 forskere i robotteknologi og kunstig intelligens i et åbent brev.

Fremtidens krigsrobotter vil næppe ligne dem, vi kender fra Terminator-filmene. Men forskerne frygter et fremtidsscenarie med krige, hvor det, ligesom i filmene, ikke længere er mennesker, der affyrer våbnene. (Foto: Wikimedia Commons.)

Det lyder som noget fra en dommedagsprofetisk robotfilm med Arnold Schwarzenegger i hovedrollen. Men det er det slet ikke. Den er god nok.

Stephen Hawking har sammen med over 1.000 forskere i robotteknologi og kunstig intelligens skrevet et åbent brev, der advarer om, at udviklingen af kunstig intelligens er nået så langt, at de frygter, at teknologien vil blive brugt til såkaldte autonome våben.

Våbnene bliver mere populært kaldet ‘killer robots,’ fordi de selv kan opspore mål og skyde dem ned.

»Vi er nået til et punkt, hvor kunstig intelligens er inden for rækkevidde, hvis ikke lovligt, så praktisk, inden for år - ikke årtier, og indsatsen er høj. Autonome våben er blevet beskrevet som den tredje revolution indenfor krigsførelse efter krudt og atomvåben,« skriver forskerne i brevet, der beder verdens magthavere om ikke at benytte sig af autonome våben.

Det lyder vildt, men den verdenskendte, danske robotforsker Henrik Schärfe forsikrer, at der er tale om en reel bekymring, og at brevet er »blodig alvor.«

»Vi er nu der, hvor vi er tvunget til at tage stilling til de etiske, eksistentielle og politiske spørgsmål, som vi har diskuteret teoretisk i mange år. Det varer ikke længe, før der kører selvkørende biler rundt i Danmark, og algoritmerne har længe styret aktiemarkedet. Kunstig intelligens har så stor indflydelse, at vi ikke bare kan udvikle systemerne uden at forholde os til deres konsekvenser. Erklæringen afspejler en bekymring, som er meget stærk i forskningsmiljøet,« siger Henrik Schärfe til Jyllands-Posten.

Brevet er lavet af gruppen ‘Future of Life Institute', der arbejder for at mindske »eksistensielle risici for menneskeheden,« og de advarer mod at starte et »militært ræs ud i kunstigt intelligente våben.«

I dag ser vi allerede droner, der skyder mål ned, mennesker som bygninger, mens piloten selv sidder i sikkerhed flere tusind kilometer væk. Ifølge forskerne er det næste naturlige skridt i udviklingen, at dronen klarer det hele selv - uden behov for en pilot, der trykker på aftrækkeren. Og det vil de undgå.

Dræber-robotter kan føre til mere krig i verden - og et potentielt dommedag

På Future of Life Institute er de ikke bange for at bruge store ord om truslen fra robotterne, og på deres hjemmeside kan man blandt andet læse, »Teknologi har givet liv muligheden for at blomstre som aldrig før... eller til at selvdestruere.«

Blandt bestyrelsen finder man en blanding af prominente folk som fysikeren Stephen Hawking samt kendisser som ingeniøren og entreprenøren Elon Musk, der blandt andet står bag PayPal og Tesla Motors, og ikke mindst skuespilleren Morgan Freeman. Der er desuden indsamlet signaturer fra Apples med-grundlægger Steve Wozniak, chefen for Googles Deepmind-afdeling, Demis Hassabis, professor Noam Chomsky og Googles research-leder Peter Norvig.

Ud over de prominente navne har intet mindre end 1.000 førende forskere i robotteknologi og kunstig intelligens også valgt at bakke op om budskabet med deres underskrift. 

En af de ting, som forskerne frygter, at de selvtænkende robotkrigere kan føre med sig, er for det første mere krig i verden. De skriver, at når robotterne selv kan udføre krig på menneskers vegne, så vil konsekvenserne ved at gå i krig også være mindre for et land - og det kan potentielt skabe mere krig i verden. Specielt, når teknologien bliver billig, hvilket den ifølge forskerne også vil blive hurtigt.

»Hvis en større militærmagt først begynder på udviklingen af autonome våben, så vil et globalt våbenræs være nærmest uundgåeligt, og resultatet af denne teknologiske sti er åbenlys: Autonome våben vil blive fremtidens kalashnikovs,« skriver gruppen i brevet - som du kan læse i fuld længde her, samt se navnene på de mange opbakkende forskere.

Stil spørgsmål om kunstig intelligens til Stephen Hawking

Forskerne bag brevet vil også forbyde de autonome våben, fordi de kan kaste et dårligt lys over forskning i kunstig intelligens, som de også mener kan bringe mange positive fremskridt med sig.

Hvilke fremskridt der er tale om, har du mulighed for selv at spørge en af mest kendte forskere bag brevet om. For netop i denne uge har Stephen Hawking inviteret alle til at stille ham spørgsmål om mulighederne inden for kunstig intelligens på internetforummet Reddit.

Spørgsmålene vælter allerede ind, og de spænder over dystre, etiske dilemmaer, som eksempelvis robotter i krig, men også mere fredelige spørgsmål, som »Vil vi komme til at arbejde mindre i fremtiden, når robotter lærer at udføre flere og flere jobs?« eller »Kan en robot nogensinde opnå ægte bevidsthed?«

Hvis du har nogle tanker om Stephen Hawkings advarsler om krig og kunstig intelligens, eller blot vil spørge ind til noget mere fredsommeligt, er han til rådighed på Reddits tråd ved navn AMA (Ask Me Anything), som vil køre ugen ud.

Lyt på Videnskab.dk!

Hver uge laver vi digital radio, der udkommer i form af en podcast, hvor vi går i dybden med aktuelle emner fra forskningens verden. Du kan lytte til den nyeste podcast i afspilleren herunder eller via en podcast-app på din smartphone.

Har du en iPhone eller iPad, kan du finde vores podcasts i iTunes og afspille dem i Apples podcast app. Bruger du Android, kan du med fordel bruge SoundClouds app.
Du kan se alle vores podcast-artikler her eller se hele playlisten på SoundCloud