Stephen Hawking på Reddit: »Kunstig intelligens vil have en naturlig trang til at overleve«
Stephen Hawking mener, at kunstig intelligens enten kan blive det bedste - eller det værste - der er sket for menneskeheden. Den verdenskendte professor har svaret på en række spørgsmål om kunstig intelligens fra brugerne på internetforummet Reddit.

Stephen Hawking var professor i matematik ved Cambridge indtil 2009, men han har primært arbejdet med teoretisk fysik i sin forskning og er blandt andet kendt for sin kosmologiske teori, der binder relativitetsteorien og kvantemekanikken sammen. Han er dog også kendt for sine holdninger til kunstig intelligens. (Foto: Wikimedia Commons)

I sommer skrev den berømte professor i matematik og teoretisk fysik Stephen Hawking et åbent brev, hvor han advarede verdens ledere om, at kunstig intelligens ikke bør misbruges til at udvikle militære våben, der tænker selv.

Kort tid efter var det muligt at stille ham alverdens spørgsmål om kunstig intelligens på det verdenskendte internetforum Reddit. Spørgsmålene væltede ind, og nu er svarene her endelig.

Læs for eksempel hans svar på, om intelligente robotter kan være onde, hvordan vi undgår, at de modarbejder os, og om hvorvidt robotterne vil føre til arbejdsløshed eller rigere samfund.

LÆS OGSÅ: Stephen Hawking og 1.000 andre forskere vil forbyde intelligente krigsrobotter

Overdriver medierne det farlige ved kunstig intelligens?

Et af de spørgsmål, der går igen, er spørgsmålet om, hvorvidt kunstigt intelligente maskiner kan være onde.

En lærer skriver, at han tit bliver mødt af denne opfattelse fra sine elever, men er der noget om det, eller overdriver medierne? Brugeren 'Thisisjustsomewords' skriver:

»Når jeg underviser om kunstig intelligens, så ender min klasse og jeg altid med at have den snak, jeg kalder for 'Terminator-snakken'. Her forklarer jeg mine elever, at medierne overdriver, og at kunstig intelligens ikke kan være ond, men blot prøver at optimere en funktion, som vi mennesker selv har skrevet og designet. Er jeg naiv, eller hvordan ville du præsentere din egen overbevisning over for min klasse?«

Ifølge Stephen Hawking er medierne ofte misvisende i forhold til, hvad truslen ved kunstig intelligens er. Robotter er nemlig ikke onde, de er bare kompetente.

»Du har ret, medierne er ofte vildledende i forhold til, hvad man rent faktisk frygter ved kunstig intelligens. Risikoen ved AI (kunstig intelligens red.) er ikke ondskab, men kompentence. En superintelligent AI vil være ekstremt god til at opnå dens mål, og hvis disse mål ikke er de samme som vores, så får vi problemer. Du er nok ikke en ondskabsfuld myrehader, der træder på dem ud fra onde intentioner, men hvis du leder et grønt energiprojekt, og en myretue bliver oversvømmet, så er det bare ærgerligt for myrerne. Lad os ikke lade os mennesker være den myretue. Derfor bør du ikke bare opmuntre dine elever til at lære, hvordan man udvikler AI, men også hvordan man kan bruge den fordelagtigt,« skriver Stephen Hawking.

Er vi tæt på at have robotter med bevidsthed?

En anden bruger undrer sig over advarslen om kunstig intelligens nu. Brugeren 'fat-chunk' mener nemlig ikke, at vi overhovedet er i nærheden af at kunne udvikle robotter med en bevidsthed.

»Idéen om et bevidst eller rent faktisk intelligent system, som kan udgøre en eksistentiel trussel mod mennesker, virker meget fremmed for mig, og det virker ikke som noget, vi er i nærheden af at udvikle fra hverken et neurologisk eller datalogisk standpunkt. Så det jeg ville spørge om var, i din besked taler du så om en nutidig udvikling, eller et gennembrud vi er tæt på, eller prøver du at fortælle os, at vi bør forberede os tidligt på noget, som uundgåeligt vil komme til at ske?«

Her lyder svaret fra Stephen Hawking:

»Det sidste. Der er ingen enighed blandt AI-forskere om, hvor lang tid det vil tage at bygge AI på menneske-niveau, så du skal endelig ikke stole på nogen, der skråsikkert påstår, at det vil ske eller ikke vil ske i din levetid. Men når det engang sker, så bliver det sandsynligvis enten det bedste eller det værste, der nogensinde er hændt menneskeheden. Så der er enorm værdi i at gøre det rigtigt. Vi bør ændre vores mål om blot at skabe retningsløs kunstig intelligens til at udvikle fordelagtig intelligens. Det tager nok nogle årtier at finde ud af, hvordan vi gør det, så lad os begynde at forske i det i dag i stedet for at vente, til natten før den første AI-robot tændes,« svarer han.

Vil intelligente robotter overhovedet have interesse i at overtage noget?

En af de mest udbredte skrækscenarier i science fiction-film og litteratur er robotter, der overtager planetens ressourcer og gør mennesket til slaver.

Men en biolog på Reddit undrer sig over, hvorfor en kunstig intelligens overhovedet skulle have en lyst til at tilrane sig ressourcer og sørge for sin egen arts overlevelse, da det jo er en biologisk drift.

Han mener selv, at grunden til at biologiske arter konkurrerer på denne måde, er fordi, der er sket milliarder af års selektion af de individer, som formåede at skaffe flest ressourcer og dermed overleve. Men hvorfor skulle en AI have samme tilbøjeligheder? 'ChesterfieldChesterfield' skriver:

»Der er ingen grund til at tro, at AI-væsner vil være interesserede i at reproducere overhovedet. Hvad tror du, en AI ville være interesseret i at lave, og hvorfor er det nødvendigvis en trussel for menneskeheden, som opvejer fordelene ved at skabe denne slags velvillige 'Gud''«

Stephen Hawking svarer:

»Du har ret i, at vi bliver nødt til at undgå fristelsen ved at menneskeliggøre og gå ud fra, at AI vil have samme slags mål, som udviklede væsner har. En AI, der er blevet designet, frem for at have udviklet sig, kan have et hvilket som helst mål. Men som Steve Omohundro (amerikansk professor i matematik og fysik, der forsker i kunstig intelligens, red.) siger, så vil en ekstremt intelligent AI sandsynligvis udvikle en trang til overlevelse og anskaffe flere ressourcer som et skridt mod at opfylde sine mål, for overlevelse og ressourcer vil øge dens chancer for at opnå det mål, den har. Det kan skabe problemer for de mennesker, som får frataget sine ressourcer.«

Bliver alle mennesker arbejdsløse en dag?

Superintelligente maskiner vil sikkert kunne løse de fleste opgaver bedre end os mennesker, men er det en god eller en dårlig ting? Brugeren 'mixedmath' spørger, om vi alle vil blive arbejdsløse, eller om vi mennesker blot vil finde mere arbejde, der skal laves.

»Har du tænkt på muligheden for teknologisk arbejdsløshed, hvor vi udvikler automatiserede processer, som ultimativt skaber stor arbejdsløshed ved at udføre arbejde hurtigere og billigere, end mennesker er i stand til? Forudser du en verden, hvor mennesker arbejder mindre, fordi så meget arbejde er automatiseret?« skriver 'mixedmath'.

Og her lyder svaret fra Stephen Hawking:

»Hvis maskiner producerer alt, hvad vi har behov for, så vil resultatet være, at vi afhænger af måden, der bliver distribueret på. Alle kan leve et luksuriøst liv, hvis maskine-produceret rigdom bliver delt ud, eller også kan mennesker ende i forfærdelig fattigdom, hvis maskinernes ejermænd lykkes med lobbyarbejde imod uddeling af goderne. Indtil videre virker den sidste mulighed til at være mest på mode i verden, hvor teknologi driver en stigende ulighed,« svarer Stephen Hawking.

Hvis du selv har lyst til at deltage i debatten eller blot er nysgerrig, kan du se mange flere spørgsmål og svar på Reddit, hvor der også foregår en debat i kommentarsporene til Stephen Hawkings svar.