Bør vi frygte kunstig intelligens?
SCIENCE & COCKTAILS: Kunstig intelligens vil gøre os sundere, rigere og mere lykkelige. Men visse beslutninger bør ikke overlades til maskinerne. En førende professor i kunstig intelligens forklarer her, hvad han mener, vi bør og ikke bør bekymre os om.

En almindelig misforståelse om kunstig intelligens er, at maskiner vil få følelser, begær og tilmed bevidsthed. Det har de ikke, for det er ikke i deres kode, skriver Toby Walsh, der taler i København lørdag. Men hvad er det så, vi skal være bekymrede for? (Foto: Shutterstock)

Da jeg var barn, læste jeg så meget science fiction, at jeg begyndte at drømme om robotter og intelligente maskiner.

Historien kort
  • Maskiner med kunstig intelligens - kaldet AI-maskiner - vinder frem på slagmarkerne, i trafikken, fabrikkerne og et utal af andre steder.
  • Mange forskere forudser en nær fremtid, hvor bilerne kører af sig selv, og robotter udkæmper vores krige.
  • Hvilke dilemmaer står vi overfor? Hvad bør vi frygte? Hvilke forbehold skal vi tage?

Årsagen til, at science fiction er fuld af robotter og intelligente maskiner, er, at de er en del af vores fremtid. En fremtid, der venter lige om hjørnet.

Computerne er allerede bedre end mennesker til en lang række opgaver. 

IBM's Watson-computer overgår selv eksperterne i tests i almen viden. Der findes et program, der kan styre kampflyene og flyve soldaterne under luftkampe, og kunstig intelligens (AI), der kan læse billederne fra en mammografiscreening hurtigere og mere præcist end en læge. 

Der findes endda en robot, der kan slå dig i sten, saks, papir. 

Science fiction bliver science fakta, og det er ikke så overraskende, at mange mennesker er begyndt at frygte, hvor det vil ende.

Frygt er baseret på udbredte misforståelser

Den verdenskendte teoretiske fysiker Stephen Hawking udtalte i 2014 til BBC, at han frygter, at intelligente maskiner kan blive menneskehedens dødsdom.

»Udviklingen af sand kunstig intelligens kan betyde enden for den menneskelige race,« sagde han i interviewet med BBC. I samme artikel bakkede Space X-entreprenør Elon Musk ham op ved at udtale, at AI udgør den største eksistentielle trussel mod menneskeheden.

Men frygten er baseret på udbredte misforståelser, som mange mennesker deler om kunstig intelligens og den trussel, som den udgør.

Vi bør frygte autonome maskiner

Først og fremmest er det ikke kunstig intelligens, som vi bør frygte, men autonomi - at vi mister kontrollen, fordi vi ikke tøjler maskinerne, men giver dem plads i den virkelige verden.

AI kunstig intelligens dræberrobotter krigsførelse teknologisk arbejdsløshed frygt bekymring fremtiden AlphaGo menneskeheden Stephen Hawking algoritme diskriminering COMPAS

Fremtiden ifølge Mercedes Benz. Selvkørende biler kan reducere antallet af ulykker, hvoraf 95 procent kan tilskrives fejlvurderinger eller –handlinger hos føreren. (Foto: Mercedes Benz)

Det oplever vi allerede nu med de autonome, selvkørende biler. De er ikke særlig intelligente, men vi lader dem alligevel træffe beslutninger om liv og død på vores vegne.

Så problemet er faktisk dum kunstig intelligens og ikke klog kunstig intelligens. Inkompetence - ikke ondsindethed. 

Jo mere intelligente vi gør de autonome biler, desto mere sikre bliver de.

Økonomiske og sociale fordele

Vi har virkelig brug for selvkørende biler. I løbet af det kommende år vil 1 million mennesker dø i færdselsuheld verden over. 95 procent af ulykkerne kan tilskrives fejlvurderinger eller –handlinger hos føreren. 

En stor del af disse kan tilskrives distraktion og uopmærksomhed, så jo hurtigere, det ikke er et menneske, der har kontrol over bilen, desto hurtigere bliver vores veje mere sikre.

Der vil også være mange andre økonomiske og sociale fordele. Selvkørende biler vil åbne vores byer op. De leverer mobilitet til de unge, de ældre, de handicappede. 

De vil transformere alle transportøkonomiske aspekter fuldstændigt.

Kunstig intelligens har hverken længsler, ønsker eller bevidsthed

Endnu en misforståelse om kunstig intelligens er, at den har bevidsthed, længsler, ønsker og endda bevidsthed. Det passer ikke. Kunstig intelligens har ingen af delene.

Tidligere på året slog Googles kunstigt intelligente computer, AlphaGo, verdensmesteren i det 2.500 år gamle brætspil Go, Lee Sedol.

Go er anset som det mest komplekse klassiske spil, da der er et exceptionelt stort antal muligheder ved hvert træk. I skak er der typisk omkring 20 forskellige muligheder, i Go er der 200, og derfor var computerens sejr også en mærkedag for kunstig intelligens.

AI kunstig intelligens dræberrobotter krigsførelse teknologisk arbejdsløshed frygt bekymring fremtiden AlphaGo menneskeheden Stephen Hawking algoritme diskriminering COMPAS

Kampen mellem AlphaGo og Lee Sedol er ikke et tab for menneskeheden. Maskinen vandt ganske vist 4-1, men AlphaGo var nødt til at spille Go flere milliarder gange, før den lærte at spille så godt. (Foto: WikimediaCommons)

Der er ingen chance for, at AlphaGo vågner op en morgen og beslutter sig for at tjene kassen på online poke, nu da mennesket er så dårlig til Go.

AlphaGo kommer heller ikke til at overtage kloden; det er simpelthen ikke i dens kode. AlphaGo kommer aldrig til at spille andet end Go. Det ville kræve flere års anstrengelser, hvis bare computeren skulle lære at spille skak.

Ikke et tab for menneskeheden

Endnu en misforståelse om kampen mellem AlphaGo og Lee Sedol er, at tabet i spillet Go var et tab for menneskeheden. Maskinen vandt ganske vist 4-1, men AlphaGo var nødt til at spille Go flere milliarder gange, før den lærte at spille så godt.

Det ville et menneske aldrig kunne gøre. Selv hvis man startede lige efter fødslen, ville det kunne lade sig gøre at spille Go så mange gange i løbet af et liv.

Til gengæld tog det kun Lee Sedol tre spilleomgange at lære nok om AlphaGo, der spiller en ny variation af Go, til at vinde i fjerde omgang.

Mennesker lærer nemlig hurtigere end maskiner. Det er vi nødt til, for vi får ikke en chance til, hvis vi pludselig står ansigt til ansigt med en tiger.

Teknologisk arbejdsløshed er en bekymring

Så hvad bør vi egentlig bekymre os om i dag? Rigtig mange mennesker er bekymrede for teknologisk arbejdsløshed. 

Computerne vil ganske vist gøre det af med mange arbejdspladser, og automatiseringen af flere og flere jobs fortsætter. Men de vil også skabe nye jobs.

AI kunstig intelligens dræberrobotter krigsførelse teknologisk arbejdsløshed frygt bekymring fremtiden AlphaGo menneskeheden Stephen Hawking algoritme diskriminering COMPAS

I takt med at informationsteknologi bliver udviklet, vil automatiseringen af flere og flere jobs fortsætte. Vi ved ikke, om der vil opstå lige så mange jobs, som der forsvinder, eller hvordan vi skal efteruddanne og omskole folk til disse nye stillinger. (Foto: Shutterstock)

Vi ved ikke, om der vil opstå lige så mange jobs, som der forsvinder, eller hvordan vi skal efteruddanne og omskole folk til disse nye stillinger.

Så vi skal bekymre os om, hvordan vi justerer vores velfærdssystemer, skole, undervisning og vores finansielle systemer, så de kan holde trit med den udfordring, som den teknologiske arbejdsløshed udgør.

Computerprogrammer diskriminerer

Der er to problemer indenfor kunstig intelligens, som samfundet bør bekymre sig om i dag.

Det første er, at algoritmerne diskriminerer. Vi lader ukritisk algoritmerne træffe beslutninger, der er diskriminerende - enten med eller uden vores vidende.

Her følger et eksempel: Det amerikanske retssystem benytter en algoritme, COMPAS, der forudsiger sandsynligheden for, at kriminelle begår forseelser igen.

Algoritmen kan bruges til at beslutte, hvordan de meget begrænsede ressoucer allokeret til prøveløsladelser, skal bruges - ved at hjælpe folk med at holde sig på den rette side af loven og gøre samfundet mere sikkert og trygt. 

Bruger fejlbehæftet algoritme

Det forekommer som en god måde at benytte teknologien, men det er desværre ikke sådan, man bruger COMPAS i USA.

Science & cocktails

Science & Cocktails kombinerer videnskab og cocktails på Byens Lys, Christiania.

Forårsprogrammet, som du kan se her, byder på oplæg fra både danske og internationale forskere.

I løbet af marts, april og maj vil vi publicere artikler skrevet af en række af forskerne. 

Er du ikke i nærheden af København, så fortvivl ej. Ca. en uge efter hvert arrangement, lægger vi en video op af foredraget på de publicerede artikler. 

Næste event: Lørdag den 18. marts 2017, kl. 20.00, Byens Lys, Christiania, København

Toby Walsh om: 'Are all your worries about Artificial intelligence wrong?'

Algoritmen bliver brugt af dommere til at fastlægge kautionsbeløb, hvem der skal løslades mod kaution, og hvornår de kriminelle skal løslades. 

Men COMPAS har vist sig at diskriminere mod sorte amerikanere.

Algoritmen forudsiger urigtigt, at der er større risiko for, at sorte amerikanere igen begår kriminalitet, og den forudsiger ukorrekt, at der er mindre risiko for, at hvide amerikanere igen begår kriminalitet.

Så på grund af en fejl i den algoritme, der beslutter, om fanger i flere amerikanske delstater må gå fri, bliver sorte amerikanere med urette holdt fængslet.

Selv hvis vi kan rette fejlen og forbedre programmet, er der stadig et etisk dilemma. Bør vi overhovedet lade maskinerne bestemme, hvem der skal bag lås og slå?

At fratage et menneske friheden er en af de mest alvorlige beslutninger, man kan træffe i vores samfund. Jeg mener, at det er i menneskehedens interesse, at vi ikke overlader det til maskinerne.

'Dræberrobotter'

Det andet aspekt ad kunstig intelligens, samfundet bør bekymre sig om i dag, er udviklingen af autonome dødbringende våben eller 'dræberrobotter', som medierne har navngivet dem. 

Når man hører om 'dræberrobotter', tænker man uvilkårligt på Terminator-filmene, men det er en misforståelse. 

AI kunstig intelligens dræberrobotter krigsførelse teknologisk arbejdsløshed frygt bekymring fremtiden AlphaGo menneskeheden Stephen Hawking algoritme diskriminering COMPAS

De selvstyrende våben beskrives som »den tredje revolution inden for krigsførelse«, hvor krudt og atomvåben udgjorde de to første. (Illustration: Shutterstock)

Autonome dræberrobotter er robotter, der selv kan vurdere, hvem de skal dræbe på slagmarken. 

Det er en forholdsvis enkel teknologi, der er nået så langt, at selvstyrende dræberrobotter kan blive mulige inden for ganske få år.

Du har måske set billeder af droner, der flyver over Afghanistan og Irak. De er ikke autonome, men bliver i stedet fjernstyret af en soldat i Nevada, og det er stadig en menneskesoldat, der træffer beslutningen om affyringen af missilerne, der meget passende bliver kaldt Hellfire-missiler.

Men det er kun en lille udfordring at erstatte soldaten med en computer. Ifølge det britiske forsvarsministerium kan det allerede lade sig gøre i dag, og de har en prototype til rådighed, som beviser det.

Der findes ikke en slagmark for robotter

Intelligente våbensystemer betegnes som den tredje revolution inden for krigsførelse (krudt og atombomben er henholdvis den første og anden).

De intelligente våbensystemer vil ændre krigsførelsen fuldstændigt og både forøge hastigheden og effektiviteten, hvormed vi dræber hinanden.

Der følger mange misopfattelser i kølvandet på dræberrobotterne. Vi kommer ikke til kun at se robotter kæmpe mod robotter. Der er ikke et særligt sted i verden kaldet 'Slagmarken' med et skilt, der viser vej.

Men med de sofistikerede nye våben­systemer følger en lang række etiske dilemmaer, og vi kan endnu ikke bygge robotter, der kan kæmpe etisk.

Vi kan ikke bygge robotter, der er i stand til at skelne mellem civile kombattanter som påkrævet af den internationale humanitære folkeret.

Vi kan heller ikke bygge robotter, som er umulige for vores fjender at hacke sig ind i.

Åbent brev forlanger forbud

Det er faktisk en problemstilling, der bekymrer mig så meget, at jeg fik 1.000 af mine kollegaer til at underskrive et åbent brev til FN og forlange, at der nedlægges forbud mod det.

Dette brev er på nuværende tidspunkt blevet underskrevet af 20.000 personer - heriblandt Stephen Hawking og Elon Musk.

I august 2017 påbegynder FN formelle regeringsdiskussioner, der muligvis vil medføre et forbud. Du kan også hjælpe ved at lobbye politikerne i dit hjemland, så vi ser hurtige tiltag og forbud. Vi har nemlig ikke lang tid.

Der er ingen tvivl om, at fremtiden bliver fuld af intelligente maskiner. De kan hjælpe os alle med at blive sundere, rigere og mere lykkelige. 

Jeg taler som en person, der arbejder inden for feltet; vi skal sikre os, at vi ikke lader maskinerne træffe beslutninger, som kun mennesker bør træffe.

Oversat af Stephanie Lammers-Clark