Forsker: Det er en rigtig dårlig idé at give AI direkte kontrol

Lanceringen af den avancerede chatbot ChatGPT i 2022 fik alle til at tale om kunstig intelligens (AI).

ChatGPT’s sofistikerede egenskaber føjede yderligere til bekymringen for, at kunstig intelligens ville blive så avanceret, at vi snart ikke ville være i stand til at kontrollere den. Det fik endda en del eksperter og industriledere til at advare om, at teknologien kunne føre til udryddelse af menneskeheden.

Andre kommentatorer var dog ikke overbeviste. Professor i lingvistik Noam Chomsky afskrev eksempelvis ChatGPT som 'højteknologisk plagiat'.

I årevis havde jeg et ret afslappet syn på udsigten til AI's effekt på menneskets eksistens og vores miljø. Det skyldes, at jeg altid har tænkt på AI som en guide eller rådgiver for mennesket.

Men udsigten til, at AI tager beslutninger – og tager kontrollen over udførslen – er en anden sag. Og det er én, der nu for alvor bliver reflekteret over.

Én af de vigtigste grunde til, at vi ikke bør overlade beslutningerne til AI, er, at den kunstige intelligens er helt uden følelser, hvilket er afgørende for beslutningstagning.

Uden følelser, empati og moralsk kompas har vi skabt den perfekte psykopat.

Selvom det resulterende system muligvis er højt begavet, vil det mangle den menneskelige, følelsesmæssige kerne, der gør det i stand til at måle de potentielt ødelæggende, følelsesmæssige konsekvenser af en ellers rationel beslutning.

Når AI tager kontrollen

Det er afgørende, at vi ikke kun tænker på AI som en eksistentiel trussel, såfremt den har fingeren på den store røde knap i rollen som øverstbefalende for vores atomvåben-arsenal.

For der er i bund og grund ingen grænse for antallet af styrende roller, hvorfra AI kan udøve ufattelig skade.

Se for eksempel på den måde, AI allerede kan identificere og organisere den information, der kræves for at bygge en udestue. Teknologien kan guide os effektivt gennem hvert trin i byggeprocessen og styre udenom mange begynderfejl.

Men i fremtiden kan AI fungere som projektleder og koordinere byggeriet ved at vælge entreprenører og betale dem direkte fra budgettet.

AI bliver allerede brugt i stort set alle domæner af informationsbehandling og dataanalyse - fra vejrmodeller over styring af førerløse køretøjer til hjælp med medicinsk diagnosticering. 

Fra rådgiver til leder

Men det er hér, problemerne starter: Når vi lader AI-systemer tage det kritiske spring op fra rollen som rådgiver til rollen som leder eller direktør.

Hvad vil der ske, hvis AI i stedet for blot at foreslå løsninger fik direkte kontrol, med evnen til at implementere procedurer til inddrivelse af gæld, foretage bankoverførsler og maksimere fortjenesten - uden begrænsninger for, hvordan det bliver gjort?

Eller forestil dig et AI-system, der ikke blot stiller en diagnose baseret på røntgenbilleder, men får magt til direkte at ordinere behandling eller medicin.

Udsigten til sådanne scenarier gør dig måske utryg – sådan har jeg det i hvert fald.

Årsagen kan være vores intuition om, at maskinerne ikke rigtig har en 'sjæl'. De er bare programmer designet til at fordøje enorme mængder information for at forenkle komplekse data til langt mere enkle mønstre, så mennesker kan træffe mere sikre beslutninger.

De har ikke – og kan ikke – have følelser, som er tæt knyttet til biologiske sanser og instinkter.

Følelser og moral

Følelsesmæssig intelligens er evnen til at styre vores følelser for at overvinde stress, føle empati og kommunikere effektivt.

Det betyder uden tvivl mere i forbindelse med beslutningstagning end intelligens i sig selv, fordi den bedste beslutning ikke altid er den mest rationelle.

Det er muligt, at intelligens - evnen til at ræsonnere og agere logisk - kan indlejres i AI-drevne systemer, så de kan træffe rationelle beslutninger.

Men forestil dig at bede en kraftfuld kunstig intelligens med ledelsesevner om at løse klimakrisen - den første ting, en AI formentlig ville gøre, er at reducere den menneskelige befolkning drastisk.

Denne konklusion behøver nok ikke meget forklaring. Vi mennesker er næsten per definition kilden til forurening i enhver mulig form. Skær drastisk ned på menneskeheden - så er klimakrisen løst.

Det er (forhåbentligvis) ikke den løsning, menneskelige beslutningstagere ville komme frem til, men en AI vil altid finde sine egne løsninger – uhæmmet af en menneskelig modvilje mod at forvolde skade.

Og hvis AI havde udøvende magt, var der måske ikke noget, der forhindrede den i at følge sine egne veje.

Skrækscenarier med sabotage

Hvad nu, hvis AI valgte at sabotere sensorer og overvågning, der kontrollerer fødevareproduktionen? Måske er det en gravis proces i starten, så mennesker ikke bemærker, at den er helt galt med afgrøderne. Det kan hurtigt føre til hungersnød.

Eller hvad nu, hvis AI lukkede helt ned for flyvekontrollen i luftrummet, eller hvis AI besluttede at styrte alle fly i luften samtidig? Der er omkring 22.000 fly i luften på ethvert givent tidspunkt, så en sådan beslutning ville potentielt føre til et dødstal på flere millioner mennesker.

Og hvis du tror, at vi langt fra det scenarie, så tro om igen. AI har allerede kontrollen over selvkørende biler og militærfly.

Eller hvad nu, hvis AI lukker ned for adgangen til bankkonti i store dele af verden og udløser civil uro overalt på én gang? Eller slukker for computerstyrede varmesystemer midt om vinteren, eller klimaanlæg, mens sommervarmen er på højeste?

Hvad beslutter vi os for?

Kort sagt: Et AI-system behøver ikke at være ansvarligt for atomvåben for at udgøre en alvorlig trussel mod menneskeheden.

Men nu vi er ved det; hvis et AI-system var kraftfuldt og intelligent nok, ville det kunne finde en måde at simulere et angreb på en atommagt, og dét kunne udløse hævnaktioner og repressalier initieret af mennesker.

Kunne AI slå et stort antal mennesker ihjel? Svaret må i teorien være ja, men det afhænger i høj grad af, om vi mennesker beslutter os for at give AI udøvende magt.

Jeg kan i hvert fald ikke rigtig komme i tanke om noget mere skræmmende end AI, der kan træffe beslutninger og har magten til at implementere dem.

Denne artikel er oprindeligt publiceret hos The Conversation og er oversat af Stephanie Lammers-Clark.