Året er 2032. Jeg har lige bedt min husholdningsrobot om at lave en sandwich til mig. Den går mod køkkenet, som den ville gøre enhver anden dag, men denne gang er noget anderledes, end det plejer at være.
I stedet for sin sædvanlige effektive adfærd, beder den om pauser og »mig-tid«. Ifølge en notifikation om dens seneste opdatering har min robot opnået bevidsthed.
Selvfølgelig er dette scenarie absurd, og ingen forskere mener for alvor, at AI har bevidsthed i dag. Vi vil ikke uden videre kunne downloade bevidsthed til vores maskiner. Hvis kunstig bevidsthed opstår, vil det sandsynligvis ske gradvist og uventet – hvis det overhovedet sker.
Den nuværende debat handler i stedet for om, hvorvidt vi forventer, at det nogensinde vil ske.
Jeg er en af de forskere, der er skeptiske over for muligheden for maskinbevidsthed, men jeg er stadig dybt fascineret af emnet. I denne artikel forklarer jeg, hvorfor spørgsmålet deler vandene.
Hvordan kunne det være muligt?
Argumentet for AI-bevidsthed starter med en simpel kendsgerning: Vi ved overraskende lidt om, hvordan kunstig intelligens som ChatGPT faktisk fungerer.
Selvom mennesker har designet disse programmer, er det ofte et mysterium, hvad der sker inde i dem, på grund af deres interne kompleksitet. Det svarer til at bygge en kæmpe labyrint med hundredvis af indgange og udgange og sende en mus igennem.
Vi kan se, hvor musen kommer ud, men ikke hvilken vej den tog i labyrinten. Da vi ikke ved det, kan vi heller ikke udelukke mulige veje, og hvad der egentlig skete undervejs.
På samme måde kan vi heller ikke udelukke muligheden for bevidsthed i AI, hvis vi ikke fuldt ud forstår, hvordan teknologien fungerer – uanset hvor usandsynligt det måtte være.
Flere teoretiske argumenter taler for AI-bevidsthed. To af de mest grundlæggende idéer kaldes »substrat-uafhængighed« og »beregningsmæssig funktionalisme«.
Den første er ideen om, at bevidsthed kunne opstå i ethvert materiale eller substrat – hvad enten det er i en biologisk hjerne eller en computer.
Ligesom et videospil kan fungere på forskellige konsoller, eller at både hunde og mennesker kan lugte ting, selvom deres hjerner er meget forskellige, kunne bevidsthed måske også fungere i forskellig ‘hardware’.
Den anden idé går ud på, at alt, der sker i hjernen, kan beskrives som en beregning og dermed også kan modelleres af en computer. Denne idé blev bestyrket, da AI begyndte at være lige så god til at føre samtaler som mennesker. Hvis den kan mestre sprog, hvorfor så ikke også bevidsthed?
\ Serie: Er AI vores ven, fjende eller både-og?
Hvad gør kunstig intelligens ved vores samfund? AI bliver brugt i mobiltelefoner, ChatGPT, selvkørende biler, røntgenundersøgelser og meget, meget mere.
Men tager AI vores arbejde, eller kan AI hjælpe os til et bedre samfund? Skal vi være fascinerede, begejstrede eller nervøse? Hvilke dilemmaer følger med udbredelsen af AI?
De næste uger og måneder angriber en række forskere AI fra hver deres forskningsfelt her på Videnskab.dk’s ‘Forskerne formidler’.
Fra hjerner til computere
Nogle opdagelser inden for neurovidenskab kan også hjælpe os i jagten på AI-bevidsthed.
For eksempel har forskere fundet tegn på, at bevidsthed potentielt kan være forbundet med den aktivitet i den forreste del af hjernen, som også kaldes den præfrontale hjernebark – både hos mennesker og dyr.
Andre har fundet tegn på, at bevidsthed involverer samarbejde mellem forskellige hjerneområder, især i pandelappen og isselappen samt thalamus, der er et center i midten af hjernen, hvor sanseindtryk behandles.
Naturligvis er det stadig kun hypoteser, og de er stærkt omdiskuterede. Men det giver nogle håb om, at hvis vi kunne finde noget, der minder om de forbindelser i AI-systemer, kunne vi måske også finde bevidsthed dér.
Selvom det virker usandsynligt, at der skulle opstå bevidsthed i kunstig intelligens, er det stadig værd at overveje. For så er der en risiko for, at vi skaber et system, der kan føle smerte, uden at vi aner det.
Eller endnu værre; et system, der udtænker (farlige) planer, uden at vi forstår det. Historisk set er mennesker mislykkedes med at anerkende bevidsthed hos andre væsener – fra delfiner til hunde og endda andre mennesker.
Hvorfor er det ikke muligt?
På den anden side argumenterer nogle forskere for, at et computersystem, der kører på 0'er og 1-taller, simpelthen ikke kan have ægte oplevelser som eksempelvis syn, smag eller smerte.
Der er med andre ord ikke nogen hjemme i maskinen.
Disse forskere afviser både ‘substrat-uafhængighed’ og ‘beregningsmæssig funktionalisme’ og hævder, at selvom maskiner kan se ud til at gøre det samme som mennesker, sker det på en fundamentalt anderledes måde.
Ligesom et videospil ser ud til at kunne køre på alle konsoller, men faktisk skal tilpasses specifikt til hver enkelt konsol for at fungere korrekt.
Nogle mener, at der er noget særligt ved biologisk materiale, som vi endnu ikke har opdaget – noget, der simpelthen ikke kan genskabes i computere.
For eksempel mener nogle forskere, at bevidsthed kunne opstå på kvanteniveau, hvilket vi endnu ikke kan efterligne i computere.
Andre mener, at selve begrebet ‘bevidsthed’ er problematisk. De hævder, at bevidsthed i sig selv er en illusion og derfor umulig at genskabe.
Hvordan tester man for bevidsthed?
Men selv hvis bevidsthed findes (hvilket langt de fleste forskere mener) og kan modelleres af en computer, ville det være ekstremt svært at teste. Der er to overordnede tilgange: teoretiske test og adfærdstest.
Ved teoretiske test bruger man teorier om menneskelig bevidsthed og holder dem op mod det, man ved om AI. Men disse test er upålidelige, fordi bevidsthed defineres vidt forskelligt af diverse forskere.
Under nogle kriterier ville AI allerede være bevidst, mens det under andre aldrig ville komme i nærheden af det.
Ved adfærdstest leder man efter adfærd, der typisk forbindes med bevidste væsener. Men de er heller ikke perfekte, fordi AI-systemer trænes specifikt til at opføre sig menneskeligt.
Når en AI siger, at den har følelser eller kan føle smerte, gentager den måske blot noget, den har set i sin træningsdata eller er blevet bedt om at sige.
Et perfekt eksempel på, hvor let vi bliver snydt, er den såkaldte ELIZA-effekt. I 1960’erne blev der lavet et meget simpelt program, der blot gentog, hvad folk sagde som spørgsmål.
Hvis nogen sagde »jeg føler mig trist«, ville programmet spørge: »Hvorfor føler du dig trist?«. Folk troede, at programmet virkelig forstod dem, selvom det blot lavede simple omrokeringer af ord.
Det viser, at vi kan begå fejl, når vi forsøger at få øje på bevidsthed.
Vi har haft svært ved at genkende bevidsthed i komplekse levende væsener, og samtidig har vi været alt for hurtige til at tilskrive bevidsthed til simple maskiner.
Vil AI nogensinde blive bevidst?
Meget af begejstringen for maskinbevidsthed ser ud til at stamme fra vores kærlighed til science fiction og ny teknologi.
Det er en fascinerende idé, folk længe har fantaseret om. Interessant nok er det primært mænd – især i tech-verdenen – der fremfører denne idé.
AI-forskeren Kate Crawford har foreslået, at det kan skyldes en fascination af at skabe liv og overvinde fysiologiske begrænsninger. Den tyske psykoanalytiker Karen Horney beskrev allerede dette fænomen som »livmoder-misundelse«.
Imidlertid er der mange, der undrer sig over, hvorfor maskiner overhovedet skulle udvikle bevidsthed.
I naturen er der en klar grund til, at vi har bevidste oplevelser. Smerte holder os væk fra fare, og nydelse trækker os mod det, der kræves for at overleve.
Men AI udvikler sig ikke som levende væsener. De er bygget af mennesker til at udføre specifikke opgaver: spille skak, konversere, opdage proteinstrukturer og så videre. De behøver ikke at føle noget for at udføre deres arbejde.
Alligevel mener jeg, at vi altid skal passe på med at gøre nogen fortræd, der muligvis kan føle smerte, uanset om det er et menneske, et dyr eller en maskine.
Hvis min fremtidige robot beder om en pause, inden den laver min sandwich, får den selvfølgelig det. Vi har alle brug for hvile. Men indtil videre er det ren science fiction.
Indtil videre er AI bare et avanceret, men begrænset værktøj. Om det nogensinde vil udvikle følelser, er måske umuligt at udforske på en meningsfuld måde lige nu.
