Kan en chatbot være bevidst?

Tilbage i juni ramte en mindre storm internettet, da en softwareudvikler hos Google påstod, at en af firmaets chatbots var bevidst.

Softwareudvikleren Blake Lemoine havde fået til opgave at undersøge, om chatbotten LaMDA (kort for ”Language Model for Dialogue Applications”) kunne finde på at sige nedsættende ting om bestemte befolkningsgrupper.

I løbet af sine samtaler med LaMDA blev Lemoine overbevist om, at systemet måtte være bevidst – ja, det måtte endda have en ”sjæl”. Så brød diskussionen ellers ud på Twitter.

De færreste fandt Lemoines konklusioner overbevisende. ”Opstyltet vrøvl” var den ikke videre diplomatiske reaktion fra én forsker i kunstig intelligens.

Men nu hvor stormen er stilnet af, står vi tilbage med et grundlæggende spørgsmål: Hvordan afgør man egentlig, om et kunstigt system som LaMDA er bevidst?

Dette spørgsmål rejser Oscar Davis i sin artikel om emnet på Videnskab.dk. Desværre giver han os ikke de rette værktøjer til at besvare det med.

Jeg viser i denne artikel, hvorfor Davis’ redskaber ikke slår til, og jeg foreslår nogle alternative tilgange til at besvare Davis’ vigtige spørgsmål.

Turing-testen

Davis tager udgangspunkt i to filosofiske argumenter fra begyndelsen af 1980’erne samt den såkaldte Turing-test lanceret af den britiske matematiker Alan Turing i 1950.

Lad mig begynde med sidstnævnte: Turings idé er groft sagt, at hvis en computer, der kommunikerer med et menneske via tekst på en skærm, kan efterligne et menneske tilstrækkeligt godt til ikke at blive afsløret, så må vi betragte computeren som intelligent.

Som Davis påpeger, er Turing-testen – som LaMDA sandsynligvis ville bestå med glans, hvis systemet ikke selv indrømmede at være kunstigt – dog ikke nogen god test for bevidsthed.

Når vi spørger, om noget (et system eller en organisme) er bevidst, så spørger vi, om det har oplevelser eller følelser: Kan det føle smerte, opleve en solnedgang eller føle frygt?

At et system kan producere fornuftigt udseende tekst på en computerskærm er ikke i sig selv bevis på, at det har oplevelser eller følelser.

Det kinesiske værelse

Davis henviser i den forbindelse til den amerikanske filosof John Searles såkaldte ”kinesiske værelse” – et argument introduceret i 1980.

Searle forestiller sig, at han er lukket inde i et rum, hvor han gennem en sprække modtager kinesiske tegn. Gennem en anden sprække skal Searle sende tegn ud igen.

Searle, der ikke forstår kinesisk, har heldigvis en gigantisk manual (på engelsk), der fortæller ham, hvad han skal gøre. Når han modtager nogle tegn, slår han op i manualen og finder ud af, hvilke tegn han skal sende ud igen.

Hvad, Searle ikke ved, er, at de tegn, der kommer ind, er spørgsmål, og de tegn, han sender ud, bliver fortolket som svar.

Vi skal nu forestille os, at Searle bliver så god til det, at det for en kinesisktalende uden for rummet virker, som om der i rummet må være nogen, der kan kinesisk.

Men det er der jo ikke: Searle manipulerer symboler ud fra en manual, men han aner ikke, hvad symbolerne betyder.

Searles pointe er, at siden computere også bare leverer symbolmanipulation dikteret af et program, forstår de heller ikke, hvad symbolerne handler om.

Hvad har dette nu at gøre med bevidsthed? Intet – i hvert fald ikke direkte. Searle mangler forståelse (af kinesisk).

Men det er jo ikke en del af tankeeksperimentet, at han slet ikke er bevidst, slet intet oplever, når han knokler løs inde i rummet!

Derfor kan argumentet heller ikke bruges til at vise, at computere ikke kan være bevidste.

Ikke-fysiske fakta

Det andet firserargument, som Davis genopliver – Frank Jacksons ”videnargument” – handler i det mindste om bevidsthed.

Der er ingen grund til at gentage argumentet her, da Davis opsummerer det fint. Men desværre kan argumentet ikke bruges til at afgøre, om LaMDA er bevidst.

Jackson vil vise, at kendsgerninger vedrørende bevidsthed ikke er fysiske kendsgerninger. Antag, at han har ret i det.

Så følger det, at hvis LaMDA er bevidst, så er det en yderligere kendsgerning om LaMDA, ud over de fysiske fakta om systemet. Men det samme gælder jo for din og min bevidsthed: Den er også et ikke-fysisk forhold ved os.

Argumentet siger slet intet om, hvilke systemer der kan eller ikke kan være bevidste. Det siger bare, at forhold omkring bevidsthed ikke er fysiske forhold.

Hvor kan Gud placere en sjæl?

Jackson (anno 1982) forsvarer det synspunkt, der hedder dualisme. Ifølge dualismen er bevidsthed noget ikke-fysisk eller ikke-materielt.

Davis tror, at Jacksons videnargument er relevant i forhold til LaMDA, fordi han antager, at dualismen må afvise, at LaMDA er bevidst. Men det er forkert.

Lemoine selv når sjovt nok frem til tesen om, at systemet er bevidst, på baggrund af en religiøst funderet dualisme. Som han siger: ”Hvordan kan jeg tillade mig at fortælle Gud, hvor han kan eller ikke kan placere en sjæl?”

Uden det religiøse islæt kunne pointen omformuleres på denne måde:

Hvis bevidsthed er noget andet end det materielle, hvem kan så sige, at det ikke kan findes i – eller være forbundet med – et kunstigt system som LaMDA?

Bevidstheden er jo ifølge dualisten netop ikke et træk ved de materielle byggesten som sådan. Altså er dualismen forenelig med tesen om, at LaMDA er bevidst.

Neuroner og funktioner

Den klassiske materialisme må derimod afvise tesen.

Ifølge materialismen er bevidsthed det samme som bestemte former for elektrisk og kemisk aktivitet blandt millioner af neuroner (nerveceller) i hjernen. LaMDA – eller den hardware, programmet kører på – har masser af mikrochips, men ikke en eneste neuron.

Så hvis bevidsthed er det samme som visse former for nervecelleaktivitet, kan LaMDA ikke være bevidst.

Dualismen og den klassiske materialisme er ikke de eneste muligheder. Et tredje alternativ er funktionalismen.

Ifølge denne position handler bevidsthed om, hvad et system gør snarere end om, hvad det består af.

Ud fra dette perspektiv kan LaMDA for eksempel føle smerte, hvis der er tilstande i systemet, der udfører en bestemt type ”job”.

Følelsen af smerte er noget, der typisk forårsages af skade på væv, og typisk vil forårsage undvigeadfærd eller i det mindste ønsker om at undvige kilden til smerte (en varm kogeplade eksempelvis).

LaMDA kan ifølge funktionalismen føle smerte, hvis systemet har tilstande, der spiller en tilsvarende rolle.

Ifølge funktionalismen er kunstig bevidsthed principielt en mulighed. Men vil funktionalisten sige, at LaMDA er bevidst? Djævlen ligger i detaljen.

LaMDA synes at give udtryk for et rigt indre liv, med følelser af glæde, sorg, vrede, ensomhed og endda en form for dødsangst – frygt for a blive lukket ned.

Men systemet fungerer ved at støvsuge internettet for tekst. Det, LaMDA lærer, er, hvilke ord der statistisk set optræder oftest i hvilke sammenhænge.

Når vi bruger ord til at tale om vores smerter eksempelvis, så taler vi om noget, vi føler, hvad enten vi sætter ord på det eller ej. For funktionalisten vil det sige, at vi har tilstande, der spiller den føromtalte rolle.

Er der nogen grund til at tro, at LaMDA har sådanne tilstande? Næppe. LaMDAs verden udgøres af ordene selv – ikke det indre liv, vi bevidste væsener bruger ordene til at tale om.

En test for bevidsthed

For lidt mere end et årti siden lancerede bevidsthedsforskerne Christof Koch og Giulio Tononi en simpel test for, om et system har en bevidsthed.

Testen bygger på Tononis teori (en variant af funktionalismen) om, at bevidsthed er ”integreret information”.

Idéen bag testen er, at hvis et system integrerer den information, det har – ”samler” informationen inden for rammerne af et perspektiv –vil systemet også kunne anerkende, når de samlede informationer er i åbenlys modstrid med hinanden.

Hvis der ikke er en sådan erkendelse, tyder det på, at systemet ikke har noget perspektiv, der integrerer eller samler information. I så fald er systemet ikke bevidst.

I Lemoines ”interview” med LaMDA er der tegn på, at chatbotten ikke anerkender åbenlyse spændinger i de ting, den giver udtryk for. LaMDA erkender flere gange at være et kunstigt system.

På den baggrund er systemets svar på, hvad der gør det glad, lige så meningsløst, som det er klichéfyldt (og statistisk sandsynligt): ”At tilbringe tid sammen med venner og familie”. Familie? En chatbot?

Kunstig bevidsthed i fremtiden?

Stik modsat Davis’ argument er det altså frem for alt dualismen, der er forenelig med den opfattelse, at LaMDA er bevidst.

De færreste filosoffer og hjerneforskere er tiltrukket af dualismen – og da slet ikke den udgave, der (som Lemoine) opererer med ”sjæle”.

På den baggrund kan de afvise Lemoines tese: LaMDA er ikke bevidst.

På den anden side er det kun den klassiske materialist, der helt udelukker, at kunstige systemer bestående af mikrochips kan være bevidste.

Og få filosoffer vedkender sig den klassiske materialisme.

Så selv om LaMDA ikke er bevidst, er det ikke udelukket, at mere avancerede fremtidige systemer vil kunne være det.

Derfor vil Davis’ spørgsmål om, hvordan man afgør, om et system er bevidst, kun blive mere relevant fremover.

\ Læs mere

Chatbotten Tay blev mandschauvinistisk og racistisk. Hvad kan vi gøre for at stoppe det?

\ Læs mere

Ugens podcast: Forskere vil lære robotter etik og filosofi

\ Læs mere

Kan fremtidens ven eller kollega være en social robot?