Forskere skabte en landsby af chatbots og lod dem mime ‘menneskelig adfærd’

»Min hverdag begynder typisk med, at jeg vågner kl. 7:00 og forbereder mig til den kommende dag. Så går jeg som regel på biblioteket for at arbejde på min forskning, holder frokostpause på Hobbs Cafe og går en tur i parken. Om aftenen vender jeg ofte tilbage til biblioteket, hvor jeg er indtil omkring kl. 18:00.«

Sådan beskriver Klaus Mueller - en 20-årig studerende i sociologi på Oak Hill College - sin hverdag i et interview foretaget af forskere fra Stanford University og Google Research, techfirmaets egen forskningsenhed.

I det store hele lader Klaus Muellers liv til at være ret ordinært. Måske endda kedeligt. Men en lille detalje gør hans hverdagsberetninger en del mere interessante:

Klaus Mueller er ikke et menneske. Han er en chatbot, der bygger på den efterhånden verdenskendte ChatGPT-sprogmodel. Hvis du tænker verdenskendt Chat-hvaffor-noget, kan du læse mere her.

Klaus Muellers liv foregår i den digitale landsby Smallville sammen med 24 andre chatbots, der alle er skabt af et forskerhold i kunstig intelligens fra Stanford University og Google - ifølge forskerne selv for at »muliggøre troværdige simuleringer af menneskelig adfærd«.

Daniel Hershcovich, der forsker i sprogteknologi og kunstig intelligens, har ikke været involveret i forskningen, men har læst den for Videnskab.dk. Han kalder det for et sjovt og imponerende eksperiment.

»Jeg har ikke før set, at man har lavet en verden, hvor sprogmodellerne har fået en krop og har en interaktion, der minder om menneskers,« siger AI-forskeren, der er adjunkt på Datalogisk Institut ved Københavns Universitet.

Eksperimentet er offentliggjort som et såkaldt preprint-studie - det vil sige, at det ikke har været igennem et videnskabeligt tidsskrifts kvalitetskontrol.

Spiser morgenmad og børster tænder

I andre studier er der eksperimenteret med at lade sprogmodeller - den teknologi, der findes under motorhjelmen i en chatbot - tale med hinanden:

»Men de taler ikke bare med hinanden her. De lever faktisk i de samme omgivelser, har en hverdag sammen, interagerer med hinanden og foretager sig mange andre ting end bare at generere tekst,« siger Daniel Hershcovich.

\ Læs også

Hvad er kunstig intelligens (AI) egentlig?

I Smallville ‘lever’ de 25 chatbots liv, der minder om menneskers. De vågner, laver morgenmad, børster tænder og tager på arbejde; de danner sig meninger, lægger mærke til hinanden og indleder samtaler; de husker og reflekterer over de forgangne dage, mens de planlægger den næste dag.

De 25 chatbots har dog ikke selv bare fundet på et navn, en alder og en beskæftigelse og begyndt at danne bånd.

Forskerne indtastede hver karakters erhverv, deres forhold til andre karakterer og anden baggrundsinfo, hvorefter de startede simuleringen, som du kan se en demonstration af her.

Et overblik over den lille landsby Smallville (Screenshot: Generative Agents: Interactive Simulacra of Human Behavior)

Et indblik i botten John Lins dag. John vågner op omkring kl. 6 om morgenen og gennemfører sin morgenrutine: At børste tænder, tage et bad og spise morgenmad. Han mødes kort med sin kone, Mei, og søn, Eddy, inden han går ud for at begynde sin arbejdsdag. (Screenshot fra Generative Agents: Interactive Simulacra of Human Behavior)

Klaus Mueller (KM) og Maria Lopez (ML) i samtale på Hobbs Cafe, som ejes af Isabella Rodriguez. Maria Lopez er hemmeligt forelsket i Klaus Mueller. (Screenshot: Generative Agents: Interactive Simulacra of Human Behavior)

1 / 3

Inspireret af The Sims

Setuppet - eller arkitekturen, som forskerne bag studiet kalder det - er inspireret af computerspillet The Sims, der går ud på at simulere en tilværelse med sin ‘simmer’: At spise, sove, gå på arbejde, tjene penge og danne venskaber.

Kender man lidt til Sims-spilserien, der har været en mega-succes, siden det udkom for første gang i 2000, lyder eksperimentet med Klaus Mueller og de 24 andre chatbots måske ikke som en kæmpe revolution. Faktisk lyder det meget som det samme.

Grafikken fra det digitale dukkehus i studiet ligner tilmed noget fra et gammelt GameBoy-spil. Men forskernes arbejde »er meget forskelligt« fra det primitive computerspil, som det umiddelbart ligner, påpeger Daniel Hershcovich:

I et spil som The Sims er alt, hvad de computerstyrede karakterer gør og siger, skrevet og forudprogrammeret af skaberne bag. Så der er en helt klar begrænsning i, hvad simmerne i spillet kan sige og gøre. Også selvom de kan sige og gøre så mange forskellige ting, at det kan virke uforudsigeligt.

The Sims minder altså mere om et teaterstykke eller en film.

I eksperimentet hér er karaktererne kunstige intelligenser med den lille baggrundshistorie, som forskerne har givet dem. Karakterne finder selv på de ting, som de skal sige og gøre. Samtidig lærer de hele tiden af alt, hvad de gør. Det virker ikke bare uforudsigeligt. Det er uforudsigeligt.

Livet i den kunstige Smallville by minder altså mere om et improvisationsteater eller et reality-show som Paradise Hotel.

\ Læs også

Kan man lave AI med rigtige tanker og følelser?

Udvikler selvstændighed og personlighed

Ifølge Stanford- og Google-forskerne bag det Sims-inspirerede eksperiment er det særligt interessante, at Klaus Mueller og de andre 24 chatbots ser ud til at mestre tre ting:

1. At lagre alle deres oplevelser i et naturligt sprog og har altså fået en form for hukommelse, der bygger på deres egne erfaringer i den lille verden
2. At lægge disse erindringer sammen over tid til refleksioner på et højere niveau
3. At bruge disse erindringer og refleksioner til at planlægge en adfærd

Grafik, der beskriver, hvordan AI-karakterne (kaldet Generative Agents) fungerer. (Screenshot: Generative Agents: Interactive Simulacra of Human Behavior)

Et indblik i, hvordan oplevelses- og hukommelsensstrømmen (memory stream) i AI-karakterne fungerer, og hvordan den syntetiseres til et svar på et spørgsmål. (Screenshot: Generative Agents: Interactive Simulacra of Human Behavior)

Et eksempel på, hvordan Klaus Mueller observerer og 'reflekterer' over sin gøren og laden i Smallville-universet. (Screenshot: Generative Agents: Interactive Simulacra of Human Behavior)

1 / 3

Det lyder måske unødigt teknisk og ikke mega vildt, men det er en udvidelse af, hvad gængse sprogmodeller kan i dag, siger Daniel Hershcovich:

»Sprogmodeller i dag opererer på paragraf-niveau. De kan løse en vanskelig opgave for os og svare på vores spørgsmål. Men de opererer ikke over et længere vindue af tid, hvor de rent faktisk kan reflektere over, hvad de har sagt og kan planlægge ting. Det er faktisk en udfordring at lave sprogmodeller, der har et længere hukommelses-vindue,« siger Daniel Hershcovich.

Superchatbotten ChatGPT har eksempelvis en grænse for, hvor længe den kan huske tilbage i jeres chat-samtale, før den begynder at glemme ting fra samtalen igen.

\ Læs også

Kan en chatbot være bevidst?

I Smallville har Klaus Mueller og de andre bots fået lov at interagere med hinanden over flere dage. Derfor kan de lagre erfaringer og bruge disse erfaringer. Dermed har de også opbygget en vis selvstændighed:

»Man får fornemmelsen af, at de kunstige agenter har udviklet en personlighed og identitet, selvom det klart, at det jo bare er en model, der genererer tekst,« fortæller Daniel Hershcovich.

Valentinsfest-test

Som en slags guder eller Paradise Hotel-producenter har forskerne også blandet sig i livet i den lille computer-verden. De har blandt andet gennemført forskellige eksperimenter for at trykteste deres bots.

For eksempel har de bedt botten Isabella Rodriguez om at invitere sine med-bots til en valentinsfest på Hobbs Cafe, som hun ejer. Det har Isabella Rodriguez fået to dage til. Herfra har de ladet hende løse opgaven helt selv.

Hun inviterer venner og kunder og pynter med hjælp fra sin veninde Maria Lopez op på caféen dagen før festen. Fem - ud af 12 inviterede - gæster dukker op til festen, hvor de taler om stort og småt.

Ifølge forskerne bag studiet er valentinsfesten netop et eksempel på, hvor selvstændige deres chatbots er, og hvor gode de netop er til at huske, reflektere og planlægge:

»På trods af mange potentielle fejlpunkter - festplanlæggeren skal huske at fortælle andre agenter om festen, deltagerne skal huske invitationen, de, der husker, skal beslutte sig for at møde op og andre mulige fejl - lykkes det for agenterne i vores miljø at holde festen«.

»De spreder budskabet om festen, og en agent inviterer endda en anden agent på en date til festen. Alt sammen på baggrund af et enkelt brugergenereret forslag,« skriver forskerne i studiet.

En forsmag på Westworld

En chatbot, der holder en valentinsfest i en computersimulering, lyder ikke så farligt. Men kunstig intelligens, der kan reflektere, planlægge og agere med en vis selvstændighed, lyder straks værre.

En tidligere AI-forsker har på Twitter kaldt det lille eksperiment for en meget tidlig forsmag på sci-fi-dystopien Westworld, hvor grænsen mellem mennesker og robotter er udvisket.

Ikke mindst, hvis teknologien kobles til robotter i den virkelige verden, nævner eks-forskeren. Sjovt nok ser robot-virksomheden Boston Dynamics ud til at være lykkes med lige præcis dette:

Skal tages »ret alvorligt«

Spørger man Daniel Hershcovich skal man da også tage det ellers uskyldige eksperiment »ret alvorligt«.

»Her har de agenterne i et lukket eksperiment, og de lader dem ikke interagere med verden udenfor. Men hvis man først slipper dem fri i den virkelige verden, hvor de kan samtale med mennesker eller bestille ting fra en butik, så skal man tage det ret alvorligt, for så ved man reelt set ikke, hvad der kan ske, fordi de er så fleksible og uforudsigelige,« siger han.

Videnskab.dk har spurgt forskerne bag studiet, hvordan de forholder sig til skræmmebilledet om et virkelighedens-Westworld. De er ikke vendt tilbage på henvendelserne.

Forskerne bag studiet skriver dog selv, at deres arbejde »rejser vigtige etiske spørgsmål, som skal tages op«:

• En risiko er, at folk danner såkaldte parasociale relationer med karaktererne. Det er en relation, som vi danner med personer, vi ikke kender - eksempelvis kendte mennesker, influencere og altså kunstige intelligenser. Risikoen er, at vi kommer til at tilknytte menneskelige følelser til dem, som de naturligvis ikke kan gengælde.
• En anden risiko er, at teknologien - som al anden AI-teknologi - slet og ret kan misbruges til onsindet brug. Det kan være målrettet at skabe misinformation eller at snyde penge ud af folk.
• En tredje risiko er, at udviklere eller designere begynder at bruge AI’s for at teste deres produkter istedet for mennesker, fordi det er billigere og nemmere. Teknologien »bør aldrig erstatte ægte menneskelige input i undersøgelser og designprocesser,« skriver forskerne.

Er din nysgerrighed for det nye studie ikke mættet, kan du fortsætte med at dykke ned i det i videoen herunder:

\ Læs også

Kunstig intelligens kan måle folkestemningen: Nyttigt for firmaer og politikere, men kan det misbruges?

Kunstig intelligens: Bliver mennesker overflødige?

Westworld: Vi har fået sympati med robotterne, mener forsker