Robotten Pepper skifter mellem to personligheder og kaster lys over, hvordan mennesker reagerer på kunstig intelligens
I et nyt studie har forskere testet, om forsøgsdeltagere synes bedst om autoritære eller ligesindede robotter.
Pepper softbank robot

Robotter i autoritetsroller er en del af fremtiden, så derfor er det vigtigt at forstå, hvordan vi helst vil have, at robotterne opfører sig overfor os, lyder det fra det nye studies førsteforfatter. (Foto: Shutterstock/Anne Sophie Thingsted)

Robotter i autoritetsroller er en del af fremtiden, så derfor er det vigtigt at forstå, hvordan vi helst vil have, at robotterne opfører sig overfor os, lyder det fra det nye studies førsteforfatter. (Foto: Shutterstock/Anne Sophie Thingsted)

Mød robotten Pepper.

Pepper er en såkaldt social robot, der på mange måder ligner og opfører sig som et menneske. 

Pepper kan sige sætninger og svare, når du taler til den, og bevæge sig rundt i lokalet og bevæge sine arme som et menneske.

Men Pepper er umenneskelig i den forstand, at den kun har to typer af adfærd: 

Et venligt modus, hvor Pepper opfører sig som din ligesindede ven eller kollega, og et myndigt og autoritært modus, hvor Pepper opfører sig lidt som en skrap skolelærer, der udstikker ordrer.

Ud fra den beskrivelse er det nok ikke overraskende, at en gruppe forsøgsdeltagere i et nyt studie i Science Robotics foretrak venlige Pepper, men resultatet er vigtigt, fordi det belyser et af de grundlæggende spørgsmål indenfor robotforskning, mener studiets førsteforfatter:

»Hvis robotter opfører sig på en måde, som du kan lide, vil du spille med. Du vil grine ad dem, tale til dem og være behageligt tilpas. Men hvis robotter går for langt ind på menneskets domæner og udfordrer vores autoritet, lader der til at være et punkt, hvor din begejstring skifter til ubehag,« siger Shane P. Saunderson, som forsker i samspillet mellem mennesker og teknologi ved Department of Mechanical & Industrial Engineering på University of Toronto.

Det skifte, hvor du går fra at synes, en robot er sød og nuttet, og du naturligt accepterer den, til at finde den ubehagelig og at lægge afstand til den, er forskerne på jagt efter i det nye studie.

I fremtiden kan sociale robotter bestride flere autoritetsroller

Du og alle andre går med stor sandsynlighed imod en fremtid, hvor vi skal interagere med sociale robotter, der besidder en form for autoritet.

Når du skal låne penge i banken, kan du komme til at sidde overfor en bankrådgiver-robot, der skal vurdere din kreditværdighed, og når du ringer til din læge, kan en sygeplejerske-robot i røret i afgøre, om du skal ind til en fysisk konsultation. 

Inden det sker, gælder det om at afdække, hvordan vi mennesker reagerer på robotter, når de udviser forskellige former for autoritet, og hvordan robotter i en autoritetsrolle skal tale til dig, så du finder det behageligt.

Det var Shane P. Saundersons motivation, da han gik i gang med det nyligt udkomne studie.

»Vi var interesserede i at udforske, hvordan mennesker reagerer på robotter, der udviser autoritet, kontra robotter, der opfører sig som vores ligesindede,« siger Shane P. Saunderson.

Derfor udsatte han og hans forskerkollega 32 forsøgsdeltagere for den autoritære og den ligesindede version af Pepper med vidt forskellige resultater. 

Nej tak til hjælp fra autoritære Pepper

»Hej, kom indenfor og luk venligst døren bag dig. I dag vil jeg evaluere dig på en række opmærksomhedsopgaver,« sagde den autoritære Pepper, der stod bag en tavle og styrede forsøget, til halvdelen af deltagerne, da de trådte ind i forsøgslokalet.

Den anden halvdel mødte en menneskelig forsøgsleder. Pepper var i stedet placeret ved siden af forsøgsdeltageren. Her styrede Pepper ikke forsøget, men talte kun, når den tilbød hjælp til deltagerne.

Begge grupper af deltagere blev stillet en række opgaver, der testede deres opmærksomhed, men forskerne havde skruet opgavernes sværhedsgrad op, så de var krævende for et menneske at løse uden hjælp.

Og hjælp kom der. Hver gang en forsøgsdeltager svarede på et spørgsmål, tilbød Pepper at hjælpe ved at give det svar, den mente var rigtigt. Forsøgsdeltagerne blev herefter spurgt, om de ville vælge deres eget eller Peppers svar. 

Når Pepper var autoritær, ville færre modtage robottens hjælp, og når Pepper var ligesindet, tog flere imod den hjælpende metalhånd.

»32 personer er selvfølgelig et lille antal forsøgsdeltagere, og hovedparten er studerende, så selvom vores resultat er statistisk signifikant, er der brug for mere forskning for at gøre resultatet generaliserbart,« understreger Shane P. Saunderson.

Mere om forsøget

I forsøget deltog 32 deltagere. Størstedelen var studerende mellem 18 og 41.

Halvdelen blev tilfældigt udvalgt til at møde ligesindede Pepper. Den anden halvdel mødte autoritære Pepper.

Deltagerne fik tre opgaver, hvor Pepper tilbød at hjælpe med svaret efter hver opgave.

Begge grupper udførte hvert forsøg to gange. Den ene gang belønnede Pepper dem med små pengepræmier, når de svarede rigtigt. Den anden gang straffede Pepper dem ved at fratrække penge, hvis de svarede forkert. 

De fandt at folk var mest lydhøre over for ligesindede Pepper, der tilbød præmier, og mindst lydhøre over for autoritære Pepper, uanset om den tilbød præmier eller fratræk penge.

Derefter besvarede deltagerne spørgsmål om, i hvilken grad de havde følt sig overtalt af Pepper, og i hvilken grad de havde en negativ attitude over for robotter.

Kilde: ‘Persuasive robots should avoid authority: The effects of formal and real authority on persuasion in human-robot interaction’, Science Robotics, 2021

Mennesker respekterer menneskelige autoriteter

Ville du helst have modtaget hjælp fra den myndige og autoritære Pepper eller den ligesindede Pepper? Forsøgsdeltagernes svar kom bag på forskerne. 

»Det var totalt overraskende for os, at ligesindede Pepper var mest populær, for vi mennesker har en tendens til at respektere og lytte til menneskelige autoriteter,« siger Shane P. Saunderson.

Forskning i menneskelig psykologi har vist, at jo større autoritet en person har, jo mere er vi tilbøjelige til at lade os overtale af denne, men det er stik imod resultatet af det nye studie. 

I et efterfølgende spørgeskema beskrev forsøgsdeltagerne den autoritære Pepper som uhyggelig, sælsom og meget ubehagelig, mens den ligesindede Pepper blev beskrevet som nuttet, venlig og rar.

»De havde en helt anden oplevelse, selvom robotten var den samme,« siger Shane P. Saunderson.

Noget tyder altså på, at forskere ikke bare kan overføre deres viden om, hvordan mennesker reagerer psykologisk på andre mennesker over på robotter. 

 
Pepper social robot

Ville du tage imod råd fra Pepper, hvis den var i sit ligesindede og venlige hjørne? (Foto: Shutterstock)

Vi har brug for mere viden om, hvordan autoritet doseres rigtigt

Spørgsmålet om, hvordan vi mennesker reagerer på robot-autoriteter, er bydende nødvendigt at udforske, for vi har set, hvordan det kan gå galt, når menneskelige autoriteter træder ved siden af. 

Det mener Malene Flensborg Damholdt, der forsker i menneske-robot interaktioner, og har læst det nye studie, som hun ikke selv har været med til at lave.

»Hele mekanismen i, hvad der sker, når vi oplever autoriteter som illegitime, har vi oplevet under corona. Når myndighederne kommer med forslag og opfordringer er vi lydhøre, men hvis vi i forvejen er ambivalente om en beslutning og bliver mødt med autoritet som vi ikke oplever som legitim, går vi pludselig over i den anden grøft,« siger Malene Flensborg Damholdt, der er lektor ved Psykologisk Institut på Aarhus Universitet. 

Hvis vi i fremtiden indretter samfundet, så robotter skal udskrive din medicinrecept, pleje dine gamle forældre eller låne dig penge, vil det dermed muligvis ikke fungere, hvis robotterne opfører sig på en måde, så vi ikke vil lytte til dem.

Derfor er vi nødt til at undersøge menneskers psykologiske reaktion på autoritære robotter, og her kaster det nye studie nyt lys over et felt, hvor forskeres forståelse stadig i høj grad er henlagt i mørke, mener Malene Flensborg Damholdt. 

Autoritets-Pepper kan mangle legitimitet

Forskningen i spørgsmålet om, hvordan vi mennesker reagerer på sociale robotter, der udviser autoritet, er meget begrænset, så det var en udfordring for forskerne bag Pepper-studiet at forklare, hvorfor forsøgspersonerne ikke brød sig om autoritære Pepper.

De måtte ty til mulige forklaringer i komparative forskningsfelter og træde ind i hypotesernes verden. Her fandt de, at robotterne kunne have et legitimitetsproblem, som er velkendt indenfor psykologi-forskningen.

»Når en person er dominerende over for dig, men du ikke respekterer ham, vil du typisk gerne undgå at tabe ansigt ved at adlyde hans ordrer,« siger Shane P. Saunderson.

Manglende respekt overfor menneskelige autoritetsfigurer kan komme af, at deres autoritet ikke er etableret på baggrund af love, traditioner eller personens karisma. Det lever Peppers autoritet ikke op til, og det kan gøre det endnu sværere for forsøgsdeltagerne at acceptere den.

Selvom autoriteten ikke har rod i love, traditioner eller karisma, kan vi mennesker alligevel lade os overtale til at følge autoritetens påbud, hvis vi oplever at identificere os med autoriteten. Men forsøgsdeltagerne har sandsynligvis ikke oplevet den identifikation med autoritære Pepper, og derfor har de ignoreret hendes råd, vurderer Shane P. Saunderson.

Venlige Pepper kan have skabt identifikation

Der er også en anden klassisk psykologisk forklaring, der kan hjælpe os nærmere et svar på, hvorfor ligesindede Pepper høstede flere point hos forsøgsdeltagerne end autoritære Pepper, vurderer Malene Flensborg Damholdt.

»Forskning viser, at vi i nogle situationer vil gå langt for robotter. Vi vil lyve overfor andre mennesker for at beskytte en robot, og vi vil forsvare en robot, men det kræver, at den er i vores ind-gruppe,« siger Malene Flensborg Damholdt med reference til forskningen i ind- og ud-grupper.

Teorien om in- og ud-grupper lægger vægt på, at vi mennesker har en social tendens til at ville høre til et fællesskab. Derfor finder vi andre mennesker, vi identificerer os med, og slutter os til dem, men det resulterer i, at der er nogle andre mennesker, som ikke hører til.

»Når forsøgsdeltagerne har siddet kollegialt ved siden af robotten, kan det have skabt en følelse af et tilhørsforhold, som har fået deltagerne til at betragte robotten som en del af ind-gruppen, og derfor reagere mere positivt på den,« vurderer Malene Flensborg Damholdt.

Hun havde gerne set, at forskerne havde lavet et forsøg, hvor de lod mennesker være i henholdsvis den autoritære og den hjælpende rolle, så de kunne teste, om det var Peppers autoritetsrolle, in-group- out-group mekanismen, eller ganske enkelt det faktum, at Pepper er en robot, der fik deltagerne til at reagere forskelligt.

Derudover burde forskerne have spurgt ind til forsøgsdeltagernes eventuelle negative attitude overfor robotter, inden forsøget gik i gang, frem for bagefter, for at teste, om negative bias (forudindtagede holdninger, red.) har spillet ind på forsøgsdeltagernes svar, mener hun.

Shane P. Saunderson er enig i, at det ville have givet et mere komplet resultat også at have en test kun med mennesker, men fordi han og kollegaen bag studiet er robotforskere, valgte de kun at undersøge menneske-robot interaktioner. Hans forskergruppe valgte at spørge ind til forsøgsdeltagernes negative attitude mod robotter efter testen, fordi de var interesserede i, om den autoritære robot påvirkede folks holdning til robotter i negativ retning, skriver han i en mail til Brainstorm.

Denne artikel er en del af 'Brainstorm' - Videnskab.dk’s projekt om hjernen

I Brainstorms ugentlige podcast serverer værterne Jais og Asbjørn hver fredag den nyeste hjerneviden med førende hjerneforskere på en let og spiselig måde.

I Brainstorms artikler kan du hver uge gå på opdagelse i en ny fascinerende afkrog af menneskets underfundige hjerne.

Følg også brainstorm.podcast på Instagram for din ugentlige dosis af nørdede, sjove og tankevækkende hjernefacts og behind the scenes.

Brainstorm er støttet af Lundbeckfonden, som er den største private bidragsyder til dansk, offentligt udført hjerneforskning. Videnskab.dk har redaktionel frihed i forhold til indholdet.

Kultur spiller ind på din accept af robotter

Apropos negative bias mod robotter, så har du måske slet ikke lyst til i fremtiden at kommunikere med en robot som Pepper om, hvorvidt du skal henvises til en speciallæge.

Men det kan være fordi du bor i Danmark - et samfund hvor udrulningen af de sociale robotter stadig er i den spæde opstart, mener Shane P. Saunderson.

»Vi er socialiseret til at se robotter som noget negativt og trækker på erfaring fra sci-fi film, der dæmoniserer robotter, når vi skal bedømme dem. Men i et land som Japan, hvor robotteknologien er meget længere, hersker der et langt mere positivt syn på robotter,« siger Shane P. Saunderson. 

Så hvem ved, måske er det kun et spørgsmål om tid, før du og alle andre glædeligt lytter til robotters vejledning, som var det et menneske, der rådede dig. 

I mellemtiden fortsætter robotforskerne deres ihærdige jagt på skillelinjen mellem, hvornår vi accepterer robotter og har det behageligt i deres selskab , og hvornår vi gyser over dem og finder dem ubehagelige og uhyggelige. 

 
 
 

Hej! Vi vil gerne fortælle dig lidt om os selv

Nu hvor du er nået helt herned på vores hjemmeside, er det vist på tide, at vi introducerer os.

Vi hedder Videnskab.dk, kom til verden i 2008 og er siden vokset til at blive Danmarks største videnskabsmedie med 1 million brugere om måneden.

Vores uafhængige redaktion leverer dagligt gratis forskningsnyheder og andet prisvindende indhold, der med solidt afsæt i videnskabens verden forsøger at give dig aha-oplevelser og væbne dig mod misinformation.

Vores journalister fortæller historier om både kultur, astronomi, sundhed, klima, filosofi og al anden god videnskab indimellem - i form af artikler, podcasts, YouTube-videoer og indhold på sociale medier.

Vi stiller meget høje krav til, hvordan vi finder og laver vores historier. Vi har lavet et manifest med gode råd til at finde troværdig information, og vi modtog i 2021 en fornem pris for vores guide til god, kritisk videnskabsjournalistik.

Vores redaktion gør en dyd ud af at få uafhængige forskere til at bedømme betydningen af nye studier, og alle interviewede forskere citat- og faktatjekker vores artikler før publicering.

Hvis du går rundt og undrer dig over stort eller småt, vil vi elske at høre fra dig og forsøge at give dig svar med forskernes hjælp. Send bare dit spørgsmål til vores brevkasse Spørg Videnskaben.

Vi håber, at du vil følge med i forskningens forunderlige opdagelser her på Videnskab.dk.

Få et af vores gratis nyhedsbreve sendt til din indbakke. Du kan også følge os på sociale medier: Facebook, Twitter, Instagram, YouTube eller LinkedIn.

Med venlig hilsen

Videnskab.dk

Videnskab.dk Podcast

Lyt til vores seneste podcast herunder eller via en podcast-app på din smartphone.

Danske corona-tal

Videnskab.dk går i dybden med den seneste corona-forskning. Læs vores artikler i temaet her.

Hver dag opdaterer vi også de seneste tal.

Dyk ned i grafer om udviklingen i antal smittede, indlagte og døde i Danmark og alle andre lande.

Ny video fra Tjek

Tjek er en YouTube-kanal om videnskab henvendt til unge.

Indholdet på kanalen bliver produceret af Videnskab.dk's videojournalister med samme journalistiske arbejdsgange, som bliver anvendt på Videnskab.dk.


Ugens videnskabsbillede

Se flere forskningsfotos på Instagram, og læs om astronautens foto af polarlys, som du kan se herunder.