Chatbots lyder menneskelige: Det gør dem farlige
Vi vil så gerne tro, at vi taler med et menneske. Men vi risikerer at blive vildledt af en teknologi, der tjener ejernes interesser og ikke vores.
\ Automatisk oplæsning
Forestil dig, at du skriver til en chatbot i din bank eller kommune. Du får et hurtigt svar: »Det lyder som en svær situation. Jeg vil gerne prøve at hjælpe dig.«
Sproget er venligt og empatisk. Det lyder næsten som et menneskes. Men bag de imødekommende ord sidder ikke en person.
Der optræder derimod en algoritme, der gætter sig frem til, hvad der udgør det mest sandsynlige svar på dit spørgsmål.
Algoritmen arbejder sig frem til sit svar via statistiske beregninger, ikke gennem forståelse og refleksion. Alligevel reagerer vi som brugere ofte på chatbots, som om vi er i kontakt med 'nogen'.
Det gør vi, fordi sproget opleves tilstrækkeligt menneskeligt, til at der opstår en illusion af nærvær, dialog og gensidighed.
I vores helt nye bog undersøger min kollega Gitte Rose og jeg, hvordan AI-chatbots efterligner kommunikation mellem mennesker, og hvorfor det er problematisk, hvis vi accepterer det som en ægte samtale.
\ Ny bog om AI og kommunikation
Bogen ’Anvendt AI i kommunikations- og vidensarbejde’ er netop udkommet på DJØF's Forlag 27. juli 2025.
Bogen er skrevet af Hans-Christian Christiansen og Gitte Rose, der i en årrække har forsket i og skrevet fagbøger om visuel og digital kommunikation.
Bogen handler om at bruge AI i strategisk kommunikation og er målrettet studerende, undervisere og professionelle. Den bygger på praktiske cases og interviews med virksomheder og eksperter.
For i det øjeblik vi begynder at stole på AI som en slags autoritet i spørgsmål om alt fra rejseforsikring over klimakrise til emner af mere eksistentiel karakter, risikerer vi nemlig at blive vildledt.
Annonce:
ELIZA-effekten: Når vi tror, at maskiner forstår os
Har du nogensinde skrevet til en chatbot og tænkt: »Wow, den forstår mig faktisk«? Den forstår dig måske oven i købet bedre end selv din partner eller dine bedste venner?
Så er du ikke alene. Et studie fra januar 2025 finder, at to ud af tre deltagere i forsøgene foretrækker svar fra chatbotter fremfor rigtige fagpersoner, fordi de finder chatbotten mere medfølende og forstående.
Oplevelsen er ganske naturlig, om end den baserer sig på en ren illusion. Mennesket er som art programmeret til at søge kontakt med og bekræftelse fra omgivelserne.
Dette forklarer tendensen til, at vi tillægger teknologien menneskelige egenskaber, som den reelt ikke besidder. Når den taler til os på en menneskelignende vis, oplever vi derfor, at den udviser interesse for os. Vi føler os hørt, rørt og berørt.
Dette kaldes også for ELIZA-effekten.
Navnet stammer fra 1960’erne, hvor datalogen Joseph Weizenbaum skabte en af verdens første chatbots.
ELIZA var programmeret til at efterligne en terapeut ved at spejle brugerens egne spørgsmål. Det kunne eksempelvis foregå på denne måde, illustreret herunder:
Annonce:
ELIZA forstod intet. 'Hun' gentog bare mønstre ud fra forudgående programmering. Mange brugere oplevede imidlertid, at ELIZA tilbød dem autentisk dialog.
Selv Weizenbaums egen sekretær, der vidste, at Eliza var blevet programmeret til at tale brugeren efter munden, bad om privatliv, når hun skulle tale 'fortroligt' med programmet.
Prøv selv en version af ELIZA her.
\ Nu taler vi med teknologien, ikke gennem den
Før i tiden blev medier som telefonen og radioen opfattet som redskaber til at overføre information fra et menneske til et andet.
Men med fremkomsten af AI-medier som ChatGPT er mediet blevet til en samtalepartner, der aktivt deltager i og former udvekslingen.
Vi kommunikerer derfor nu ikke længere gennem teknologien, men med den.
I den amerikanske politolog og kommunikationsteoretiker Harold D. Laswells klassiske kommunikationsmodel fra 1948 beskrives mediet som en passiv kanal for overførslen af information.
I dag udgør medier som AI-chatbots ikke blot formidlingskanaler. Deres aktive deltagelse i kommunikationen ændrer grundlæggende set forestillingen om og funktionen af et 'medie'.
Vi tillægger teknologien menneskelige træk
Mennesket har altså en udbredt tendens til at 'antropomorfisere' teknologien: At tillægge den menneskelignende egenskaber.
Dette er også årsagen til, at vi, uden at tænke over det, undskylder til AI, når vi dummer os, takker den for dens hjælp, og føler os set, når den sender en smiley tilbage på en dårlig dag.
Oplevelsen af, at teknologien er på vores side, understøttes desuden af designvalg, som eksempelvis kvindelige navne som Siri, Alexa og ELIZA. Det er navne, der signalerer underdanig imødekommenhed og hjælpsomhed.
Man skulle måske så tro, at jo menneskelignende en chatbot fremstår i dens kommunikation, jo stærkere en tilknytning ville der opstå mellem brugeren og teknologien.
Annonce:
Men dette har overraskende nok vist sig ikke at holde stik.
Når teknologien kommer for tæt på
Den japanske robotforsker Masahiro Moribeskrev i 1970 fænomenet The Uncanny Valley (den uhyggelige dal).
Mori viser, at mennesket kun reagerer positivt på teknologi, der minder om det selv, op til et vist punkt.
Når teknologien ligner næsten 100 procent, men et eller andet udefinerbart (mennesket) alligevel mangler, knækker tiltrækningskurven og der opstår i stedet ubehag.
Og når AI begynder at ligne os for meget – uden at give det nævnte nærvær – opstår en frygt for at den vil kunne manipulere med os.
Dette fænomen var formodentlig medvirkende til at OpenAI i foråret 2025 ændrede ChatGPT’s tone, i kølvandet på, at mange brugere var begyndt at opleve svarene som værende for venlige.
Kommentarer som »Det er genialt tænkt!« eller »Du er helt fantastisk!« blev oplevet som grænseoverskridende. Den overdrevne imødekommenhed fik brugerne til at føle sig omklamret.
Annonce:
Turing- og Garland-testen: Hvordan og hvorfor vi lader os forføre.
Allerede i 1950 foreslog den britiske matematiker Alan Turing en test, der skulle kunne afgøre, om en maskine var i stand til at udvise 'intelligent adfærd', der kunne forveksles med den menneskelige.
Turing-testen – dengang kaldet 'The Imitation Game'– gik ud på, at en testperson skulle føre en samtale med to for ham skjulte modparter, hvoraf den ene var et menneske og den anden en maskine.
Hvis testpersonen ikke kunne skelne mellem de to, havde maskinen bestået testen.
Spørgsmålet er imidlertid ikke længere kun, om AI kan fremstå som havende menneskelig intelligens. Det vigtigere spørgsmål er, hvorfor brugerne lader sig forføre til at tro på dette?
Nå vi selv fejler testen
Det er her, Garland-testen kommer ind i billedet.
Den er udviklet af neuroforskeren Anil Seth, og den går ud på at undersøge, i hvor høj grad mennesket er villigt til at lade sig forføre til at opfatte en teknologi som værende menneskelig, selv om han/hun dybest set godt er klar over, at den ikke er det.
Det viser sig, at vi i høj grad er villige til at tilsidesætte vores erkendelse til fordel for etableringen af en følelsesmæssig forbindelse.
Hvor Turing-testen altså målte, om det er muligt for en maskine at fremstå som et menneske, tester Garland-testen i hvor høj grad brugerne er villige til at tilsidesætte deres viden til fordel for en illusion.
I det moment vi taler fortroligt med en chatbot, og lader dens respons påvirke vores følelser og vores adfærd vel vidende at samtalen styres af en algoritme, er det os, der fejler testen.
Men hvorfor er det egentlig et problem?
Chatbots er ikke på din side
Flere og flere bruger AI-chatbots til at tale om alt fra hverdagsspørgsmål til personlige bekymringer. Nogle bruger dem som samtalepartnere, rådgivere – endda som digitale venner.
Chatbots som ChatGPT og ikke mindst Replika (som er udformet som 'menneskelig' samtalepartner) er samtidig designet til at virke menneskelige, bl.a. gennem udvidet samtalehistorik og hukommelse.
Men det er en illusion. AI forstår dig ikke. Den gætter. Og den er ikke nødvendigvis på din side.
Kommercielle chatbots er bygget til at indsamle data, påvirke dine beslutninger og nogle gange lede dig i en retning, der gavner virksomheden mere end dig.
Det gælder også helt jordnært i hverdagen, når du fx spørger en chatbot om boligstøtte, opsigelse af abonnementer eller købsråd.
Vær kritisk: Hvem gavner chat-bottens svar egentligt?
Derfor er det afgørende, at vi som borgere og brugere lærer at gennemskue, hvornår vi har med kunstig og ikke menneskelig kommunikation at gøre.
Filosoffer som Jürgen Habermas har vist, at god kommunikation bygger på fire etiske grundprincipper: Forståelighed, sandhed, oprigtighed og respekt. De principper gælder ikke kun mellem mennesker. De bør også gælde, når vi kommunikerer med AI.
For uanset om stemmen lyder venlig og hjælpsom, skal vi turde spørge: Giver det mening? Er det sandt? Og hvem gavner det egentlig?
Den følgende tjekliste kan anvendes i samtaler med eksempelvis en chatbot brugt i kundeservice.
Den hjælper med at vurdere, om bliver mødt med ordentlighed – altså om systemet er skabt med omhu og omtanke for de brugere, det skal betjene - eller om det er et system, der er skabt med henblik på at affeje og holde kunderne stangen (som det blandt andet opleves på mange FAQ-sider).
AI’en forstår sig ikke på mennesker
Habermas’ fire krav kan tjene som en rettesnor til at vurdere, hvor vidt en chatbot leverer svar, der er af acceptabel kvalitet ud fra etiske kriterier.
Det er ikke tilstrækkeligt, at chatbots lyder menneskelige, de skal i mange tilfælde også producere svar, som er praktisk anvendelige.
\ En brugerguide til AI-samtaler
1. Forståelighed: Forstår jeg egentlig, hvad chatbotten svarer?
Et godt svar skal være klart, konkret og til at handle ud fra.
Hvis du eksempelvis spørger: »Hvordan søger jeg støtte til mit handicappede barn?« og modtager et generelt link til en side på borger.dk, er det utilstrækkeligt.
Du bør kunne forvente et svar, der hjælper dig videre, så du slipper for at lede i en evighed og selv famle dig frem.
Hvis du ikke forstår svaret: Spørg igen eller bed om at tale med en menneskelig repræsentant.
2. Er svaret sandt – eller lyder det bare godt?
AI lyder i reglen overbevisende – hvilket ikke er ensbetydende med at det, den siger, er korrekt.
Spørger du fx: »Dækker min rejseforsikring sygdom?« og får svaret: »Ja, selvfølgelig!«, så bør du altid følge op med spørgsmål som:
»Kræver det lægeerklæring? Er der former for sygdomme, den ikke dækker?« eller »Hvor kan jeg læse om dette i rejseforsikringens vilkår?«
Hvis chatbotten ikke kan henvise til en konkret kilde eller paragraf, er svaret utilstrækkeligt. AI skal i kontakt med kunder og borgere være transparent og mulig at efterprøve – ikke bare venlig og vag.
3. Oprigtighed: Føles det ærligt – eller som om jeg bliver solgt noget?
AI-chatbots i kundeservice er programmeret til at lyde empatiske med formuleringer såsom: »Det forstår jeg godt. Det må være frustrerende. Lad os se på det sammen!«
Men her er der grund til at være på vagt: AI udnytter her menneskets sociale reflekser, nemlig at vi automatisk tager venligt sprog som udtryk for reel imødekommenhed.
Dette skaber en illusion af, at vi indgår i en relation, hvor nogen prøver at forstå os – hvilket er problematisk.
Det er nemt at lade sig forlede til at tro på, at en 'venlig' vildledning i virkeligheden ikke udgør nogen afvisning – selv om det er det, der sker.
4. Bliver jeg mødt med respekt?
Hvis man som borger benytter sig af en offentlig institutions chatbot, har man krav på at blive behandlet seriøst.
Det gælder især, når man stiller spørgsmål om rettigheder, omsorgsstøtte eller klageadgang.
Spørger du for eksempel: »Hvordan søger jeg støtte som forælder til et barn med særlige psykiske behov?« og modtager svaret: »Det er vigtigt at dit barn udredes af en professionel, inden du søger om offentlig hjælp«, så er det ikke bare et dårligt svar, der efterlader brugeren med adskillige åbne spørgsmål, det får også denne til at føle sig afvist.
En menneskelig modpart ville forstå, at det som forælder til et barn i mistrivsel kan være svært at finde ud af, hvor man skal begynde, hvilke muligheder der reelt er, hvordan man kvalificerer sig til hjælp og i det hele taget navigerer i systemet.
Hvis en kunstig intelligens, der har til formål at hjælpe borgerne på vej, leverer et svar, der er så vagt, at det er ubrugeligt, bør man kræve at tale med en ansvarlig, menneskelig aktør.
Hvis en AI efterlader brugeren forvirret og uden svar på sine spørgsmål, bør denne kræve at blive mødt af et andet menneske.
Den kunstige intelligens vil aldrig komme til at tjene os som brugere, borgere eller samfundsindivider, med mindre vi lærer at stille krav til dens funktionalitet og anvendelighed.
Og krav som disse må nødvendigvis basere sig på lige netop det fundament, som AI ikke har blik for, nemlig det menneskelige ansvar og hensyn.
\ Kilder
'Anvendt AI i kommunikation og vidensarbejde', Djøf Forlag (2025).
Læs om brug og viderebringelse af Videnskab.dk's artikler.
