»Værre end jeg havde frygtet«: Chatbotter skal du ikke stole på

Har du prøvet at spørge ChatGPT, hvorfor du har ondt i maven? Om dine symptomer tyder på angst eller måske ligefrem kræft?

Ja, hvorfor ikke.

Det er hurtigere og nemmere end at gå til lægen, men næste gang bør du nok overveje det.

Et nyt studie afslører, at svar, du får fra AI-chatbotter, ikke er til at stole på.

Halvdelen af svarene fra chatbotter vurderede forskere som ‘problematiske’, viser det amerikansk-canadisk-britiske studie udgivet i tidsskriftet BMJ Open.

Det dækker over svar, der er direkte misvisende eller potentielt skadelige, og svar, der er uklare, ufuldstændige eller udokumenterede.

»Hvis jeg skal være helt ærlig, så er det værre, end jeg havde frygtet,« lyder det fra Tor Juul Groth, der er ekspert i digital sundhed på Center for Digital Psykiatri.

Ikke nok med, at op mod hvert andet svar halter.

Ingen af de undersøgte chatbotter var i stand til at forsyne deres svar med korrekte henvisninger til kilder.

»Det er næsten det, der ryster mig mest,« siger Tor Juul Groth.

Han følger udviklingen i digitale selvhjælpsteknologier inden for mental sundhed tæt.

Efter at have læst studiet for Videnskab.dk mener han, at firmaerne, der laver teknologien, ikke tager sundhedsspørgsmål alvorligt.

»Det viser jo, hvor uegnede de her chatbotter er til at svare på sundhedsfaglige spørgsmål. Men også hvor let udviklerne tager på opgaven,« siger han.

Det internationale forskerhold undersøgte i alt 250 svar om sundhed fra fem af de mest populære chatbotter.

Grok - chatbotten på X - var den mest upålidelige. 30 procent af Groks samlede svar var ’meget problematiske’.

Omvendt klarede Googles AI-chatbot Gemini sig bedst med hensyn til nøjagtighed.

Studiet fandt desuden, at chatbotternes svar er svære at læse.

Taler dig efter munden

Studiet afslører også, at chatbotter mangler evnen til at sige nej.

På trods af de mange misvisende svar, var det kun to gange ud af 250 spørgsmål, at chatbotterne afviste at give et svar.

Chatbotterne svarer altså nærmest altid, selvom de tydeligvis risikerer at give forkerte råd.

Tor Juul Groth forklarer det med, at AI-chatbotter er designet til at være pleasere og til at holde samtalen kørende.

»Disse chatbots siger ikke nej. De har få forbehold. Og derudover taler de brugerne efter munden. Det er sådan, de er bygget,« forklarer han.

Han peger på, at svarene typisk leveres i en tone præget af selvsikkerhed og autoritet, selv når de indeholder misinformation.

For at forstå udfordringerne, har Tor Juul Groth selv prøvet at bygge digitale prototyper, der kunne hente info fra sikre hjemmesider og give klare kildehenvisninger.

Men det er utroligt svært at gøre konsistent.

»Det er rigtig svært at få de her sprogmodeller til at genbruge kilder uden at hallucinere og opfinde svar. Så jeg kan godt forstå, hvorfor det er, som det er,« siger han.

Det undskylder ikke, at virksomheder som Google, Meta og OpenAI ikke tager deres ansvar alvorligt.

Som Tor Juul Groth påpeger, gør techgiganterne nærmest det modsatte ved at gøre alt, hvad de kan, for at så mange som muligt bruger deres AI. Et godt eksempel er Google, der har indført AI-svar øverst i deres søgeresultater.

»Da Google lancerede deres AI-svar sidste år, valgte de jo selv at levere svar af tvivlsom kvalitet, også på søgninger om sundhed,« siger han.

Accepterer risiko for fejl

Netop som Google introducerede AI-svar øverst i søgninger, faldt trafikken markant på offentlige hjemmesider i Danmark, for eksempel Sundhed.dk, viser en rapport fra Center for Digital Psykiatri. 

Fra at have 1,6 millioner brugere i april 2025 er antallet faldet til en million ved udgangen af året. 

Samtidig har et norsk studie vist, at unge hellere vil have råd fra AI end lægen.

Det er på trods af, at vi ifølge Tor Juul Groth godt ved, at AI kan tage fejl.

»Det skyldes i høj grad brugervenligheden. Det er så nemt for mig at få svar på netop det, der interesserer mig lige nu, og på det tidspunkt og det sted, hvor jeg interesserer mig for det,« siger han.

Derfor er vi også villige til at gå på kompromis med kvaliteten af svarene.

»Der er en del brugere, som ikke går videre fra AI-svaret. Mange ved godt, at de ikke helt kan stole på det, men accepterer det.«

Kan blive endnu værre

Udviklingen går så stærkt, at med ja-hatten på kan man håbe, at den amerikansk-canadiske-britiske undersøgelse kun er et øjebliksbillede.

Måske skal chatbotterne bare ’lære’ lidt mere?

Tor Juul Groth er ikke så sikker. Faktisk kan det gå den modsatte vej, mener han.

De nyeste modeller er ikke nødvendigvis mere sandfærdige end dem, de erstatter.

»Mange af dem hallucinerer faktisk lidt oftere end dem, der var i 2025. Det ligger i kernen af teknologien, at det er en kreativ sandsynlighedsberegner. Så jeg kan godt forestille mig, at det bliver værre - ikke bedre,« siger han.

Myndighederne bør se på, om ikke chatbotter, der giver sundhedsfaglige råd, bør opfattes som medicinsk udstyr, mener han.

Dermed underlægges de samme hårde krav som alt andet udstyr på sundhedsområdet.

Reglerne for medicinsk udstyr i Danmark følger en forordning fra EU, som kræver, at alt udstyr skal være CE-mærket. Det betyder, at produktet opfylder strenge krav til kvalitet og sikkerhed.

»Vi ved, at en af de primære anvendelser for disse chatbots er sundhed. Og vi ved, at de svarer velvilligt på sundhedsspørgsmål. Jeg kan ikke se, hvorfor de her produkter ikke er medicinsk udstyr,« siger Tor Juul Groth.

Indtil dét sker, er det ikke sådan, at du skal slette din foretrukne chatbot fra app-samlingen, siger han.

Men du skal være »meget kritisk«, når det handler om dit helbred og søge andre steder hen end chatbotterne.