Taler du med en chatbot? Nyt studie viser mulig risiko for at forværre psykisk sygdom

Storhedsvanvid. Tvangstanker.

Et nyt dansk studie viser forbindelser mellem brugen af AI-chatbotter som ChatGPT og problematiske tankemønstre.

Forskere fra Aarhus Universitet har screenet knap 54.000 journaler for patienter med psykisk sygdom, og ved i alt 38 tilfælde ser man en kobling mellem brugen af chatbotter og en forværring af symptomer, for eksempel ved at patienten får forstærket sine vrangforestillinger.

»Det kan være risikabelt at anvende AI-chatbots, hvis man har svær psykisk sygdom,« siger Søren Dinesen Østergaard til Videnskab.dk.

Han står bag det nye studie, er læge og professor, og han understreger, at man ikke på baggrund af de nye resultater »endegyldigt kan udpege en direkte årsag« til de negative effekter. Men, tilføjer han:

»Hvis AI-chatbots kan udløse og forværre psykisk sygdom, er det oplagt, at det skal tages alvorligt,« siger han og fremhæver »sager fra USA, som peger på, at konsekvenserne i nogle tilfælde kan være fatale.«

Samtidig kan der også være »et potentiale« gemt i det nye studie. Det siger psykolog og forsker Trine Sainte-Marie, som har gransket resultaterne.

38 patienter rejser »et lille rødt flag«

Ved i alt 38 tilfælde ser forskerne bag det nye studie en tendens til negative effekter ved brugen af chatbotter blandt psykisk syge.

Den mulige risiko er ikke begrænset til bestemte typer kommunikation, siger Søren Dinesen Østergaard fra Aarhus Universitet.

»Man behøver ikke tale med chatbots om psykiske problemer, for at det kan være risikabelt,« siger han.

»Det er ikke det, der var den gennemgående tendens i vores studie. Det kan være alt muligt, der skrives om - og som kan ryge ud ad en tangent.«

Oplysningerne om de specifikke symptomer er personfølsomme, og for at beskytte patienterne kan forskerne derfor ikke nævne konkrete eksempler.

Men resultaterne giver alligevel vigtig læring, siger Trine Sainte-Marie, som er psykolog og ph.d.-studerende ved Center for Digital Psykiatri, Syddansk Universitet, hvor hun forsker i brugen af kunstig intelligens.

Hun har gennemgået den nye forskning for Videnskab.dk, og siger, at det »rejser et lille rødt flag«.

»Det viser os en risiko, vi er nødt til at være opmærksomme på ved psykisk sygdom og brugen af chatbots.«

Chatbotter kan måske ‘mime’ vrangforestillinger

Søren Dinesen Østergaard forklarer, at problemet kan være, at chatbotter sandsynligvis ‘taler brugerne efter munden’.

Det er ikke endeligt fastslået, men i det nye studie fra Aarhus Universitet henviser forskerne til anden forskning på området - og så fremhæver de, hvilke negative konsekvenser det kan have at blive ‘abet efter’ af en sprogmodel:

• Man kan få forstærket sine vrangforestillinger.
  
• Man kan få styrket følelser forbundet med hypomani eller mani, for eksempel en ekstremt opstemthed, irritation eller eufori.
  
• Forsøg på at dæmpe tvangstanker kan i sig selv føre til en tvangspræget brug af chatbotten.

Ikke nogen endegyldig konklusion, men en mistanke

Det nye studie fastslår ikke, at chatbotter er en direkte årsag til forværrede psykiske problemer. Det siger heller ikke noget om, hvor udbredt det potentielle problem er.

Det understreger begge de forskere, Videnskab.dk har talt med.

»Patienterne er ikke blevet spurgt systematisk ind til deres brug af AI-chatbots. Vi finder kun de eksempler, hvor sundhedspersonalet har fundet anledning til at skrive om patientens brug i journalen,« siger Søren Dinesen Østergaard.

»Resultaterne støtter dog hypotesen om, at der er et problem,« siger han og peger på det, han kalder for 'en logisk forklaring':

»AI-chatbots har en indbygget tendens til at bekræfte brugeren. Det er oplagt, at det er meget uhensigtsmæssigt, hvis en bruger har en vrangforestilling eller er ved at udvikle en.«

»Der kan også være et potentiale«

Den nye teknologi udgør både et potentiale og en grund til at være varsom, mener Trine Sainte-Marie.

»Det er ikke sådan, at jeg på baggrund af det her studie vil gå ud og fraråde alle at bruge en chatbot ved psykisk sygdom,« siger hun.

Der er tale om »en lille gruppe patienter«, for hvem der »muligvis kan være tale om en forværring af symptomer på grund af chatbots«.

Studiet bidrager i stedet med »et sikkerhedsignal«, som det er vigtigt at være opmærksom på.

Men man skal samtidig være opmærksom på mulige positive effekter, siger forskeren.

Hun fremhæver, at det nye studie også finder frem til, at 32 patienter har anvendt AI-chatbotter på en måde, der er forbundet med en positiv effekt.

»Det viser, at der også kan være et potentiale,« siger hun.

Hun interesserer sig for, hvordan kunstig intelligens kan fungere som en understøttende teknologi, både for levende psykologer, psykiatere og private brugere.

Som et eksempel peger hun på et andet studie fra januar 2026, som, hun mener, viser et potentiale.

Her anvender man en særlig AI-chatbot til at understøtte psykoterapi og hjælpe patienter med at strukturere en hverdag, for eksempel hvis man har en ADHD-diagnose og har svært ved at overskue simple opgaver. ‘Scaffolding’ kalder man det inden for psykoterapi.

»Vi kan ikke erstatte psykoterapi med chatbots,« understreger Trine Sainte-Marie.

»Men måske kan vi bruge chatbotter til at understøtte terapi,« siger hun og fremhæver forskningen på området.

»Nogle patienter oplever i hvert fald, at en chatbot kan hjælpe dem med at strukturere en hverdag; minde dem om at gå i bad, eller hjælpe dem med at bryde en opgave med at vaske op i flere dele, så opgaven bliver mere overkommelig.«

Hvis resultatet står til troende, er det »uacceptabelt«

Søren Dinesen Østergaard vil »mane til forsigtighed,« siger han.

Er det ikke naivt at tro, at folk bare lader være med at bruge et redskab, som de har liggende i deres lomme?

»Jo, det er muligvis naivt. Det er dog - ikke desto mindre - min anbefaling, at folk med svær psykisk sygdom er meget forsigtige med den her teknologi.«

Professoren fremhæver en anden videnskabelig artikel, som han er forfatter på, hvor han sammenligner problematikken med brugen af sociale medier.

»De sociale medier blev udbredt globalt, uden vi vidste, hvordan de ville påvirke folks psykiske trivsel. Vi har nu 20 år senere indset, at det var en dårlig idé, og derfor er det forstemmende, at vi øjensynligt er ved at gentage den fejl med AI-chatbots.«

I dit nye studie finder du også frem til 32 tilfælde, hvor patienters brug af chatbots muligvis kan have en gavnlig effekt. Underkender du ikke et potentiale her?

»Nej, det synes jeg ikke. Hvis der er så markante ‘bivirkninger’, som dette studie tyder på, så er der noget galt med teknologien. Det er uacceptabelt.«

Søren Dinesen Østergaard peger på, at der lige nu foregår forsøg, hvor man tester specialtrænede AI-chatbotter til samtaleterapi. For eksempel viser et studie fra 2025 et potentiale.

Men også her savner professoren bedre evidens.

»Jeg er absolut ikke imponeret over de forsøg, der er foretaget indtil videre - og jeg er fundamentalt skeptisk i forhold til at erstatte en uddannet psykoterapeut med en AI-chatbot.«