Nyt studie afslører flere tusinde falske kilder i medicinske studier

Da Tromsø kommune i Norge anbefalede at lukke skolerne i 2025, henviste de til forskning, som ikke fandtes.

Lidt over ét år senere gik endnu en norsk kommune i samme fælde, ifølge avisen Nordhordland.

Men også i de videnskabelige artikler er der falske referencer, viser et nyt studie i det britiske
lægevidenskabelige ugetidsskrift The Lancet.

En gennemgang af 2,5 millioner medicinske studier afslørede næsten 3.000 falske referencer.

»Det kan undergrave tilliden til forskningen,« siger Tove Godskesen, som ikke selv har været med til at skrive det nye studie.

Hun er professor ved universitet i Nordland og forsker i etiske udfordringer i sundhedsvæsenet og i forskning.

Selv om det stadig er en lille andel af det samlede antal, er antallet af falske referencer eksploderet de seneste tre år.

Fra januar 2023 til februar 2026 er antallet blevet mere end tolvdoblet, viser det nye studie.

Det er næppe tilfældigt, at det sker samtidig med fremkomsten af sprogmodeller som ChatGPT, Claude, Gemini og Copilot, ifølge forskerne blandt andet ved Columbia University i USA.

At kunstig intelligens finder på ting, der ikke passer, er velkendt. Alligevel kan man spørge sig selv, hvordan de såkaldte ’hallucinationer’ ender i videnskabelige artikler.

Det kan handle om rent snyd, skriver forskerne. Men det kan også skyldes ukritisk brug af AI.

Kan ramme liv og helbred

Forskere må få øjnene op, mener Tove Godskesen.

»Det her med hallucinerede artikler er i bund og grund et teknisk problem.«
»Men det bliver et moralsk problem, når forskeren ikke tjekker artiklen, ikke læser den og så alligevel inkluderer den i sine egne artikler,« siger professoren.

I værste fald kan det få konsekvenser for liv og helbred, hvis det påvirker beslutninger hos sundhedspersonale og patienter.

»Måske træffer man beslutninger baseret på artikler, der bygger på hallucinerede referencer,« siger Tove Godskesen.

Toppen af isbjerget

Sammenlignet med tidligere, mindre studier er antallet af falske referencer dog lavt.

Men metoden bag det nye studie er konservativ, ifølge en af forskerne ved Columbia University, Maxim Topaz.

»Vi har kun lige ridset i overfladen,« siger Maxim Topaz til Nature News.

Forskerne gennemgik artikler med åben adgang i den medicinske database PubMed. Derefter tjekkede de, om de studier, der blev henvist til, faktisk eksisterede i flere forskellige databaser.

Værst i oversigtsartikler

Resultaterne viste, at artikler, der opsummerer forskningen på et område, skilte sig negativt ud.

Disse oversigtsartikler havde i gennemsnit 57 procent flere falske referencer end almindelige studier.

Og når henvisninger til forskning, som ikke findes, først er opstået, kan de være svære at slippe af med, påpeger Tove Godskesen.

»Så bliver det sådan nogle zombiestudier, som bare lever videre og bliver refereret til igen og igen og får nye citater,« siger hun.

Håber, tidsskrifterne tager mere ansvar

Udviklingen kommer oven i, at branchen allerede kæmper med useriøse 'rovtidsskrifter' (efter engelsk 'predatory journal').

Tove Godskesen har selv oplevet, at falske artikler er dukket op i hendes og kollegers navn, som i dette tilfælde, som den norske, redaktionelt uafhængige netavis om højere uddannelse og forskning, Khrono, har skrevet om.

Nu håber professoren, at de seriøse tidsskrifter vil tage større ansvar for at luge falske referencer ud. Ideelt set burde virksomhederne bag sprogmodellerne også tage mere ansvar, mener hun.

»Jeg tænker, at det burde være muligt at træne AI-modeller til at afvise at opdigte og opgive videnskabelige artikler,« siger Tove Godskesen.

Men forskere må også tage deres del af ansvaret, understreger hun.

»Hvis man indsætter en hallucineret reference i en artikel, betyder det, at man ikke har læst artiklen, for den findes jo ikke. Det er sjusk. Så spørgsmålet er, om vi overhovedet kan stole på disse artikler, selvom visse ting i dem er korrekte.«

©Forskning.no. Oversat af Stephanie Lammers-Clark. Læs den oprindelige artikel her.