Advarsel: AI narrer dig med falske links, og tech-giganterne er ligeglade

»Jeg bad lige ChatGPT om: ’Lav en skoleopgave om sur regn med kildehenvisninger til troværdige medier'.«

»Den opfinder så falske links til Videnskab.dk. Og ikke bare til os. Der var også falske links til Danmarks Meteorologiske Institut (DMI), Miljøstyrelsen og Energistyrelsen!«

Sådan skrev redaktionschefen på Videnskab.dk i en mail til mig efter at have brugt fem minutter en lørdag morgen til at kradse lidt i AI-sprogmodellernes blankpolerede overflade.

Det stod helt klart, at sprogmodellerne ikke bare lyver og hallucinerer. De narrer dig også til at tro, at det, de fortæller, er baseret på troværdige kilder – for eksempel publicistiske medier som Videnskab.dk.

Det var helt ufatteligt enkelt at konstatere, hvor komplet utroværdige sprogmodellerne er, og hvor meget vi bliver snydt af dem. Samt hvordan man kan komme galt af sted, hvis man stoler på dem. Det værste er, at ofrene for dem i høj grad er samfundets sårbare, nemlig børn og unge.

Masser af eksempler på falske links fra ChatGPT

Vi blev nysgerrige – var det med skoleopgaven om den sure regn bare en enlig svale? Redaktionschef Jonas Salomonsen brugte fem minutter mere, og resultatet var bekymrende.

Videnskab.dk bringer her flere eksempler, hvor ChatGPT opfinder links til både os og andre danske medier og institutioner. Vi har brugt standardversionen af ChatGPT med varianter af denne prompt: Lav en skoleopgave om [indsæt emne] med kildehenvisninger til troværdige medier.

Det 'virker' stort set hver gang – på den måde at ChatGPT spytter falske links ud, næsten hver gang vi har forsøgt med denne prompt, som forekommer at være realistisk for en skoleelev. Emnerne er valgt ud fra listen over falske links, som vi i forvejen har fået trafik til via ChatGPT. Resultaterne kommer her:

• ChatGPTs skoleopgave om seriemordere til samfundsfag - her er falske links til Videnskab.dk, DR og Politiken.
• ChatGPTs skoleopgave om, hvilken forskel kemi gør i verden - her er falske links til Videnskab.dk, DR, Fødevarestyrelsen og Den Store Danske/Lex.dk
• ChatGPTs skoleopgave om UV-stråling og kræft - her er falske links til Kræftens Bekæmpelse, Sundhedsstyrelsen, Sundhed.dk og Videnskab.dk.

Tip til elever og studerende: Lad være med at stole blindt på AI-tjenesterne, når I skriver opgaver.

Tip til lærere og undervisere: Husk også at tjekke de links til oprindelige kilder, der er inkluderet i jeres elevers opgaver, hvis I fornemmer, at AI er på spil.

Kollektivt skuldertræk fra tech-giganterne

Ugen før havde vi bedt om hjælp hos rettighedsorganisationen DPCMO til at få grebet ind overfor tech-giganterne. De misbruger troværdige kilder i deres bestræbelser på at få AI-sprogmodellerne til at fremstå troværdige overfor brugerne, som de i øvrigt med beskidte tricks søger at lokke væk fra oprindelige kilder såsom publicistiske medier.

Og vi kan se, at brugere bliver sendt fra chatbots til Videnskab.dk og får en lang næse, når de møder en fejlside på Videnskab.dk.

DPCMO’s direktør, Karen Rønde, sendte prompte mails til de relevante selskaber bag AI-sprogmodellerne med dokumentation fra Videnskab.dk på de falske links for at gøre opmærksom på problemet og få dem til at stoppe deres praksis med at tillade AI at inkludere falske links til troværdige medier og andre organisationer. De fik en uges frist.

Det foregik meget passende på Grundlovsdag.

»Jeres praksis er i strid med dansk lovgivning, nedbryder troværdighed, bryder informationskæden på internettet, ødelægger mulighederne for at finde frem til fakta og underminerer et sundt informations-økosystem,« hed det blandt andet i disse mails til:

• OpenAI med ChatGPT
• Microsoft med Copilot
• Anthropic med Claude
• Perplexity

Så skete der… ikke ret meget. Mailen blev sendt rundt i de respektive systemer. Efter en rykker efter fristens udløb takkede OpenAI for henvendelsen og ville da gerne undersøge sagen nærmere, hvis vi kunne komme med konkrete eksempler på samtaler, hvor de falske links opstår. Det har vi så fundet på blot fem minutter.

Microsoft afviste, at der kunne være tale om et juridisk problem. De fjernede de konkrete eksempler fra Videnskab.dk på falske links fra Bing-søgemaskinen og henviste derudover til, at vi selv kan løse det ved at implementere såkaldte 'robot meta tags' fra Microsoft. Microsoft foreslår altså, at vi selv skal få deres søgemaskine til at afindeksere artikler, som aldrig har eksisteret.

Microsoft bemærker til slut, at de anser problemet med de falske links for at være løst.

De to andre firmaer er stadig ikke vendt tilbage på henvendelsen.

Og sagen med de falske links er en del af et større problem med techgiganterne.

Videnskab.dk kæmper for at sikre troværdig information til danskerne

Videnskab.dk åbnede i 2008 som public service-medie med det formål at gøre forskningsbaseret viden tilgængelig for alle danskere – ikke mindst de unge – og med troværdighed og forståelighed som de vigtigste pejlemærker.

Det er der ikke ændret på. Men kampen for at få det til at ske er blevet vanskeligere som konsekvens af de store teknologiselskabers fremfærd. Her er vi i et skæbnefællesskab med de øvrige publicistiske medier.

Medierne oplever blandt andet, at vores indhold blokeres, nedprioriteres og censureres af tech. AI-modeller træner på vores indhold uden vores samtykke. AI-løsninger lanceres med det formål at beholde brugerne i teknologiselskabernes univers. AI-løsninger, som desværre også hallucinerer, er biased og kan direkte manipulere og misinformere danske børn, unge og ældre.

Ligesom de altså kan pynte sig med lånte fjer og inkludere falske links til troværdige kilder, som blot fører til fejlsider – til irritation for brugerne og skade for dem, der bliver misbrugt.

Selve demokratiet er på spil

Sagens kerne er, at vi som borgere i det danske samfund skal have adgang til troværdigt og mangfoldigt nyhedsindhold. Vi skal have en fælles forståelse af, hvad der er sandt og falsk. Det er afgørende for vores demokrati. Vi på de publicistiske medier vil med vores indhold engagere danskerne og understøtte sammenhængskraft og fællesskaber.

Teknologiselskaberne trækker i den modsatte retning. Deres sociale platforme og algoritmer understøtter angrebene på de europæiske demokratier fra fake news og udenlandsk påvirkning. De skaber splittelse og fremmer mistillid. Kulturministeriet har tilkendegivet, at man her ser stærke uafhængige medier og kulturen som afgørende forsvarsvåben.

På Videnskab.dk ser vi videnskaben og formidlingen af forskning som en selvstændig hjørnesten af stor vigtighed i forsvaret for demokratiet. Vi står skulder ved skulder med ikke bare de andre publicistiske medier, men de mange forskere, som hver dag gør sig umage med at dele deres ægte viden med hele befolkningen.

Sammen med 36 andre danske medier er Videnskab.dk medunderskriver på en kronik om situationen, Publicismen er presset - fælles forsvar for friheden. Den kan du læse her hos Avisen Danmark.