Det er slet ikke sikkert, at vildledende informationer og disinformation indtil videre har påvirket valg i så stor en grad, at valgresultatet er blevet et andet, end det ellers ville være. Der er dog en stærk opfattelse af, at det har haft markant effekt.
I dag, hvor kunstig intelligens bliver brugt til at skabe overbevisende falske videoer og til at sprede disinformation mere effektivt, kan vi med rette være bekymrede for, at falske nyheder kan ændre valgresultaterne i den ikke alt for fjerne fremtid.
For at vurdere truslen og reagere hensigtsmæssigt har vi brug for en bedre fornemmelse af, hvor stor en trussel disinformation og fake news udgør.
Generativ AI-model kan skabe flere historier
Almindeligvis tester vi hypoteser ved at gentage et eksperiment flere gange, men det kan være svært at gøre i samfundsvidenskaben, fordi det ofte ikke er muligt at gentage eksperimenterne.
Hvis vi vil afdække, hvilken effekt en bestemt strategi har på for eksempel et kommende valg, kan vi jo ikke gentage valget en million gange for at sammenligne, hvad der sker, hvis en bestemt strategi bliver implementeret, eller hvis den ikke bliver implementeret.
Vi kan kalde det 'én historie-problemet': Der er kun én enkelt historie. Vi kan ikke skrue tiden tilbage for at granske effekten af ikke-faktuelle scenarier.
En generativ AI-model kan hjælpe os med at komme udenom dette problem, fordi modellen kan skabe mange forskellige historier.
Kan bruges til at vurdere effekten af disinformation
Den generative model er en matematisk model for den grundlæggende årsag til en observeret hændelse, der sammen med et vejledende princip, fortæller os, på hvilken måde årsagen (input) bliver til en observeret hændelse (output).
Ved at modellere årsagen og anvende princippet kan modellen generere mange historier og statistikker, der er nødvendige for at studere forskellige scenarier. Det kan vi bruge til at vurdere effekterne af disinformation i forbindelse med valg.
I tilfælde af en valgkamp er den primære årsag den information, der er tilgængelig for vælgerne (input), som omdannes til bevægelser på meningsmålingerne, der viser ændringer i, hvad vælgerne har intention om at stemme (observeret output).
\ Misinformation, desinformation og disinformation
På engelsk bruger man disinformation om bevidst videreformidling af forkert og fejlagtig information. Man skelner altså mellem misinformation og desinformation, som på dansk er synonyme (ubevidst videreformidling af fejlagtig information), og disinformation (bevidst videreformidling af fejlagtig information).
Kilde: Dansk Sprognævn
Minimere usikkerhed
Det styrende princip handler om, hvordan vælgerne bearbejder information, hvilket er ved at minimere usikkerhed.
Så ved at modellere, hvordan vælgerne får information, kan vi simulere den efterfølgende udvikling på en computer. Vi kan med andre ord skabe en 'mulig historie' om, hvordan meningsmålingerne ændrer sig fra nu af til valgdagen på en computer.
Vi lærer stort set intet af én enkelt historie, men nu kan vi køre simuleringen (det virtuelle valg) en million gange.
En generativ model forudsiger ikke en fremtidig hændelse på baggrund af, hvor 'støjende' informationen er, men producerer statistik over forskellige hændelser, og det er det, vi har brug for.
Modellering af disinformation
Jeg kom først på idéen om at bruge en generativ AI-model til at studere effekten af disinformation for omkring 10 år siden.
Dengang havde jeg ingen forventning om, at konceptet desværre ville blive så relevant for de demokratiske processers sikkerhed.
Mine oprindelige modeller var designet til at studere effekten af disinformation på de finansielle markeder, men da fake news begyndte at blive et større problem, udvidede min kollega og jeg modellen for at studere effekten på valg.
Generative modeller kan fortælle os sandsynligheden for, at en given kandidat vinder et fremtidigt valg, afhængigt af nuværende data og specifikationer af, hvordan information om spørgsmål, der er relevante for valget, bliver formidlet til vælgerne.
Kan ikke producere forudsigelser
Modellerne kan bruges til at analysere, hvordan sandsynligheden for at vinde vil blive påvirket, hvis kandidaterne eller de politiske partier ændrer deres politiske holdninger eller kommunikationsstrategi.
Vi kan inkludere disinformation i modellen for at undersøge, hvordan det vil ændre resultatstatistikken. Her defineres disinformation som en skjult komponent af information, der genererer en bias.
Ved at inkludere disinformation i modellen og køre en simulering fortæller resultatet os meget lidt om, hvordan meningsmålingerne bliver forandret.
Men kører simuleringen mange gange, kan vi bruge statistikken til at bestemme den procentvise ændring i sandsynligheden for, at en kandidat vinder et kommende valg, hvis der er disinformation af en given størrelsesorden og hyppighed.
Med andre ord kan vi nu måle effekten af fake news og disinformation ved hjælp af computersimuleringer.
Jeg bør understrege, at måling af effekten af disinformation ikke er det samme som at producere forudsigelser om valgresultaterne. Modellerne er ikke designet til at producere forudsigelser. De producerer de statistikker, der skal til for at vurdere effekten af disinformation.
Har disinformation effekt?
Vi overvejede en model for disinformation, der bliver sendt ud på et tilfældigt tidspunkt, vokser i styrke i en kort periode, men som derefter stilner af (for eksempel som følge af faktatjek).
Vi fandt, at det kun har en lille effekt på valgresultatet, hvis disinformationen bliver sendt ud én enkelt gang i god tid før valgdagen.
Men hvis disinformation bliver sendt ud gentagne gange, har det effekt.
Disinformation, der er partisk over for en given kandidat, vil flytte stemmeagivelsen en smule til fordel for den pågældende kandidat, hver gang den bliver sendt ud.
I alle de valgsimuleringer, hvor den pågældende kandidat tabte, kan vi identificere, hvor mange valg endte med et andet resultat, baseret på disinformationens frekvens og størrelsesorden.
Fake news garanterer kun i sjældne tilfælde valgsejr for den kandidat, den har til formål at arbejde for, men effekten kan dog måles i form af sandsynlighed og statistik.
Hvor meget har fake news ændret sandsynligheden for at vinde? Hvad er sandsynligheden for at vende et valgresultat? Og så videre.
Stærk modgift mod fake news
Det kom dog som en overraskelse, at selvom vælgerne ikke er bevidste om, hvorvidt en given information er sand eller falsk, så er det nok til at eliminere det meste af disinformationens effekt, hvis de kender hyppigheden og bias af desinformation.
Alene det at vide, at der er risiko for fake news, er en stærk modgift mod dens konsekvenser.
Generative modeller er i sig selv ikke en modforanstaltning mod disinformation. De giver os blot en idé om omfanget af effekten. Faktatjek kan hjælpe, men er ikke videre effektivt (ånden er allerede ude af flasken). Men hvad hvis de to kombineres?
Fordi effekten af disinformation i vid udstrækning kan afværges ved at informere folk om, at det sker, vil det være nyttigt, hvis faktatjekkere gav information om de statistikker over disinformation, som de har identificeret - for eksempel ’X procent af negative påstande om kandidat A var fake news'. Et vælgerkorps udstyret med disse oplysninger vil i mindre grad blive påvirket af disinformation.
Denne artikel er oprindeligt publiceret hos The Conversation og er oversat af Stephanie Lammers-Clark.
\ Kilder
