To nye eksperimenter viser, at de fleste slet ikke overvejer, at en personlig besked kan være genereret af AI, heller ikke selvom de selv bruger kunstig intelligens.
For at undersøge, hvordan udbredelsen af ChatGPT og andre AI-skriveværktøjer påvirker folks vurdering af andre ud fra deres skriftlige beskeder, rekrutterede min kollega Jiaqi Zhu og jeg mere end 1.300 amerikanske deltagere i alderen 18 til 84 år.
Vi viste dem AI-genererede beskeder, for eksempel en undskyldning sendt i en e-mail. Deltagerne blev delt op i fire grupper:
- En gruppe så beskederne uden at få noget at vide om, hvem eller hvad der havde skrevet dem, som det ofte sker i hverdagen.
- En gruppe fik at vide, at beskederne helt sikkert var skrevet af et menneske.
- En gruppe blev fortalt, at beskederne helt sikkert var genereret af AI.
- En gruppe fik at vide, at afsenderen kunne være enten et menneske eller AI.
Vi fandt en tydelig 'straf' for at bruge AI: Når deltagerne vidste, at en besked var genereret af AI, vurderede de afsenderen langt mere negativt som »doven«, »uoprigtig« og »en, der ikke gør sig umage«.
Men hvis de troede, at den samme tekst var skrevet af et menneske, blev afsenderen opfattet som »ægte«, »taknemmelig« og »betænksom«.
Total mangel på skepsis
Men noget kom bag på os: De deltagere, der ikke fik noget at vide om, hvem eller hvad der havde skrevet beskederne, fik et lige så positivt indtryk af afsenderen som de deltagere, der fik at vide, at beskederne var skrevet af et menneske.
Denne totale mangel på skepsis overraskede os, og det rejser nye spørgsmål.
Måske kendte deltagerne ikke AI godt nok til at vide, at nutidens modeller kan skrive detaljerede og personlige beskeder, for det kan de. Eller måske havde deltagerne aldrig selv brugt AI, men det har de sandsynligvis.
Derfor undersøgte vi også, om deltagernes egen brug af AI ændrede deres vurdering af afsenderne. Det kom endnu mere bag på os, at det kun har en lille eller slet ingen effekt.
Folk, der ofte bruger generativ AI i hverdagen (i dette tilfælde mindst hver anden dag), så knap så strengt på brugen af AI, når de fik at vide, at teksten var skrevet af AI, sammenlignet med folk, der aldrig eller sjældent bruger AI.
Men deltagerne var ikke mere skeptiske som udgangspunkt: Når det ikke blev oplyst, hvem eller hvad der havde skrevet teksten, antog både flittige AI-brugere, lejlighedsvise AI-brugere og ikke-brugere typisk, at teksten var skrevet af et menneske, og de fik i store træk de samme indtryk af afsenderen.
Derfor er det vigtigt
Manglende skepsis og fraværet af et negativt indtryk betyder noget, fordi vi hele tiden vurderer hinanden socialt ud fra tekst.
Modtagere ser den tid og indsats, det kræver at sende skriftlige beskeder, som et udtryk for afsenderens oprigtighed, autenticitet eller kompetence, og det er med til at forme vores beslutninger i venskaber, dating og arbejdsliv.
Alligevel afslører vores resultater en slående uoverensstemmelse. Folk mistænker som regel ikke brug af AI, medmindre det er åbenlyst.
Denne manglende bevidsthed skaber et moralsk dilemma: Personer, der bruger AI i det skjulte, kan nyde fordelene, og de løber næsten ingen risiko for at blive opdaget.
Men paradoksalt nok lider personer, der er åbne og indrømmer, at de bruger AI, tab af troværdighed og anseelse.
Over tid kan manglen på skepsis og bevidsthed ændre, hvad det skrevne ord betyder i hverdagen.
Modtagerne begynder måske at betragte det skrevne som et mindre pålideligt signal om en persons karakter eller indsats og i stedet læne sig mere op ad andre kommunikationsformer.
For eksempel har udbredt brug af AI allerede fået arbejdsgivere til at tillægge jobsøgendes motiverede ansøgninger mindre værdi. I stedet lægger de mere vægt på personlige anbefalinger fra en ansøgers nuværende leder eller på relationer skabt gennem personlig networking.
Hvad viser anden forskning?
Andre forskere har dokumenteret en lang række af negative opfattelser af personer, der oplyser, at de bruger AI. Studier viser, at det får jobansøgere til at fremstå mindre attraktive og medarbejdere mindre kompetente.
Læserne af kreativ skrivning opfatter AI-brugerne som mindre kreative og mindre autentiske. Både personlige undskyldninger og undskyldninger fra virksomheder, der bruger AI, bliver vurderet som mindre effektive.
Overordnet set svækker det tilliden og reducerer legitimiteten, når det bliver oplyst, at der er brugt AI.
Samtidig er der tydelig evidens for, at de fleste ikke pålideligt kan genkende AI-genereret tekst uden at blive informeret – selv med hjælp fra detektionsværktøjer, især når teksten er en blanding af menneskeskrevet og AI-genereret indhold.
Selv når folk føler sig sikre på deres evne til at identificere AI-tekst, kan denne selvsikkerhed vise sig blot at være en selvbekræftende illusion.
Hvad nu?
Selvom vores eksperimenter ikke afslørede mistanke om brug af AI, betyder det ikke, at vi aldrig har mistanke i virkeligheden. I visse sammenhænge kan folk allerede være ekstra opmærksomme på AI. Brug i akademiske sammenhænge er et oplagt eksempel.
I vores næste studier ønsker vi at forstå, hvornår og hvorfor mennesker naturligt begynder at få mistanke om AI-brug, og hvad der får balancen til at tippe mellem tillid og tvivl.
Så hvis du ønsker, at din personlige besked bliver opfattet som oprigtig, er den sikreste strategi nok at ringe, lægge en besked eller endnu bedre: sige det ansigt til ansigt.
Denne artikel er oprindeligt publiceret hos The Conversation og er oversat af Stephanie Lammers-Clark.
