Personer, som blokeres på sociale medier, bliver endnu mere ekstreme
Forskningen tyder på, at mange internettrolde bliver endnu mere ekstreme i deres udtalelser, hvis de bliver tvunget over på andre platforme.
Internettrolde ekstremist forskning kritik angreb chikane retorik kommunikation formidle

Personer, som bliver blokeret på et socialt medie, får ofte vendt bandlysningen til at være endnu et bevis på deres verdensbillede. Det kan betyde, at de ofte bliver endnu mere ekstreme. (Foto: Shutterstock)

Personer, som bliver blokeret på et socialt medie, får ofte vendt bandlysningen til at være endnu et bevis på deres verdensbillede. Det kan betyde, at de ofte bliver endnu mere ekstreme. (Foto: Shutterstock)

Når den digitale megafon og muligheden for at skrive på de sociale medier bliver taget fra internettrolde, forsvinder de truende, sårende og løgnagtige beskeder. 

Så er hadsprederne ikke længere et problem.

Sådan lyder det i teorien, men i praksis er det slet ikke tilfældet.

»Man kan ikke bare forvise disse mennesker og sige: 'Fedt, det virkede'. De forsvinder ikke,« fortæller Jeremy Blackburn. Han er forsker ved Binghampton University og har arbejdet sammen med kolleger fra USA, Storbritannien og Tyskland for at afdække, hvad der virkelig sker med dem, der bliver bandlyst fra de sociale medier.

Forskerne observerede, at brugere, der blev udelukket fra Reddit eller Twitter, gik over til andre platforme som Gab eller Parler. Her er moderatorerne knap så skrappe, mener forskerne.

På de nye websites har de dog et mindre publikum, men deres budskaber bliver til gengæld endnu mere giftige. De bliver også mere aktive og opdaterer oftere.

»Udelukkelsen har en positiv effekt på den oprindelige platform, men der vil også være en forstærkning eller forværring af adfærden,« forklarer Jeremy Blackburn i en pressemeddelelse.

Undersøgte 29 millioner opdateringer

Studiet indsamlede 29 millioner opslag fra Gab, som har omkring 4 millioner brugere.

Forskerne brugte en analysemetode, der minder om metoder, som eksempelvis litteraturforskerne bruger, når de skal afdække, hvem der har skrevet tekster under et pseudonym, eller tekster, hvor der er tvivl om, hvem der står bag.

På den måde mener de, at de kan afgøre, om de samme brugere står bag den lukkede Twitter- eller Reddit-konto og den nye Gab-konto.

Ifølge analysen har 6 ud af 10 af de bandlyste Twitter-brugere (59 procent) og 3 ud af 4 af de bandlyste Reddit-brugere (76 procent) oprettet en Gab-konto efter deres seneste opdatering på Twitter eller Reddit.

Brugt til at organisere stormen på Kongressen

I et andet studie har Jeremy Blackburn været med til at analysere 183 millioner opdateringer fra 4 millioner brugere på en anden platform: Parler.

Det sociale medie Parler blev tvunget offline, efter USA's Kongres blev stormet 6. januar.

»Vi så, at det tydeligvis blev brugt som et organiseringsværktøj for oprøret,« siger Jeremy Blackburn.

 

qanon internettrolde trolls stormen kongressen shaman DC Q

Stormen mod Kongressen i januar 2021 blev blandt andet planlagt på det løst modererede sociale medie Parler, hvor mange internettrolde slår sig ned, når de bliver bandlyst fra Twitter og Reddit. (Foto: Shutterstock)

Usynlige opdateringer og stempler på misinformation

Blackburn efterlyser mere moderne løsninger til at håndtere de personer, der i dag bliver smidt ud af visse sociale medier.

Reddit har for eksempel det, de kalder 'shadowbans' (skyggeudelukkelse, red.) som får brugerne til at tro, at de deler deres meninger som normalt, men ingen andre kan se, hvad de skriver. 

Twitter forsøger sig ved at markerer meddelelser, der bevidst spreder misinformation.

»Vi er nødt til at finde på mere kreative løsninger. Ikke for at slippe af med folk, men for forhåbentligvis at skubbe dem i en positiv retning eller i det mindste sikre, at alle er klar over, hvem vedkommende er. Et sted mellem fri adgang og fuld udelukkelse er nok den rigtige løsning,« siger Jeremy Blackburn.

Blokeringen bekræfter det radikale verdenssyn

At blive udelukket fra en platform tjener kun til at bekræfte verdenssynet for dem, der allerede har stærke og ofte ekstreme meninger, forklarer Melanie Magin, der er lektor ved Norges Teknisk-Naturvidenskabelige Universitet, NTNU.

»Folk føler ikke, at det er rimeligt, at de bliver udelukket. Normalt har de allerede et ekstremt verdensbillede. Når det bekræftes ved, at de er lukket ude fra den ene platform, fortsætter de til den næste og bliver endnu mere radikale,« fortæller hun.

Melanie Magin har heller ikke et endegyldigt svar på, hvad der kan gøres for bedre at håndtere dem, der i dag bliver udelukket.

»I princippet er det en god løsning, at platformene selv er begyndt at tage ansvar for, hvad der sker på dem,« siger hun.

»Det kan også blive problematisk, da det i høj grad er baseret på automatiserede procedurer. Det er ganske enkelt umuligt at kontrollere alle disse konti manuelt. Derfor kan det ske, at nogle lukkes ude, selvom de ikke har gjort noget forkert,« påpeger hun.

»De, der bliver smidt ud, siger ofte, at det her er censur, og at det er i strid med deres ytringsfrihed. Det er en misforståelse. Platformene er private virksomheder, der har deres egne regler. Det er kun 'censur', når det kommer fra staten,« siger Melanie Magin.

©Forskning.no. Oversat af Stephanie Lammers-Clark. Læs den oprindelige artikel her

Hej! Vi vil gerne fortælle dig lidt om os selv

Nu hvor du er nået helt herned på vores hjemmeside, er det vist på tide, at vi introducerer os.

Vi hedder Videnskab.dk, kom til verden i 2008 og er siden vokset til at blive Danmarks største videnskabsmedie med 1 million brugere om måneden.

Vores uafhængige redaktion leverer dagligt gratis forskningsnyheder og andet prisvindende indhold, der med solidt afsæt i videnskabens verden forsøger at give dig aha-oplevelser og væbne dig mod misinformation.

Vores journalister fortæller historier om både kultur, astronomi, sundhed, klima, filosofi og al anden god videnskab indimellem - i form af artikler, podcasts, YouTube-videoer og indhold på sociale medier.

Vi stiller meget høje krav til, hvordan vi finder og laver vores historier. Vi har lavet et manifest med gode råd til at finde troværdig information, og vi modtog i 2021 en fornem pris for vores guide til god, kritisk videnskabsjournalistik.

Vores redaktion gør en dyd ud af at få uafhængige forskere til at bedømme betydningen af nye studier, og alle interviewede forskere citat- og faktatjekker vores artikler før publicering.

Hvis du går rundt og undrer dig over stort eller småt, vil vi elske at høre fra dig og forsøge at give dig svar med forskernes hjælp. Send bare dit spørgsmål til vores brevkasse Spørg Videnskaben.

Vi håber, at du vil følge med i forskningens forunderlige opdagelser her på Videnskab.dk.

Få et af vores gratis nyhedsbreve sendt til din indbakke. Du kan også følge os på sociale medier: Facebook, Twitter, Instagram, YouTube eller LinkedIn.

Med venlig hilsen

Videnskab.dk

Videnskab.dk Podcast

Lyt til vores seneste podcast herunder eller via en podcast-app på din smartphone.

Danske corona-tal

Videnskab.dk går i dybden med den seneste corona-forskning. Læs vores artikler i temaet her.

Hver dag opdaterer vi også de seneste tal.

Dyk ned i grafer om udviklingen i antal smittede, indlagte og døde i Danmark og alle andre lande.

Ny video fra Tjek

Tjek er en YouTube-kanal om videnskab henvendt til unge.

Indholdet på kanalen bliver produceret af Videnskab.dk's videojournalister med samme journalistiske arbejdsgange, som bliver anvendt på Videnskab.dk.