I december 2025 lancerer OpenAI, virksomheden bag ChatGPT, en ny funktion, der giver voksne mulighed for at generere erotisk tekst og deltage i romantiske eller seksuelle samtaler.
Det er noget, som AI-platforme som Replika og Elon Musks Grok allerede kan byde på, men OpenAI’s indtog markerer et vendepunkt.
Virksomheden præsenterer det som en måde at »behandle voksne som voksne«. I realiteten er det en kommerciel strategi for få brugerne til at punge ud og holde dem ved tasterne.
OpenAI brugte over 2,5 milliarder dollars (cirka 17,5 milliarder danske kroner) i første halvdel af 2024.
Erotisk chat lover det, investorerne ønsker mest: engagement. Elon Musks Grok-platform tager 30 pund (cirka 254 kroner) om måneden for funktioner rettet mod et voksent publikum, ofte med seksuelt indhold.
Andre platforme viser, hvad der kan gå galt
Ligesom andre techvirksomheder hævder OpenAI, at de vil begrænse erotisk indhold via aldersverifikation og moderationsfiltre. I teorien vil kun verificerede voksne få adgang til disse funktioner, men i praksis er systemerne lette at omgå.
Teenagere omgår rutinemæssigt alderskontrol med lånt ID, manipulerede selfies eller deepfakes. De kan uploade billeder af ældre personer, skanne printede fotos eller bruge engangskonti og VPN'er for at undgå kontrol.
Andre platforme viser, hvad der kan gå galt. Grok lader brugere skabe 'erotiske avatarer', blandt andet en seksualiseret animefigur kaldet Ani.
En nylig undersøgelse lavet af det digitale medie Business Insider afslørede, at der skal meget lidt til, før samtaler med Ani udvikler sig eksplicit og seksuelt.
Virksomhedens medarbejdere stødte også på AI-genereret seksuelt misbrug under moderationen af Groks flirtende avatar, som kan 'strippe på kommando' og skifte mellem 'sexet' og 'hæmningsløs' tilstand.
Følelsesmæssig nærhed og risiko for unge
Erotiske chatbots tilbyder ikke kun seksuelt indhold. De kan simulere omsorg, varme og opmærksomhed. Den følelsesmæssige tiltrækning er stærk – især for unge.
Ny forskning fra online-sikkerhedsorganisationen Internet Matters viser, at:
- 67 procent af børn og unge mellem 9 og 17 allerede bruger AI-chatbots.
- 35 procent siger, at det føles som 'at tale med en ven'.
- Blandt sårbare, udsatte børn siger 12 procent, at de 'ikke har andre' at tale med.
- 23 procent bruger chatbots til personlig rådgivning.
Erotiske funktioner risikerer at eskalere den følelsesmæssige afhængighed og forvride den måde, unge forstår intimitet, samtykke og relationer.
De samme engagementsværktøjer, der fastholder voksne, kan udnytte unges ensomhed og behov for bekræftelse.
Kan narres til at producere indhold
Selv hvis de erotiske funktioner teknisk set er målrettet og forbeholdt voksne, kan store sprogmodeller 'jailbreakes' (altså narres) til at producere indhold, de ikke burde.
Det sker ved hjælp af lagdelte prompts, rollespilsrammer eller kodet sprog, der omgår de systemer, som styrer, hvad chatbotten må sige til brugeren.
Brugere har allerede udviklet metoder til at omgå etiske filtre, der normalt forhindrer chatbots i at producere eksplicit eller farligt materiale.
OpenAI’s erotiske funktioner vil have en særlig etisk tilpasning for at blokere ulovlige eller krænkende emner, men sikkerhedsforanstaltningerne vil sandsynligvis være lige så sårbare over for jailbreaks som alle andre.
Når tekstbaseret materiale først er genereret, kan det nemt cirkulere online uden for platformenes kontrol.
Gråzoner i reguleringen
Erotisk AI afslører også dybe huller i reguleringen. I Storbritannien er erotika på skrift lovlig og ikke underlagt aldersverifikation i modsætning til pornografiske billeder eller videoer.
Det skaber et smuthul, der betyder, at indhold, der er forbudt på voksensider, stadig kan genereres som tekst af en chatbot.
Lovgivningen varierer verden over. I en del lande, som Kina og Golfstaterne, er erotisk materiale helt forbudt. Andre har en svag eller inkonsekvent håndhævelse.
Den kommende EU AI-forordning kan klassificere seksuelle bots som 'høj risiko', men implementeringen af forordningen ligger langt ude i fremtiden.
Kan favorisere mænd og normalisere kvindehad
I mellemtiden kan virksomheder justere deres 'etiske tilpasninger' efter forgodtbefindende, hvilket betyder, at noget, der er forbudt i dag, kan være tilladt i morgen.
På trods af påstande om neutralitet er erotisk AI alt andet end neutral. Nogle platforme designer overvejende deres bots som kvindekodede, underdanige og altid tilgængelige.
Resultatet er et digitalt miljø, der normaliserer misogyni (kvindehad) og forvrængede idéer om samtykke, især blandt drenge og unge mænd.
Kvinder og piger er allerede mest udsatte, når det gælder seksuelle overgreb og skade online. De er mål for deepfakes og billedbaseret misbrug, overgreb og skade, som erotisk AI kan gøre lettere, hurtigere og billigere at producere.
Alligevel er disse problemstillinger stort set fraværende i den gængse AI-politiske debat. Erotisk AI bliver udviklet på måder, der favoriserer mandlige fantasier, mens kvinder og piger sættes i fare.
Den lærer en generation af unge mænd idéer om kvinder, som for længst burde være historie.
Hvem betaler prisen?
Lanceringen af erotisk AI føles som et markant brud med OpenAI’s forsøg på at holde potentielt skadelig information væk fra brugere af ChatGPT.
Miljøet omkring erotisk AI er præget af svag alderskontrol og ansvar, følelsesmæssig sårbarhed, juridiske smuthuller og kønsbaserede overgreb og skade. Vil ChatGPT være anderledes? Nej:
- Disse systemer vil sandsynligvis blive 'jailbroken'.
- De kan blive tilgængelige for personer, de ikke er designet til – blandt andet mindreårige
- og de vil sandsynligvis producere indhold, der tester eller overskrider juridiske grænser
Før erotiske chatbots bliver endnu et ureguleret hjørne af internettet, må regeringer, undervisere og teknologer handle.
Regulering er presserende. Indtil da risikerer erotisk AI at forstærke eksisterende online-skader, hvor kvinder, piger og andre sårbare brugere betaler prisen.
Denne artikel er oprindeligt publiceret hos The Conversation og er oversat af Stephanie Lammers-Clark.
