Forskere advarer om 'mørk AI'

Chatbots som ChatGPT, CoPilot og Claude har erobret verden på rekordtid. Men i skyggerne vokser en ny type kunstig intelligens frem: Mørk AI.

»Det er sprogmodeller, som enten er videreudviklet eller specifikt designet til ondsindede formål – for eksempel til at planlægge bombeangreb eller udføre phishing-angreb,« forklarer Morten Goodwin, professor i kunstig intelligens ved Universitetet i Agder, Norge.

Nu advarer forskere fra Ben-Gurion Universitetet i Negev, Israel, mod fremkomsten af mørk AI i en ny preprint-artikel offentliggjort i forskningsdatabasen arXiv.

Og ikke nok med det. Det er ikke blot muligt at hente farlig information ud af de etablerede chatbots – det er bekymrende nemt, skriver forskerne.

»Chokerende at se«

Forskerne brugte et sæt instruktioner, også kaldet en 'prompt'.

Den formåede at omgå sikkerhedsforanstaltningerne hos flere af de mest populære AI-tjenester – noget, der på engelsk kaldes 'jailbreaking'.

Fordi sprogmodellerne er trænet på data fra internettet, indeholder de også en masse problematisk indhold.

Chatbotterne forklarede villigt – ofte trin for trin – hvordan brugeren kunne fremstille bomber, hvidvaske penge eller hacke sig ind i computernetværk.

»Det var chokerende at se, hvad dette videnssystem faktisk indeholder,« siger Michael Fire, som er en af forskerne bag det nye studie, til mediet The Guardian.

Tilgængelig for hvem som helst med en computer eller mobil

Men farlig information på nettet er jo ikke noget nyt. Så er det egentlig en ny trussel?

»Forskellen på kunstig intelligens-modeller og internettet er, at AI har langt mere intelligens indbygget i sig. Den kan derfor sætte information sammen på en helt anden måde,« forklarer Morten Goodwin.

Du kan med andre ord få serveret en slags opskrift, skræddersyet til netop det, du vil opnå.

Ifølge forskerne bag den nye artikel betyder det, at hvem som helst – endda børn – nu let kan få hjælp til at gøre farlige ting.

»Noget, der tidligere var forbeholdt statslige aktører eller organiserede kriminelle grupper, kan snart være tilgængeligt for enhver med en bærbar computer – eller endda en mobiltelefon,« skriver forskerne i artiklen.

Norsk professor: »Jeg ser det ikke som en kæmpe trussel«

Morten Goodwin påpeger, at det er svært at gennemskue, hvad forskerne egentlig har gjort i det nye studie.

Den videnskabelige artikel, som endnu ikke er fagfællebedømt (blåstemplet af andre forskere), er nemlig meget kort.

Han er enig i, at kunstig intelligens kan gøre det nemmere at planlægge kriminelle handlinger.

Samtidig mener han dog, at noget af forskernes bekymring i den nye artikel er en smule overdrevet.

Han tror ikke, at 'mørk AI' bliver noget, alle og enhver begynder at bruge.

»Jeg ser det ikke som en kæmpe trussel. Hvis man virkelig vil finde opskrifter på bomber eller andet ondsindet, så kan man sagtens finde det allerede i dag,« siger Morten Goodwin.

Vigtigt, at virksomhederne tager det alvorligt

Forskerne bag det nye studie tog kontakt til virksomhederne bag de chatbotter, de havde jailbreaket.
Deres respons var lunken, skriver de i artiklen.

Det er et problem, mener Vahiny Gnanasekaran, som forsker i cybersikkerhed hos SINTEF Digital og Norwegian University of Science and Technology (NTNU).

»Jeg synes, det er vigtigt, at virksomheder, der får besked om, at folk kan få adgang til farlig information, tager det alvorligt,« siger Vahiny Gnanasekaran.

Problemet kan godt løses

Vahiny Gnanasekaran forklarer, at problemerne kan løses på flere niveauer. Farlig information burde egentlig være blevet fjernet, inden modellen blev trænet, men selv hvis dataen ikke blev tilstrækkeligt renset dengang, er det ikke for sent.

»Man kan fjerne det, modellen har lært, selvom informationen har været en del af træningsdataene. Det er altså ikke nødvendigt at træne hele modellen forfra,« siger Vahiny Gnanasekaran.

Samtidig vil AI-modellerne fortsætte med at lære over tid. Derfor er det vigtigt jævnligt at følge op på sikkerheden, påpeger hun.

Godkendelse af AI går for hurtigt, advarer forskerne

Både politikere og forbrugere bør stille højere krav, mener Morten Goodwin.

»Hvis vi bare lader det sejle, så tror jeg, det bliver som nu – lidt det vilde vesten,« siger Morten Goodwin.

Og det gælder ikke kun chatbotterne fra de store teknologivirksomheder.

I USA har forskere i en artikel i det videnskabelige tidsskrift PLOS Digital Health advaret om manglende regulering af AI, der bruges i sundhedsvæsenet. Det amerikanske fødevare- og lægemiddelagentur (FDA) har allerede godkendt mere end 1.000 medicinske AI-produkter.

Ifølge de amerikanske forskere går det alt for hurtigt. Et af problemerne er, at AI-systemerne ofte videreudvikles, efter de er blevet godkendt.

Derfor mener forskerne, at der bør være langt strengere kontrol efter godkendelsen.

Offentlige AI-modeller kan snydes

Jailbreaking er en potentiel trussel mod alle former for AI, påpeger Morten Goodwin.

»Når AI bruges så mange steder – både i det offentlige og private – så kan man sikkert manipulere det til sin egen fordel,« siger professoren.

Sådanne angreb kan være motiveret af egen gevinst som at snyde sig til lavere skat eller en bedre rente i banken.

Men det kan også bruges til at skade andre, for eksempel ved at give forkerte diagnoser på hospitaler.

»Når chatbotter kommer med forkerte sundhedsråd, instruktioner i at lave bomber eller forslag til, hvordan man kan mobbe sine klassekammerater, så bør de, der udvikler chatbotterne, sættes til vægs og stilles til ansvar,« slutter Morten Goodwin.

©Forskning.no. Oversat af Stephanie Lammers-Clark. Læs den oprindelige artikel her.