Kunstig intelligens har sociale konsekvenser – men hvem betaler prisen? 

I lyset af den stigende bekymring over de etiske og sociale konsekvenser af kunstig intelligens kunne det se ud til at være på tide, at farten sættes ned. Men i de enkelte teknologivirksomheder er stemningen den stik modsatte.

I takt med at Big Tech fyrer op under våbenkapløbet, vil det være »en absolut fatal fejl på nuværende tidspunkt at bekymre sig om ting, der kan rettes senere,« som en Microsoft-chef skrev i en intern e-mail om generativ kunstig intelligens (AI), ifølge The New York Times.

Med andre ord er det tid til at »move fast and break things« (bevæge sig hurtigt og ødelægge ting, red.) for nu at låne Facebook-grundlægger Mark Zuckerbergs gamle motto.

Når man ødelægger en masse, er man naturligvis også nødt til at fixe det senere - og det koster.

Forstærker bias og stereotyper

I softwareudvikling refererer udtrykket 'teknisk gæld' til de implicitte omkostninger ved fremtidige korrektioner som en konsekvens af hurtige beslutninger og valg med mindre omhyggelige, umiddelbare løsninger.

Hastværk indebærer, at man muligvis sender nyt software ud på markedet, der ikke er helt klar, vel vidende, at man så kan afdække alle fejl og mangler og forhåbentlig korrigere dem efterfølgende.

Negative nyhedshistorier om generativ kunstig intelligens plejer dog ikke at handle om denne slags fejl. I stedet handler en stor del af bekymringen om generativ kunstig intelligens-systemer, der forstærker skadelige bias og stereotyper samt studerende, der bruger kunstig intelligens til at snyde.

Tage ikke højde for negative konsekvenser eller samfundsmæssig skade

Vi hører om bekymring for privatlivets fred, folk, der bliver vildledt af misinformation, udnyttelse af arbejdskraft og frygt for, hvor hurtigt forskellig menneskelig arbejdskraft kan blive udskiftet, for blot at nævne nogle få.

Disse problemer er ikke softwarefejl. Erkendelsen af, at en teknologi fremmer undertrykkelse eller bias, er noget helt andet end at finde frem til, at en knap på et websted ikke virker.

Jeg forsker og underviser i teknologi-etik, og jeg har tænkt meget over denne slags 'bugs'. Det, der opstår her, er ikke kun teknisk gæld, men etisk gæld.

Ligesom teknisk gæld kan skyldes begrænset afprøvning i løbet af udviklingsprocessen, er etisk gæld et resultat af ikke at tage højde for mulige negative konsekvenser eller samfundsmæssig skade.

Især i forbindelse med etisk gæld er det kun sjældent dem, der pådrager sig gælden, der i sidste ende indfrier den.

Kapløbet er skudt i gang

Så snart OpenAI's ChatGPT – startskuddet for det nuværende AI-kapløb - blev lanceret i november 2022, forestillede jeg mig, at man begyndte at tilskrive gæld i hovedbogen.

Få måneder senere lancerede Google og Microsoft deres egne generative AI-programmer, som så ud til at være hastet igennem udviklingsfasen og ud på markedet i et forsøg på at følge trop.

Googles aktiekurser faldt, da chatbotten Bard selvsikkert gav et forkert svar under virksomhedens egen præsentation.

Vi kan forvente, at Microsoft vil være særlig forsigtig, når det kommer til chatbots, efter den Twitter-baserede bot, Tay, næsten øjeblikkeligt blev lukket ned i 2016 efter den på under et døgn gik fra tweets om nuttede hundehvalpe til kønsdiskriminerende og racistiske ytringer.

Kan ikke se ind i fremtiden

En del brugere blev urolige efter tidlige samtaler med AI-drevne Bing, som har videregivet kendt misinformation.

Når disse forhastede lanceringers sociale gæld forfalder, forventer jeg, at vi vil høre omtale af utilsigtede eller uforudsete konsekvenser.

Når alt kommer til alt, kan hverken OpenAI, Microsoft eller Google se ind i fremtiden – selv med etiske retningslinjer på plads.

Hvordan kan vi vide, hvilke samfundsproblemer, der dukke op, før teknologien overhovedet er fuldt udviklet?

Roden til dette dilemma er usikkerhed, som er en almindelig bivirkning af mange teknologiske revolutioner, men som er ekstra stort i forbindelse med kunstig intelligens.

Skal producere det uforudsete

En del af pointen med kunstig intelligens er jo, at dens handlinger ikke er kendt på forhånd.

Kunstig intelligens er ikke designet til at skabe negative konsekvenser, men til at producere det uforudsete. Det er imidlertid ikke korrekt, at teknologer ikke kan overveje, hvad mange af disse konsekvenser kan være.

Der er efterhånden utallige eksempler på, hvordan kunstig intelligens kan reproducere bias og forværre social ulighed, men disse problemer er sjældent offentligt identificeret af teknologivirksomhederne selv.

Det var eksempelvis eksterne forskere, der fandt racemæssig bias i udbredt kommercielt software til ansigtsgenkendelse samt i en algoritme til medicinsk risikovurdering, som blev anvendt på omkring 200 millioner amerikanere.

Forskere og fortalere eller forskningsorganisationer som Algorithmic Justice League og Distributed AI Research Institute gør meget af dette arbejde: Identifikation af skade efter det er sket.

Og dette mønster ser ikke ud til at ændre sig, hvis virksomhederne bliver ved med at afskedige etikere.

Ansvarlig overvejelse

Til tider beskriver jeg mig selv som 'teknologi-optimist', som tænker og forbereder sig som en pessimist.

Den eneste måde at mindske etisk gæld på er at tage sig tid til at tænke på ting, der kan gå galt fremadrettet - men det er ikke noget, teknologer nødvendigvis har lært at gøre.

Den ikoniske science fiction forfatter og forsker Isaac Asimov sagde engang, at »Sci-fi-forfattere forudser det uundgåelige, og selvom problemer og katastrofer kan være uundgåelige, er løsninger det ikke.«

Naturligvis har science fiction-forfattere ikke en tendens til at have til opgave at udvikle disse løsninger – men lige nu er det teknologerne, der udvikler kunstig intelligens.

AI skal lære at tænke mere som science fiction-forfattere

Så hvordan kan designere af kunstig intelligens lære at tænke mere som science fiction-forfattere?

Et af mine nuværende forskningsprojekter fokuserer på at udvikle måder at understøtte denne proces med etisk overvejelse.

Med det mener jeg ikke, at vi skal designe med fjerne robotkrige for øje, men med evnen til overhovedet at overveje fremtidige konsekvenser, også i den allernærmeste fremtid.

Det er et emne, jeg har udforsket i min undervisning i nogen tid. Jeg har opfordret de studerende til at overveje de etiske implikationer af sci-fi-teknologi for at forberede dem til at gøre det samme med teknologi, de senere vil være med til at skabe.

En øvelse, jeg udviklede, hedder Black Mirror Writers Room, hvor de studerende skal tage høje for potentielle negative konsekvenser af teknologi, for eksempel sociale mediers algoritmer og selvkørende biler.

Disse diskussioner er ofte baseret på tidligere mønstre eller potentialet for skrupelløse aktører.

Sammen med ph.d.-kandidat Shamika Klassen evaluerede jeg denne undervisningsøvelse i et forskningsstudie.

Rammer marginaliserede grupper uforholdsmæssigt meget

Vi fandt ud af, at der er pædagogiske fordele ved at tilskynde computerstuderende til at forestille sig, hvad der kan gå galt i fremtiden – og så brainstorme om, hvordan vi i første omgang kan afværge, at det sker.

Men formålet er ikke at forberede de studerende på disse vidtstrakte fremtidsforestillinger; det er at undervise i overvejelse som en færdighed, der kan anvendes med det samme.

Denne færdighed er især vigtig for at hjælpe de studerende med at forestille sig, at det skader andre mennesker, da teknologiske konsekvenser ofte påvirker marginaliserede grupper, der er underrepræsenteret i computerfag, uforholdsmæssigt meget.

Næste skridt for min forskning er at oversætte disse etiske overvejelsesstrategier til teknologidesignteams i den virkelige verden.

Tid til at sætte farten ned?

I marts 2023 anbefalede et åbent brev med tusindvis af underskrifter at sætte trænings-AI-systemer, der er stærkere end GPT-4, på pause. Ukontrolleret AI-udvikling »kan i sidste ende overstige, overliste, forælde og erstatte os,« eller endda forårsage et »tab af kontrol over vores civilisation,« advarede forfatterne.

Kritik af det åbne brev påpeger, at fokus på hypotetiske risici ignorerer den faktiske skade, der sker i dag.

Ikke desto mindre tror jeg ikke, at der er videre uenighed blandt AI-etikere om, at farten på udviklingen af kunstig intelligens skal sættes ned - at udviklernes argument, der frasiger sig ansvaret ved at give 'utilsigtede konsekvenser' skylden, ikke holder.

På blot få måneder har 'AI-kapløbet' virkelig taget fart, og jeg tror, det allerede står klart, at etiske overvejelser helt er gået i glemmebogen.

Men en dag forfalder gælden. Historien afslører dog, at det formentlig ikke er Big Tech-bosserne og investorerne, der kommer til at betale.

Denne artikel er oprindeligt publiceret hos The Conversation og er oversat af Stephanie Lammers-Clark.