Glem de dystopiske fremtidsscenarier: Kunstig intelligens kan allerede nu skade mennesker

Postyret hos ChatGPT-producenten OpenAI, da de 17. november 2023 med kort varsel fyrede den administrerende direktør, Sam Altman, blot for så at blive tvunget til at genansatte ham fire dage senere, har rettet søgelyset mod sikkerheden ved kunstig intelligens og bekymring for den hurtige udvikling af Artificial General Intelligence (dansk: kunstig generel intelligens, red.), forkortet AGI.

AGI er løst defineret som intelligens på menneskeligt niveau på tværs af en række opgaver.

OpenAI's bestyrelse meldte ud, at Sam Altmans opsigelse skete som følge af »mangel på konsistent ærlighed i hans kommunikation med bestyrelsen«, men spekulationerne har centreret sig om splid mellem Altman og medlemmer af bestyrelse.

Dissse skulle efter sigende handle om bekymringer om, at OpenAI's bemærkelsesværdige vækst – produkter som ChatGPT og Dall-E har hvervet mange hundrede millioner brugere verden over – har hindret virksomhedens evne til at fokusere på de katastrofale risici, som AGI udgør.

OpenAI's mål om at udvikle AGI er blevet viklet sammen med idéen om en kunstig intelligens med superintelligente egenskaber og behovet for at sikre sig mod, at teknologien misbruges eller bliver utilregnelig.

Men indtil videre er AGI og de medfølgende risici spekulative. Opgavespecifikke former for kunstig intelligens er i mellemtiden ganske virkelige og udbredte, men de flyver ofte under radaren.

Jeg forsker i informationssystemer og ansvarlig AI, hvordan disse hverdagsalgoritmer fungerer – og hvordan de kan skade mennesker.

AI er overalt

AI spiller en synlig rolle i vores hverdag, fra ansigtsgenkendelse, der låser telefonen op, til tale-og stemmegenkendelsen bag vores digitale assistenter.

Men AI er også til stede i andre processer, som vi måske ikke tænker lige så meget over – for eksempel ved at kuratere vores sociale medier og online shopping, guide vores valg, når vi ser videoer samt matche os med en chauffør til samkørsel.

AI påvirker også vores liv på måder, der potentielt helt går vores næse forbi.

Hvis du er jobsøgende, kunne det måske interessere dig at vide, at mange arbejdsgivere bruger kunstig intelligens i ansættelsesprocessen, og ledelsen bruger muligvis AI til at identificere medarbejdere, der er i risikogruppen for at sige op.

Hvis du ansøger om et lån, bruger banken sandsynligvis AI til at beslutte, om det kan bevilges.

Hvis du bliver behandlet for en medicinsk tilstand, kan læger og andet sundhedspersonale bruge AI til eksempelvis at analysere røgten- og skanningsbilleder.

Og hvis du kender nogen, der er inde i retssystemet, kan kunstig intelligens meget vel spille en rolle i afgørelser, der har konsekvenser for deres liv.

Algoritmerne gør skade

Mange af de AI-systemer, der flyver under radaren, har bias, der kan volde skade.

Maskinlæringsmetoder bruger for eksempel induktiv logik, som starter med et sæt præmisser, til at generalisere mønstre fra træningsdata.

Tag eksempelvis ét maskinlæringsbaseret CV-screeningsværktøj, der viste sig at være partisk og have bias mod kvinder, fordi træningsdataene afspejlede tidligere praksis, hvor de fleste CV blev indsendt af mænd.

Brugen af prædiktive metoder på områder fra sundhedspleje til børnevelfærd kan udvise bias som eksempelvis 'cohort bias', der fører til skæve risikovurderinger på tværs af forskellige grupper i samfundet.

Selv når juridisk praksis forbyder diskrimination baseret på eksempelvis race og køn – for eksempel i forbindelse med banklån til private – kan diskrimination stadig forekomme.

Det sker, når algoritmiske beslutningsmodeller ikke leder efter de egenskaber, der er beskyttet ved lov, som race, og i stedet bider mærke i egenskaber, der er stærkt korrelerede eller forbundet med de lovbeskyttede egenskaber, som for eksempel bopæl.

Adskillige studier har konkluderet, at sorte og latino-låntagere i USA betaler markant højere rente på statssponsorerede og -sikrede enterpriselån samt Federal Housing Authority-forsikrede lån end hvide låntagere med sammenlignelige risiko-profiler.

Kan have faretruende konsekvenser

En anden form for bias opstår, når beslutningstagere bruger en algoritme på en anden måde, end algoritmens designere havde til hensigt.

I et velkendt eksempel lærte et neuralt netværk at associere astma med en lavere risiko for død som følge af lungebetændelse. Det skyldtes, at astmatikere med lungebetændelse traditionelt får mere aggressiv behandling, der sænker deres dødelighedsrisiko i forhold til den samlede befolkning.

Men hvis resultatet fra et sådant neuralt netværk bliver anvendt i fordelingen af hospitalssenge, vil patienter med astma og indlagte med lungebetændelse blive nedprioriteret i faretruende grad.

Bias fra algoritmer kan også skyldes komplekse samfundsmæssige feedback-loops.

Når myndighederne for eksempel forudsiger recidivisme, forsøger de at forudsige, hvilke kriminelle der efter udstået straf sandsynligvis igen vil begå en forbrydelse

Men den datamængde, der bliver brugt til at træne prædiktive algoritmer, siger faktisk kun noget om, hvem der sandsynligvis vil blive arresteret igen.

AI-sikkerhed her og nu

Biden-administrationens nylige dekret og håndhævelsesindsats fra føderale agenturer, som for eksempel Federal Trade Commission, er de første skridt mod en anerkendelse af samt en sikring mod den skade, algoritmer kan forvolde.

Og selvom store sprogmodeller, som GPT-3, der driver ChatGPT, og multimodale store sprogmodeller, såsom GPT-4, er et skridt på vej mod AGI, er de også algoritmer, som folk i stigende grad bruger i skolen, på arbejdet og i dagligdagen.

Det er vigtigt at tage højde for de bias, der følger af udbredt brug af store sprogmodeller.

For eksempel kan disse modeller udvise bias som følge af negative stereotyper, der involverer køn, race eller religion, samt bias i repræsentationen af minoriteter og handicappede.

Da disse modeller demonstrerer evnen til at udkonkurrere mennesker på tests som advokat-eksamenen, mener jeg, at der er behov for større kontrol for at sikre, at AI-suppleret arbejde er i overensstemmelse med standarden for gennemsigtighed, nøjagtighed og kildekreditering, og at interessenter har autoritet til at håndhæve disse og lignende standarder.

Hvem der i sidste ende vinder og taber på den storstilede udrulning af AI handler måske ikke om skruppelløs, utilregnelig superintelligens, men nærmere om at forstå, hvem der bliver sårbare, når algoritmisk beslutningstagning bliver allestedsnærværende.

Denne artikel er oprindeligt publiceret hos The Conversation og er oversat af Stephanie Lammers-Clark.