Kunstig intelligens er et spejl af os selv

Vi tænker ofte på kunstig intelligens som noget, vi mennesker former.

Vi designer den, træner den og tilpasser den til vores behov. Men den påvirker også os, for jo mere vi interagerer med AI, desto mere tilpasser vi os maskinens måde at fungere på.

Vi skriver kortere og mere præcise beskeder, fordi vi ved, at chatbotten ellers misforstår os. Vi vænner os til at stole på forslag fra HBO Max og Disney+, fordi de sjældnere skuffer os.

Vi ændrer endda vores måde at tale og tænke på, uden at vi nødvendigvis er bevidste om det.

Det virker måske uskyldigt, men over tid former alle disse anbefalinger vores blik, vores smag og vores opførsel. Det er design, der skubber os i bestemte retninger, ofte uden vi opdager det.

Engang ville vi måske have ladet blikket vandre hen over hylderne i en boghandel, bladret i et par bøger og besluttet os for den næste bog baseret på en kombination af intuition og nysgerrighed.

I dag er det mere sandsynligt, at en algoritme på en webshop eller en AI-drevet læseapp har anbefalet os en titel.

Gætter og genkender mønstre

Selv om eksemplerne er forskellige, ligger de samme basale mekanismer til grund for alle systemer baseret på kunstig intelligens, uanset hvor enkle eller komplicerede de virker.

Systemerne bygger på algoritmer, der er en slags opskrifter, der fortæller en computer, hvordan den skal løse en opgave trin for trin.

De underliggende matematiske algoritmer er udviklet til at identificere mønstre i data og handle relevant ud fra dem.

Uanset om det indebærer at foreslå en ny tv-serie til en træt forskertype en hverdagsaften eller at identificere forstadier til kræft i sundhedssektoren.

Systemerne kan opdage mønstre i skanninger, som selv erfarne øjne kan overse, og dermed hjælpe lægerne til bedre at identificere tidlige tegn på sygdomme.

Principperne bag maskinlæring i avancerede AI-systemer har flere træk til fælles med vores hjerner.

I 1990’erne udviklede den britiske hjerneforsker Karl Friston teorien om, at vores hjerne ikke kun behandler sanseindtryk, men også aktivt gætter på, hvad den vil opleve næste gang.

Ifølge Friston fungerer hjernen som en maskine, der hele tiden prøver at minimere overraskelser: Den forsøger at forudsige, hvad der vil ske, og justerer sig selv, hvis den tager fejl.

Sårbar overfor fejl

Når ChatGPT genererer en tekst, vurderer den sandsynligheden for tusindvis af mulige versioner og vælger den, der passer bedst til konteksten.

Dens evne til at ’gætte rigtigt’ afhænger af, hvor godt den har lært mønstrene i vores sprog, og selv om evnen kan være imponerende, er den sårbar over for præcis de samme typer fejl som os.

Hvis vi ser en silhuet i mørket, gætter vores hjerne instinktivt på, at det er en person, måske er det bare en busk eller en bunke tøj på en stol.

Fordi vores hjerner er vant til at opdage mønstre og søger mening i det, vi sanser, fortolker den således tvetydig information ud fra det, vi tror, er mest sandsynligt.

I mørket, hvor synet er begrænset og usikkerheden større, griber hjernen endnu hurtigere til velkendte forklaringer.

Det sker automatisk og ofte ubevidst, fordi det evolutionært har været en fordel at reagere hurtigt på mulige trusler.

Hellere tage fejl og opfatte en skygge som en mulig overfaldsmand end at overse en reel fare.

Det indebærer også, at vores hjerner nogle gange ser ting, der ikke er der, eller tillægger dem en forkert betydning.

På samme måde er det med sproget.

Hvis vi hører en sætning, hvor der mangler et ord, kan vi ofte udfylde hullet, og vi kn læs sætningr, slvom flee bgstver mnglr. Men vi risikerer også at forvrænge, hvad sætningen egentlig betyder.

Reflekterer vores fordomme

Vi mennesker kan have en tendens til at opfatte en teknologi som AI som neutral, da vi tror, den behandler information objektivt uden at være påvirket af menneskelige fordomme.

I praksis fungerer AI dog snarere som et spejl, altså en refleksion af os selv, og dermed også af vores fordomme.

Når AI forstærker en bestemt måde at se verden på, er det sjældent, fordi systemet er fuldt af fejl, men snarere fordi det spejler mønstre i de data, udviklerne har fodret det med.

Nogle gange viser AI os nemlig sider af os selv, vi helst ikke vil se.

Når en sprogmodel som ChatGPT eller en billedgenerator som Midjourney producerer tekst eller billeder, der stereotypt fremstiller kvinder som omsorgspersoner og mænd som ledere, eller når den racistisk karakteriserer bestemte etniske grupper som kriminelle, er det ikke maskinen, der har skabt skævhederne.

Det er derimod os selv via de data, vi har efterladt i vores digitale fodspor.

Den kunstige intelligens reflekterer vores intelligens og måder at forstå verden på, bevidste såvel som ubevidste.

Algoritmen kan forstærke skævheder

Ligesom vores egne generaliseringer kan være forkerte, kan AI’s også være det.

Hvis vi ubevidst forbinder bestemte jobs såsom sygeplejerske og buschauffør med et køn eller en etnicitet, kan en algoritme til at sortere jobansøgninger hos et rekrutteringsfirma lære det samme mønster.

Det sker, fordi udviklerne typisk træner AI på historiske data – altså tidligere ansøgninger, cv’er og ansatte.

Hvis de data afspejler en hidtidig virkelighed, hvor mænd oftere var buschauffører og kvinder oftere sygeplejersker, vil algoritmen sandsynligvis begynde at foretrække ansøgere, der ligner de tidligere succesfulde, og dermed videreføre eller ligefrem forstærke eksisterende skævheder.

Dermed sorterer systemet ikke neutralt, men filtrerer usynligt, idet kandidater med profiler, der ’afviger’ fra fortiden, risikerer at blive valgt fra, uden at noget menneske egentlig har ønsket det. Eller opdager det!

Den slags fejl kan få alvorlige konsekvenser for den enkelte, hvis stater overvåger det offentlige rum, eller firmaer træffer vigtige beslutninger med kunstig intelligens.

Hvis en algoritme til at genkende ansigter i en lufthavn eller en selvkørende bil misfortolker et menneske eller objekt, kan det føre til panik, forkerte reaktioner og i værste fald skade. AI forstår simpelthen ikke billeder af verden, som vi gør.

Den genkender mønstre i billederne, men ikke nødvendigvis deres betydning.

Den mangler kontekst, dømmekraft, og hvad vi ville kalde sund fornuft – og derfor kan selv små forstyrrelser i et billede føre til farlige konklusioner.

For eksempel kan et klistermærke på et stopskilt få systemet til at opfatte det som et andet trafikskilt, eller en simpel ændring af lys og skygge i et overvågningskamera kan få systemet til at fejlidentificere en person.

Afslører vores ubevidste ideer om verden

Modsat os mennesker har AI-modeller ingen bagvedliggende forståelse eller model af verden, som kan hjælpe med at fange den slags fejl, der er åbenlyse for os mennesker.

AI udvikler imidlertid hele tiden evnen til at forudsige vores adfærd, og mange har oplevet, at streamingtjenester som Spotify nærmest kender deres smag bedre, end de selv gør.

Den danske it-forsker Sune Lehmann har da også fundet ud af, at vi er en del mere forudsigelige, end mange af os nok bryder sig om at indrømme.

Det er en af de centrale årsager til, at Amazon med stor sandsynlighed kan pege på bøger, jeg kunne have lyst til at købe, og at Google Maps ved at aflure mine daglige rutiner og færden i verden kan foreslå en effektiv rute i myldretiden, endnu før jeg selv har tastet min destination ind.

Menneskers evne til at finde mønstre er konstruktiv for os i mange forskellige sammenhænge.

Hvis vi ved, at AI afslører bias i jobmarkedet, kan det hjælpe os med at skabe mere fair måder at ansætte på.

Hvis vi ved, at AI finder skævheder i udvikling af medicin, kan vi målrette fremtidig forskning mod patientgrupper, som lægerne tidligere har overset.

Det kræver dog, at vi ikke betragter AI som en neutral observatør, men erkender og drager nytte af, at den både kan fastholde og afsløre alle vores ubevidste ideer om verden.