Det kostede topforsker jobbet hos Google at stå fast på basale forskningsværdier

I december 2020 annoncerede AI-forskeren Timnit Gebru, at hun var blevet fyret fra Google. Umiddelbart ikke nogen stor nyhed. Virksomheder fyrer og ansætter mange mennesker hver eneste dag.

Sagen var blot, at Gebru ledte Googles forskningsteam i Etisk AI, og årsagen til hendes fyring var angiveligt, at Google havde forlangt, hun og hendes team skulle trække sig som medforfattere på en forskningsartikel.

En forskningsartikel som vel at mærke stillede kritiske etiske spørgsmål om de store sprogmodeller, de fleste nu kender fra ChatGPT og lignende AI-værktøjer.

Umiddelbart kunne man tænke, at Gebrus fyring kun afspejler et dilemma, der er specifikt for forskning i Etisk AI.

Zoomer vi lidt ud, giver sagen os dog indblik i nogle mere generelle dilemmaer, der er opstået i kølvandet på udviklingen af kunstig intelligens.

Dilemmaer, som ikke kun berører forskere, der arbejder direkte med etik eller kunstig intelligens, men også dem, der blot bruger AI som værktøj i deres forskning, for eksempel inden for klimavidenskab.

Men lad os først forstå, hvad der var problemet for Google med Gebrus’ artikel.

Etik versus bundlinje

Tech-giganter, såsom Google og Microsoft, har de seneste år oprettet adskillige teams inden for Etisk AI, og forskere fra disse er ofte medforfattere på indflydelsesrige videnskabelige artikler inden for feltet.

Virksomhederne kan så fremhæve dette som bevis på, at de tager ansvar for teknologiens sociale og etiske konsekvenser.

Mange vil dog nok have den mistanke, at det sociale ansvar hurtigt vil komme til kort, hvis det for alvor begynder at true den økonomiske bundlinje.

Det er sandsynligvis her, skoen trykkede i forhold til Gebrus forskningsartikel. Selvom ChatGPT endnu ikke var kommet på markedet i 2020, stod det allerede dengang klart, at de store sprogmodeller havde et enormt kommercielt potentiale.

Gebrus artikel truede denne bundlinje, da den påpegede fundamentale etiske problemer ved netop disse modeller.

Gebrus kritik af de store modeller

Kort fortalt var Gebrus pointe, at de store sprogmodeller er baseret på en ’større er bedre’ tilgang til udviklingen af kunstig intelligens.

Her opnår man nye gennembrud, ved at man indsamler endnu mere data, investerer endnu flere computerkræfter, og bygger endnu mere komplekse modeller.

Mange af de fremskridt, vi har oplevet inden for kunstig intelligens de seneste år, bliver i høj grad drevet frem af netop denne logik. Men det har samtidig en pris.

For det første gør modellernes kompleksitet det utroligt svært at forudsige og forklare, hvordan de vil opføre sig i forskellige situationer.

For eksempel er det et velkendt problem, at AI-værktøjer nemt kan reproducere racistiske eller sexistiske fordomme, som ligger implicit i deres træningsdata.

Jo større og mere komplekse modellerne bliver, des sværere bliver det at opdage og håndtere den slags problemer.

For det andet er det utroligt resursekrævende at udvikle og køre sådanne modeller. Microsoft har for eksempel for nyligt investeret i genåbningen af et atomkraftværk, for at kunne få nok strøm til deres datacentre.

Mere generelt gør ’større er bedre’ logikken, at det realistisk set kun er tech-giganterne, der har resurser og infrastrukturen til at udvikle og køre de meste avancerede AI-modeller.

Det er her, vi begynder at kunne se konturerne af de dilemmaer, mange forskere i dag står overfor.

Skal vi arbejde inde fra eller uden for de store tech-virksomheder?

Man kan spørge sige selv: Hvorfor vælger AI-etikere som Gebru dog at arbejde inden for de store virksomheder?

Det er trods alt ikke svært at forudsige, at de etiske værdier og den økonomiske bundlinje nemt kan komme i konflikt.

Det korte svar er, at det at arbejde inden for murene hos for eksempel Google giver forskerne nogle helt unikke muligheder for at forstå og potentielt påvirke udviklingen af den allernyeste teknologi, længe før den bliver bredere tilgængelig.

Det er altså ikke kun det, at tech-virksomhederne kan tilbyde markant højere lønninger og ofte mere favorable arbejdsvilkår end universiteterne, som trækker!

Forskere, der gerne vil arbejde med den nyeste teknologi og være med til at forme fremtidens kunstige intelligens, står dermed i et dilemma:

Skal de arbejde indefra, hos de store virksomheder, og dermed potentielt begrænses i, hvad de kan forske i eller publicere?

Eller skal de fastholde deres uafhængighed og frihed ved at stå udenfor, men så potentielt miste adgang til og indflydelse på de nyeste fremskridt?

Dilemmaet er komplekst, for begge valg medfører forskellige typer begrænsninger. Hvad, man hælder mest til, vil nok afhænge af, i hvor høj grad man mener, teknologiens udvikling skal ske på markedets præmisser.

Det sidste vender vi tilbage til. Men først vender vi blikket mod den bredere videnskabelige forskning.

Skal vi bruge tech-firmaernes modeller til forskning?

Mange forskere bruger i dag AI som et værktøj, for eksempel til at udvikle modeller der kan forudsige, hvordan forskellige scenarier for udledningen af CO₂ vil påvirke fremtidens klima.

Vil man have de mest præcise resultater, kræver det alt andet lige adgang til de resurser, som tech-giganterne ligger inde med:

Dels de mest avancerede modeller, men også de computerkræfter (og det strømbudget), der skal til at træne og køre dem.

Desuden arbejder mange af de fremmeste AI-eksperter, som kan bidrage til at udvikle og anvende AI-værktøjer inden for andre videnskaber, også hos disse firmaer (til tider med deltidsansættelse på et universitet).

Heldigvis er virksomhederne ofte villige til at samarbejde med universitetsforskere om sådanne projekter. Igen pynter det på det sociale ansvar.

Så hvad er problemet? Er det ikke en win-win-situation? Dilemmaet opstår, fordi præcision ikke er den eneste norm, der kendetegner god videnskab.

Trumfer præcision andre videnskabelige værdier?

Videnskaben stiler for eksempel også efter at opnå en dybere forståelse af verden.

Blandt andet derfor anses simple, idealiserede modeller ofte som værdifulde, fordi de gør det nemmere at forstå og forklare de centrale årsagssammenhænge, der ligger bag komplekse fænomener som klimaet. Også selvom sådanne modeller giver mindre præcise forudsigelser.

Metodegennemsigtighed er en anden central videnskabelig norm. Videnskabens pålidelighed sikres ved, at forskere kan forholde sig kritisk til hinandens resultater.

Ideelt set bør videnskabelige metoder være tilstrækkelig gennemsigtige til, at andre kan genskabe et eksperiment eller reproducere en dataanalyse og dermed efterprøve om resultaterne holder.

Begge disse normer bliver udfordret af de komplekse, virksomhedskontrollerede AI-modeller.

Som Gebru påpeger i sin artikel, gør denne kompleksitet det netop sværere at gennemskue, hvorfor modellerne giver bestemte forudsigelser.

Muligheden for, at andre kan efterprøve resultaterne, begrænses yderligere, når dette kræver adgang til bestemte firmaers modeller, computerkræfter eller tekniske ekspertise.

Igen er pointen ikke, at god videnskab aldrig kan bedrives i samarbejde med tech-virksomheder.

Mange forskere vil sikkert se det som en acceptabel pris for at kunne publicere nye resultater og drive forskningen frem. Men det er vigtigt at holde sig for øje, at det netop er en pris.

Hvor afhængig skal forskningen være af tech-giganterne?

Dette leder os til et tredje dilemma, som handler om forskningens overordnede retning (nærmere end det enkelte forskningsprojekt).

For selvom virksomhederne måske også gerne vil samarbejde om replikationsstudier eller hjælpe til bedre at forstå de komplekse modeller, skabes der dermed et yderligere afhængighedsforhold.

Og det giver magt. Jo flere aspekter af forskningen, der afhænger af samarbejder med nogle få store virksomheder, des større mulighed har virksomhederne også for at påvirke retningen for fremtidens forskning.

Denne påvirkning behøver ikke at være så åbenlys som ved fyringen af Timnit Gebru. Den kan også udøves mere subtilt, ved at visse typer forskning prioriteres.

For eksempel vil mere forskning baseret på komplekse AI-modeller, der i første omgang prioriterer præcise resultater frem for gennemsigtighed, også være med til at sætte standarden og normerne for fremtidig forskning - og dermed yderlige styrke andre forskeres incitament til at bruge lignende, resursekrævende metoder.

Den enkelte forsker bør ikke stå alene med beslutningen

Er det en magt, vi skal lægge over til de private virksomheder?

Skal universiteterne prioritere forskning baseret på de mest komplekse, virksomhedskontrollerede AI-modeller - som unægtelig har et stort potentiale - og dermed binde sig tættere til tech-giganterne?

Eller skal universitetsforskningen i stedet prioritere at udvikle og anvende deres egne modeller, som for eksempel kunne være mindre resursekrævende eller lettere at forstå?

Disse er både dilemmaer for den enkelte forsker, men de er også forskningspolitiske problemstillinger.

Hvis vi lader de individuelle forskere stå med dilemmaerne alene, vil mange nok ende med at følge det spor, virksomhederne har lagt ud.

Om det er den retning, forskningen skal bevæge sig, er noget, universiteterne og vi som samfund må forholde os til.