Forestil dig, at du skal indlægges.

Du kan vælge mellem to hospitaler, der begge bruger AI - forskellige kunstig-intelligens-programmer - til diagnose og behandling:

• På hospital A giver AI’en en bedre diagnose end lægers. Til gengæld er kun AI’en ansvarlig for diagnosen, ikke nogen læge. 
• På hospital B tager en læge ansvaret for AI’ens diagnose, men AI’en er til gengæld ikke så veludviklet og diagnosticerer kun på niveau med en læge.

Hvilket scenarie vælger du? Svært spørgsmål? Måske.

Men ifølge et nyt studie vægter 1.027 adspurgte danskere en læge med ansvar for AI’ens beslutning meget højt i forhold til AI-programmets kunnen.

Den prioritering er helt anderledes, end AI-udviklerne har taget højde for, og indsigten kan derfor informere debatten om brug af AI i offentligheden betydeligt, mener en forsker bag studiet, der er udgivet i Journal of Medical Internet Research.

»Hvis vi skal udbrede brug af AI til hjælp for offentligheden, skal beslutningstagere tage folkets krav i betragtning,« mener Thomas Ploug, ph.d. på Aalborg Universitets forskningscenter for etik i praksis og hovedforfatter til den videnskabelige artikel.

Næsten 50 procent mente, at lægens ansvar er vigtigst

I alle spørgsmålene i forsøget skal deltagerne vælge mellem 3 tænkte hospitaler.

Hospitalernes AI-systemer har alle en forskellig blanding af 6 parametre, og studiet har forsøgt at kortlægge, hvilke af parametrene der er vigtigst for deltagerne:

• Hvorvidt en læge er ansvarlig for AI’ens beslutninger eller ej.
• Hvor alvorlig patientens sygdom er.
• Hvorvidt systemet er testet for, om det forskelsbehandler patienter med anden etnicitet.
• Hvor meget bedre AI’ens beslutninger er end en læges.
• Hvor godt AI’ens beslutninger kan forklares for patienten.
• Hvorvidt AI’en kun skal diagnosticere, behandle patienten eller begge dele.

Deltagerne prioriterede især lægeansvar, der blev valgt som det vigtigste parameter i 46,8 procent af spørgsmålene.

Hvor godt systemet kunne forklares var andenprioritet med 27,3 procent.

På tredjepladsen prioriterede deltagerne test af diskrimination i systemet med 14,8 procent.

De tre andre parametre (sygdommens alvor, behandling kontra diagnose og ydeevne) havde ikke meget betydning for deltagerne.

»Studiet indikerer altså, at der, for de flestes vedkommende, skal sidde en læge som ‘ledvogter’, hvis AI skal bruges i sundhedssystemet,« påpeger Ole Winther, professor i data science på Københavns Universitet og Danmarks Tekniske Universitet, der ikke har været involveret i studiet.

»Så selvom studiet viser, at folk generelt har tillid til teknologi, inklusiv AI, stoler folk mere på læger end på ny teknologi,« opsummerer Ole Winther.

AI kan også stilles til ansvar for fejl

Den enighed om denne pointe, som studiet indikerer, styrkes desuden af, at deltagerne har været en meget divers gruppe, der går på tværs af køn, alder og samfundsstatus, fortæller Aasa Feragen, professor i computervidenskab på Danmarks Tekniske Universitet, til Videnskab.dk.

»Det kunne antyde, at folk tror, at en ansvarshavende læge gør behandlingen bedre, men der skulle ikke være en hindring for, at AI’en, eller den hospitalsledelse, der har købt den, også kan tage ansvar,« mener Aasa Feragen, der heller ikke er involveret i studiet.

Hun påpeger, at en AI også straffes for at begå fejl, når den skal lære noget, lidt ligesom en ansvarlig læge ville opleve konsekvenser ved en fejl.

For AI-udviklere betyder det meget, at AI'en er effektiv, og at man kan forklare, hvordan den fungerer, men det prioriterer borgere ikke nødvendigvis. (Foto: Shutterstock)

AI-diskussionen er meget forskellig fra forskere til befolkning

Ifølge Thomas Ploug er der nok noget om, at befolkningen opfatter AI meget anderledes end folk, der arbejder med det.

Det var ifølge ham også et hovedformål med studiet at informere debatten om, hvilke betingelser AI skal bruges under i samfundet.

»Der foregår en stor og dyb debat blandt AI-producenter, etikere og forskere om det her, men der er overraskende få studier af almindelige menneskers holdninger,« forklarer han.

Ifølge Thomas Ploug ville det være en stor fejl ikke at tage de holdninger i betragtning, hvis man som politiker vil bruge AI til gavn for samfundet.

»De, der arbejder med AI, taler meget om dens ydeevne, og hvorvidt denne ydeevne er simpel nok til at forklare for andre, men studiet indikerer, at det ikke er så store prioriteter hos folket,« påpeger han.

Lægen foretrækkes, selv når den kunstige intelligens er bedre

Særligt interessant er det ifølge ham, at systemets forudsigelsesevne ikke havde meget indflydelse på folks valg, så længe en rigtig læge tager ansvar for det.

Det laveste niveau, som studiets hypotetiske AI’ers forudsigelsesevne ligger på, er på linje med lægers, men, selv når AI’en var betydeligt bedre end lægerne, blev AI’en fravalgt.

Og det er meget anderledes end prioriteringen hos mange af de, der udvikler AI-systemer såsom Aaasa Feragen, der finder det utroligt at forudsigelsesevnen ikke betyder mere.

Thomas Ploug indrømmer ligeledes, at han selv ville prioritere AI’ens forudsigelsesevne og diskriminationstest, men at det jo bare illustrerer den forskel, der kan være mellem den almindelige dansker og forskere.

Studiet indikerer, at folk er åbne overfor ny sundhedsteknologi, men at en læge skal have ansvar for det. (Foto: Shutterstock)

Folk har en sund skepsis over for kunstig intelligens

Ifølge Ole Winther illustrerer studiet nogle interessante holdninger i befolkningen, der bestemt bør informere diskussionen om AI i samfundet:

»Folk har tilsyneladende en sund skepsis over for ny, medicinsk teknologi,,« påpeger han.

Det skal dog ikke forstås, som at folk er lukkede over for brug af AI til bedre diagnoser og behandlinger.

Men de indsamlede resultater indikerer, at det er bedre at lade AI-teknologien assistere læger frem for at erstatte dem.

Brug af AI skal tilpasses ud fra borgernes holdninger og behov

Og i takt med den kunstige intelligens’ fremmarch i det offentlige, bliver det nødvendigt at indrette systemer efter patienters behov.

Deltagernes svar kan eksempelvis skyldes en nervøsitet for et system med såkaldt ‘automation bias’ -, altså, hvor der er for høj tillid til systemets automatiserede beslutninger, uden at de kontrolleres.

»Men det kunne man undgå ved for eksempel at indrette systemet sådan, at læger kun kunne bruge AI’en til at give sit besyv med, efter at de selv har gjort deres tanker om patienten,« foreslår han.

Ifølge Thomas Ploug er der brug for mere forskning i borgernes holdninger for at nå frem til den slags indsigter og tilpasninger.

I sidste ende er det, som ved enhver introduktion til ny teknologi, vigtigt at holde for øje, hvem den i sidste ende skal gavne.

Og selvom studiet kun fokuserede på sundhedssystemet, har det, ifølge Thomas Ploug, noget praktisk og vigtigt at sige om kunstig intelligens i samfundet generelt:

»Når man vil vide, på hvilke betingelser samfundet skal forbedres, kommer man ikke uden om de krav, der stilles af folket.«