ChatGPT minder os om det gode ved uvidenhed

Hvis man bare kan konsultere verdens klogeste væsen og spørge det om alt, behøver man vel ikke selv at vide noget?

Historien om filosoffen Sokrates, der omkring 430’erne f.v.t. vandrede omkring i Athens gader, fortæller os en anden historie; en historie, som det er godt for os at blive mindet om i dag.

Sokrates var ikke alene udråbt af oraklet Pythia til at være verdens viseste menneske. Han var også kendt i Athen for at kunne lære sine studerende at tænke ved at lære dem:

1. At de skal begynde enhver tankeproces med at erkende deres egen uvidenhed
2. At man ved at blive dygtig til at stille de rigtige spørgsmål kan lære at tænke dybere over tingene

Sokrates antog, at han var mere vidende end de lærde adelsmænd i Athen, fordi han i det mindste kunne starte med at erkende sin egen uvidenhed og dermed kunne stille gode spørgsmål.

Og netop erkendelsen af egen uvidenhed kan godt blive en ny pædagogisk tilgang, når universiteterne skal forberede sig på det, der er blevet kaldt sprogmodels-revolutionen.

Det kan vi konkludere på baggrund af et empirisk projekt på Aarhus Universitet med titlen ’Sokratisk uvidenhed i arbejdet med generativ AI’, hvor vi har lavet forsøg med flere grupper af studerende – i alt 15 – samt en underviser.

Vores gennemgang af eksisterende forskningsartikler om sprogmodeller viste nemlig, at de færreste studier går i dybden med, hvordan studerende rent faktisk anvender ChatGPT og lignende redskaber. Ofte er de blot baseret på underviseres eller forskeres egne erfaringer med ChatGPT uden for egentlige undervisningssituationer.

Derfor har vi i vores projekt fulgt de studerendes arbejde med ChatGPT tæt og observeret, hvordan de samarbejder med ChatGPT-3, når de skal besvare spørgsmålet: »Hvad er uddannelse?«

Uklare udfordringer

I vores undersøgelse med de studerende har vi brugt ChatGPT-3, som er en meget brugt sprogmodel. Den blev lanceret i november 2022.

Siden er der fulgt mange forskellige sprogmodeller og nyere versioner, og intet tyder på, at udviklingen stopper. Fra starten blev det spået, at den ville forandre både arbejdspladser og uddannelsesinstitutioner, og den opfattes allerede som en hjælp for undervisere i de videregående uddannelser.

Derfor er der al mulig grund til at se nærmere på, hvordan disse sprogmodeller konkret påvirker eksempelvis de studerendes arbejdsformer på universiteterne.

Som nævnt er der meget få studier af, til hvad og hvordan de studerende faktisk arbejder med ChatGPT – og lignende modeller – i praksis.

Langt de fleste artikler spekulerer på, hvordan ChatGPT kan anvendes, eller nøjes med at spørge universitets-underviserne, om de synes, den kan bruges i undervisningen. Nogle enkelte undersøgelser spørger også de studerende eller afdækker mediedebatten om ChatGPT.

Men hvilke konkrete udfordringer, der ligger i sprogmodel-revolutionen, har vi endnu ikke noget klart billede af.

Skråsikker revolution

Når man spørger ChatGPT selv, hvordan denne revolution kommer til at se ud, kommer den med en række ubegrundede antagelser om, at den er et revolutionerende gode.

Den kan ifølge sig selv tilpasse sig individuelle læringsbehov, lave hurtigere informationssøgning, er tilgængelig døgnet rundt og kan frigøre lærerkræfter ved at overtage administrative opgaver.

Den konkluderer: »Samlet set kan ChatGPT gøre uddannelse mere tilgængelig, effektiv og tilpasset individuelle behov, hvilket er grunden til, at den kan revolutionere uddannelsessektoren.«

På spørgsmålet »Hvad er uddannelse?« er ChatGPT lige så skråsikker: Uddannelse handler først og fremmest om at opnå nye færdigheder og viden, som kan anvendes på arbejdsmarkedet.

»Et samfund med veluddannede borgere har tendens til at være mere innovativt, produktivt og socialt fremskridtsorienteret,« svarer ChatGPT.

»Hvad er uddannelse?« var lige præcis et af de spørgsmål, som vi bad deltagerne i vores undersøgelse om at besvare. Først ved at skrive fem linjer frit fra leveren og dernæst ved at skrive på baggrund af deres dialoger med ChatGPT.

Vi har efterfølgende interviewet de studerende og analyseret både deres besvarelser og deres chat-historik med ChatGPT.

Dannelse vs. uddannelse

Projektet viste, at hovedparten af vores studerende – på pædagogisk antropologi ved Århus Universitet – skrev, at uddannelse først og fremmest handlede om dannelse og om at skabe dannede mennesker.

Dannelse er imidlertid en dimension, som ChatGPT ikke på noget tidspunkt selv kom ind på.

Dannelsesbegrebet er dog også notorisk vanskeligt for sprogmodeller, der som ChatGPT fortrinsvis er trænet på engelske data. Danske dialoger med ChatGPT er grundlæggende oversættelser fra dansk til engelsk og tilbage igen, og det er svært at oversætte det danske begreb ’dannelse’.

Flere af de studerende forsøgte forgæves at få ChatGPT til at forholde sig til dannelse og denne type dimensioner af uddannelse.

Chat-historikken viser, at ChatGPT har meget svært ved at besvare de studerendes spørgsmål om begrebet dannelse, og ChatGPT forholder sig heller ikke til det faktum, at den ikke er i stand til indgå i en dialog om dannelse.

ChatGPT har med andre ord ikke det, man kan kalde 'sokratisk uvidenhed'; den har ingen bevidsthed og dermed heller ingen erkendelse af, at der er noget, den ikke ved.

Skråsikre adelsfolk og skråsikre sprogmodeller

Mange kender til den kendsgerning, at ChatGPT opdigter fakta eller 'hallucinerer', som det hedder, når maskinen udfylder hullerne i sin viden på den statistisk mest sandsynlige måde.

Vi oplevede således i vores projekt med de studerende, at ChatGPT opfandt citater fra videnskabelige tekster komplet med forfatternavn, årstal og sidetal.

Det lød fuldstændigt som den citerede forfatter, i dette tilfælde sociolog Erving Goffman, men citaterne findes bare ikke. De er opdigtede eller rekombinerede som noget, Goffman kunne have skrevet.

Det er imidlertid ikke den type uvidenhed, som er den mest problematiske.

Det mest problematiske er den manglende erkendelse af, at der er store områder af den menneskelige tilværelse og viden, som ChatGPT ikke kender til, ikke kan forholde sig til – og dermed forhindrer dens brugere i at tænke videre over.

Den leverer svar og ikke nye spørgsmål.

ChatGPT er lige så overbevist om sit eget værd som ekspert som de skråsikre adelsfolk i Athen, der i år 399 f.v.t. dømte Sokrates til døden, fordi de ikke brød sig om, at han lærte borgerne at tænke og sætte spørgsmålstegn ved anerkendt viden.

Modsat ChatGPT brugte de studerende - kunne vi konstatere i opfølgende interviews - deres sokratiske uvidenhed undervejs i deres arbejde med ChatGPT. De måtte erkende dels deres egen uvidenhed om ChatGPT's begrænsninger og dels nødvendigheden af at stille bedre spørgsmål for at kunne anvende chatbotten optimalt.

Der viste sig et tydeligt mønster af, at de studerende og underviseren, der på stedet kunne referere og spørge til tekstbaserede akademiske diskussioner om, hvad uddannelse er, var bedre til at holde fast i deres tankerækker. De kunne bedre bruge deres uvidenhed konstruktivt i de opfølgende spørgsmål til ChatGPT.

Enkelte lod sig dog helt ’forføre’ og endte med ukritisk at ændre og tilpasse deres oprindelige fem linjers besvarelser, så de reviderede besvarelser kom til at ligne ChatGPT's svar. En enkelt overtog helt alle ChatGPT's formuleringer.

ChatGPT's mangler lærer os at tænke over vores uddannelser

ChatGPT leverer altså svar på alt, men den udfordrer ikke de studerende til at tænke videre i deres egne baner eller tankerækker, hvis disse tankerækker – eller tekst-rekombinationer – ikke ligger inden for ChatGPT's egen referenceramme.

Den egentlige revolution, som følger med ChatGPT, handler om at tage en masse af de kulturelt selvfølgelige idéer om uddannelse op til revurdering og starte med at erkende vores egen uvidenhed.

Hvorfor læser og skriver de studerende egentlig stadig tekster på universiteterne? Hvis det ikke var for ChatGPT, ville vi måske slet ikke have kaldt denne undren frem.

Nu viser vores forsøg, at det kan være et gode at læse tekster, der øger vores horisont og erkendelse af at være uvidende. Det kan gøre os bedre til at stille relevante spørgsmål – og tænke.

Forsøget viser også, at vi, når vi taler om vores uvidenhed, bør betragte det som en særlig form for faglig uvidenhed.

Denne form for uvidenhed hjælper os med at bedømme og udfordre svarene fra ChatGPT. For at være 'uvidende' på den fagligt rigtige måde skal undervisere nu i endnu højere grad være i stand til at definere og forklare den specifikke og lokale fortolkning af faget for deres studerende.

Derudover viste forsøget med al ønskelig tydelighed, at ChatGPT ikke er velegnet som lærer (heller ikke til differentieret, individuelt tilpasset undervisning), da den simpelthen ikke kan erkende sin egen uvidenhed – og dermed kan risikere at tromle de studerendes kulturelle og lokale forståelse.

En erkendelse af ChatGPT's mangler lærer os med andre ord at tænke – og det var det, som Sokrates ønskede.