Det nye Google er på vej: Forskere frygter dumhed og misinformation

Superchatbotten ChatGPT har bestået avancerede advokat- og lægeeksamener, skrevet universitetsopgaver og været medforfatter på en videnskabelig artikel.

Nu indtager den berygtede chatbot-teknologi nyt land:

Søgemaskine-giganter som Google, Bing og kinesiske Baidu er nemlig alle på vej med ny teknologi, der gør brug af AI-drevne chatbots, når du søger på nettet.

Måske lyder det ikke som en forandring, der vil vende op og ned på din hverdag, men spørger man professor i interaktionsdesign Peter Dalsgaard, er det en nyhed, der vil påvirke os alle på sigt.

»Jeg er sikker på, at det vil få stor betydning, fordi alle vil komme til at bruge det her. Det vil skabe en gradvis ændring i, hvordan vi alle tilgår information i vores hverdag,« lyder vurderingen fra Peter Dalsgaard, der forsker ved Afdeling for Digital Design og Informationsvidenskab på Aarhus Universitet.

I sin essens betyder det, at fremtidens Google - og Bing - ikke bare vil præsentere dig for lange lister af søgeresultater, som du selv skal orientere dig i og klikke ind på, når du søger svar på et spørgsmål.

I stedet for at søge ud fra de ord, du skriver, vil de nye søgemaskiner forsøge at ‘forstå’ dit spørgsmål. Og i stedet for at sende dig en lang liste med links, vil chatbotten lave et hurtigt sammenkog af de ‘bedste’ svar til dig.

Hvis du har prøvet ChatGPT, har du nok en god idé om, hvordan det fungerer.

Forskere frygter dog for, at teknologien vil være fordummende og øge graden misinformation. Det kan du læse mere om senere i artiklen.

Bard is an experimental conversational AI service, powered by LaMDA. Built using our large language models and drawing on information from the web, it’s a launchpad for curiosity and can help simplify complex topics → https://t.co/fSp531xKy3 pic.twitter.com/JecHXVmt8l

— Google (@Google) February 6, 2023

Letter vores arbejde

Google og andre søgemaskiner er blevet så naturlig en del af vores hverdag, at Dansk Sprognævn i 2008 optog ordet ‘at google’ i den danske ordbog.

»I dag er der stadig en del arbejde overladt til os selv, når vi bruger en søgemaskine. Søgemaskinen viser en række links, hvor du selv skal gå ind og finde svar og lave en sammenligning mellem forskellige kilder,« forklarer Peter Dalsgaard.

Hvis du eksempelvis spørger Google, om ‘der bor flest mennesker i Amsterdam eller København’, vil Google give dig 10 links til hjemmesider, som du så kan klikke dig ind på en ad gangen:

Denne feature med listen af links, vil bestå. Men den nye chatbot vil skubbe listerne med kilder længere ned og gøre dem sekundære.

Derfor ses chatfunktionen som en seriøs udfordrer til den ‘gamle’ algoritme, der gav Google totalt dominans på markedet for søgemaskiner - se faktaboksen.

Chatbots vil fjerne den del af arbejdet, der tit resulterer i, at man åbner 10 forskellige faner, og skimmer mere eller mindre troværdige blogs for at få svar på et simpelt spørgsmål (hvis du vil læse mere om, hvor dårligt det kan fungere, så læs boksen i bunden af artiklen).

»Så hvis du skal til Berlin og skal bo i Prenzlauerberg, vil den nemt kunne give dig en overskuelig liste med de bedste hoteller og restauranter, der også ligger tæt på en legeplads for eksempel.«

»På den måde vil den lette en del af research-arbejdet, der ligger på vores skuldre,« fortæller Peter Dalsgaard.

Smart? Ja. Men ikke helt uden problemer.

Selvsikre chatbots tager ofte fejl

Chatbotten kan blive en praktisk hjælper, hvis du skal finde ud af, hvor længe kartoflerne skal koge (cirka 15 minutter).

Men den kan hurtigt skabe problemer, hvis du vil finde et godt svar på ‘hvorfor Rusland angreb Ukraine?’ eller finde fakta om Israel-Palæstina konflikten.

Ét kendt problem med AI-drevne chatbots - og kunstig intelligens helt generelt - er, at de har hang til at være lidt for skråsikre i deres svar, påpeger professor Søren Hauberg, der forsker i kunstig intelligens på Danmarks Tekniske Universitet (DTU):

»AI har en tendens til at oversælge og være helt ekstremt selvsikre. Det er meget svært at få dem til at udtrykke en form for usikkerhed,« siger Søren Hauberg, der netop forsker i, hvordan kunstig intelligens kan blive mindre skråsikre:

»Det er en indlejret del af måden, vi har bygget og trænet kunstig intelligens på. En kunstig intelligens har en opfattelse af, at det allerbedst kan svare sig for den at stå fast på sine svar. Også selvom de er forkerte,« siger Søren Hauberg.

»Helt banalt er det et problem, fordi den ganske ofte tager fejl,« tilføjer han.

Det gode eksempel på det bidrog Google selv med, da de ved præsentationen af deres chatbot Bard bad den om at forklare, hvilke nye opdagelser fra James Webb-teleskopet, man kunne fortælle sin 9-årige om.

Bard svarede blandt andet, at James Webb tog det første billede af en planet uden for vores eget solsystem - en såkaldt exoplanet. Men det var forkert, for det billede blev taget allerede i 2004 af en gruppe astrofysikere fra European Southern Observatory i Chile.

Efter fejlen i præsentationen dykkede Googles værdi med cirka 100 milliarder dollars på aktiemarkedet.

Ikke bruges til fakta

Peter Dalsgaard er helt enig i, at eksisterende chatbots har store begrænsninger, når det har med fakta at gøre.

»For ofte finder de jo bare på ting. Det gør den til en enormt overbevisende ‘bullshit artist’. Men hvis jeg gerne vil finde et hotel i Berlin, vil jeg jo gerne have, at det hotel findes i virkeligheden,« siger han.

Han fortæller, at han har selv har oplevet, at ChatGPT har fundet på bøger og forskningsartikler fra forskere, »der lyder som noget, forskerne kunne have skrevet om, men som ikke fandtes i virkeligheden«:

»Hvis vi skal ind og faktatjekke chatbotten hver eneste gang, vi bruger den, så kan det ikke svare sig, for så er vi jo lige vidt,« tilføjer Peter Dalsgaard, der dog er sikker på, at chatbots med tiden blive bedre til at vise usikkerhed og ikke bare finde på.

En forudsigelse, som Søren Hauberg er enig i:

»Jeg er sikker på, at vi nok skal få sprogmodeller, der er nuancerede og har selvrefleksion på et tidspunkt. Men jeg kan godt være bekymret for, hvornår det kommer til at ske.«

Ifølge Søren Hauberg er sprogmodellerne, som chatbots bygger på, en af de grene af kunstig intelligens, hvor arbejdet med at indbygge usikkerhed er »allermest underudforsket«.

»Der har været ret lidt opmærksomhed i den retning. Fokus har været at udvikle på noget, der virker overbevisende i sine svar, men ikke noget, der giver sikre svar,« forklarer han.

Kan puste til ulighed

Selv hvis chatbotterne bliver modne og lægger deres bullshit-tendenser på hylden, vil de stadig skulle behandles med en stor portion kildekritik.

Professor og filosof Anders Søgaard forsker i sprogmodeller og maskinlæring. Ifølge ham skal vi »passe på, at chatbotterne ikke kommer til at puste til uligheden i samfundet« :

»På den måde, som nye teknologi altid har gjort det, kommer det først de mennesker til gode, der allerede har lettest adgang til teknologien og allerede har et fortroligt forhold til den,« siger professoren fra Datalogisk Institut på Københavns Universitet.

Det vil sige unge, velstillede, storbyboere fra den vestlige del af verden, der i øvrigt også oftest er mænd. Problemet i det opstår i, at maskinlæring-teknologier som chatbots udvikles og påvirkes af den feedback, de får, når de bruges ude i den virkelige verden.

»Det vil sige, at det er dem, der hurtigst giver feedback til sprogmodellen, der til en vis grad træner den. På den måde sniger der sig en bias ind i sprogmodellen, hvis det primært er et ungt urbant publikum, der bruger den,« forklarer Anders Søgaard.

Tilbage i 2016 introducerede Microsoft deres chatbot Tay på Twitter. Tay overlevede dog kun i små 16 timer, før Microsoft trak den tilbage. Internettrolde havde nemlig lynhurtigt lært den at være »mandschauvinistisk og racistisk«.

Samme problematik ses lige nu med ChatGPT, der blandt andet beskyldes for at være ‘woke’ og liberal (i amerikansk forstand) dermed anti-konservativ. ChatGPT nægter eksempelvis at skrive et hyldestdigt til Donald Trump, men skriver gerne en ode til Joe Biden.

Fakta har altid været til debat

Hele problematikken i bias er ikke ny for Google. Siden søgemaskinernes gennembrud har spørgsmålet om ‘søgeneutralitet’ været til debat.

»Misinformation og disinformation er et kæmpe problem. Det vil det også være, når vi får den her nye type søgemaskiner. Men det er en udfordring, som vi kender til i forvejen,« pointerer Anders Søgaard.

Han minder om, at det altid har været til debat, hvad der kan betragtes som fakta eller solid viden, og hvordan denne viden er blevet til:

»Når man har udgivet encyklopædier, håndbøger eller kulturkanoner, vil der altid være en underliggende diskussion af, hvem eller hvad der har fået lov at være med her. Der har altid været kamp om pladserne i den slags udgivelser«.

Samme tendens ser vi på Wikipedia. Ifølge en amerikansk undersøgelse fra 2019 var 90 procent af alle Wikipedia-sider således redigeret af mænd. Kvinder blev chikaneret, når de redigerede på internet-encyklopædien, fortalte forskerne bag undersøgelsen.

»En af de Wikipedia-sider, der bliver ændret allermest på, er den, som handler om Israel-Palæstina-konflikten. Så kildekritik kommer til at være lige så vigtig med denne teknologi, som den har været med alle andre tidligere teknologier,« siger Anders Søgaard.

Kan gavne ordblinde og ældre

En positiv side af det nye chatbot-søgemaskine-ægteskab er, at - den trods frygt for bias - kan have demokratiserende effekter på nogle befolkningsgrupper, påpeger Anders Søgaard:

»I grunden er det jo ikke en ny teknologi. Det er en videreudvikling af den teknologi, som vi kender fra Siri og Alexa, der også er baseret på sprogmodeller. Det, vi har set med den teknologi, er, at de har åbnet muligheder for grupper, der ikke har så nemt ved teknologi. For eksempel ældre, blinde og ordblinde, som synes, internettet er svært at navigere rundt.«

»Den gruppe af mennesker, mener jeg også, at chatbot-teknologien kan komme til gode.«

»Ser det som et fremskridt«

Så bliver de nye chatbot-drevne søgemaskiner en forbedring eller forringelse af vores hverdag?

»Jeg ser det klart som et fremskridt,« lyder det fra Peter Dalsgaard:

»Der er udfordringer og problemstillinger og potentielle konflikter relateret til det. Men kigger man på den måde, som det kan lette vores hverdag på og eliminere en del af arbejdet, der ellers påligger os, når vi søger efter information på nettet, så tror jeg, at de fleste nok vil se det som et fremskridt«.

For tidligt ude

Søren Hauberg er mere loren i sin dom.

Han påpeger, at chatbot-ræset lige nu er drevet af »at komme først« med de bedste chatbots og sprogmodeller. Men ingen tænker på, hvor hensigtsmæssige de egentlig er for samfundet.

Spørger man ham, er teknologien udrullet en postgang for tidligt.

»Denne generation af sprogmodeller slog først rigtig igennem i 2017. Det vil sige, at vi kun har haft et par års tid til at overhovedet at vænne os til det her i forskningslaboratorierne. Nu er det allerede ude som produkt. Det, synes jeg, er lidt tidligt,« siger Søren Hauberg.

Hvis Google - som der er lagt op til - inden længe udruller en ny måde at søge information på nettet, frygter han, at det kan gøre skade og virke fordummende på de skoleelever, der ubevidst fungerer som testkaniner for produktet.

»Det er selvfølgelig spekulativt, for vi ved ikke præcis, hvad Google kommer med. Men jeg kunne godt se et problem i, at de her sprogmodeller træner skoleelever i dum skråsikkerhed i et par år, inden de bliver helt gode.«

»Det kan jo påvirke et par ungdomsårgange, men det er dælme også meget.«