Google lancerede for nylig sin nyeste eksperimentelle søgefunktion i Chrome, Firefox og Google-app-browserne til mange hundrede millioner brugere.
'AI Overviews' sparer dig for at klikke på link ved at levere et slags 'referat' over søgeresultaterne ved hjælp af generativ kunstig intelligens (AI), den samme teknologi, som står bag rivalen ChatGPT.
Hvis du for eksempel spørger: »Hvordan holder jeg bananer friske i længere tid?«, bruger Google AI Overviews kunstig intelligens til at generere en nyttig oversigt over tips, som at opbevare dem et køligt, mørkt sted og væk fra andre frugter som for eksempel æbler.
Men hvis du stiller et mere usædvanligt spørgsmål, falder svarene fladt til jorden. De kan endda være direkte farlige.
PR-katastrofe for Google
Google forsøger i øjeblikket at løse problemerne ét efter ét, men det er en PR-katastrofe for techgiganten og nærmest en meget udfordrende omgang 'Whack-A-Mole' eller 'muldvarpe-spil'.
Her træder AI Overviews beredvilligt til ved at informere om, at 'Whack-A-Mole', altså muldvarpe-spillet, er et klassisk spil, hvor man skal slå muldvarpen, der dukker op et tilfældigt sted, i hovedet med en hammer for at score point. Spillet blev opfundet i Japan i 1975 af producenten TOGO og hed oprindeligt 'Mogura Taiji' eller 'Mogura Tataki'.
Så langt, så godt, men AI Overviews fortæller også, at 'astronauter har mødt katte på Månen, som de har leget med og passet'.
Mere bekymrende anbefaler AI Overviews, at: 'du bør spise mindst én lille sten om dagen', da 'sten er en vigtig kilde til mineraler og vitaminer'. Søgefunktionen forslår desuden, at du putter lim på din pizza.
Hvorfor går det galt?
Et grundlæggende problem er, at generative AI-værktøjer ikke ved, hvad der er sandt, kun hvad der er populært. For eksempel er der ikke mange artikler på internettet om at spise sten, da det selvfølgelig er en rigtig dårlig idé.
Men på internettet kan man finde en flittigt læst satirisk artikel fra det falske nyhedsmedie 'The Onion' om at spise sten. Derfor baserede Googles kunstige intelligens sit referat på, hvad der var populært, og ikke hvad der var sandt.
Et andet problem er, at generative AI-værktøjer ikke har menneskelige værdier. De er trænet på en stor del af internettet.
Selvom sofistikerede teknikker (der går under eksotiske navne som for eksempel 'reinforcement learning from human feedback', RLHF, en tilgang til træning af AI-systemer, der er trænet på feedback fra mennesker) bruges til at eliminere de mest besynderlige resultater, er det ikke overraskende, at de afspejler nogle af de forudindtagede oplysninger, konspirationsteorier og endnu værre elementer, der findes på internettet.
Faktisk er jeg altid overrasket over, hvor høflige og velopdragne AI-chatbots er, givet hvad de er trænet på grundlag af.
Er det fremtiden for søgning?
Hvis det virkelig er fremtiden for søgning, går vi en upålidelig og usikker fremtid i møde.
Google prøver selvfølgelig ihærdigt at indhente OpenAI og Microsoft. Den økonomisk gevinst ved at være forrest i AI-kapløbet er enorm. Google er derfor knap så varsom som tidligere med at lægge teknologien i brugernes hænder.
I 2023 sagde Googles administrerende direktør Sundar Pichai:
»Vi har været forsigtige. Der er områder, hvor vi har valgt ikke at være de første til at lancere et produkt. Vi har sat gode strukturer op omkring ansvarlig kunstig intelligens. Du vil fortsat se, at vi tager os tid.«
Det ser ikke længere ud til at være helt sandt, når Google reagerer på kritikken om, at virksomheden er blevet en stor og sløv konkurrent.
Risikabel strategi
Det er en risikabel strategi for Google, som risikerer at miste den tillid, offentligheden har til, at Google er stedet, hvor man kan finde (rigtige) svar på spørgsmål.
Men Google risikerer også at underminere sin egen stortjenende forretningsmodel. Hvordan vil Google fortsat tjene penge, hvis vi ikke længere klikker på link, men bare læser deres referater?
Denne risiko er ikke begrænset til Google. Jeg frygter, at en sådan brug af kunstig intelligens kan være skadelig for samfundet mere generelt.
Sandheden er allerede en omstridt og ombyttelig idé. AI-usandheder vil sandsynligvis kun gøre ondt værre.
Om et årti ser vi måske tilbage på 2024 som internettets gyldne tidsalder, hvor det meste var menneskeskabt kvalitetsindhold, før botterne tog over og oversvømmede internettet med syntetisk og stadig mere AI-genereret indhold af lav og tvivlsom kvalitet.
Den anden generation af store sprogmodeller trænes sandsynligvis og utilsigtet på noget af outputtet fra den første generation. Masser af AI-startups fremhæver fordelene ved at træne på grundlag af syntetiske, AI-genererede data.
Men træning på det, de nuværende AI-modeller spytter ud, risikerer at forstærke selv små forudindtagede oplysninger og fejl.
Disse bekymringer passer ind i et meget større billede. Globalt bliver der hver dag investeret mere end 400 millioner dollar eller knap 2,8 milliarder kroner i kunstig intelligens, men regeringerne er først nu ved at vågne op til tanken om, at vi muligvis har brug for retningslinjer og regulering for at sikre, at kunstig intelligens bliver brugt ansvarligt, givet denne strøm af investering.
Farmaceutiske virksomheder må ikke frigive lægemidler, der er skadelige. Det må bilproducenter heller ikke.
Men indtil videre har techvirksomhederne stort set fået lov til at gøre, lige hvad de har lyst til.
Denne artikel er oprindeligt publiceret hos The Conversation og er oversat af Stephanie Lammers-Clark.
