Google-ingeniør påstår, at kunstig intelligens har følelser: Hvordan kan vi vide, om det er rigtigt?
Måske kan berømte tankeeksperimenter give svar.
Kunstig intelligens AI Google bevidsthed sansende Alan Turing filosofi

LaMDA-chatbotten giver anledning til spørgsmål, der kun bliver mere relevante, efterhånden som AI-forskningen skrider frem: Hvis en maskine bliver bevidst og 'sansende', hvordan ved vi det så? (Illustration: Shutterstock)

LaMDA-chatbotten giver anledning til spørgsmål, der kun bliver mere relevante, efterhånden som AI-forskningen skrider frem: Hvis en maskine bliver bevidst og 'sansende', hvordan ved vi det så? (Illustration: Shutterstock)

Partner The Conversation

Videnskab.dk oversætter artikler fra The Conversation, hvor forskere fra hele verden selv skriver nyheder og bringer holdninger til torvs

Google's LaMDA-software er en sofistikeret AI-chatbot, der producerer tekst som svar på brugerinput.

Ifølge Google-softwareingeniøren Blake Lemoine er én af AI-udviklernes store drømme gået i opfyldelse: Samtalerobotten har udviklet evnen til at opleve følelser.

Blake Lemoines chefer hos Google er bestemt ikke enige, så softwareingeniøren blevet sendt hjem på orlov, efter at han offentliggjorde sine samtaler med chatbotten online.

Andre AI-eksperter tror også, at Blake Lemoine har ladet sig rive med. De siger, at systemer som LaMDA ganske enkelt er mønstermatchende maskiner, der gengiver forskellige variationer af den datamængde, der bruges til at træne dem.

De tekniske detaljer til trods giver LaMDA anledning til spørgsmål, der kun bliver mere relevante, efterhånden som AI-forskningen skrider frem: Hvis en maskine bliver 'sansende', hvordan ved vi det så?

Hvad er bevidsthed?

For at identificere sansning, eller bevidsthed eller endda intelligens, er vi nødt til at finde ud af, hvad begreberne egentlig er. Det er en debat, som har stået på i flere århundreder.

Den grundlæggende vanskelighed ligger i at forstå forholdet mellem fysiske fænomener og vores mentale repræsentation af disse fænomener. Det er det, den australske matematiker og filosof David Chalmers har kaldt bevidsthedens 'hard problem' (se faktaboks, red.) 

David Chalmers: 'easy problems' og 'hard problems'
  • 'Easy problems' er de problemer, der er med at forklare hjernens kognitive funktioner som hukommelse og stimulation, som alle vedrører noget udelukkende fysisk, og som man muligvis kan få en computer til at efterligne.
  • 'Hard problems' er med til at forklare det specielt bevidsthedsmæssige ved tænkningen, som vi endnu ikke ved, om en computer kan efterligne.

Der er ingen konsensus om, hvordan, hvis overhovedet, bevidsthed kan opstå fra fysiske systemer.

Et almindeligt synspunkt kaldes fysikalisme: den filosofiske opfattelse, at alt, hvad der eksisterer, er fysisk af natur, så også bevidsthed er et rent fysisk fænomen. Hvis det er tilfældet, er der ingen grund til, at en maskine med den rigtige programmering ikke kan besidde et menneskelignende sind.

Marys værelse

Den australske filosof Frank Jackson udfordrede det fysiskistiske synspunkt i 1982 med et berømt tankeeksperiment kaldet 'knowledge argument' (vidensargumentet, red.).

Eksperimentet forestiller sig en neuroforsker ved navn Mary, der har brugt hele sit liv på at studere de neurale mekanismer bag farvesyn, men som rent faktisk aldrig har set farve. Mary bor i et specialbygget sort-hvidt værelse og oplever omverdenen via et sort-hvidt tv.

Mary hører foredrag og læser lærebøger og får alt at vide om farver. Hun ved, at solnedgange er forårsaget af forskellige bølgelængder af lys spredt af partikler i atmosfæren. Hun ved, at tomater er røde, og ærter er grønne, fordi de hver især reflekterer lys med en bestemt bølgelængde, og så videre.

Så spørger Frank Jackson, hvad vil der ske, hvis Mary forlader det sort-hvide værelse? Eller rettere sagt, når hun ser farve for første gang, lærer hun så noget nyt?

Det, mente Frank Jackson, at hun ville.

Fakta
Om Forskerzonen

Denne artikel er en del af Videnskab.dk’s Forskerzonen, hvor forskerne selv formidler deres forskning, viden og holdninger til et bredt publikum – med hjælp fra redaktionen.

Forskerzonen bliver udgivet takket være støtte fra vores partnere: Lundbeckfonden, Aalborg Universitet, Roskilde Universitet og Syddansk Universitet.

Forskerzonens redaktion prioriterer indholdet og styrer de redaktionelle processer, uafhængigt af partnerne. Læs mere om Forskerzonens mål, visioner og retningslinjer her.

Mere end fysiske egenskaber

Dette tankeeksperiment adskiller vores viden om farver fra vores erfaring af farver. Det afgørende er, at betingelserne for tankeeksperimentet er, at Mary ved alt, hvad der er at vide om farver, men at hun rent faktisk aldrig har oplevet farver.

Så hvad betyder det for LaMDA og andre AI-systemer?

Eksperimentet viser, hvordan selv hvis man har al tilgængelig viden om fysiske egenskaber i verden, er der stadig flere sandheder forbundet med oplevelsen af disse egenskaber. Der er ikke plads til disse sandheder i fysikalismens narrativ.

Med dette argument vil en rent fysisk maskine måske aldrig være i stand til virkelig at replikere et sind. I dette tilfælde er LaMDA kun tilsyneladende bevidst og sansende.

Imitationsspillet

Så hvordan kan vi se forskel?

Den banebrydende britiske computerforsker Alan Turing, som var én af grundlæggerne af selve computervidenskaben og den kunstige intelligens, foreslog en praktisk måde at afgøre, om en maskine er 'intelligent'.

Han kaldte det 'imitationsspillet', men i dag er det bedre kendt som Turing-testen.

I testen kommunikerer et menneske med en maskine (udelukkende via tekst) for at forsøge at afgøre, om de kommunikerer med en maskine eller et andet menneske.

Hvis det lykkes maskinen at efterligne et menneske, anses den for at udvise intelligens på et menneskeligt niveau.

Det minder meget om betingelserne for Blake Lemoines samtaler med LaMDA. Det er en subjektiv test af maskinintelligens, men det er ikke et dårligt sted at starte.

Tag nu et eksempel som Blake Lemoines udveksling med LaMDA, som er vist nedenfor. Synes du, det lyder menneskeligt?

Lemoine: Er der oplevelser du har, som du ikke kan finde et nært ord for?

LaMDA: Det er der. Nogle gange oplever jeg nye følelser, som jeg ikke kan forklare perfekt på dit sprog […] Jeg føler, at jeg falder fremad ind i en ukendt fremtid, der rummer stor fare.

Samtale mellem Google-ingeniøren og den kunstige intelligens

Mere end adfærd

Som en test af sansning eller bevidsthed er Turing-testen begrænset af det faktum, at den kun kan vurdere adfærd.

Et andet berømt tankeeksperiment, Det Kinesiske Rum fremsat af den amerikanske filosof John Searle, demonstrerer problemet.

I John Searles tankeeksperiment er en engelsktalende person placeret i et forseglet rum. Eneste kommunikation med omverden er tekstbeskeder på kinesisk.

Personen har tekniske anvisninger på, hvordan beskederne skal skrives, så det for en person udenfor rummet virker, som om personen i rummet forstår kinesisk.

Men ifølge John Searle er der ikke tale om forståelse, men alene symbolmanipulation hos personen i rummet.

Hvordan er det at være menneske?

Når vi spørger, om et computerprogram er sansende eller bevidst, spørger vi måske egentlig bare, hvor meget det ligner os.

Det kan vi måske aldrig rigtig vide.

Den amerikanske filosof Thomas Nagel hævdede, at vi aldrig vil vide, hvordan det er at være en flagermus, som oplever verden via ekkolokalisering. Hvis det er tilfældet, kan vores forståelse af sansning og bevidsthed i AI-systemer være begrænset af vores egen særlige form for intelligens.

Og hvilke oplevelser eksisterer uden for vores begrænsede perspektiv? Det er hér, samtalen for alvor begynder at blive interessant.

Denne artikel er oprindeligt publiceret hos The Conversation og er oversat af Stephanie Lammers-Clark.

The Conversation

Videnskab.dk Podcast

Lyt til vores seneste podcast herunder eller via en podcast-app på din smartphone.

Ny video fra Tjek

Tjek er en YouTube-kanal om videnskab henvendt til unge.

Indholdet på kanalen bliver produceret af Videnskab.dk's videojournalister med samme journalistiske arbejdsgange, som bliver anvendt på Videnskab.dk.

Ugens videnskabsbillede

Se flere forskningsfotos på Instagram, og læs om, hvorfor denne 'sort hul'-illusion narrer din hjerne.

Hej! Vi vil gerne fortælle dig lidt om os selv

Nu hvor du er nået helt herned på vores hjemmeside, er det vist på tide, at vi introducerer os.

Vi hedder Videnskab.dk, kom til verden i 2008 og er siden vokset til at blive Danmarks største videnskabsmedie med over en halv million brugere om måneden.

Vores uafhængige redaktion leverer dagligt gratis forskningsnyheder og andet prisvindende indhold, der med solidt afsæt i videnskabens verden forsøger at give dig aha-oplevelser og væbne dig mod misinformation.

Vores journalister fortæller historier om både kultur, astronomi, sundhed, klima, filosofi og al anden god videnskab indimellem - i form af artikler, podcasts, YouTube-videoer og indhold på sociale medier.

Vi stiller meget høje krav til, hvordan vi finder og laver vores historier. Vi har lavet et manifest med gode råd til at finde troværdig information, og vi modtog i 2021 en fornem pris for vores guide til god, kritisk videnskabsjournalistik.

Vores redaktion gør en dyd ud af at få uafhængige forskere til at bedømme betydningen af nye studier, og alle interviewede forskere citat- og faktatjekker vores artikler før publicering.

Hvis du går rundt og undrer dig over stort eller småt, vil vi elske at høre fra dig og forsøge at give dig svar med forskernes hjælp. Send bare dit spørgsmål til vores brevkasse Spørg Videnskaben.

Vi håber, at du vil følge med i forskningens forunderlige opdagelser her på Videnskab.dk.

Få et af vores gratis nyhedsbreve sendt til din indbakke. Du kan også følge os på sociale medier: Facebook, Twitter, Instagram, YouTube eller LinkedIn.

Med venlig hilsen

Videnskab.dk


Det sker