Igen og igen har kunstig intelligens givet verdens bedste (menneskelige) spillere baghjul i spil som skak, Go, poker og Starcraft.
Nu har ‘maskinhjernen’ igen vundet terræn i spillenes verdenen og tævet – eller matchet – de bedste spillere i brætspillet Diplomacy.
Et spil, der kræver en stor portion strategisk og psykologisk tænkning – og ikke mindst evnen til at snyde, fuppe og manipulere sine modstandere. Triumfen blev for nylig publiceret i tidsskriftet Science.
Professor Søren Hauberg, der forsker i kunstig intelligens på Danmarks Tekniske Universitet (DTU), kalder det for en »imponerende indsats« af AI-forskerne.
»Det er sjovt og imponerende. Og lidt skræmmende,« siger DTU-professoren, der blandt andet forsker i, hvordan den – ofte lidt for skråsikre – kunstige intelligens kan blive bedre til at levere svar med en usikkerhed og nuancer.
Lidt oldschool
Gennem 40 spil Diplomacy på nettet var den kunstige intelligens dobbelt så god som en gennemsnitlig Diplomacy-spiller. Den rangerede desuden som værende blandt de 10 procent bedste spillere.
Umiddelbart ikke en præstation, som kan få en til at falde ned af stolen af frygt for, at vi mennesker endelig har mødt vores intelligente overmand.
At bruge spil som mål for, hvor en kunstig intelligens præstation, er endda også en lidt oldschool tilgang, lyder det fra Søren Hauberg.
»Det var noget man brugte meget i 1980’erne. Dengang var det højeste man kunne forestille sig, at en AI kunne opnå at slå mennesker i skak og den slags. Det løb er kørt i dag,« siger han.
Alligevel er Diplomacy-triumfen interessant.
En lille alarm ringer
Diplomacy har nemlig været lidt af en knast for forskere i kunstig intelligens, skriver forskerne i det nye studie.
Spillet kræver – foruden strategisk snilde – gode diplomatiske kundskaber som forhandlings- og overtalelsesevner. Herunder slet og ret evnen til at snøre og fuppe sin modspillere.
»Opgaven i Diplomacy skiller sig ud ved, at du skal lokke nogen til at følge din plan. Samtidig skal du narre nogle mennesker til at tro, at du følger deres plan. Selvom du ikke gør det,« fortæller Søren Hauberg og fortsætter:
»For at kunne lykkes med det skal den kunstige intelligens ikke bare tænke strategisk, men den skal også kommunikere på en måde, så den rent faktisk er i stand til at overbevise og manipulere de andre spillere.«
En kunstig intelligens, der excellerer i snyd og fup, er måske skræmmende nok i sig selv. At forskerholdet bag den manipulerende maskine kommer fra tech- og data-giganten Facebook tilføjer et ekstra skær af uhygge, mener Søren Hauberg:
»Jeg vil egentlig ikke være sortseer, men der er en lille alarm, der ringer her,« siger professoren.
AI kan være fremtidens supersælger
Du har måske hørt om den hypede ChatGPT.
Verdens hidtil klogeste sprog- og chatbot, der siden november har vakt vild opsigt, fordi den kan løse en universitetseksamen og besvare alverdens spørgsmål med et overbevisende sprog og forstand.
Sat lidt på spidsen er ChatGPT »i det store hele formålsløs«, lyder det fra Søren Hauberg:
»Den prøver bare at snakke med dig og hjælpe dig. I udgangspunkt interagerer vi med chatbotter for at få svar på spørgsmål, så man bruger det som erstatning for Google-søgninger,« siger han og tilføjer:
»Men Diplomacy-chatbotten har et eksplicit formål. Og det er nogle gange at hjælpe dig, men oftere at narre dig for at vinde over dig. Hvis du har en AI, som du er i stand til at træne til at være bedst mulig til at narre mennesker, kommer det til at have sideeffekter.«
Søren Hauberg forestiller sig, at teknologien eksempelvis kan udnyttes til at omdanne chatbotter til automatiserede supersælgere:
»Det er oplagt at udnytte til kommercialisering. Jeg siger ikke, at det er forskernes plan.«
»Et tænkt eksempel kan være, at du får prakket en ny balsam på, mens du chatter med en bot om, hvordan du bedst fikser din utætte håndvask. Det er relativt uskyldigt isoleret set, men den bagvedliggende idé: at den kunstige intelligens har en strategi, der handler om at narre dig, er skræmmende.«
Facebook-forskere anerkender risiko
Facebook-forskerne bag Diplomacy-robotten, der har fået navnet Cicero, fortæller til Videnskab.dk, at de er opmærksomme på den risiko, som udviklingen af deres teknologi bærer med sig.
»Når vi ser på det utrolige potentiale, som AI kan åbne for i den fysiske og virtuelle verden, er vi nødt til at balancere denne optimisme med en forståelse for risiciene,« fortæller forskningsingeniør Emily Dinan fra Facebook AI Research til Videnskab.dk.
»Disse risici kan komme i mange former, hvad enten det drejer sig om utilsigtet brug af nye teknologier eller dårlige aktører, der forsøger at udnytte sårbare områder. Vi går ind for yderligere forskning i disse risici, inden der udvikles AI til højrisikoscenarier i den virkelige verden – for eksempel til reelle forhandlinger i den virkelige verden.«
Emily Dinan fortæller, at de valgte at træne en kunstig intelligens i Diplomacy »fordi det er en god legeplads til at studere AI i krydsfeltet mellem naturlig sprogbehandling og strategisk logik.«
»Spillet kræver reel kommunikation i naturligt sprog mellem spillerne, hvilket bringer det meget tættere på situationer uden for spil, hvor mennesker arbejder sammen ved at kommunikere med hinanden ved hjælp af sprog,« forklarer hun.
Formålet med deres forskning er at forbedre virtuelle assistenter – som chatbots – og helt konkret at træne kommunikationssystemet mellem mennesker, kunstig intelligens og computere i metaverset.
Metaverset er den virtual reality-baserede verden, som Facebooks moderselskab Meta og mange andre tech-firmaer i disse år satser benhårdt på at gøre til den fremtidens sociale medieplatform.
Robot-diplomati i vente?
Kan man forestille sig, at jeres kunstige intelligens eksempelvis bruges til at løse reelle diplomatiske opgaver – som strategiske og politisk forhandlinger – ude i virkeligheden?
»Vores kode, modeller og data er meget specialiserede til spillet Diplomacy, så de har yderst begrænset nytteværdi ud over spillet lige nu. Vores sprogmodel vil generere en masse vrøvl uden for Diplomacy-spillet. Mere forskning på området vil bidrage til at muliggøre AI, der bedre kan interagere og samarbejde med mennesker,« lyder det fra Emily Dinan.
Søren Hauberg fra DTU har også svært ved at forestille sig, at fremtidens freds- og handelsaftaler vil blive forhandlet på plads med en kunstig intelligens på hver sin side af forhandlingsbordet.
»Men det kan godt være, at man i fremtiden vil bruge AI til at danne forslag til strategi og forhandling. For mig virker det ikke helt urimeligt, at man kan bruge en bot, der er god til at kommunikere og tænke strategisk, til at give et forslag til, hvad der bør være ens næste træk i en forhandling,« siger DTU-professoren:
»I dag bruges computerspil for eksempel til at træne soldater. Jeg kunne godt forestille mig, at man kunne bruge en chatbot til at træne folk, der sidder i forhandlingssituationer. Det kan være en nem og billig måde at træne forhandlere på,« slutter Søren Hauberg.
