Du kender det fra dig selv: Du har lettere ved at orientere dig i en ny dansk by end i en ny asiatisk eller afrikansk by.
Instinktivt ved du, at når du har fundet torvet, og når bygningerne er gamle, så er du ved at være i centrum.
Det samme er tilfældet, når vi gør brug af kunstig intelligens. Kunstig intelligens genkender nemlig også steder, der følger samme arkitektoniske og kulturelle mønstre, som den har set før.
Det skyldes, at vi (og den kunstige intelligens) har lært, hvilke genstande i gadeplanet vi skal lægge særligt mærke til og kan bruge som pejlemærker til at genkende et sted.
For eksempel kan en reklame på et neonskilt være et meget brugbart pejlemærke i København, men vil være mindre nyttigt for et specifikt sted i Tokyo.
I vores forskning på Danmarks Tekniske Universitet har vi opdaget, at den kunstige intelligens, der bruges til at genkende steder, har samme opførsel.
Det kan have uhensigtsmæssige konsekvenser som at skabe større ulighed og diskrimination i fremtidens kort.
Konsekvenser, som vi har forsøgt at kæmpe imod ved at samle verdens største offentlige datasæt til stedgenkendelse med billeder af verdens byer. Det vender vi tilbage til.
\ Forskerzonen
Denne artikel er en del af Forskerzonen, som er stedet, hvor forskerne selv kommer direkte til orde.
Her skriver de om deres forskning og forskningsfelt, bringer relevant viden ind i den offentlige debat og formidler til et bredt publikum.
Forskerzonen er støttet af Lundbeckfonden.
Fremtidens kort er 3-dimensionelle
Siden frigivelsen af GPS til civile formål og udbredelsen af korttjenester som Google Maps har vi været vidne til en revolution i brugen og præcisionen af kort.
Moderne kort er dynamiske og kan opdatere os om myldretidstrafik, åbningstider af butikker og lukning af veje.
Men der foregår stadig meget forskning i at forbedre kort. De eksisterende kort indeholder nemlig ikke nok information for nær-fremtids applikationer som selvkørende biler og augmented reality (AR – en teknologi, som kombinerer data fra den fysiske verden med virtuelle data, for eksempel med grafik og lyd).
Selvkørende biler og AR skal bruge langt mere informative kort end dem, som er tilgængelige nu. Selvkørende biler vil for eksempel være afhængige af kort med information om placering af trafikskilte, fodgængerovergange, vegetation som buske og træer, vejkvalitet og vejbredde.
Fremtidens kort vil ikke længere være 2-dimensionelle, men 3-dimensionelle. De vil fungere som en digital kopi af virkeligheden.
Kunstig intelligens gør fremskridt
Kort med så stor en detaljeringsgrad forudsætter automatisering. Men heldigvis har kunstig intelligens i det sidste årti vist stor fremgang indenfor mange af de discipliner, som er vigtige for at lave fremtidens kort.
For eksempel er det nu muligt for en kunstig intelligens at genkende trafikskilte, trafiklys, vegetation og bygninger ud fra billeder.
Den kan skelne mellem vej, vejstriber, fodgængerovergange, fortov og kantsten. Og den kan lave præcise 3D-rekonstruktioner af gadeplanet.
Geografisk og kulturel bias i kort
I vores forskning på DTU Compute arbejder vi på en kunstig intelligens, som kan identificere positionen af en selvkørende bil, udelukkende udfra billeder af bilens omgivelser.
Det kan man gøre ved at lede efter beskrivende kendetegn i gadebilledet, som er informative for et specifikt sted, men samtidigt er synlige mange steder.
For eksempel vil Rundetårn være et meget beskrivende kendetegn for et sted i København – men alle andre steder i Danmark eller i udlandet vil det ikke være nyttigt at lede efter Rundetårn.
I København kunne beskrivende kendetegn være altaner, søjler eller brosten. Men en kunstig intelligens specialiseret i at kigge efter altaner, søjler eller brosten vil havde svært ved at orientere sig i Bangalore i Indien, da det her er andre visuelle kendetegn, som palmer eller reklameskilte, der er beskrivende og ofte optræder i bybilledet.
Da vi har mindre data fra afrikanske og asiatiske byer, har vores kunstige intelligens ikke set nok eksempler til at lære, hvilke visuelle kendetegn som både er beskrivende og ofte ses i disse områder.
Det introducer et bias (skævvridning): På mindre repræsenterede steder, som afrikanske og asiatiske byer, vil mindre nyttige pejlemærker blive husket.
Fremtidens kort kan være behæftet med fejl i udviklingslande
Vi ser i vores eksperimenter, at den geo-kulturelle bias resulterer i, at den kunstige intelligens klarer sig langt bedre i byer, der er opbygget efter et vestligt forbillede.
Når den kunstige intelligens er mindre præcis i andre byer, skyldes det ikke kun, at vi har mindre information om disse steder, men også, at den kunstige intelligens er trænet i at genkende visuelle kendetegn, som er beskrivende for steder i amerikanske og europæiske storbyer.
Dette bias kan resultere i, at fremtidens avancerede digitale kort kan være behæftet med mange fejl i afrikanske og asiatiske områder.
Det kan betyde, at for eksempel selvkørende biler og avancerede droner ikke vil kunne bruges i disse områder, hvilket dermed resulterer i øgede globale teknologiske og økonomiske forskelle.
Delebiler i udviklingslande kræver, at fremtidens kort er uden bias
Det mest sandsynlige scenarie er, at selvkørende biler bliver udbredt som delebiler.
I mange udviklingslande er befolkningstætheden lav. Mange har meget langt til skole eller arbejde, og få har råd til en købe deres egen bil.
Her kan delevenlige, selvkørende biler erstatte behovet for ejerskab. Dette vil sænke omkostninger ved indkøb, vedligehold og brændstof, hvilket vil muliggøre, at flere vil have adgang til transport.
Dermed er selvkørende biler en god mulighed for udviklingslande til at springe det udviklingstrin over, hvor man ejer sit private transportmiddel, og i stedet går direkte til et delevenligt samfund.
Men for at opnå dette er det nødvendigt at mindske den geo-kulturelle bias i fremtidens ‘intelligente’ kort.
Kunstig intelligens er trænet i vestlig data
Den kunstige intelligens er trænet i massive mængder af data fra vestlige byer, men meget lidt eller ingen data fra resten af verden.
Ved at indsamle mere data fra afrikanske og asiatiske byer vil disse steder også blive repræsenteret i vores datasæt, hvilket vil reducere modellernes bias.
I dag er virksomheder som Google og Uber førende indenfor fremtidens kort gennem en ekstensiv privat forskning i selvkørende biler.
Da der er størst efterspørgsel efter disse biler i Vesten, samles der dog klart mere data ind i vestlige industrialiserede lande end i udviklingslandene.
Det skaber en ulighed og kan lede til tekniske fejl, hvis selvkørende biler, som kun er trænet i at genkende kendetegn fra europæiske og amerikanske byer, bliver brugt i de afrikanske og asiatiske byer, hvor gode kendetegn ser anderledes ud.
Gode kort giver magt og strategisk infrastruktur
Kort har igennem tiderne været forbundet med magt. I renæssancen var land- og søkort ofte statshemmeligheder, da de gav ihændehaveren økonomiske, militære og diplomatiske fordele.
I moderne tid kan nævnes, at NAVSTAR GPS-systemet (i dag bare GPS) oprindeligt blev udviklet til militære formål. Den amerikanske regering gjorde først GPS tilgængelig til civile formål på globalt plan i 2000, 22 år efter GPS systemets lancering.
I en nær fremtid vil selvkørende transport blive meget udbredt. Men alle disse selvkørende transportmidler vil afhænge af præcise 3-dimensionelle kopier af virkeligheden.
Det betyder, at ejerne af data og af de intelligente kort kan kontrollere al selvkørende transport. Man kan sammenligne det med en privatisering af brugen af vejnettet.
Den bedste løsning for at undgå, at nogle få virksomheder, som de eneste, kommer i besiddelse af disse kort, vil være at demokratisere adgangen og bidragelse til disse kort.
Kollaborative korttjenester giver en mulighed for dette.
\ Læs mere
Fælles kort, hvor alle kan bidrage
Virksomheder som Mapillary og OpenStreetMap tilbyder en sådan kollaborativ software tjeneste, hvor ikke-specialister kan bidrage til at udvikle kort.
For eksempel kan alle tage og uploade billeder til Mapillary’s kollaborative platform. Her vil ens billeder, sammen med billeder fra tusindvis af andre, indgå i et detaljeret visualisering, som efterhånden vil omfatte hele verden.
Det giver alle med et kamera mulighed for at bidrage til et fælles kort.
Både Mapillary og OpenStreetMap har været meget succesfulde i kortlægningen af verden, og i skrivende stund har Mapillary over fem millioner brugere og over én milliard billeder på deres platform.
Dette resulterer i, at store dele af verden er repræsenteret i deres data, og det giver mere lige muligheder til alle for at kortlægge.
Drømmen om demokratiske kort fik os til at samle 1,6 millioner billeder
Vi mener, at det er vigtigt, at forskere bruger data fra sådanne kollaborative platforme i deres forskning, da det giver mulighed for at vurdere den kunstige intelligens optræden på tværs af landegrænser og geo-kulturelle bias.
Og det er netop det, vi som de første, har gjort i stor skala.
I samarbejde med Mapillary har vi skabt det til dags dato største offentligt tilgængelige datasæt til stedgenkendelse med over 1,6 millioner billeder fra 30 byer fordelt over 6 kontinenter (se figur 2).
Vi har samlet et datasæt med enorm diversitet, der repræsenterer geo-kulturelle forhold på tværs af byer som København, Kampala, Bengaluru og Tokyo og vist, at datasættet kan bruges til at evaluere geografisk bias, samt reducere den.
Disse resultater præsenteres på konferencen ‘Computer Vision and Pattern Recognition’ i juli 2020, og den tilsvarende artikel er online her.
Vores håb er, at vores arbejde kan være med til at demokratisere de intelligente kort – så alle borgere i verden kan drage fordel af dem.
Forskningen, som denne artikel bygger på, er delvist udført ved hjælp af midler fra Villum Fonden og det europæiske forskningsråd (ERC).
