Forsker: Asimovs robotlove beskytter os ikke – her er en bedre løsning

Hvordan afværger vi, at robotter skader menneskeheden?

Mange eksisterende robotter, der eksempelvis arbejder i bilproduktionen på fabrikker, lukker omgående ned, hvis et menneske nærmer sig.

Men det er selvfølgelig ikke en løsning, der kan bruges til selvkørende biler, som måske skal flytte over i en anden vejbane for at undgå en kollision eller en plejerobot, der skal nå at gribe et ældre menneske.

Robotterne har sat kurs mod at blive vores tjenestefolk, ledsagere og kollegaer, så vi skal lære at håndtere de stadig mere komplekse situationer, som vil forekomme samt de etiske og sikkerhedsmæssige spørgsmål, der vil opstå.

\ Læs mere

Forskere: Vi er stadig langt fra menneskelige superrobotter

Flere løsninger er allerede foreslået

Science fiction forudså for længe siden dette problem, og en række forskellige mulige løsninger er allerede blevet foreslået.

Den mest berømte er forfatteren Isaac Asimovs tre robotlove, der havde til formål at forhindre, at robotterne forårsager skade på mennesker.

Men siden 2005 har jeg og mine kollegaer ved University of Hertfordshire arbejdet på et alternativ.

I stedet for love for at begrænse robotadfærden mener vi, at robotter bør have beføjelse til at maksimere de mulige måder, så de kan handle, og så de kan vælge den bedste løsning for et givet scenario.

Som vi beskriver i en artikel publiceret i Frontiers, kan vores grundregler danne grundlag for et nyt sæt universelle retningslinjer for robotter for at sikre, at menneskeheden er i så gode hænder som muligt.

\ Læs mere

Robotterne kommer – måske

Asimovs tre robotlove

Den amerikansk-russiske biokemiker og science fiction-forfatter Isaac Asimov skrev gerne historier om sympatiske robotter og mente, at skrækscenarier om fremtidens robotteknologi var trættende.

I 1942 introducerede Asimov for første gang det, der siden hen er blevet kendt som 'de tre robotlove'. Lovene angiver følgende regler, som enhver kunstigt intelligent robot må overholde:

• Lov nummer 1: En robot må ikke skade et menneske eller ved uvirksomhed lade et menneske komme til skade.
• Lov nummer 2: En robot skal adlyde ordrer, som gives til den af mennesker, for så vidt disse ordrer ikke er i konflikt med den første lov.
• Lov nummer 3: En robot skal beskytte sin egen eksistens, for så vidt dette ikke er i konflikt med den første eller den anden lov.

Selvom lovene lyder acceptable og rimelige, har en række argumenter demonstreret, hvorfor de er utilstrækkelige.

\ Læs mere

Dræberrobotterne kommer - og hvad så?

'Oversættelse' er kæmpe udfordring

Asimovs egne historier er muligvis en dekonstruktion af lovene, der viser, hvordan de gentagne gange fejler i forskellige situationer. De fleste forsøg på at udarbejde nye retningslinjer følger et lignende princip for at skabe sikre, kompatible og robuste robotter.

Et problem med et hvilken som helst eksplicit formuleret sæt af robotretningslinjer, er behovet for at oversætte dem til et format, som robotter kan arbejde med.

Det er uhyre svært for en robot at forstå hele det menneskelige sprogs rækkevidde og den oplevelse, som det repræsenterer.

Brede adfærdsmæssige mål, som eksempelvis forebyggelse af skade til et menneske eller beskyttelse af en robots eksistens, kan betyde forskellige ting i forskellige sammenhænge.

Fastholdelse af reglerne kan resultere i, at robotten ikke kan handle eller reagere, som dens skabere måske havde til hensigt.

\ Læs mere

Derfor vil maskiner og robotter ikke overtage alle job

Det modsatte af hjælpeløshed

Vores alternative koncept – 'empowerment' (evnen til at få kontrol over og tage ansvaret for sit eget liv og sin situation, for eksempel i relation til arbejde, familie og politisk indflydelse) repræsenterer det modsatte af hjælpeløshed.

Empowerment betyder, at du har evnen til at påvirke en situation, og at du ved, at du kan. Vi har udviklet flere måder, hvor vi kan 'oversætte' dette sociale koncept til et kvantificerbart og operationelt teknisk sprog.

Det vil give robotterne mulighed for at holde deres muligheder åbne og handle på en måde, der øger deres indflydelse på verden.

\ Læs mere

Søren Pind: Hvad skal vi med mennesker, når robotterne kommer?

Robotterne reagerede 'naturligt'

Da vi forsøgte at simulere, hvordan robotterne ville bruge empowerment-princippet i forskellige scenarier, fandt vi, at de ofte handlende på forbavsende 'naturlige' måder.

Robotterne skal typisk efterligne den virkelige verden, og de behøver ikke specialiseret kunstig intelligens programmeret til at håndtere det pågældende scenarie.

At åbne en lukket dør for et menneske øger deres empowerment – begrænsning eller tilbageholdelse resulterer i et kortvarigt tab af empowerment. Alvorlig skade fratager robotterne deres empowerment helt og holdent.

Samtidig skal robotten forsøge at bevare sin egen empowerment, for eksempelvis ved at sikre, at den har strøm nok til at fungere, og den ikke sidder fast et sted eller bliver beskadiget.

\ Læs mere

Nu skal robotter følge ældre rundt på plejehjem

Robotter kan tilpasse sig nye situationer

Ved at bruge dette generelle princip snarere end foruddefinerede adfærdsregler er det muligt for robotten at tage højde for kontekst og evaluere forskellige scenarier, som ingen tidligere har forudset.

I stedet for altid at følge reglen om 'aldrig at skubbe mennesker', undgår robotten som hovedregel at skubbe dem, men den er stadig i stand til at skubbe et menneske væk fra en faldende genstand.

Så selvom mennesket måske kommer til skade, er det i mindre grad, end hvis robotten ikke havde skubbet dem.

\ Læs mere

Forskere: Mennesker ville vinde over robotter i krig

Afværger et 'I, Robot'-scenarie

I filmen 'I, Robot', der bygger på flere Asimov-historier, skaber robotterne en undertrykkende tyrannisk stat, der skal minimere, at mennesker kommer til skade ved at begrænse og 'beskytte' dem.

Det er en meget vanskelig udfordring. Men vi er overbeviste om, at empowerment kan føre til en praktisk løsning på det igangværende og meget debatterede emne; nemlig hvordan vi tøjler robotternes adfærd, og hvordan vi sikrer, at robotterne forbliver – i ordets mest naive forstand – 'etiske'.

\ Læs mere

Forsker: Robotter er hverken bevidste eller onde

Christoph Salge modtager støtte fra EU Horizon 2020-programmet. Denne artikel er oprindeligt publiceret hos The Conversation og er oversat af Stephanie Lammers-Clark.