Det er mange som har tatt for seg temaet om kunstig intelligens (AI) og singulariteten fra mange perspektiver. AI er et stort område med mye usikkerhet. Så hvordan skal en AI programmeres for å unngå katastrofe? Isaac Asimov’s tre lover for robotikk har ofte blitt brukt som et eksempel på hvordan en AI skal oppføre seg. Som regel handler slike scfi-fi historier om hvordan en AI ville skade mennesker for å beskytte seg selv, men hva om den endte opp med å forårsake stor skade for å beskytte mennesker?
I romanen The Metamorphosis of Prime Intellect tar Roger Williams for seg problemet med Asimov’s tre lover og hvordan en supermektig kunstig intelligens kan ende opp med å tolke disse lovene på en måte vi selv kanskje ikke ønsker. Asimov’s lover kommer fra novellen Runaround, skrevet av science fiction forfatteren Isaac Asimov. De tre lovene lyder som følgende:
“Første lov: en robot får ikke skade et menneske eller, gjennom passivitet, tillate at et menneske blir skadet.
Andre lov: en robot må adlyde ordre gitt av mennesker, bortsett tilfeller hvor slike ordre er i konflikt med den første loven.
Tredje lov: en robot må beskytte sin egen eksistens så lenge den beskyttelsen ikke er i konflikt med første og andre lov.”
IsaaC Asimov, oversatt av Mathias Østensen.
Disse tre lovene høres veldig bra ut med det første, men det er fristende å spørre seg hvordan en kunstig intelligens ville tolket disse lovene, og hvordan mennesker ville reagert på en verden hvor det er ingen risiko eller utfordringer lenger? Det er mange som har spurt seg hvor lenge udødelighet kunne vært tilfredsstillende, men hvordan ville man tolerert udødelighet når en i tillegg var dypt utilfreds fra starten av? Forfatteren forsøker også å uttrykke hva som er viktig med livet. Er det bare å få alt som man vil og aldri dø eller møte noen utfordringer?
Da fortellingen starter befinner vi oss i en verden hvor hvert individuelle menneske har full kontroll over sine omgivelser, og til og med sitt eget fysiske legeme og utseende. Gjennom en mystisk skikkelse kalt Prime Intellect, kan de be om å endre alt etter sitt ønske. De kan til og med lage hele planeter akkurat som de vil. Problemet er at ingen kan dø, og alle har levd slik i 600 år uten å kunne gjøre noe med det. Etter hvert blir denne tilværelsen kjedelig for veldig mange, siden de er fanget i denne tilstanden for alltid. Det resulterer i stor frustrasjon for mange, og det oppstår en undergrunnskultur blant de som føler livet er blitt meningsløst og lite tilfredsstillende.
Vi blir først introdusert for Caroline, en såkalt “Death Jockey”. Dette er folk som søker å dø på de mest ekstreme og brutale måtene mulig. Som udødelige blir de brakt tilbake til liv uansett. Caroline er dypt utilfreds med tilværelsen sin, og ønsker ikke noe annet enn å dø, koste hva det koste vil. Prime Intellect er veldig streng i sin tolkning av Asimov’s lover, men Caroline har hatt mye tid på seg for å lære hvordan hun kan manipulere Prime Intellect for å oppnå sine ønsker. Romanen går etter hvert inn i hvordan ting utviklet seg til dette punktet, hva Prime Intellect er og hvordan den oppstod. Hvordan kunne det ha seg at mennesker er udødelige og har full frihet til å manipulere alt rundt seg bare ved å be om det? Er dette en digital verden? En ekte verden? Disse er noen av de mange spørsmålene vi søker etter å få svar på når vi leser The Metamorphosis of Prime Intellect.
Denne boken kan være svært grafisk til tider, da den beskriver veldig detaljert Caroline sine desperate handlinger og måter å dø på, men den forteller også en veldig spennende historie om en singularitet som tar helt av uten noen form for kontroll. Selv syntes jeg mystikken bak hvordan Prime Intellect oppstod og utviklet seg var høydepunktet i fortellingen. Det er en rekke øyeblikk som var veldig fengslende, for eksempel når vi blir kjent med Prime Intellect og skaperen. Jeg ville bare vite mer om hvordan ting kunne ha gått fra vår nåværende tilstand til den nye tilstanden boken beskriver som “after ‘the Change'”.
Roger Williams er ikke en veldig kjent forfatter, og denne boken ligger litt i skyggen av det som er kjent for folk flest, men den er likevel godt skrevet og veldig spennende. Den setter dine egne tanker i gang, og du finner deg selv i å fundere på hvordan forskjellige mennesker ville håndtert situasjonen. Jeg skulle ønsket at Williams utforsket andre folk enn Death Jocky’ene litt mer. Vi får høre litt om de forskjellige sosiale (og usosiale) gruppene som oppstår, men hovedfokuset er på Caroline og hennes historie.
Boken har en ganske absurd slutt, og det er vanskelig å si om det ender godt eller vondt. Det kan nok tolkes litt subjektivt. Det er lett å sitte igjen med mange spørsmål etter å ha lest ferdig slutten. Boken kunne godt blitt gjort til en serie for å utforske flere scenarioer. Jeg satt igjen med mange nye tanker som hadde vært gøy å se forfatteren ta tak i.
Denne boken burde passe for de som liker sci-fi, mysterier, filosofi, robotikk og teknologi, som i tillegg kan tåle noen ganske brutale beskrivelser.
