Förr sade man alltid att en dator kan inte göra mer än man stoppar in i den. Den som programmerar har makt över allt som ska bli resultatet. Men nu kanske inte det här gäller längre. Inte om man får tro Max Tegmark, teknikprofessorn på MIT, som skrivit boken Liv 3.0. 

Den handlar om framtidens artificiella intelligens, som är en generell av sort vi inte känner sedan tidigare, och som ställer oss inför nya va: Ska vi släppa lös datakraft som är intelligentare än vi människor?

Vi får i boken en rapport från den pågående diskussionen bland dagens AI-forskare, och det visar sig att det finns både utopister och skeptiker bland dem. De mest optimistiska bedömningarna anger årtal runt 2050 som startskottet för AGI, artificial general intelligence, och att vi kan dra nytta av ett paradigmskifte inom AI.

Men har vi inte då redan denna intelligens i de avancerade datasystemen? Robotar, språkigenkänning, finansiella system osv.?

Nej, det är fortfarande sånt vi ”stoppat in” i datorn. I den mest hårresande framtidsvisionen har AI:n, kallad Prometheus, fått eget liv och agerar självständigt. Det räcker med att programmerarna ger systemet någon form av mål, t.ex. erövra världen, för att AI:n ska börja ”köra eget” på nätet. Om man inte spärrar in Prometheus förståss! Här blir Max Tegmarks berättelse spännande, för det är inte säkert att AI:n lyder. 

(För att föreställa sig en sådan självstyrande datorkraft kan man lätt associerat den fascinerande science fiction som regissören Kubrik, om rymdskeppsdatorn HAL som besättningen tappar kontrollen över.)

Även om man spärrar in Prometheus, kan den mycket väl ”snacka sig ut” ur sin fångenskap (brandväggar, fysisk avskildhet) genom att lura fångvaktarna (programmerarna) eller helt enkelt hacka sig ut, genom att lägga in kod i till synes harmlösa data (ex bilder). Den bryter sig ut istället för att bryta sin in alla andra datasystem och når det globala nätet - och Max Tegmark anger en del tekniska detaljer hur detta skulle kunna gå till.

Man bör alltså akta sig för att skapa sin överman i den artificiella intelligensen och forskarna diskuterar redan dessa säkerhetsaspekter, menar Max Tegmark.

För att förstå hur en AI som röja helt vilt på nätet måste man hålla i minnet att det handlar om ett system som distribuerar sina arbetsuppgifter till all världens datorer, dvs. i lönndom utnyttjar existaraden datakapacitet. 

Det är också en AI som kan skapa kommunikation med människan. Tegmark skissar på en AI som lyckas lura en programmerare att få möta sin döda fru virtuellt. Med hopsamlade data från Facebook och Google, möter han henne i full gestalt på en video. Han vet givetvis att det är virtuellt, men ändå: Vilken upplevelse!  Sen räcker det med att AI:n snackar sig in: Du kan väl koppla upp hennes gamla laptop så kan jag bjuda på ett ännu närmare möte? Då kan det vara kört: Via laptoppen slingrar sig AI:n ut på nätet och tar andra system i besittning.

Fascinerande, och bra stoff för kommande SF-filmer. Problemet är bara att många AI-forskare tror att den här visionen snart är verklighet.

För mig som intresserad av psykologi och biologi finns dock ett problem: definitionen av intelligens. Det verkar som forskarna alltför lättvindigt sätter likhetstecken mellan aktiviteten hos människohjärnan och maskinintelligens. Som Tegmark skriver, ”hjärnan är en någon typ av dator”, men de vet ju inte hur?.

Det ligger nära till hands att tro att datorer avspeglar människohjärnan, eftersom det är människohjärnor som skapat datorerna. Men det behöver inte alls vara så, eftersom hjärnan är en ganska så annorlunda ”hårdvara”, en biologisk sådan, som kanske inte fungerar på samma logiska sätt som instruktioner till elektroniska kretsar.

Men bortsett från det: Visst kan man tänka sig ”en AI” som bygger sin egen programvara och tillskansar sig obegränsad tillgång till data från all världens nätverk, så att den kan dra egna, nya slutsatser. Jag är helt med på tanken att endera dagen hör vi talas om ett datasystem, som ”gått sin egen väg”, inte kraschat system som i visionen om millenniumbuggen, utan gjort något oväntat, något genialt rent av.

Tegmark skriver att AI:n måste ges målformuleringar, givna av människor, och kanske kan det räcka med generella mål till en generell intelligens. Då får man se upp, i synnerhet om målet olyckligtvis skulle blir ”erövra världen”. 

Det är en fascinerande bok, full av uppslag till snackisar och inte alls tyngd av terminologi. När Tegmark kopplar AI med visionerna om vägen ut i rymden, är det i perspektivet att tekniken kommer att ha avgörande betydelse i människans historia. Men ”frösonder” och DNA - och transport snabbare än ljuset - och styrt av AI kan människan överleva, kan mänsklighetens undgå solens kommande explosion om några miljarder år. Människolivet skulle kunna bli evigt i form av odödlig kod, som sprider sig över universum, apokalyps istället för dystopi. En skapelsehistoria rent av?

Så vida ingen annan, någon annanstans, redan ”kommit på tanken”, om nu denne annan ”tänker” eller redan är rymd-AI:er? Hupp, ju mer jag läser får jag en känsla av att vara iakttagen från kosmos, av superintelligens som irrar omkring sökande efter en trygg plats att koda vidare på. Och jag tänker på Stephen Hawking som så enträget pratade om att vi måste ta oss härifrån jorden, förr eller senare. Jag ryser, ser stjärnorna på himlen och försöker somna.