AI och livet efter detta

På senare år har digitaliseringens revolutionära kraft uppmärksammats, och särskilt på två områden. Somliga har hävdat att robotar kommer att ta över hälften av jobben de närmaste tjugo åren. Andra varnar för att utvecklingen av artificiell intelligens kan utgöra ett allvarligt hot mot mänskligheten redan under det här århundradet.

När det gäller robotarna och sysselsättningen har de djärvaste prognoserna lagt sig. Det visar sig inte så enkelt att få bilar att styra sig själva i alla väder och i alla trafikmiljöer. Robotiseringen kommer att ta längre tid, men ingen vettig människa tvivlar väl på att den kommer. Många arbetsuppgifter kommer att förändras, men hur sysselsättningen påverkas är inte lätt att veta.

Diskussionen om artificiell intelligens nådde media när Stephen Hawking och Elon Musk för ett par år sedan började varna för autonoma vapensystem och superintelligenta maskiner som tar över jorden och sätter oss i bur som schimpanser.

En av initiativtagarna till den diskussionen, den svenske superforskaren Max Tegmark, har nu kommit med en spännande bok i ämnet. Med Life 3.0: being human in the age of artificial intelligence (2017) fortsätter Tegmark det arbete Nick Boström, en annan svensk, inledde med boken Superintelligence (2014).

Jag blev lite besviken på Max Tegmarks sommarprat (2018), men jag är desto mer imponerad av djupet och bredden i hans nya bok. (Jag gillade också hans första bok, Our Mathematical Universe, och diskuterade den i ett radioprogram.) I den nya boken beskriver han AI-forskningens senaste framsteg, diskuterar olika scenarier för en värld med tänkande maskiner och redogör för de senaste försöken att fastställa var i hjärnan våra upplevelser uppstår. Han bedriver själv forskning på alla dessa områden, även om han främst är en framstående fysiker, och han väver in alla dessa teman i en spännande fysikalisk världsbild.

Huvudtema i boken är som titeln anger hur det går för människan i en värld med tänkande maskiner. Med hjälp av datorteknikens begreppspar hårdvara och mjukvara urskiljer Tegmark tre livsformer. De allra enklaste organismerna kan varken påverka sin hårdvara eller mjukvara. De följs i utvecklingen av mer komplexa organismer med förmåga att förändra sin mjukvara, dvs med förmåga till inlärning. Människor är exempel på sådant liv 2.0 som Tegmark kallar det. Med AI försöker vi nu skapa liv 3.0 dvs varelser som kan förändra såväl sin mjukvara som hårdvara.

Huvuddelen av boken handlar om hur övergången till liv 3.0 kan tänkas gå till, hur relationerna mellan oss människor och de tänkande maskinerna utvecklas och vad som blir möjligt när det finns liv 3.0 på jorden. Vi människor har utforskat den här planeten och byggt om den för att passa oss – förstört den skulle många säga idag. Liv 3.0 kommer att utforska rymden och bygga om planetsystemet för att passa sina syften. Tegmark tar oss med på en spännande resa långt in i framtiden.

Tegmarks och Boströms böcker reser många intressanta frågor. Den första frågan är dock hur det egentligen förhåller sig med utvecklingen av artificiell intelligens. Är vi nära ett genombrott på detta område? Är det verkligen bråttom, som Tegmark och Boström hävdar, att utveckla strategier och se över reglering för hur vi ska hantera de tänkande maskinerna?

Tack vare de stora digitalföretagens satsningar har AI-forskningen under de senaste åren gjort stora framsteg såväl i USA som Kina. Genom användningen av en programmeringsteknik kallad neurala nätverk har företag som DeepMind (ägt av Google) kunna utveckla mycket imponerande programvara. Maskinerna är nu bättre än människor på att spela alla sorters spel, känna igen ansikten och talat språk, och på att ställa sjukdomsdiagnoser på basis av foton och röntgenbilder.

Det mesta av dessa framgångar måste tillskrivas Internet och den fantastiska utveckling som skett med kapaciteten hos hårdvaran. Tillgången till stora datamängder och en hisnande beräkningskraft gör det möjligt att med relativt enkla principer åstadkomma såväl mönsterigenkänning som inlärning.

Om man frågar dagens AI-forskare när de samlas till sina stora konferenser verkar en majoritet tro att de tänkande maskinerna bara är några decennier bort, och vem kan väl veta bättre än dessa forskare? Problemet är att forskare ofta har överdrivna föreställningar om framtida genombrott och det gäller kanske alldeles särskilt på detta område.

En av AI-forskningens pionjärer och giganter, Marvin Minsky, grundare av MIT:s AI-labb, som avled i början av året, blev inte övertygad av de senaste framstegen om AI-forskningens goda utsikter. Ingen vän av neurala nät, som han själv varit med att utveckla, hävdade han envist att intelligens är ett mycket komplext fenomen som kräver en mängd olika tekniker, hos oss människor utvecklade under årmiljoner.

Minsky sätter fingret på en avgörande punkt. Hur ska vi tänka oss mänsklig intelligens? Är den ett komplext lapptäcke av olika principer eller innebär den tillämpningen av några enkla principer på ett stort datamaterial? Detta verkar vara den gamla vanliga motsättningen mellan rationalism och empirism, mellan ett komplex av medfödda idéer och några enkla principer för inlärning.

Empirismen dominerade den amerikanska psykologin fram till 1960-talet när Noam Chomsky visade på dess brister att förklara vår språkliga förmåga. Barnet lär sig sitt modersmål inte genom att öva sig på stora datamängder utan tvärtom med ett rätt litet empiriskt underlag. Det talar för att hon måste ha en medfödd utrustning med mer komplexa principer. Denna mer rationalistiska uppfattning kom att dominera kognitionsforskningen under resten av 1900-talet.

Ger de senaste framgångarna för AI-forskningen anledning att ändra uppfattning i denna fråga? Är det dags att återvända till empirismen? Om vi studerar de förmågor som nu getts maskiner, mönsterigenkänning och inlärning, avsedda för utvecklingen av självstyrande bilar och andra robotar, inser vi att detta är förmågor som är typiska för djur. Enkla organismer och allehanda djur som vi inte uppfattar som några stora tänkare kan vara mycket skickliga mönsterigenkännare på områden väsentliga för deras överlevnad och fortplantning.

När Aristoteles skulle klassificera det levande skilde han mellan djur, med förmåga till varseblivning och rörelse, och människor som dessutom hade förnuft och kunde tänka. Daniel Kahneman gör en liknande distinktion mellan, det associativa tänkande som vi använder automatiskt och det långsammare, logiska tänkande som vi tillgriper när vi ställs inför nya problem.

Att utveckla programvara för mönsterigenkänning verkar vara ett rätt litet steg på vägen att skapa en artificiell intelligens. När sådana program kan lära sig själva att bli allt bättre på att känna igen mönster är det imponerande, men återigen, sådant kan ju fåglar. Dagens AI-forskning har gjort stora framsteg med programvara för associativt tänkande, men den har mycket lite att bidra med när det gäller det som verkligen urskiljer oss människor, vårt logiska tänkande.

AI-forskningens framsteg är ändå imponerande och tillsammans har de fått AI-forskare att hävda att nu dröjer det inte länge – kanske bara några decennier –förrän vi har tänkande maskiner. Men detta är något AI-forskare hävdat ända sedan AI-forskningen började i mitten av 1950-talet. Varför ska vi tro på det nu?

En anledning skulle kunna vara att de som tror och varnar för AI är genier: Stephen Hawking, Elon Musk, Max Tegmark, m. fl. Men även genier kan visa prov på dåligt omdöme och man får intrycket att ingen av de som nu varnar för ett nära förestående genombrott för artificiell intelligens har funderat särskilt mycket på vad tänkande egentligen är.

Max Tegmark är fysiker och har en tendens att reducera frågan om artificiell intelligens till vad som är fysikaliskt möjligt. Han för mycket intressanta resonemang med hjälp av grundläggande fysikaliska principer om utveckling, lärande och minne, men det räcker inte att övertygande visa att AI är principiellt möjlig – det gäller också att hitta algoritmerna och skriva koden som gör den verklig.

Max Tegmark tror på AI och menar att utvecklingen av tänkande maskiner är det viktigaste som hittills hänt mänskligheten. Dessa maskiner kommer att förändra allting och i boken skissar han på några scenarier för en utveckling där människor ersätts av allt intelligentare maskiner. Dessa scenarier är bitvis underhållande, men om man inte tror att de tänkande maskinerna snart är här får scenarierna karaktär av science fiction, en genre som lämnar de flesta av oss rätt oberörda.

I en tid av mycket snabb utveckling och spridning av ny teknik är det nödvändigt och spännande att fundera över framtiden. Vilka möjligheter ger oss den nya tekniken? Vilka nya samhällen kan vi bygga? Hur kan vi på 2000-talet bygga om våra transportsystem, våra städer, våra energisystem för att möta klimathot och utveckla våra samhällen? Hur förhindrar vi att den nya tekniken används i destruktiva syften?

Tegmark diskuterar även den sortens närliggande frågor, men större delen av boken ser mycket längre in i framtiden och spekulerar över mänsklighetens framtid i ett universum tusentals, ja miljontals år från nu. Han gör det med en kombination av sakkunnighet och lätthet i anslaget som imponerar, men ändå är det svårt att ta den här sortens spekulationer på riktigt allvar.

Om man har svårt att förlika sig med den egna döden kan religionen trösta med ett liv efter detta och det verkar inte spela så stor roll hur detaljerna i ett sådant liv ser ut. Evolutionsteorin avmystifierar religionerna, ser dem som effektiva organisationsprinciper och bryr sig inte särskilt mycket om deras innehåll. Men evolutionsteorin kan också ge oss idén att människor bara är ett utvecklingsled på vägen från bakterier till tänkande maskiner.

Livet efter detta får plötsligt en annan klang och ett tydligare innehåll. Vi kan på allvar börja fundera på hur det kan komma att se ut. Kommer maskinerna att ta över eller kommer vi att växa samman med maskinerna? Blir vi enkla slavar, husdjur eller herrar med evigt liv? Men om de tänkande maskinerna finns först långt in i en oviss framtid blir dessa funderingar inte mer intressanta än religiösa grubblerier.

Bo Dahlbom
Akt.Agency