Artificiell intelligens

Nu talas det om att AI tar jobben ifrån oss och kanske rentav hotar mänsklighetens framtid. Knappt hade ”digitalisering” ersatt ”IT” förrän ”artificiell intelligens” blev allt vanligare som beteckning på den teknik som driver dagens samhällsförändring. Seminarier, rapporter och böcker om artificiell intelligens kommer i en strid ström.

Elon Musk, Stephen Hawking, Max Tegmark, Bill Gates, och många fler vill att vi ska ta hotet från den artificiella intelligensen på större allvar. Ibland hänvisar man till (svensken) Nick Bostroms grundliga genomgång av hotbilden i boken Superintelligence (2014). Bostrom argumenterar där för att om vi utvecklar en AI så att den blir lika intelligent som vi, så kan AI ta över och snabbt utveckla en AI som är mycket intelligentare än vi. En sådan superintelligens kan komma att behandla oss ungefär som vi behandlar schimpanserna.

Om detta och mycket annat kan man läsa i en ovanligt trevlig och innehållsrik liten introduktion till AI, Thinking Machines (2017), skriven av vetenskapsjournalisten Luke Dormehl. Dormehl har intervjuat forskare och entreprenörer och ger oss en god bild av hur AI-forskningen utvecklats och många av de tillämpningar och debatter den gett upphov till.

Intresset för artificiell intelligens är inte något nytt, men det har kommit och gått i vågor alltsedan de första datamaskinerna konstruerades under andra världskriget. De maskinerna beskrevs gärna som “giant electronic brains” även om de snarare var tämligen enkla räknemaskiner.

När AI-forskningen organiserades  i slutet av 1950-talet kom några av dess ledande företrädare, som John McCarthy, Marvin Minsky och i synnerhet Herbert Simon att våldsamt överskatta dess framtida utveckling. Att maskinöversättning inte skulle erbjuda särskilt stora svårigheter var en rätt vanlig uppfattning på 1950-talet. Tjugo år skulle det enligt nobelpristagaren Simon ta att konstruera en maskin lika intelligent som vi.

Tidigt urskilde man två huvudvarianter i AI-forskningen: en neurologisk och en logisk. Länge dominerade den logiska inriktningen där tänkandet beskrevs som språkhantering, resonerande, slutledning. Den inriktningen nådde en höjdpunkt på 1980-talet med kunskapsbaserade system vilka som expertsystem förväntades förändra världen.

När expertsystemen inte visade sig särskilt framgångsrika var det fritt fram för den alternativa inriktningen. Den nya konnektionismen väckte liv i gamla idéer om neurala nätverk, parallella processer och statistiska metoder. I stället för att bygga en färdig logikmaskin med komplexa kunskapsregler ville man uppnå komplexitet genom upprepad tillämpning av enkel inlärning.

Under tiden pågick en smått sagolik utveckling av datorernas prestanda. IBM kunde på 1990-talet bygga en schackdator Deep Blue som utan att veta särskilt mycket om schack ändå kunde besegra världsmästaren. Senare skulle IBM med Watson vinna Jeopardy i USA och även göra rätt bra ifrån sig som diagnosstöd i sjukvården.

På 2010-talet har de imponerande framgångarna fortsatts av företag som Google, DeepMind, Microsoft, Facebook, Amazon och Uber på områden som robotar, självstyrande bilar, maskinöversättning, digitala assistenter och bildigenkänning. Här återanvänder man i kommersiella tillämpningar idéerna om neurala nätverk, men med två väsentliga skillnader. Dels har man tillgång till mycket mer kraftfulla datorer och genom Internet och sensorteknik har man också tillgång till otroligt mycket större datamängder för träning av AI-systemen.

Dagens AI-forskning bedrivs i stor utsträckning i dessa företag snarare än på universiteten även om Kina nu satsar stort även på akademisk AI-forskning. Detta gör att forskningen är mycket tillämpad och inte särskilt teoretiskt djuplodande. Den fantastiska prestandan hos dagens datorteknik gör att man kan lösa komplexa uppgifter med rätt enkla metoder. Genom att använda sig av alla översättningar som redan gjorts kan man utan avancerad språkteori åstadkomma rätt bra översättningar.

Alan Turing föreslog redan 1950 förmågan att föra ett vardagligt samtal som avgörande för om en maskin kan tänka eller inte. Kanske leder detta så kallade Turing-test tankarna fel. I stället för att göra frågan om tänkande maskiner till en ja-eller-nej-fråga kanske vi skulle säga att alla datorer tänker – mer eller mindre.

Vi använder maskiner för att automatisera manuella arbetsuppgifter och vi använder datorer för att automatisera intellektuella uppgifter. Det enklaste datorprogram kan sägas innehålla intelligens. Ju fler uppgifter datorerna kan utföra desto mer intelligens har de. Eller kanske ska vi säga att intelligensen ökar med komplexiteten i uppgifterna.

Det finns all anledning att varna för en utveckling där samhället blir alltmer beroende av artificiell intelligens. Men innan vi börjar oroa oss för den sortens överintelligenta maskiner som Bostrom menar kan ta makten över oss borde vi kanske ägna oss åt mer närliggande utmaningar.

(1) Den mest aktuella utmaningen handlar inte om att de digitala systemen tar över utan snarare att vi har så svårt att ta den digitala tekniken i bruk där den uppenbarligen skulle kunna göra mycket nytta. Jag tänker på verksamheter som hälsovård och utbildning och på alla de områden där digitala plattformar skulle underlätta samverkan och effektivt resursutnyttjande.

(2) En annan aktuell utmaning handlar om de digitala systemens säkerhet och sårbarhet. När produktionssystem, transportsystem, fastighetssystem och energisystem digitaliseras blir vår försörjning helt beroende av digitala system. Systemen behöver vara öppna och åtkomliga för att kunna underhållas, men detta gör dem samtidigt sårbara.

(3) En tredje utmaning är kanske mer existentiell. Det moderna samhället är för de flesta ett obegripligt komplext system. Vi vet väldigt lite om hur dess försörjningssystem fungerar. Vi är helt beroende av experter. Digitaliseringen bidrar till att öka obegripligheten och om systemen lär sig och förändras kanske inte ens experterna längre vet hur de fungerar.

(4) Den fjärde utmaningen handlar inte om de digitala systemens intelligens utan snarare om deras dumhet. En riktning inom den tidiga AI-forskningen satsade på att försöka ge systemen sunt förnuft, men den uppgiften är inte enkel. Att bygga in vanligt bondförnuft i systemen förblir en stor utmaning.

(5) Digitaliseringen spelar en allt viktigare roll i olika vapensystem och ställer oss inför samma utmaningar som traditionella vapensystem. Vi behöver reglera användningen och tillgången till dessa system. Särskild uppmärksamhet ägnas just nu frågan om autonoma vapensystem, dvs digitalt styrda system som programmerats att själva fatta beslut om verkanseld. Förr ville terrorister gärna ha kärnvapen, men nu vill de nog hellre ha små, billiga mördarrobotar.

Dormehl är journalist och som många andra har han imponerats av de senaste framgångarna med neurala nätverk. Han avslutar sin bok med att hänvisa till Marvin Minsky, en av de riktigt stora AI-pionjärerna, grundare av MIT:s AI-lab, men kanske borde han lyssnat mera på Minsky och hans pessimistiska kommentarer om utvecklingen. (Roligare är kanske att lyssna på Minsky när han släpper loss i ett Ted Talk 2003.)

Minsky var inte särskilt imponerad av de digitala företagens framgångar. De var ju beroende av bättre hårdvara snarare än bättre förståelse av tänkandet. Minsky var noga med att påpeka att mänskligt tänkande är ett komplext och mångfacetterat fenomen som utvecklats under lång tid. Att tro att man skulle kunna utveckla artificiell intelligens utan att ta hänsyn till denna komplexitet uppfattade han som naivt.

Bland Minskys många kända elever finns Ray Kurzweil som ger oss några fina minnesord strax efter Minskys bortgång år 2016. Han påminner om att Minsky var en av de första som utvecklade idén om neurala nätverk även om han senare inte kom att värdera den särskilt högt. Kurzweil är naturligtvis en av de stora teknikoptimisterna och som teknikchef på Google har han bidragit till den pågående AI-hajpen.

Dormehl ger oss en utmärkt översikt, men den som vill vrida och vända lite mer på frågan om artificiell intelligens kan med fördel bläddra i boken What to Think About Machines That Think (2015). Den innehåller 192 korta inlägg om AI sammanställda av John Brockman, legendarisk litterär agent och grundare av filosofiska mötesplatser som The Reality Club och The Edge Foundation.

edge.org kan man läsa alla inläggen, botanisera bland tänkare som Steven Pinker, Rodney Brooks, Daniel Dennett, Brian Eno, Richard Thaler, Daniel Hillis, Matt Ridley, och många, många fler, och få en lite djupare syn på frågan om tänkande maskiner. Man lämnar läsningen rätt övertygad om att den senaste AI-hajpen är lika orealistisk som de tidigare.

All teknik kan användas destruktivt och ju kraftfullare teknik desto mer skada kan man åstadkomma med den. Tänkande maskiner i händerna på skurkar är ett skräckscenario, men vi känner igen det från andra teknikområden. Att filosofera över vad som sker när maskinerna blir lika intelligenta eller intelligentare än vi kan vara intressant för filosofer, men är inte någonting vi behöver oroa oss för det här århundradet.

Jag är otroligt imponerad av Googles sökmotor och det sätt den finner det jag letar efter. Google beskriver sig nuförtiden som ett AI-företag. Jag tycker också att det är himla roligt med Siri och är övertygad om att digitala assistenter kommer att bli oundgängliga hjälpredor i en allt rikare digital tjänstevärld. Men det innebär inte att jag är särskilt imponerad av Siri som tänkare.

Alla teknikområden utvecklas allt snabbare, men tillämpningarna styr finansiering och avgör vilka områden som utvecklas allra snabbast. Det händer mycket som imponerar på AI-området, men tillämpningarna pekar inte i riktning mot utvecklingen av en allmän artificiell intelligens (AGI). Det gör att vi lugnt kan vänta med att gripas av den oro som verkar ha drabbat Tegmark, Bostrom, m. fl.

Vid sidan om digitaliseringen är gentekniken ett område som gör fantastiska framsteg. EU har just jämställt CRISPR med GMO vilket drabbar europeisk forskning på området. Samtidigt utvecklas det idag i USA och Kina mängder med nya tekniker för manipulation av arvsmassan. Långt innan vi lyckas bygga tänkande maskiner kommer vi att kunna bygga levande maskiner. Här tror jag det finns större anledning till oro och framförhållning.

Bo Dahlbom