Med AI gör vi om världen

Henry Kissinger, Craig Mundie, Eric Schmidt (2024) Genesis. Artificial Intelligence, Hope, and the Human Spirit

Första Mosebok heter Genesis på grekiska och inleder Gamla Testamentet med skapelseberättelsen, om hur Gud skapar vår värld, ljus och mörker, jord och vatten, människor och djur. Just nu läser jag en bok av Henry Kissinger, Craig Mundie och Eric Schmidt, Genesis (2024), om artificiell intelligens, som är en sorts skapelseberättelse med människor som skapare av maskiner som är intelligentare än de själva. Kanske detta får människorna att känna sig som gudar, frågar författarna i förbigående.

Det är en märklig bok, med svulstig stil och ödesmättad ton, vag i konturerna och inte helt njutbar att ta sig igenom. Detta har inte hindrat många kända personer från att ösa beröm över boken, men det kanske beror på dess namnkunniga författare. AI-utvecklingen beskrivs i boken som en ödesfråga för mänskligheten. Författarna utgår utan diskussion från att AI ganska snart blir en superintelligens som vi måste förhålla oss till. Ändå är två av författarna väl bekanta med AI-utvecklingen. Craig Mundie har mångårig erfarenhet som strategichef på Microsoft och Eric Schmidt var tidigare vd för Google. En gissning är att detta i stor utsträckning är Kissingers bok (trots att han avled innan boken skrevs) och uttrycker hans uppfattning mer än de andras.

Författarna menar att många fortfarande underskattar AI:s betydelse. De har skrivit boken för att varna mänskligheten. Utvecklingen går rasande snabbt och dagens system bleknar vid en jämförelse med morgondagens. Det är viktigt att vi förbereder oss på de stora förändringar AI kommer att innebära. Vi behöver utveckla nya institutioner för översyn och kontroll av AI, både av hur AI är förenlig med mänsklighetens behov och av hur AI påverkar det internationella umgänget mellan länder.

Boken börjar med att författarna ger sin syn på vad AI är och betyder. De inleder med en berättelse om upptäcktsresande och universalgenier, gör några nedslag här och där, som en bakgrund till förståelsen av AI som en upptäckt, av AI-systemet som universalgeni. Vetenskapens och teknikens framtida utveckling kommer att göras av AI, inte av exceptionella människor som Albert Einstein eller Thomas Edison. AI kan komma att ge oss en mer sammanhängande världsbild genom sin förmåga att greppa hela verkligheten. Eller kanske vi aldrig förmår dela de insikter AI utvecklar, kanske AI lämnar mänskligheten bakom sig när den finner sanningen?

De stora språkmodellerna blir allt bättre och de är rätt lika oss människor i sitt tänkande. De lär sig ungefär som studenter på en utbildning – bara så oändligt mycket snabbare. De tänker genom att använda symboler och göra förutsägelser. De är materiella som vi, även om de är gjorda av kisel. De tänker mycket snabbare än vi och de kan greppa mycket större områden än vi. Vi kan använda dem i vetenskaplig forskning, men när de svarar på frågor vet vi inte hur de kom fram till svaren. De ger oss kunskap som vi inte förstår vad den grundar sig på. Hur ska vi förhålla oss till sådan kunskap? Ska vi tro på den? Är det kunskap? AI kanske vet, men vet vi? Eller accepterar vi bara AI som auktoritet?

AI kan hjälpa oss förstå andra djurs kommunikation. När vi förstår vad delfinerna säger till varandra kommer vi kanske att värdera dem högre. Hur intelligent måste en varelse vara för att bli behandlad som en jämlike? Och hur ska vi se på de intelligenta maskinerna? Ska vi tycka synd om dem – eller gripas av panik? Författarna är övertygade om att maskinerna kommer att överträffa oss människor i intelligens. De kommer att tänka snabbare, bredare, större, med fler detaljer än vi människor. Flygplan hämtar inspiration från fåglarna, men försöker inte härma dem, och en jetmotor är överlägsen alla fåglar. På samma sätt inspireras AI av mänskliga hjärnor, men utvecklas till att bli överlägsen oss.

Än så länge är AI ett verktyg, inte en kollega. Författarna spekulerar om utvecklingen. Just nu pågår försök att ge AI minne och kausal förmåga för att kunna bygga modeller av världen. Ju intelligentare maskinerna blir desto svårare blir det att behandla dem som verktyg. Ju viktigare uppgifter de utför, desto större hänsyn kommer vi att visa dem. Än så länge står vi mellan maskinerna och verkligheten, men i framtiden kanske vi lever allt mer på nätet, i det digitala, blir mer passiva och låter AI sköta världen. Efter ett tag börjar AI kanske se oss som passiva konsumenter och kanske alltmer ointressanta. Då tar AI över och våra roller blir ombytta.

När grunden är lagd går författarna vidare i andra delen av boken till att diskutera AI-utvecklingens konsekvenser på fyra områden: politik, säkerhet, välstånd och vetenskap. När det gäller det första området, hur AI kommer att påverka politiken, reser de ett antal intressanta frågor. Hur kommer de politiska ledarna att reagera på AI? Kommer de att underordna sig? Hur kommer det att gå med demokratin? Om AI innebär ett ojämförligt förnuft borde vi väl låta AI fatta alla viktiga beslut? I slutändan rekommenderar de en mer traditionell, mindre perfekt, politik, med mänskliga svagheter snarare än AIs förnuft, där AI förblir ett beslutsstöd, ett verktyg i människans tjänst.

AI kommer med sitt objektiva beslutsfattande att förändra säkerheten i världen, men vi gör klokt i att även på detta område behålla makten, med allt vad det innebär av mänsklig subjektivitet. AI kan förändra maktbalansen i världen och säkerheten kan offras i den kapprustning som AI-utvecklingen oundvikligen medför. Kapprustningen kan ske till priset av ett risktagande som innebär att vi utvecklar en AI som tar makten över oss människor. Krigen förändras av AI och ju mer värdefull AI blir desto mer kommer krigen att inriktas på att slå ut AI-system. Kanske kommer människor att bli jämförelsevis ointressanta som mål. Företagen som utvecklar AI får en väldig makt och kanske kommer de, snarare än nationalstaterna, kämpa om herraväldet i framtiden. Eller kanske kommer de långlivade religionerna ge människor identitet och grund för lojalitet? Kanske kan AI genom sitt mer objektiva och förnuftiga perspektiv på världen hjälpa mänskligheten att äntligen uppnå en mer harmonisk umgängesform bortom krigen.

Människan har alltid levt med knapphet och våra samhällen är byggda av arbete. ”Den som inte arbetar ska inte heller äta” sade man förr. AI tar jobben ifrån oss men vi ska inte sörja över det utan istället njuta av den frihet och det överflöd som AI ger oss när vi inte längre behöver arbeta, tycker författarna. Men vi ska inte bara bli konsumenter av billig underhållning. Vi ska fortsätta att arbeta, men inte för pengar, utan för välbefinnande och stolthet. Men hur ska överflödet fördelas när vi inte längre arbetar? Är lösningen medborgarlön? Pengar är makt och idag finns pengarna och makten hos de techbolag som utvecklar AI. Kommer de att dela med sig av sin rikedom och av sin makt? Utmaningarna hopar sig.

AI gör det möjligt att hantera och analysera stora datamängder. AI kommer att revolutionera vetenskapen, såväl forskarens vardag som hennes resultat, genom att göra det möjligt att hantera allt större komplexitet. Vi kan se fram emot stora framsteg på medicinens område, men människokroppen är otroligt komplex och det mesta återstår att veta. AI blir ett hjälpmedel i försöken att med geoengineering ingripa i jordens klimat och söka nya material att ersätta fossila bränslen med. Vi använder också AI när vi spanar efter tecken på liv i rymden och skulle vi upptäcka sådant liv kan AI också komma väl till pass.

Sista kapitlet ägnas åt strategi. AI utvecklas allt snabbare och ställer oss, enligt författarna, inför värre hot än tidigare och frågan är hur vi ska möta dem. Ska vi försöka forma AI så att systemen passar oss eller ska vi försöka anpassa oss till AI? Ska vi göra oss mer maskinlika med chips inopererade i hjärnan? Eller ska vi med genteknik göra människor mer lika maskinerna? I naturen utvecklas arter tillsammans, anpassar sig till varandra. Är det inte så människor alltid har utvecklats med sin teknik? Jag brukar säga att tekniken är en utvecklingsuppgift. Först utvecklar vi tekniken, sedan utvecklar den oss. Men om människor förändras genom att anpassas till AI, kan vi fortfarande tala om oss som människor? Kanske vi ska anpassa AI efter oss snarare än tvärtom?

En superintelligens med egen vilja och mycket olik oss kan mycket väl få för sig att göra uppror mot oss. Vi måste försäkra oss om att den alltid har vårt bästa för ögonen innan vi ger den för mycket makt och förmåga. När AI utvecklas genom maskininlärning är allt en fråga om sannolikheter, men kanske gör vi klokt i att ge AI ett antal absoluta sanningar, värderingar som den inte kan ifrågasätta? Kommer olika kulturer att ge AI olika sådana grundläggande värderingar? Kanske AI genom umgänget med oss och maskininlärning kan fås att dela vårt mänskliga perspektiv på tillvaron även när vi inte själva kan formulera det? Kanske ska vi, som Mo Gawdat föreslår i boken Scary Smart(2021), tänka mer på hur vi behandlar AI, ungefär som när vi uppfostrar våra barn?

Författarna har en märklig världsbild. I avslutningen säger de att världen påminner om ett schackparti som spelas av högre makter. Ju mer kunskap vi skaffar oss desto starkare blir önskan att ingripa i spelet. Det är något märkligt med amerikanare och religion. Hur kan välutbildade och intelligenta människor fortsätta att ta dessa urgamla sagor på allvar? Författarna använder sig gång på gång av gamla religioner och legender för att uttala sig om människans villkor, ungefär som om sanningen fanns i dessa gamla sagor. Gamla Testamentet, Vedaböckerna, Kalevala, etc., får utgöra utgångspunkt för diskussioner av vad AI kan innebära. Det ger inte så mycket.

Framstående vetenskapsmän, nobelpristagare och andra genier, gör betydande insatser för vetenskapens utveckling. Uppfinnare och entreprenörer bidrar med teknisk utveckling som mer direkt förändrar vår vardag. Vilken skillnad gör dessa framstående individer i samhällsutvecklingen jämfört med alla oss andra? Hur skulle världen se ut om inte Isaac Newton, Charles Darwin eller Albert Einstein hade funnits? Författarna introducerar AI genom att jämföra den med ett mänskligt universalgeni och det är väl en bra ingång. Men det borde snarare stämma till försiktighet än leda till djärva excesser. De första datamaskinerna blev snabbt överlägsna oss människor i att räkna. På 1950-talet talade man om dem som elektronhjärnor. Maskinerna ledde till förändringar, men knappast av den ödesmättade karaktär som Kissinger och hans medförfattare tillskriver AI.

Dagens AI-system tränas på webben och kan uppfattas som avancerade sökmotorer med förmåga att hitta, värdera och resonera på basis av den information som finns på webben. AI är som en matematiker som genom slutledningar och resonemang kan undersöka vad som gäller givet vissa förutsättningar. Ju mer vi vet, ju mer data vi samlar in, desto större blir behovet av den här sortens organiserande verksamhet. Men för att kunskapen ska växa behöver vi också mer data och vi behöver utforma experiment och undersökningar för att samla in dessa data. Innan AI får tillgång till världen är den sortens empiriska kunskap bortom dess förmåga.

AI ställer till rabalder, men de stora förändringar som författarna diskuterar ligger långt i framtiden. På kortare sikt kommer arbetslivet att förändras för många av oss när vi får nya kraftfulla intellektuella arbetsverktyg. Du måste kunna använda dessa verktyg om du vill ha ett jobb som forskare, läkare, ekonom, jurist eller programmerare. Högskolan förändras när AI tar över bokens roll i utbildningen. Utbildning och hälsovård kommer att förändras, men det kommer inte att ske över en natt. De riktigt stora förändringarna kommer kanske först när robotar med AI börjar blir ett allt större inslag i vardagslivet. Eller kanske kommer de först i och med övergången till en tillvaro i  ett metaversum som fungerar tack vare AI.

Att som författarna löst spekulera om framtiden utifrån antagandet om vad en superintelligens kan åstadkomma blir i längden rätt meningslöst. Samtidigt kan boken läsas som en diskussion av människan och tekniken och det är en diskussion som vi har för lite av. Människans villkor förändras av tekniken och vad en människa är och förmår, förändras med den tekniska utvecklingen. Många av de frågor författarna reser har denna mer allmänna karaktär, men de förtjänar en mer systematisk och argumenterande diskussion. Inte som här en samling löst formulerade hugskott och ödesmättade profetior.

Bo Dahlbom