AI måste kontrolleras

Mustafa Suleyman (2024) The Coming Wave: AI, Power and Our Future

Människor är apor med teknik. Vi utvecklar tekniken. Sedan utvecklar den oss. Den första tekniken var enkel. Verktyg gjorde vardagsslitet drägligare. Med mer kraftfull teknik byggde vi komplexa samhällen: järnvägar, städer, bilar och fabriker. Välståndet växte. Med kärnkraft och kärnvapen blev tekniken skrämmande och hotfull. Ändå behöll vi makten över tekniken och reglerade dess användning. Kanske vi nu håller på att förlora den makten? Kanske tekniken håller på att bli för kraftfull för oss? I stället för att bidra till samhällsutveckling kanske teknikutvecklingen sliter sönder våra samhällen och leder till anarki, krig, förstörelse och undergång?

Jag läser med stort intresse en utmärkt bok som oroar sig för att mänskligheten håller på att förlora kontrollen över teknikutvecklingen. Författaren Mustapha Suleyman är chef för Microsoft AI men började sin bana i England där han tillsammans med Demis Hassabis och Shane Legg år 2010 grundade DeepMind. Företaget förvärvades år 2014 av Google och slog några år senare världen med häpnad med sina AI-system. Mest spektakulär var vinsten i Go mot Lee Sedol i mars 2016. Nu har Mustapha Suleyman skrivit en informationstät bok om teknikutvecklingen, The Coming Wave (2024), som med rätta har fått mycket beröm.

Suleyman inleder med en kort exposé över hur tekniken genom tiderna har format människans livsvillkor. Han beskriver de avgörande teknikerna som flodvågor vilka svept över mänskligheten: jordbruket, tryckpressen, maskinerna, Internet, AI. Att stå emot dessa vågor, att begränsa eller reglera användningen av tekniken, har varit mycket svårt. Industrialismens miljöförstöring kräver ständig tillsyn, trafiken har reglerats men kräver ändå många liv. Regenter och länder har ibland valt att inte använda den nya tekniken, men motstånden har varit tillfälliga och kortlivade. Vi minns vår egen infekterade kärnkraftsdebatt. Människor har gjort motstånd mot ny teknik men motståndet har varit förgäves. Atombombens icke-spridningsavtal och den pågående (?) utfasningen av fossila bränslen är exempel på hur vi trots allt lyckats kontrollera teknikanvändningen. Det är aldrig enkelt.

Suleyman oroar sig över två tekniker: artificiell intelligens och syntetisk biologi. De är båda kraftfulla tekniker och risken är stor att de hamnar i orätta händer. Även om de inte gör det riskerar AI att ta jobben ifrån oss snabbare och mer omvälvande än tidigare tekniker. Med den syntetiska biologin kan man själv forma sina barn eller skapa nya och hemska pandemier. Båda teknikerna ställer oss inför svåra dilemman. Ska vi försöka hålla tillbaka utvecklingen och riskera allt det som den nya tekniken kan ge oss? Samhällen som valt bort ny teknik har som regel betalat ett högt pris: stagnation och förr eller senare undergång. Ska vi tillåta tekniken att utvecklas men genom övervakning av medborgarna försäkra oss om att den inte hamnar i orätta händer?

Hur ska vi kunna möta dessa utmaningar? Hur ska vi kontrollera teknikanvändningen utan att kväva teknikutvecklingen? Hur ska vi hålla teknikanvändningen i schack utan totalitär övervakning av medborgarna? Till skillnad från tidigare tekniker som antingen varit mindre kraftfulla eller som i fallet med atombomben krävt stora resurser är både AI och syntetisk biologi kraftfulla tekniker som blir så billiga och lättanvända att i stort sett vem som helst kommer att kunna använda dem.

Suleyman gör initierade nedslag i historien om DeepMind, om djupinlärning och AlexNet, om ChatGPT och stora språkmodeller, om hur AI blir bättre när modellerna blir större. Eftersom modellerna tränas på data från webben har de alla fördomar som finns där ända tills de eftertränas till att uppföra sig bättre. Suleyman berättar historien om hur Blake Lemoine, programmerare på Google, ställde till rabalder när han insisterade att de stora språkmodellerna var medvetna. Det finns också kritiker av AI, och Suleyman nämner Gary Marcus och Melanie Mitchell, men där kritikerna ser principiella hinder ser Suleyman en utveckling med system som hela tiden blir bättre.

Artificiell intelligens spelar en avgörande roll i den nya biologin. Med upptäckten av DNA följde insikten att allt liv bygger på information. Redan på 1980-talet började forskningen i ”artificial life” där Christopher Langton byggde datormodeller av levande organismer. Jag minns hur Richard Dawkins skrev datorprogram för att utforska evolutionen. (För säkerhets skull kollade jag med ChatGPT att jag mindes rätt.) Suleyman skriver om CRISPR, AlphaFold och 3D-skrivare och om hur gentekniken blivit så billig att du idag kan köpa små gentekniklådor att leka med ungefär som 1900-talets barn lekte med Meccano. Snart kan du bygga dina egna levande organismer.

När artificiell intelligens och syntetisk biologi slår igenom får de tillämpningar på många teknikområden. AI får fart på robotar, kvantdatorer och förnybar energi. Och när teknikerna kombineras i nanoteknik blir tillämpningarna än fler. Vår värld förändras i grunden av den här sortens tekniker. De genomsyrar alla områden, blir billiga och jämförelsevis enkla att använda och har effekter som sträcker sig långt. Till skillnad från tidigare tekniker blir det i praktiken omöjligt att kontrollera användningen av den här sortens tekniker. Dagens terrordåd, med bomber eller bilar, är lokala. Morgondagens riskerar att bli globala.

Om vi vill stoppa teknikutvecklingen, eller åtminstone kontrollera den, måste vi inse vad det är som driver den. Suleyman diskuterar sex incitament för utvecklingen: geopolitisk konkurrens, kapprustning, öppenhet, pengar, globala utmaningar och personlig ära. Tillsammans gör de det i praktiken omöjligt att förhindra utvecklingen. Det är verkligen som att försöka stoppa en tsunami. Även om den här diskussionen kanske inte innehåller så mycket nytt är den upplysande och rik på spännande insikter. Suleyman berättar hur Yann LeCun, chef för Meta AI, elev till Geoffrey Hinton, dagarna före matchen med Lee Sedol förklarade att DeepMinds AlphaGo var misslyckat. Så är det att förutsäga teknikutveckling, säger Suleyman, inte ens experterna klarar uppgiften.

Om det är någon som kan stoppa eller reglera teknikutvecklingen så är det nationalstaten. Nationalstaterna har hjälpt oss genom industrialiseringens teknikutveckling, men kommer de att kunna hantera AI-utvecklingen? Suleyman oroar sig över att nationalstaterna verkar bryta samman när vi som bäst behöver dem. Många techmiljardärer, som Peter Thiel, är libertarianer och misstror staten. Med kryptovalutor vill de undvika statens kontroll. Vad de kan åstadkomma har vi sett i Elon Musks framfart i DOGE. Suleyman anklagar tvärtom digitaliseringen för att den har bidragit till att försvaga nationalstaterna. Populistiska rörelser ifrågasätter demokratin och föredrar autokratiska ledare. Nationalismen frodas, globaliseringen ifrågasätts, gränser hävdas, immigrationen stoppas, det rustas för krig. Levnadsstandarden har aldrig varit högre men människor känner sig likväl svikna.

Tekniken är inte värdeneutral, hävdar Suleyman och citerar Langdon Winner, den är politisk. Ny teknik får politiska konsekvenser, se bara hur sociala medier har undergrävt förtroendet för de demokratierna. Nationalstaterna riskerar idag att falla sönder eller bli autokratier, men stater i förfall eller autokratier kan inte stå värd för den nya, kraftfulla tekniken. När vi som bäst behöver stabila demokratiska stater och en liberal världsmaktsordning för att hantera en explosiv teknikutveckling är de som bräckligast. På några korta sidor tecknar Suleyman en mörk, men övertygande, bild av dagens geopolitiska läge. Han beskriver hur cyberattacker drabbar civilsamhället, tekniken ger alla makt att påverka, fiender avrättas med autonoma vapen, stater sprider falsk information med sociala medier, laboratorier läcker virus och orsakar pandemier, automatiseringen gör människor arbetslösa. Vi står inför en tid när välståndet växer som aldrig förr i en värld som bara blir mer kaotisk.

Suleyman berättar historien om stigbygelns roll i framväxten av medeltidens europeiska feodalsamhälle och jämför det brittiska Ostindiska kompaniets maktställning på 1700-talet med dagens digitala jättar, Apple, Google, Amazon och Samsung. De 500 största företagen har redan intäkter motsvarande 44 procent av världens BNP. I allt högre utsträckning är det dessa företag som styr världen. Samtidigt som makten koncentreras, inte minst i övervakningssamhällen som det kinesiska, växer möjligheterna för lokala gerillagrupper att ställa till oreda med den nya tekniken. De liberala demokratierna hotas från alla håll.

Suleyman ägnar ett kapitel åt att beskriva det värsta som kan hända med den nya tekniken om vi inte förmår kontrollera den. Terrorister som attackerar med autonoma drönarsvärmar, massmördare som orsakar pandemier, sabotörer som med falska nyheter orsakar upplopp och demonstrationer, aktivister som sprider insekter och veganer som använder syntetisk biologi till att angripa världens köttproduktion. När AI kontrollerar alla system för transporter, energi, finans, kommunikation, media, etc., är alla system sårbara för cyberattacker. Enligt Suleyman står vi inför ett svårt dilemma. Antingen utsätter vi samhället för risken av den här sortens katastrofer eller också kontrollerar vi tekniken genom totalitär övervakning av medborgarna. Den enda institution som kan hantera den sortens komplexa dilemman är den nationalstat som idag håller på att falla samman.

Kanske gör vi klokast i att inte utveckla tekniken vidare? Nej, det är ingen lösning, menar Suleyman. Oavsett om det vore möjligt givet de starka incitament som driver utvecklingen vet vi att våra samhällen kräver ständig tillväxt om de inte ska gå under. Dessutom kan vi bara möta alla de utmaningar, till exempel den globala uppvärmningen, som vi idag står inför genom fortsatt vetenskaplig och teknisk utveckling. Det ser onekligen mörkt ut för mänskligheten.

Suleyman frågar sig som John von Neumann om vi kan överleva teknikutvecklingen, ”Can We Survive Technology” (1955). Han tror att vi de kommande decennierna måste göra avvägningar mellan övervakning, välstånd och katastrofer, en uppgift som kräver väl fungerande stater. När han diskuterar frågan med politiker svarar de alla: reglering. Men reglering räcker inte, hävdar Suleyman. Regleringen hinner inte med teknikutvecklingen utan kommer alltid för sent. Regleringen kan i bästa fall angripa enstaka fenomen i den massiva våg som teknikutvecklingen utgör. Regeringar sägs ofta utkämpa det förra kriget, den förra pandemin. De reglerar på samma sätt den förra tekniken. De kommer alltid för sent.

Det mest ambitiösa försöket att reglera AI-utvecklingen är EU:s AI-förordning, men den har också fått mycket kritik. Suleyman jämför med hur regleringen av trafiken vuxit fram under lång tid och därför är mycket komplex. Att tro att man med en förordning kan reglera utvecklingen av artificiell intelligens eller syntetisk biologi är naivt i överkant. Men det är åtminstone ett försök, en början. Problemet är att i stora delar av världen fortsätter utvecklingen. De incitament som driver utvecklingen är för starka och det nödvändiga internationella samarbetet finns inte.

Om vi verkligen ska få kontroll över teknikutvecklingen räcker det inte med reglering, hävdar Suleyman. Vi måste styra teknikutvecklingen så att tekniken kan kontrolleras. Vi måste välja tekniska lösningar som inte är generella, som inte uppmuntrar automatisering, som inte ger geopolitiska fördelar. Suleyman tror inte att världen är mogen för sådan kontroll av tekniken, men han menar att den är nödvändig om mänskligheten ska överleva. Hans förslag i 10 punkter för hur vi får kontroll över tekniken är orealistiskt men han hoppas att förslaget kan knuffa oss i rätt riktning: Kontroll kräver ansvarsfulla tekniker och satsningar på säkerhet, organ för oberoende översyn och kontroller, långsammare teknikutveckling genom begränsning av tekniska förutsättningar, kritiker som engagerar sig i utvecklingen, företag som tar socialt ansvar, regeringar som tar makten över teknikutvecklingen, bedriver den själva, ställer krav, beskattar den, formar internationella allianser och institutioner för teknikövervakning, framväxten av en ny, försiktigare, teknikkultur och folkrörelser som kräver ansvarsfull teknikutveckling.

Genom att kontrollera teknikutvecklingen, säger Suleyman, kan vi forma den så att den bidrar till en rikare, bättre framtid. Inte mycket talar för att hans dröm blir framgångsrik inom en överblickbar framtid. Den 23 juli 2025 undertecknade Donald Trump ”America’s AI Action Plan”. Planen blev aktiv omedelbart och avsikten var, som undertiteln ”Winning the Race” anger, att USA ska vinna kampen om AI och behålla sitt teknologiska försprång, särskilt gentemot Kina. Detta ska ske genom att den amerikanska staten gör allt för att undanröja hinder och underlätta utvecklingen av AI. Det ska ske genom att undvika hämmande reglering och genomföra stora satsningar på AI-infrastruktur och energi.

Trump stöttar de stora digitala företagen i USA med sin handlingsplan för AI och genom att hota EU med sanktioner om vi inte behandlar de digitala företagen bättre. Torsdag den 4 september 2025 hade han samlat de stora techbolagens vd:ar till middag i vita huset. Det är lätt att begripa, men ändå var det sorgligt att höra när de smörade för Trump, även Bill Gates och Satya Nadella, Suleymans överordnade på Microsoft. Men denna undfallenhet inför Trump kan straffa sig i längden. Trumps anti-globaliseringspolitik, inte minst tullarna, drabbar de digitala jättarna som vill kunna sälja sina produkter och tjänster på den globala marknaden.

Suleymans bok rör sig över ett stort område och väcker många frågor. Internet var visserligen en teknik som utvecklades av den amerikanska försvarsmakten, men när den slog igenom på 1990-talet fick den en helt annan prägel. Internet utvecklades otroligt snabbt, men den stora användningen av Internet blev fredlig och handlade om information, medier, underhållning, dataspel, utbildning, hälsa och appar för alla möjliga sorters tjänster. Idag är det mycket fokus på ungdomarnas användning av sociala medier. Med AI blir det däremot allt tydligare att det är fråga om en teknik för krigföring och att satsningar på AI kastar in världen i en ny era av kapprustning. Medan Internet var ett viktigt inslag i globaliseringen sammanfaller AI med en återgång till nationalistiska strömningar.

Människor är apor med teknik. Med tiden blir tekniken en allt viktigare del av oss. Vi blir mindre av apor och mer teknik. När Suleyman säger att tekniken skall underordnas människor, inte tvärtom, är det ett olyckligt uttryckssätt. Tekniken har blivit en del av oss. När tekniken utvecklas förändras vi. Tekniken ska inte underordnas apan i oss utan istället utmana oss att bli mindre av apor. Kanske underskattar Suleyman teknikens roll i utvecklingen av oss människor och av våra samhällen? Lika lite som vi kan förutsäga vetenskapens utveckling kan vi förutsäga teknikens. Vi vet inte vad vi människor kan bli. Vi har inte kontroll över vårt öde, vår framtid.

Suleymans beskrivning av människan som teknikvarelse är mycket bra, men idén om tekniken som en flodvåg som drabbar mänskligheten är inte helt lyckad. Tekniken kommer inte som en tsunami som sveper bort allt i sin väg. Tekniken utvecklas i mötet med marknaden och politiken, och formas av båda dessa krafter. All teknikanvändning möter reglering och regleringen påverkar hur tekniken och teknikanvändningen utvecklas. Suleyman vet naturligtvis detta och hela hans bok är ett försök att beskriva hur vi bäst bedriver regleringen av AI och syntetisk biologi. Hans 10 punkter är en summering av den diskussionen.

Men Suleymans beskrivning av tekniken som en flodvåg har en allvarligare svaghet. Suleyman beskriver AI och syntetisk biologi som möjliga hot mot mänskligheten, men de människor som möter den nya tekniken är inte en enad mänsklighet. Vi kanske är på väg mot ett världssamfund och vi är alla med i FN, men fortfarande kännetecknas mänskligheten snarare av splittring än av enighet. Länder går i krig, förtryck leder till uppror, polariseringen ökar.

Mänskligheten är uppdelad i nationer och nationerna har svårt att hålla sams. Kanske är vi på väg mot ökat internationellt samarbete, men just nu verkar världen på väg att sönderfalla i ett litet antal konkurrerande maktblock. Många som debatterar AI ser tekniken som ett hot mot mänskligheten. Vi är i fara. Det låter som om mänskligheten utgjorde en enad front, men verkligheten är väldigt annorlunda. Människan är fortfarande det största hotet mot mänskligheten. Suleyman vet naturligtvis också detta och de risker han ser med den nya tekniken beror bland annat på den geopolitiska konkurrensen. Men den konkurrensen gör hans idé om kontroll av tekniken orealistisk.

Den vetenskapliga och tekniska utvecklingen verkar ha sprungit ifrån mänskligheten. Skillnaderna mellan de mest utbildade och vanligt folk verkar öka snarare än minska. Ingenstans är det mer uppenbart än i ett land som USA. Där finns de flesta nobelpristagarna i världen och de mest innovativa techföretagen, som idag leder AI-utvecklingen. Samtidigt tror en majoritet av amerikaner att gud skapade människan och nästan hälften att det skedde för mindre än 10 000 år sedan. Dessa skillnader skapar naturligtvis spänningar. Det är orimligt att tala om en mänsklighet, om gemensamma behov, mål och drömmar. Man undrar hur många det är som delar Elon Musks dröm om människan som en ”multi-planetär art”? Hur många delar min uppfattning att meningen med livet för en människa är att vara del av en fantastisk vetenskaplig och teknisk utveckling?

Nick Boström varnade redan i boken Superintelligence (2014) för att utvecklingen av artificiell intelligens snabbt leder till att AI:n själv skapar en superintelligens som tar makten över oss och kanske i all välmening gör oss till pappersgem. Varningen följdes av en intensiv debatt med många kända företrädare (Stephen Hawking, Max Tegmark, Elon Musk) som upprepade varningen och argumenterade för ett moratorium som skulle ge oss betänketid. Suleyman delar inte Boströms oro, utan oroas snarare av vad människor kommer att göra med den nya tekniken. Men han verkar ändå ha påverkats av Boström eller kanske av AI-hajpen i rädslan för teknikutvecklingen. De risker han ser med artificiell intelligens och syntetisk biologi är överdrivna.

Man kan dela Suleymans oro för teknikutvecklingen utan att för den skull gilla hans förslag. Hans bok är viktig och han har rätt i att vi borde diskutera teknikutvecklingen mer än vi gör. Men betyder det att politisk kontroll av tekniken är det bästa sättet att försäkra oss om en ljus framtid? Efter Sovjetunionens fall 1991 verkade världen överens om att de liberala demokratierna med fria marknader hade segrat. I sådana samhällen utvecklar marknaden tekniken och politiken reglerar den. Mycket av politiken inriktas på att stötta marknaden med dess teknikutveckling så att den ekonomiska tillväxten blir så stor som möjligt. Hur fri marknaden ska vara kan man diskutera, men Suleyman verkar närmast föreslå ett sovjetiskt system med planekonomi och total politisk kontroll av teknikutvecklingen. Det låter inget vidare.

Bo Dahlbom