Näringsliv, arbete, samhälle, umgänge, fritid och framtidsdrömmar får sin form av den teknik vi använder och förändras med tekniken. Tekniken har blivit en del av oss och den utvecklas allt snabbare. Just därför är det märkligt att vi så lite bekymrar oss om hur och varför tekniken utvecklas. Vi lever i en demokrati där vi tillsammans formar samhällets utveckling, men det som verkligen avgör denna utveckling diskuterar vi endast när vi måste ta ställning till konkreta förändringar. Borde vi inte ha tänkt igenom den mer långsiktiga teknikutvecklingen?

Jag läser en innehållsrik och spännande bok av Amy Webb, The Big Nine (2019), som handlar om hur de digitala jätteföretagen idag formar vår framtid. Amy Webb är journalist och framtidsforskare och kan både skriva och tänka intressant om framtiden. Hon oroar sig framför allt över två inslag i digitaliseringen: Kinas intresse för AI och USA:s brist på engagemang.

Kina har femårsplaner och en medveten politik för ökat inflytande i världen. Det kinesiska kommunistpartiet har identifierat AI som avgörande för teknikutvecklingen och lade år 2017 fram en plan för hur Kina till år 2030 ska bli världsledande på AI. Det är en ambitiös plan med stora satsningar på forskning och innovation. De kinesiska företagen är en del av statsmakten och utvecklar nu med AI system för övervakning och ansiktsigenkänning av Kinas medborgare. De utvecklar det samhällskreditsystem som kineserna vill använda för att skapa ett samhälle som tillåter “de pålitliga att ströva överallt under himlen samtidigt som det blir svårt för de med lågt kreditvärde att ta ett enda steg.”

I jämförelse med Kina är den amerikanska regeringens intresse för AI mera förstrött. Webb varnar för en värld där Kina dominerar AI-utvecklingen och oroas över den amerikanska låt-gå-mentaliteten. Den amerikanska regeringen låter utvecklingen ske i de stora företagen på marknadens villkor medan statens satsningar på forskning och utveckling är blygsamma. Men AI handlar om vår framtid, säger Webb, och framtiden är för viktig för att överlåta till marknaden.

Webb efterlyser mer av regeringsengagemang, planer och visioner, samarbete med de stora företagen och ekonomiska satsningar på AI för att möta det kinesiska hotet. Hon vill att den amerikanska staten tar kommandot över utvecklingen, ungefär som den kinesiska, med en tydlig vision om framtiden, och med ett stort inflytande över de digitala företagen och deras teknikutveckling.

Även om man inte som Webb vill att staten ska leda teknikutvecklingen är det viktigt med statligt engagemang. Staten har åtminstone fyra uppgifter i teknikutvecklingen. Som kund kan staten genom upphandling bidra till att tekniken sprids och kommer till god användning. Detta gäller även tekniken som infrastruktur (bredband) för användning av medborgare och företag. Staten finansierar utbildning och forskning som framför allt bidrar till kompetensutveckling och kompetensförsörjning. Staten har också uppgift att reglera såväl teknikutveckling som användning genom att ställa krav på tekniken och dess användning.

Staten kan också genom subventioner eller skattelättnader försöka påverka teknikanvändningen. Med hem-pc-reformen snabbade staten på försäljningen av hemdatorer i Sverige i slutet av 1990-talet och det var väl inte fel. Sådana riktade satsningar kan ta miste och slår kanske ofta in öppna dörrar, men stör knappast den långsiktiga teknikutvecklingen.

Det Webb föreslår är däremot något helt annat. Samtidigt som hon tycker att staten ska akta sig för detaljreglering av tekniken vill hon se en nationell satsning på AI som motsvarar 1960-talets amerikanska rymdsatsning. Hon önskar sig dessutom en internationell koalition av demokratiska länder som genom samarbete kan stå emot Kinas ambitioner på världsherravälde. Genom bildandet av en global expertkommitté skall teknikutvecklingen styras i rätt riktning. Tack och lov är det svårt att se den sortens socialism få fäste i det amerikanska samhället även om det ett tag såg ut som om Bernie Sanders skulle bli Demokraternas presidentkandidat i höst.

Om man minns Sovjetunionen är man skeptisk till femårsplaner och hotet från Kina möts bättre med en överlägsen västerländsk marknadsekonomi än med planer. Även om Apolloprojektet var ett framgångsrikt statligt initiativ av stor betydelse för teknikutvecklingen på 1960-talet, så är det knappast så staten ska ta sig an digitaliseringen. Statliga initiativ är bra när det finns tydliga uppgifter och mål, som att bygga en bomb eller en järnväg, eller sätta en människa på månen. Men en teknikutveckling som digitaliseringen där innovationerna kan förväntas fortsätta att dominera kan inte planeras fram av expertkommittéer.

Företag satsar på utveckling på områden som de tror kommer att ge dem konkurrensfördelar. Så länge marknaden fungerar någorlunda väl, dvs utan monopol, får vi produkter och tjänster som vi gärna betalar för. Marknaden talar till våra barnsliga behov av underhållning och konsumtion. Likt naturen slösar den med våra tillgångar, men så är den också, likt naturen, kreativ och spännande. Expertkommittéer kan ta andra hänsyn, tänka längre och djupare om vad som är gott och önskvärt och föreslå satsningar på andra områden. Det är väl bra om vi kan ha båda, men bevare oss för ett samhälle där expertkommittéerna har makten.

Frånsett det lite skrämmande naiva förslaget till politisk styrning av teknikutvecklingen, har Webb skrivit en mycket läsvärd och spännande bok med många intressanta detaljer. Hon tar sin utgångspunkt i den senaste hajpen om AI och det är kanske lite synd för hennes irritation över hur framtiden formas handlar mer om teknik med förmyndarfasoner och pojkmentalitet än om AI.

The Big Nine inleds med en ”mycket kort” AI-historia, från de gamla grekerna över konferensen i Dartmouth till dagens neuronnät. Webb skriver snärtigt och bra, men om man inte redan är bekant med historien begriper man kanske inte så mycket. Vad värre är, man förstår inte varför AI är en så mäktig och farlig teknik som Webb säger. Den tidiga AI-forskningen gjorde redan på 1950-talet mycket anspråksfulla förutsägelser: om 10 år kommer maskinerna att vara intelligentare än människor. Nu har Google en programvara som spelar alla slags spel bättre än människor, men betyder det att maskinerna snart tar över världen?

Samtidigt som Webb varnar för populärkulturens domedagsbeskrivningar av AI uppfattar hon den som en fullständigt omvälvande teknik. Dessutom kommer dess utformning idag att utöva påverkan under lång tid framöver. Med AI kommer vi att ge tekniken makt att fatta beslut för oss alla. Men varför tror hon det? Den AI det talas så mycket om idag kan känna igen mönster. Man kan göra mycket med mönsterigenkänning, men handen på hjärtat, det är ju sånt som alla djur kan. Mönsterigenkänning kommer att spela en allt viktigare roll i digitala tillämpningar, men AI är bara en ingrediens bland många andra i digitaliseringen.

De nio stora företag som, enligt Webb, dominerar AI-utvecklingen är Google, Microsoft, Apple, Amazon, Facebook, IBM, Baidu, Alibaba och Tencent. Tillsammans har de ett mycket stort inflytande över den pågående teknikutvecklingen. Idag, borde man kanske tillägga. För 25 år sedan var IBM och Microsoft helt dominerande bland IT-företagen, men de andra digitala jättarna har vuxit fram sedan dess. Nya digitala jättar kommer fram när digitaliseringen erbjuder nya och oväntade tillämpningar. Digitaliseringen har bara börjat, men Webb ger inte något utrymme för nya tekniksprång och med femårsplaner lär de också utebli.

Webb skriver initierat om de stora nio och deras medarbetare. De som idag driver utvecklingen i dessa företag utgör en subkultur med likartade värderingar. När de utvecklar programvara skiner värderingarna igenom. Ett AI-system för rekrytering kan inte hantera kvinnliga sökande för utvecklarna (alla pojkar) tänkte inte på att det finns kvinnor. När samhället gör sig alltmer beroende av automatiserade beslutsstöd riskerar vi att gång på gång hamna i situationer där tekniken irriterar.

Sådana irritationsmoment dyker upp i många sammanhang. Själv vill jag ibland slippa säkerhetsbälte när jag kör på stora parkeringsplatser. Det är tillåtet enligt svensk lag, men min bil vill inte att jag gör det. Webb vill gärna backa med hög volym på bilradion, men det vill inte hennes bil, och sänker radion. Hon upprörs över att de digitala storföretagen och deras designavdelningar formar hennes vardag. Webb skulle vilja att politiken hade mer att säga till om, men blir världen verkligen bättre om politiken får mer inflytande över vår vardag?

För att visa hur illa det kan gå ger oss Webb tre framtidsbilder med mängder av intressanta detaljer. En är optimistisk och beskriver en värld där digitaliseringen revolutionerat utbildning och hälsovård, gjort livet bekvämare och roligare. Den bygger på att USA:s regering tagit ansvar för utvecklingen och inlett ett långtgående samarbete med de amerikanska, digitala storföretagen. Tillsammans har de stakat ut vägen in i framtiden, enats om standards, principer för övervakning och hantering av persondata, och att inte satsa på utvecklingen av superintelligens.

En annan framtidsbild är mer pessimistisk, med samma sorts tjänster, men här dominerar irritationsmomenten. Olika leverantörer har olika standards, kriminalitet och bedragare frodas, storföretagen styr vår vardag med irriterande puffar för ”vårt eget bästa”, och när Facebook säljs hamnar vi till slut med alla våra data i Kinas samhällskreditsystem. Det är i själva verket Kina som kontrollerar den amerikanska vardagen, även om vi inte inser det. Den här framtidsbilden blir verklighet, tror Webb, om vi fortsätter som idag med en regering som inte intresserar sig för AI och konflikter mellan regering och storföretag snarare än samarbete.

Värst är ändå den tredje framtidsbilden. Här har tekniken tagit makten över oss. Hela vår omgivning är automatiserad med AI och våra liv fullständigt kontrollerade. Kina dominerar världen och har utvecklat en superintelligens som förintar USA, alla dess medborgare och allierade. Den här framtidsbilden är egentligen bara en fortsättning av den andra och den blir verklighet om vi fortsätter att låta marknaden och konkurrensen mellan de digitala jättarna styra teknikutvecklingen.

Med sina framtidsbilder diskuterar Webb samtidigt riskerna med en marknadsstyrd teknikutveckling och hotet från en utveckling styrd av Kina. Den första oroar henne betydligt mindre och handlar mest om irritation inför en teknik som lägger sig i hennes vardagsliv och vill uppfostra henne. Det är hotet från Kina som motiverar hennes uppmaning till statlig styrning. Och i så fall är den uppmaningen kanske trots allt inte så konstig. När det är krig tar staten över och det Webb beskriver i sin bok är i själva verket en situation där vi i västvärlden redan befinner oss i krig med Kina. Jag tycker nog att hon överdriver lite, men kanske är det jag som är naiv.

Bo Dahlbom