Komplexitet

Alla verkar ha blivit överraskade av de skenande elpriserna. Regeringen skyller på de nedlagda kärnkraftverken, experter på eftersatta investeringar i elnätet och alltför komplexa tillståndsprocesser för vindkraft. Vänstern skyller på marknaden och alla skyller på Putin. Det verkar som om elsystemet blivit så komplext att politiken inte längre kan sköta det. Kanske gäller detta mer allmänt. Tekniken blir bara mer avancerad och hela tiden kommer det ny teknik. Den politiska och juridiska regleringen har på många områden blivit så komplex att den snarare snärjer än vägleder oss. Samhället har blivit så komplext att ingen riktigt vet vad som bör göras när det inte fungerar.

Jag läser en liten, välskriven och charmig bok om komplexitet av Samuel Arbesman, Overcomplicated (2017). Arbesman ger exempel som visar att han delar oron inför ett alltmer komplext samhälle. Komplexa tillståndsprocesser försenar investeringar som kan rädda liv, en naturlig önskan om interoperabilitet ökar komplexiteten. Att öka komplexiteten är billigt, medan kostnaden för sammanbrott ökar. Men egentligen är han inte så bekymrad över vårt beroende av alltmer komplexa system. I stället är han angelägen om att vi lär oss förhålla oss till dem på ett förnuftigt sätt och boken försöker beskriva hur det ska gå till.

Arbesman är inte så noga med att skilja mellan komplexitet och komplikation, men menar ändå att man kan göra en poäng genom att skilja mellan de två. Komplicerade system innehåller många delar, men komplexa system kännetecknas dessutom av interaktion mellan delarna, det kvantmekaniken kallar sammanflätning. Levande system är typiskt komplexa, men i växande utsträckning också de system vi människor bygger. Arbesman exemplifierar bland annat med Microsoft Office, det amerikanska trafiksystemet och den amerikanska skattelagstiftningen.

Arbesmans huvudpoäng är att de tekniska system vi skapar alltmer har kommit att likna biologiska system. De växer och utvecklas ungefär som organismer och blir med tiden alltmer sammanflätade. Han har tagit starka intryck av Daniel Hillis som menar att vi med vårt beroende av komplexa system inträtt i en ny era som han kallar sammanflätningens tid (”Age of Entanglement”). Vi måste överge upplysningens övertygelse att vi med vårt förnuft kan analysera och kontrollera naturen och i stället inta en mer ödmjuk inställning både till naturen och komplexa, tekniska system. Vi kan inte hoppas på att i detalj förstå dessa system utan bör behandla dem som vi i praktiken behandlar det levande. Vi kan inte kontrollera naturen, vi kan bara kultivera den, pröva oss fram och noga följa vad som sker. Detsamma gäller för våra komplexa, tekniska system.

Inspirerad av bland andra Kevin Kelly, som i Out of Control (1994) använde biologin för att förstå tekniken, menar Arbesman att vi bör förhålla oss till våra komplexa tekniska system som fältbiologer förhåller sig till naturen. Arbesman jämför fysikens förhållningssätt med biologins och menar att där fysiken alltid försöker abstrahera och förenkla går biologin i stället nära och låter sig fascineras av alla konkreta detaljer. När vi bygger våra system visar det sig att biologin är en bättre förebild än fysiken. Den tidiga, inte särskilt framgångsrika, AI-forskningen försökte använda sig av logik och allmänna regler. Dagens väl fungerande AI-system använder istället statistiska metoder och stora datamängder.

Att våra tekniska system genom utveckling och sammanflätning blivit så komplexa att ingen längre kan överblicka dem betyder inte att vi ska överge upplysningens ideal och sluta försöka förstå dem som fysiker förstår vårt planetsystem. Men vi ska inse våra begränsningar, erkänna att vi inte kan förstå systemen i all deras komplexitet. Även om vi i vardagslag använder förenklande gränsytor till tekniken, måste vi ta chansen att ibland se igenom gränsytan och undersöka systemets detaljer. Vi måste behålla vår nyfikenhet och förundran inför systemens komplexitet. Vi ska varken försöka dölja komplexiteten eller skrämmas av den. Vi ska vara ödmjuka inför den.

När Descartes i början av 1600-talet lade grunden till den moderna filosofin identifierade han organismer med maskiner. Senare kom man i stället att betona skillnaden mellan levande, komplexa organismer och maskiner. Arbesman (och Kelly och Hillis) beskriver en utveckling där skillnaden mellan maskiner och organismer, mellan det mekaniska och det levande, håller på att upplösas. Den vetenskapliga och tekniska utvecklingen har nu kommit så långt att vi kan bygga och bygga om det levande. Men det betyder inte att vi kan kontrollera livet, utan tvärtom att vi förlorar kontrollen över tekniken.

Den digitala tekniken har starkt bidragit till att öka komplexiteten och sammanflätningen i våra tekniska system. De digitala systemen är själva exempel på komplexa system. Många av dem byggs på, lappas, lagas och återanvänder programkod tills de blir oöverblickbara. De komplexa, digitala systemen har mängder av vitala uppgifter som gör att vi blivit helt beroende av att de fungerar. Detta beroende ökar hela tiden, samtidigt som komplexiteten hos systemen ökar. Många av systemen innehåller artificiell intelligens vilket ökar komplexiteten och minskar möjligheterna för oss att förstå dem.

Människor oroar sig för artificiell intelligens, för en teknik som tar makten över oss, men det tror jag är en obefogad oro. Däremot borde vi kanske oroa oss mer över den växande komplexiteten hos alla de system som tillsammans utgör ett modernt samhälle. Vad händer med demokratin i ett sådant samhälle? Den som har makten över de tekniska systemen har också makten över samhället. Vad händer med säkerheten? Vad händer när systemen inte fungerar som de ska? Vi kan behålla de gamla, enklare systemen som backup. Men hur länge kan vi ha kvar kontanter?

Bo Dahlbom