AI och automatisering
Vad skulle vi göra om vi inte hade Internet? Här kan jag sitta i Sverige och ta del av föreläsningar vid MIT mer bekvämt än om jag hade varit på plats i Boston. Nu lyssnar jag på Arvind Narayanan som tillsammans med Sayash Kapor skrivit boken AI Snake Oil (2024) som jag skrev om i februari. Narayanan är professor i datavetenskap vid Princeton och väl värd allt beröm han får. Den 17 april var han på Schwarzmore College (en del av MIT) och föreläste om sin bok inbjuden av initiativet ”MIT Shaping the Future of Work” som leds av Daron Acemoglu, David Autor och Simon Johnson. David Autor är känd för sin forskning om automatisering och de andra två fick (tillsammans med James Robinson) nobelpriset i ekonomi i höstas.
I AI Snake Oil sågade författarna, orättvist tyckte jag, boken The Age of AI (2021) av Henry Kissinger, Eric Schmidt och Daniel Huttenlocher. Huttenlocher som är datavetare var väl den som bidrog med teknisk kompetens till boken även om Eric Schmidt naturligtvis kan mycket om artificiell intelligens. Han har förresten en ny bok om AI som kom i sent i höstas, Genesis (2024), också den skriven med Kissinger. När Narayanan hälsas välkommen påpekas det att dekanus för Schwarzmore College, Dan Huttenlocher, är på plats. Jag undrar om detta görs med baktanke, men Huttenlocher deltar inte i det samtal som följer på föredraget.
Efter en inledning av Asuman Özdaglar (som är gift med Acemoglu) där Narayanan hälsas välkommen, håller han ett kort föredrag som ger en utmärkt sammanfattning av den nyutkomna boken. Mer intressant än föredraget är dock det samtal som följer mellan Acemoglu och Narayanan. Acemoglu har blivit väl insatt i forskningen om artificiell intelligens (hans fru är AI-forskare) och ställer intressanta frågor. Han är besviken på att det, med undantag för stöd för programmerare, i stort sett saknas AI-applikationer för specifika arbetsuppgifter. Det är gott och väl med ChatGPT och Copilot och liknande exempel på artificiell intelligens, men de går ju inte att använda till särskilt mycket. Narayanan håller med, men tror att detta håller på att förändras.
Narayanan och Kapor är redan i färd med nästa bok och i sitt nyhetsbrev har de släppt en artikel ”AI is Normal Technology” som utgör underlag för den nya boken. Det är en lång artikel. Mycket är rätt självklart och artikeln är lite av en besvikelse. Författarna vill övertyga oss om att artificiell intelligens är en teknik bland andra och de behöver en bättre idé om det ska bli en bok som kan mäta sig med AI Snake Oil. Men artikeln innehåller några intressanta idéer, argumentationer.
Att kalla AI ”normal” är inte att ifrågasätta dess kraft att förändra vår vardag, säger Narayanan och Kapor. Men det innebär att vägra falla in i kören av dystopier och utopier, där AI antingen ska förinta eller frälsa oss. AI är ett verktyg bland andra och inte en kollega. När en teknik kommer till användning sker det i flera steg. Först måste tekniken (1) uppfinnas, sedan måste den genom (2) innovation omsättas i applikationer som kan (3) spridas på marknaden. Som regel är vägen lång från de tekniska uppfinningarna till en mer omfattande spridning. Om användningen innebär uppenbara risker kommer tekniken dessutom att regleras, som i EU:s AI Act, och spridningen att bli särskilt långsam.
Ett vanligt misstag i AI-sammanhang innebär att inte skilja mellan de två första stegen, mellan tekniken och applikationerna, säger författarna. ChatGPT visar som teknik imponerande resultat på de tester som i USA görs när man söker in på högskolan, ska bli advokat eller legitimeras som läkare. Det innebär inte att ChatGPT kan ersätta advokater eller läkare. Yrkesrollen innehåller många färdigheter som inte mäts med dessa kunskapstester. Detsamma gäller AI:s användning i programmering, det Andrej Karpathy kallar ”vibe coding”. Även om vibe programmering är en av AI:s paradgrenar kan den inte ersätta mänsklig software engineering. Den yrkesrollen innehåller, säger Narayanan och Kapor, strategiska överväganden och färdigheter som inte finns hos dagens AI-verktyg.
Författarna diskuterar också riskerna med AI och särskilt Nick Boströms rädsla för att en superintelligens tar makten över oss. Men frågan är inte om AI blir mer intelligent än vi utan om den får mer makt, större förmåga att påverka omgivningen. Boström tror att den förmågan följer av den högre intelligensen. Men denna förmåga beror på vilken teknik man har tillgång till. Den moderna människans makt är beroende av hennes teknik. Vi är många gånger mäktigare nuförtiden än vi var på stenåldern. Trump är mäktig för att han har tillgång till det amerikanska samhället med dess krigsmaskin och dess teknik, inte för att han är mycket intelligentare än vi andra. Vi kan förhindra en superintelligens att ta makten över oss genom att se till att den inte får tillgång till vår teknik.
Narayanan och Kapor vill avdramatisera vår syn på AI. Många jag följer i Silicon Valley menar istället att AI är det största som hänt mänskligheten, större än Internet. Eric Schmidt tycker så liksom de flesta av AI-företagens entreprenörer. Men diskussionen är intensiv och det finns massor av spännande nyhetsbrev om AI. Ett skrivs av Timothy B. Lee och där läser jag en intressant artikel av kemisten Nick McGreivy som är besviken på AI som stöd i vetenskaplig forskning. Ett av de bästa nyhetsbreven om AI är svenskt och skrivs av Johan Sanneblad. Det kommer varje måndag, handlar mycket om stöd för programmering och forskning, och utmärks av att Johan själv provar de system han skriver om. Han är imponerad av forskningsstöd som Google Co-Scientist och i nyhetsbrevet vecka 21 skriver han om DeepMinds nya AlphaEvolve och länkar till en intressant intervju med AI-kritikern Gary Marcus av Alex Kantrowitz. Marcus tror att dagens satsning på maskininlärning med neurala nätverk behöver kompletteras med logik. Som många andra hänvisar han till Daniel Kahneman och hans idéer om två sätt att tänka, ett snabbt och ett långsamt.
Kantrowitz har ett nyhetsbrev Big Technology och en podd med samma namn som är värd att lyssna på. Den 16 maj diskuterade han i podden hur OpenAI håller på att bli den ”sista webbsidan”, dvs allas gränssnitt till webben, och vad det betyder för vår konsumtion av information och nyheter. Den 21 maj intervjuade han Googles Demis Hassabis och Sergey Brin om AI-utvecklingen.
En forskare som verkligen tror på AI:s betydelse är Andrew McAfee, känd för sina böcker med Erik Brynjolfsson. McAfee skriver ett intressant nyhetsbrev, The Geek Way. Den 8 maj försökte han med fina figurer visa hur otroligt kraftfull den amerikanska AI-satsningen är. Tech-sektorn har helt tagit över den amerikanska ekonomin och Europa är tyvärr hopplöst efter. McAfee är inte särskilt oroad över hur AI kommer att påverka sysselsättningen och vill absolut inte att oron ska lägga hämsko på utvecklingen.
Annars har människor, ända sedan ludditerna slog sönder textilmaskiner i England på 1810-talet, varnat för att automatiseringen ska ta jobben ifrån oss. Mycket teknik handlar också om automatisering, dvs om att befria människor från arbetsuppgifter, göra arbetet lättare. Med verktyg kommer man rätt långt, med maskiner lite längre, med datorer ännu längre och med artificiell intelligens kanske hela vägen. Men mycket ny teknik handlar istället om att göra sådant som människor aldrig gjort. Tekniken har ökar produktiviteten hos mänskligt arbete, men minst lika viktigt är alla de nya produkter och tjänster som tekniken gett oss. Tekniken har gett oss välstånd men framför allt har den gett oss något att spendera detta välstånd på.
Automatiseringen och dess konsekvenser för sysselsättningen är ett hett diskussionsämne. Det är genom automatisering som tekniken tar jobben ifrån människor, säger Acemoglu. Man kan, som Narayanan och Kapor, ha invändningar mot automatisering för att den lurar oss att tillskriva tekniken förmågor som den ännu inte har. Vi underskattar komplexiteten i en uppgift och tror att vi har funnit en automatisk lösning. Självstyrande bilar är ett aktuellt exempel. Många menar istället att kombinationen människa och teknik är överlägsen tekniken själv.
När väst återindustrialiserar, tar hem produktionen från Kina, gör automatiseringen att det inte blir särskilt många jobb i fabrikerna. Med artificiell intelligens riskerar människor att förlora även mer intellektuella arbetsuppgifter. David Autor tror inte att det måste ske. Han skriver om automatisering i en intressant artikel “AI Could Actually Help Rebuild The Middle Class” (Noema, 12 feb 2024). Han jämför AI med en jazzorkester som improviserar, jammar, ibland överraskar, men förfogar över stor expertis. Maskininlärning ger datorerna expertis men i gengäld gör de inte alltid exakt det man ber dem om. AI är experter och kan därför öka kompetensen hos människor som inte själva är experter. Framtidens sjuksköterskor kan med AI göra läkarnas jobb, tror Autor, när behovet av hälsovård blivit större och läkarna för få och för dyra.
Men kan inte AI klara hälsovården själv utan sköterskor? Kommer inte robotar att kunna göra allt jobb i sjukvården? Autor tror inte det och hänvisar till alla försök som gjorts att få bilar självstyrande. Trafiksituationen är komplex, nästan vad som helst kan hända, och då gäller det att reagera adekvat. Kombinationen av människa och AI är därför överlägsen AI, även när människan inte är expert, menar Autor och hänvisar till forskning som verkar visa att en människa som är lagom kompetent tjänar mest på att använda AI.
Många menar med Autor att kombinationen människa och AI är framtiden, men McAfee håller inte med. I sitt nyhetsbrev den 17 december diskuterar han forskning som verkar visa att ChatGPT är bättre på att ställa diagnos på egen hand än i samarbete med läkare. Läkarna överskattar sin förmåga och är beredda att gå emot AI. De gör samma misstag som piloter som kraschar när de ifrågasätter autopiloten. Kanske sköterskor skulle varit mer ödmjuka, lyssnat mer på AI, och fått bättre resultat?
Användningen av AI kommer att utvecklas och förändras. Vi är ju alldeles i början av vad som verkar blir en omvälvande utveckling. Arbetslivet kommer att förändras med AI. Hur långt automatiseringen kommer att gå är en väl en praktisk, ekonomisk fråga. Ingenting verkar vara principiellt omöjligt. Men teknikutvecklingen är ju inte ödesbestämd. Människor styr utvecklingen och kanske kan de välja automatisering eller inte? AI-företagen måste börja tjäna pengar på alla sina investeringar och det kommer naturligtvis att styra teknikutvecklingen. I värsta fall går det som med sociala medier.
Shoshana Zuboff blev känd på 1980-talet när hon skilde mellan digital teknik som automatiserade arbetet och teknik som informerade användaren. Zuboff var intresserad av maktfrågor och menade att teknik antingen kan försvaga arbetarnas ställning eller stärka den. Företagen som utvecklar AI stärker ägarnas makt genom automatisering. Blotta hotet om att programmerare kan ersättas av AI har redan sänkt statusen på techjobben enligt Cory Doctorow känd för sin beskrivning av utvecklingen av digitala plattformar som ”enshittification”. Nu talar han om techjobbens enshittification.
Skillnaden mellan automatisering och informatisering påminner om den mellan VR och AR eller, på svenska, förstärkt verklighet. Du tar på dig ett par glasögon och antingen hamnar du i en ny virtuell verklighet eller också förstärks din gamla vanliga verklighet av ett lager av information. Erik Brynjolfsson använder den terminologin när han diskuterar arbetsdelningen mellan AI och människa i en intressant artikel i Daedalus, ”The Turing Trap” (2022). Han gör samma poäng som Zuboff. Om AI används till automatisering får vi ett samhälle där människor blir överflödiga och makten samlas hos företagen. Men vi kan påverka teknikutvecklingen med ett skattesystem som beskattar arbete mindre och kapital mer.
Med ChatGPT interagerar du. Den fungerar som en sökmotor. Ju bättre frågor du ställer desto bättre svar får du. Google erbjuder utbildning i ”prompt engineering”. Nu blir AI agenter som kan utföra uppdrag. Du agerar som arbetsledare. Du bestämmer vad som behöver göras, tänker strategiskt och har behov. I nästa steg blir agenterna helt självständiga, automatiska, tar egna initiativ, utformar själva sina strategier och har egna behov. Kanske utvecklingen aldrig går så långt? Kanske AI förblir ett verktyg i händerna på kompetenta människor? Om tekniken är en utvecklingsuppgift kommer AI att utmana oss att utveckla vår kompetens.
Bo Dahlbom