Dario Amodei

Dario Amodei (2024) ”Machines of Loving Grace” och (2026) “The Adolescence of Technology”

Hälften av amerikanerna är negativa till AI. Senator Bernie Sanders vill stoppa bygget av datacenter i väntan på en lagstiftning om AI. AI-utvecklingen är dramatisk, nästan som kärnkraften på 1970-talet. Vi oroar oss för att AI kan ta makten över oss, ta jobben ifrån oss, övertala ungdomarna att ta livet av sig, kanske förvandla oss alla till pappersklämmor? Varför måste teknikutvecklingen vara så dramatisk? Jag går och funderar på den frågan medan jag följer den allt snabbare AI-utvecklingen. Kanske dramatiken bara är ett sätt att göra reklam för tekniken, ett medvetet sätt för företagen att skapa uppmärksamhet för att sälja mer teknik?

Själv blir jag bara mer och mer imponerad av vad AI kan göra. I vardagslag använder jag AI som assistent för att hjälpa mig med annan teknik, inte minst den digitala. Närhelst jag stöter på ett problem, jag kanske har glömt ett kommando, eller glömt var jag läst något. Lugn, inga problem, det är bara att be AI om hjälp. Det är helt fantastiskt. Med AI har jag fått ett gränssnitt till världen som hjälper mig i ett alltmer komplext tekniklandskap. Vi brukade säga att tekniken måste vara användarvänlig, men det kan vi sluta med. När tekniken ställer allt större krav på oss gör AI tekniken lättanvänd igen. Man kan inte alltid lita på AI. Även när den inte vet svarar den tvärsäkert. Men det är en liten olägenhet som kommer att slipas bort.

Under tiden ökar företagen sin användning av AI, men mer i USA än i Europa, kan Andrew McAfee rapportera. Trots att produktiviteten utvecklas illa i Europa och man verkligen skulle ha nytta av AI, verkar användningen gå trögt. Kanske tror man inte att AI har någon riktig framtid, kanske oroar man sig över att bli alltför beroende av AI? Kanske är man rädd för att AI döljer en framtida kostnadsbomb? Idag kostar ett företagsabonnemang på en AI-tjänst ungefär 200 kronor i månaden eller 2000 kronor om du är programmerare. Men de priserna kommer att stiga. Hur höga måste de bli för att AI-företagen ska gå med vinst? Kanske inte mycket högre, men osäkerheten är stor.

Ett företag som Anthropic räknar med att gå med vinst år 2028, mycket genom att vinna i konkurrensen med OpenAI. Dario Amodei är tillsammans med systern Daniela grundare av företaget med den mycket populära språkmodellen Claude. Anthropic har vunnit konkurrensfördelar genom att bli känt som ett ansvarstagande AI-företag och råkade nyligen i konflikt med Pete Hegseth och Pentagon. De har i dagarna berättat om sin senaste språkmodell Claude Mythos Preview, men valt att inte släppa den för allmänt bruk med motiveringen att den är så kraftfull att företaget inte har kontroll över den. Modellen kan användas till att identifiera svagheter i system och risken är stor att den blir ett vapen i händerna på hackare. Nyheten har väckt mycket sensation i AI-kretsar och även i the Atlantic och Dagens Nyheter.

Dario Amodei skriver mycket läsvärda essäer om AI och lägger dem på sin hemsida. Han har hittills skrivit två essäer, två kortare inlägg och ett stort antal vetenskapliga artiklar. I den första essän, oktober 2024, ”Machines of Loving Grace”, beskriver Amodei de fantastiska tjänster AI kommer att ge, om vi bara hanterar riskerna med tekniken. Han inleder med en intressant diskussion om ”intelligensens marginalnytta”, dvs. vilken fördel intelligens ger och vad som kan begränsa denna fördel. När USA ville utveckla en atombomb eller flyga till månen eller när IBM ville bygga en persondator samlade man intelligenta människor i ett projekt och kunde på så sätt åstadkomma mer. Vad kan vi göra med AI som vi inte kan göra idag? Amodei diskuterar begränsningar som hastigheten hos biologiska processer, tillgången på data, komplexitet, mänskliga begränsningar och fysikens lagar. Kanske intelligensen själv kan komma runt vissa av dessa begränsningar, men fysikens lagar kommer alltid att vara begränsande.

Många tror, säger Amodei, att AI bara är ett verktyg för dataanalys, men i själva verket kan AI, med hjälp av robotar eller assistenter, göra nästan all medicinsk forskning själv. Med sin överlägsna intelligens skulle en AI kunna få verklig fart på forskningen. (Men förutsätter inte detta att AI har en modell av världen, som Yann LeCun har hävdat?) Amodei tror att vi med AI på 10 år kan göra det som annars hade tagit 100 år och han listar: bota alla infektionssjukdomar, all cancer, Alzheimer, genetiska sjukdomar, hjärt- och kärlsjukdomar, diabetes och fetma. Vi kommer att bli biologiskt fria och leva dubbelt så länge. Detta är tänkbara resultat, säger Amodei, även om han är osäker om detaljerna.

Vi kommer med AI att snabbt öka våra kunskaper om nervsystemet, inte minst genom den kunskap vi får om de neurala nätverken och kan tillämpa på hjärnan. Med AI kommer vi att på 10 år bota de flesta psykiska sjukdomar och på så sätt göra livet mycket bättre för många människor. Det låter otroligt, men Amodei har disputerat i biofysik och det märks att han har medicinsk expertis. Ändå är jag rädd att han överdriver. Hans kommentarer om vad AI kan göra för att bekämpa fattigdom och öka jämlikheten i världen är även de kloka och sympatiska. Han är inte lika övertygad om framgång i dessa strävanden, men menar att vi måste försöka. Mest övertygad är han om att hälsovården med AI kommer att ta ett språng över hela världen.

Om Amodei är tveksam när det gäller AI:s möjligheter att möta tredje världens utmaningar, så är det ingenting mot den oro han känner inför framtidens umgänge mellan stater och riskerna för storskaliga krig och konflikter. Han föreslår en koalition mellan demokratier ägnad åt att försöka försena utvecklingen av AI i mer autokratiska länder. Med en sådan koalition skulle man också övervinna de autokratiska krafterna i demokratiska länder genom att förhindra att AI används till att förvränga sanningen. Donald Trump har tyvärr förändrat förutsättningarna för en sådan koalition.

Digitaliseringen, särskilt sociala medier, anklagas ofta för att ha haft en viktig roll i att skapa den politiska polarisering som många västerländska samhällen idag lider av. Amodei tror tvärtom att AI kanske kan bidra till att överbrygga motsättningar mellan människor. Mer allmänt tror Amodei att AI kan göra oss mer välinformerade och därigenom stärka de liberala demokratierna genom att stärka oss som individer. Han avslutar med att diskutera hur människor ska finna mening i en värld där allt arbete utförs av AI. Även det är klokt och tänkvärt även om han inte har några övertygande svar.

Den andra essän, ”The Adolescence of Technology”, kom i januari 2026, och rubriken hänvisar till riskerna som mänskligheten står inför när AI-utvecklingen tar fart. Hur ska vi möta alla de utmaningar vi nu står inför? Är mänskligheten mogen den uppgift som AI-utvecklingen ger oss? Amodei vill att vi möter de utmaningarna med förnuft, utan religiösa undergångsstämningar, men väl medvetna om riskerna. Han ägnar hela essän till en diskussion av dessa risker och han börjar med att diskutera risker som AI själv utgör, risker som härrör från individer och små organisationer som använder AI för destruktiva syften, och risker som härrör från stater och stora organisationer.

De AI-system som byggs idag är autonoma, dvs de opererar på egen hand, bortom vår kontroll, vilket skapar risker. Denna tanke hade en viktig roll i kärnkraftsdebatten. Kärnkraften var farlig för att vi inte hade kontroll över den. Hur försäkrar vi oss om att AI-systemen inte ställer till det för oss, genom att göra sådant vi inte önskar? Anthropic använder flera försvarsmetoder. Man ger AI värderingar som förhindrar negativa beteenden genom att ge Claude en konstitution som den uppmanas följa. Med hjälp av konstitutionen kan Claude tränas att bli en god AI ungefär som Mo Gawdat i boken Scary Smart (2021) ville att vi skulle behandla AI som vi behandlar våra barn för att de ska bli goda människor. Anthropic använder också en tolkningsmetod som Amodei beskrivit i andra inlägg på sin hemsida. AI-systemen är så stora att vi inte vet hur de gör när de använder sin intelligens till att lösa ett problem. Men vi kan försöka tolka vad det är som händer och genom att gå fram och tillbaka mellan konstitution och tolkning kan vi bilda oss en uppfattning om varför AI gör som den gör. Anthropic har också utvecklat metoder för att följa användningen av Claude för att se om den sköter sig eller inte och vill gärna se att alla större företag gör något liknande och är transparenta med sådan information.

AI-tekniken är kraftfull och risken är stor att tekniken används med destruktiva syften. Det är lätt att tänka sig vad man kan göra med drönare. Amodei diskuterar hur AI gör det möjligt för individer att använda biologin till att göra stor skada, genom att till exempel starta otäcka pandemier. Förr kunde vi googla men det är ingenting mot vad som blir möjligt med AI. Företag som säljer AI-system måste försäkra sig om att de inte används till att utveckla biologiska vapen och Amodei redogör för hur de på Anthropic arbetar med frågan. Bland annat håller de koll på användningen av Claude för att kunna agera när någon försöker. Men alla företag har inte dessa skyddsåtgärder och Amodei föreslår att staten genom reglering och internationella överenskommelser tvingar fram dem.

AI kan användas av autokratiska stater för att skaffa sig makt, både över andra stater och över de egna medborgarna, genom autonoma vapen, övervakning, propaganda och strategiskt beslutsfattande. Amodei är särskilt orolig för utvecklingen i Kina och han menar att USA borde agera för att försvåra utvecklingen av AI i Kina. Det innebär, till exempel, att inte tillåta export av Nvidias processorer, något som Biden förbjöd men Donald Trump har tillåtit igen efter mycket smörande från Jensen Huang. Att sälja dessa chips till Kina vore som att sälja kärnvapen till Nordkorea och hänvisa till att USA tjänar på affären eftersom Boeing tillverkar behållarna, säger Amodei.

Amodei diskuterar också de ekonomiska utmaningar AI ger oss — han kallar dem risker — och den diskussionen är mer intressant, tycker jag. AI kommer att kraftigt påverka tillväxten – Amodei räknar med 10-20% tillväxt per år – och detta kommer att ge oss svåra utmaningar. Amodei är särskilt bekymrad över utvecklingen på arbetsmarknaden och konsekvenser för jämlikheten. Det sätt AI förändrar arbetsmarknaden kommer att skilja sig från mekaniseringen genom att den kommer att gå snabbare, förändringen kommer att ha stor kognitiv bredd, AI:s förmåga kommer hela tiden att växa och brister hos AI kommer att rättas till. Arbetsmarknaden är trög, men ändå kommer förändringar att ske snabbt, antingen genom att etablerade företag ersätter anställda med AI eller genom startups som konkurrerar ut de etablerade företagen. Mycket ekonomisk aktivitet kan hamna i Silicon Valley med en smått ofattbar ansamling av kapital. Somliga tror att jobben kommer att bli mer fysiska, men Amodei varnar för att robotarna snart tar de jobben också. Andra säger att vissa serviceyrken kräver människor, men Amodei tvivlar. AI visar ofta bättre bemötande än människor och hur många jobb kan det handla om som människor gör bättre än AI? Om människor ska konkurrera med AI måste de antagligen sänka sina löner så mycket att det blir meningslöst att arbeta.

Det minsta vi kan göra åt det här problemet är att följa utvecklingen på arbetsmarknaden. Staten gör förvånansvärt lite på detta område, men Anthropic följer noga utvecklingen av AI-användningen och dess konsekvenser. AI-företag kan påverka sina kunder så att de satsar mer på innovation än automation och kanske behåller sina anställda längre för att dela med sig av den växande produktiviteten. Anthropic kanske gör så, men vi har redan sett många av de digitala jättarna – Microsoft, Oracle, Google, Meta, Amazon, Intel – göra sig av med stora mängder programmerare på grund av AI. Rika individer har ett särskilt ansvar att bidra till välgörenhet och Amodei störs av den cynism har ser breda ut sig i techvärlden. Progressiva skatter är ett annat sätt som den ökande ojämlikheten kan bekämpas, men dessa åtgärder kan bara köpa oss tid i väntan på ett samhälle där AI kan göra allt arbete. Hur ska ett sådant samhälle se ut? Hur undviker man att många människor helt enkelt blir överflödiga, ”useless”, som Yuval Harari så talande benämnt dem?

AI:s konsekvenser för jämlikheten i samhället oroar också Amodei. Hur ska det gå med demokratin om några få individer blir superrika? John D. Rockefellers förmögenhet  motsvarade som mest 2 % av USA:s bruttonationalprodukt. Elon Musk äger redan mer än så och det är innan AI-utvecklingen verkligen börjat påverka jämlikheten. De stora AI-bolagens bugande för Donald Trump ger Amodei en föraning om en mer plutokratisk framtid. Vad kan vi göra för att förhindra en sådan utveckling? Företag kan vägra att spela med i detta spel och det är vad Anthropic har gjort. Företag kan också utveckla sundare relationer till regeringen, diskutera reglering snarare än försöka vinna politiska fördelar. Just nu växer motståndet i USA mot AI och särskilt mot datacenter-byggandet, men motståndet bygger tyvärr på missuppfattningar, som att vattenanvändningen i datacenter är ett problem. Istället borde diskussionen handla om hur AI kan bli något som kommer alla medborgare till del snarare än berika ett litet antal företagare.

Under tiden Amodei oroar sig går AI-utvecklingen allt snabbare. Tillsammans med Demis Hassabis från Deepmind var han i Davos för två månader sedan och debatterade AI-utvecklingen med chefredaktören för the Economist. Hassabis och Amodei var överens om att utvecklingen skulle ta en ny vändning när AI börjar utveckla sig själv. Två områden där AI är långt framme är programmering och forskning och tillsammans lägger de grunden för att använda AI till att utveckla AI. När det sker kommer utvecklingen verkligen att ta fart. Amodei tror att detta kan ske redan under innevarande år, medan Hassabis är mer osäker och menar att flera problem återstår att lösa innan vi är där.

På 1960-talet oroade vi oss för atombomben, på 1970-talet var det kärnkraften själv som stod för hotet. När vi ser tillbaka på den tiden kan vi inte låta bli att dra på munnen. Vilken oskuld. Jag erinrar mig paneldebatten 1986 då vi diskuterade informationsöverflödet. Vilket överflöd? På den tiden fanns ju knappt någon information. Hur kunde vi vara så rädda för kärnkraften? AI utmanar oss på ett helt annat sätt. Hur ska vi organisera våra samhällen, hur ska vi fördela resurserna när vi inte längre behöver arbeta? Så länge vi behövde arbeta dag ut och dag in för att skaffa mat på bordet behövde vi inte fråga om mening, men hur ska vi finna mening i en tillvaro utan arbete? Jag tror att utmaningarna som AI ger oss är så stora att vi tvingas börja hantera teknikutvecklingen mer förnuftigt och mindre dramatiskt.

Det är olyckligt att AI-utvecklingen, mycket tack vare Nick Bostroms insatser, gett upphov till sådan panik. Det har inte börjat bra även om mycket av den mer existentiella oron inför AI verkar ha lagt sig och mer konkreta bekymmer kommit i stället. Det är ju också sådana konkreta bekymmer som borde uppta oss. AI-utvecklingen är inte riskfri, men vi måste kunna se längre än till riskerna och också ställa oss sådana frågor som: Vilka yrken kommer först att påverkas av AI-utvecklingen? Hur ska vi egentligen använda oss av robotar i arbetsliv och vardagsliv? När kan vi räkna med att robotarna tillverkas och sprids i större kvantiteter? Hur ska samhället organiseras när människor inte längre behöver arbeta? Hur ska ett sådant samhälles resurser fördelas?

Teknikanvändningen orsakar dramatiska samhällsförändringar så vad vore naturligare än att uppfatta teknikutvecklingen själv som ett drama? När man gör motstånd mot en viss teknik, när man vill stoppa en teknikutveckling, behöver man mobilisera en opinion och det kräver dramatik. Motståndet mot kärnkraften bottnade ofta i ett avståndstagande från den tekniska utvecklingen mer allmänt. Det moderna samhället är byggt av teknik, och tekniken ger oss inte bara fantastiska fördelar, den ger oss också problem. Men lösningen kan inte vara att stoppa teknikutvecklingen utan snarare att angripa problemen medan vi utvecklar tekniken, ungefär som Dario Amodei och Anthropic gör.

Bo Dahlbom