Effektiv välgörenhet mot AI

“I was a fan of Effective Altruism. But it became cultish. Happy to donate to save the most lives in Africa, but not to pay techies to fret about AI turning us into paperclips. Still support the idea; hope they extricate themselves from this rut.” Steven Pinker, X, 24/11 2023.

Den digitala utvecklingen har bidragit till en stark teknikoptimism, kanske tydligast uttryckt av Ray Kurzweil och Peter Diamandis, men allmänt förekommande bland digitala entreprenörer i USA. Under det senaste året fick teknikoptimismen en rejäl skjuts framåt av utvecklingen av artificiell intelligens. Det mest omtalade exemplet var kanske Marc Andreesens inlägg ”Why AI will save the world”. Samtidigt har AI-utvecklingen förstärkt en motrörelse med rötter bland annat i Nick Bostroms bok Superintelligence (2014). Motrörelsen betonar riskerna med AI, förespråkar mer statlig reglering och större försiktighet i utveckling och kommersialisering.

Några av de mest högljudda motståndarna mot AI-utvecklingen finns i en löst sammanhängande rörelse som kallas ”effektiv altruism”. Rörelsen har ett nav i Centre for Effective Altruism i Oxford, där man kan läsa om rörelsens historia. I Oxford finns också tre av de ledande talespersonerna för rörelsen: filosoferna Nick Bostrom, Toby Ord med boken The Precipice (2021), och William MacAskill med böckerna Doing Good Better (2015) och What We Owe The Future (2022).

Man kan läsa om effektiv altruism-rörelsen i en utmärkt liten artikel av Stefan Schubert i Filosofisk Tidskrift, publicerad redan 2016 och alltså långt före årets ChatGPT-rabalder. Enligt Schubert bildades rörelsen i Oxford och San Francisco, med inspiration från filosofen Peter Singer, som i en mycket diskuterad artikel, ”Famine, Affluence, and Morality”, för 50 år sedan hävdade att vi gör för lite för världens fattiga.

Schubert urskiljer fyra grenar av EA-rörelsen, beroende av vilka frågor man främst arbetar med: global fattigdomsbekämpning, djurs lidande, existentiella risker och metafrågor. Existentiella risker hotar mänsklighetens existens och man skulle kanske tro att klimathotet stod i fokus, men enligt många av rörelsens företrädare är hotet från artificiell intelligens mycket större. Metafrågor handlar om hur man blir en effektiv altruist och flera organisationer har detta syfte. En av de mer kända är föreningen 80,000 hours som ger vägledning och råd i hur man gör mest nytta. Andra organisationer, som Center for Applied Rationality och Clearer Thinking betonar hur viktigt det är att vara rationell i sin altruism.

Rörelsens företrädare finns vid universitet och högskolor, i ideella föreningar och vid ett stort antal institut, av vilka de mest kända är Eliezer Yudkowskys Machine Intelligence Research Institute i Berkeley, Nick Bostroms Future of Humanity Institute i Oxford och Centre for the Study of Existential Risk i Cambridge. I Boston finns Max Tegmarks Future of Life Institute, med ekonomiskt stöd av, bland andra, Elon Musk. Rörelsen har en svensk gren som anger artificiell intelligens först i en uppräkning av existentiella risker. I Sverige finns också en mer operativ ideell förening, Ge Effektivt.

De stora företagen och deras ledare formar vår värld, först genom produkter och tjänster, sedan genom välgörenhet. Det brukar sägas om John D. Rockefeller att han ägnade 40 år av sitt liv till att tjäna ihop en förmögenhet och sedan 40 år till att skänka bort den. Det har talats en del om den makt miljardärer som Bill Gates och Mark Zuckerberg utövar när de bedriver välgörenhet, men mindre om alla de stiftelser, föreningar och institut som genom välgörenhet är med och formar framtiden. Många av dessa föreningar tillhör effektiv altruism-rörelsen och många av dem ägnar allt mer intresse åt artificiell intelligens. Nirit Weiss-Blatt skriver i sin blogg AI Panic! om alla pengar som används av EA-rörelsen till att betona riskerna med artificiell intelligens.

Det är fortfarande inte helt klart vad som hände när Sam Altman avsattes som vd för OpenAI i november 2023. Det ryktas om maktkamp och att Ilia Sutskever och Helen Toner i styrelsen ansåg att Altman gick för fort fram, men också hade för många engagemang vid sidan om OpenAI. Toner har en bakgrund i EA-rörelsen och finns nu på Georgetown University’s Center for Security and Emerging Technology och även Sutskever, som är doktor i datavetenskap med Geoffrey Hinton som handledare, har varnat för riskerna med AI. När Altman avsattes blev det ett himla rabalder och det dröjde inte länge förrän han var tillbaka igen och styrelsen utbytt. När Altman intervjuades av Time Magazine den 12 december efter utnämningen till ”Time CEO of the year” var han som vanligt optimistisk inför framtiden. AI ger oss fantastiska möjligheter i en framtida värld av överflöd, sade han.

ChatGPT ställde till med ett himla rabalder när den lanserades den 30 november 2022. OpenAI rapporterade 100 miljoner användare redan de första 2 månaderna. Många varnade för de stora riskerna med artificiell intelligens, bland andra en av AI-forskningens nyckelfigurer, AI:s ”gudfader” Geoffrey Hinton själv. Nu börjar det komma böcker som uttrycker mer sansade ståndpunkter. Forskaren Simon Prince har skrivit en bok Understanding Deep Learning (2023) som undanröjer några av de värsta mystifikationerna. Det är uppfriskande att få hans beskrivning av ChatGPT.

Det är inte ovanligt att ny teknik väcker farhågor. Ändå har diskussionen om artificiell intelligens varit ovanligt intensiv och engagerat många av experterna på området. Som Steven Pinker påpekar är det olyckligt att så mycket av EA-rörelsen engagerats i frågan om riskerna med artificiell intelligens. Rörelsen skulle göra betydligt mer nytta genom att ägna sig åt fattigdom, malaria, klimathot och djurrättsfrågor. Det verkar dessutom betydligt förnuftigare för en rörelse som just berömmer sig av förnuft.

Fem risker med AI-utvecklingen har dominerat debatten. AI tar jobben ifrån oss, ger oss förfalskningar, tar makten över oss, möjliggör monopol och gör krigen värre. Mycket av diskussionen har ett tydligt teknikperspektiv. Man utgår från teknikens möjligheter och gör sedan förutsägelser om teknikens konsekvenser när den kommer till användning. Men den nya tekniken ska integreras i ett komplext samhälle och det är inte alltid självklart hur det ska gå till. Det finns intressen att försvara och omställning tar tid.

Artificiell intelligens kommer att påverka arbetsmarknaden, kanske lika mycket eller mer än vad internet gjort. Arbetsuppgifter kommer att förändras, komplexiteten och kraven kommer att öka. AI kan användas för automatisering av arbetsuppgifter såväl i tillverkning som i kommunikation och administration. Som vid all automatisering handlar det i första hand om att tekniken tar över rutinuppgifter av olika slag och det är svårt att tycka annat än att detta är gott. Även om människor kanske behöver rutiner för sin psykiska hälsas skull blir de inte längre tvungna att utföra sådana uppgifter på jobbet.

Artificiell intelligens kan användas till att förfalska bilder, texter, rapporter, filmer, personer, ja, alla sorters media, och AI kommer naturligtvis att användas på detta sätt både för att roa och bedra oss. Om man ser tekniken som en utvecklingsuppgift är detta knappast något att uppröras över. Vi måste helt enkelt lära oss att använda den sortens teknik och att genomskåda när andra använder den. Myndigheter och banker måste skaffa sig system som kan hantera den här sortens hot.

Nick Boström varnade redan i boken Superintelligence för att utvecklingen av artificiell intelligens snabbt leder till att AI:n själv skapar en superintelligens som tar makten över oss och kanske i all välmening gör oss till gem. Boström hade frågat experter på området hur snart de trodde att de skulle kunna skapa artificiell intelligens. Inom några decennier, var det vanliga svaret, och all anledning därför att varna för superintelligensens maktövertagande. Det finns åtminstone två invändningar mot denna argumentation. En invändning är att AI-experter alltid svarat så, ända sedan forskningen först började på 1950-talet. Även om många nu imponeras av de stora språkmodellerna, så föredrar jag att lyssna på Yann LeCun, AI-chef på Meta, som inte är lika imponerad och dessutom ifrågasätter att AI är en existentiell risk för mänskligheten. Den andra invändningen är att argumentet överskattar intelligensens betydelse. Det är inte de mest intelligenta som har makten i våra samhällen.

Viktigare än dessa existentiella risker är mer närliggande hot som AI delar med annan teknikutveckling. Om företag skaffar sig ett försprång, vilket i praktiken ger dem en monopolställning kan de använda denna till att skaffa sig fördelar och kanske också hämma den fortsatta utvecklingen. Den risken verkar nu liten när USA tagit tydlig ledning med en fantastisk mångfald av startupföretag och dessutom en rikedom av öppna lösningar.

All teknik kan användas till krigföring och artificiell intelligens gör det möjligt att automatisera kriget med autonoma drönare av allehanda slag. Sådana drönare används i kriget i Ukraina och det pågår en kapprustning på detta område. Ju intelligentare drönarna blir desto effektivare blir kriget. Om du vinner krig genom att döda så många människor som möjligt kan du göra detta. Kanske kan detta på sikt bidra till att krig blir så vidriga att de förpassas till historiens sophög. Innan det sker kanske vi får krig där allt görs av drönare och människor varken deltar, dödas eller lemlästas.

Mycket av diskussionen av dessa risker påminner om teknikoptimisternas diskussion av framtida möjligheter. Peter Diamandis ger oss flera exempel. Optimisterna utgår liksom kritikerna från teknikens möjligheter och gör sina förutsägelser. Människor utvecklas med teknik, men det är lätt att glömma att apan i oss utövar stor påverkan på hur vi väljer att använda tekniken. Dagens ungdomar har tillgång till all världens kunskap på nätet, men i stället för att vandra runt i detta fantastiska bibliotek, föredrar många att spela enkla dataspel eller titta på korta videoklipp av jämnåriga. Med AI kommer de att få tillgång till en skräddarsydd lärare som är oändligt pedagogisk och alltid beredd att lära dem mer. Diamandis verkar tro att de kommer att föredra den perfekte lärarens sällskap framför sina okunniga jämnårigas.

Vi är apor i samhällen som förändras och utvecklas med teknik, men att organisera samhällen är ingen enkel uppgift. Marx beskrev utvecklingen som perioder av relativt lugn avlösta av mer våldsamma revolutioner när nya produktivkrafter sprängde ramarna för gamla produktionsförhållanden. Är AI en produktivkraft som spränger ramarna och innebär revolution eller kommer införandet av AI att gå mera lugnt till? Det mesta tyder väl på att det kommer att gå mera lugnt till. AI är knappast någon revolution. De förändringar som följer med AI har redan inletts med digitaliseringen, internet, de digitala plattformarna och alla appar. AI är helt enkelt ett inslag i den digitala revolutionen.

De flesta av effektiv altruism-rörelsens företrädare är som Peter Singer utilitarister och hävdar att vi handlar moraliskt när vi maximerar lycka och minimerar lidande. Moralen är universell och nationstillhörighet spelar ingen roll. Moralen gäller alla människor och även djur i den mån de har känslor. Inte heller tiden spelar någon roll. Framtidens människor (och djur) är lika viktiga som nutidens. Därför blir de existentiella riskerna särskilt viktiga. Allt som hotar mänsklighetens framtid har naturligtvis förödande moraliska konsekvenser. Det ger argumentationen kraft att man på detta sätt kan anklaga människor för omoral när de tar för lätt på frågan om artificiell intelligens. Ändå tror jag det är olyckligt att göra frågan om framtiden till en fråga om moral.

Moralen är en social institution utvecklad för att reglera människors handlingar när de lever i samhällen. Våra moraliska känslor och intuitioner är resultatet av uppfostran och beroende av den kultur, det samhälle vi tillhör. En universell moral förutsätter ett (framtida) världssamhälle med tillhörande institutioner. Med en sådan, avmytologiserad, somliga skulle säga krass, moraluppfattning förlorar den sortens frågor som upptar effektiva altruister sin moraliska prägel. Ingenting hindrar att man ändå håller med om att vi borde göra mer för att, till exempel, undanröja fattigdomen i världen, men det är inget moraliskt krav på den enskilde och kanske görs det bäst genom att stater samarbetar och stödjer varandra.

Bo Dahlbom