Max Tegmarks dystra sommar
Max Tegmark sommarpratade den 1 augusti 2023 och varnade för att AI kommer att utrota mänskligheten under vår livstid. Tegmark tror, liksom många AI-forskare, att vi med GPT 4 kommit mycket nära förverkligandet av allmän artificiell intelligens. Han beskrev tre former av hot från AI: illvillig användning, konkurrens och dålig målanpassning. Någon enskild terrorist kan använda AI för att utplåna mänskligheten, kanske genom att sprida ett virus som AI utvecklat. AI kan göra oss överflödiga, konkurrera ut oss, genom att göra bättre alla de arbetsuppgifter som vi idag utför. AI kan offra oss för att uppnå mål som AI fått eller utvecklat och som inte stämmer med våra mål. Dessa hot blir särskilt förskräckliga om AI verkligen blir den superintelligens som redan Alan Turing, och senare Nick Bostrom, varnat för.
Till skillnad från Tegmark och många av dagens AI-forskare tror jag inte att utvecklingen med GPT 4 är nära att uppnå allmän intelligens, men det kommer snart att visa sig vem som har rätt. Men oavsett blir AI-programvaran allt bättre och spelar allt större roll inte minst i forskning och utveckling, till exempel i genetiken och molekylärbiologin. Det första hotet som Tegmark beskriver är allvarligt. Vi ser redan nu hur självstyrande drönare spelar en viktig roll i kriget i Ukraina och utvecklingen av autonoma vapen går mycket fort. Sådana drönare kommer naturligtvis att hamna i orätta händer och polismyndigheter måste lära sig att möta hotet när detta sker. Det är lätt att föreställa sig många andra förfärliga sätt att använda AI och när man gör det inser man att hur utmanande framtiden blir. Ju kraftfullare teknik människan utvecklar desto mer ökar hon sin handlingsförmåga och AI är till skillnad från kärntekniken lätt att använda, billig och troligen lättillgänglig för alla.
Det första hotet skrämmer, men det är ett hot vi måste lära oss hantera eftersom det kommer att dyka upp gång på gång när teknikutvecklingen på olika områden går allt snabbare. De andra två hoten oroar mig däremot mindre. De verkar båda kräva att AI har mål som kan komma i konflikt med våra, att AI är mer som en självständig agent än ett verktyg som vi använder. Men varför skulle vi vilja skapa en sådan AI och hur gör vi det? Att AI blir en agent, inte bara ett verktyg eller en automat, utan en som vill något verkar innebära att göra AI levande och det är lättare sagt än gjort. På 1980-talet var intresset stort för forskning i ”artificiellt liv”, AL, och kanske kan intresset växa igen, men att kombinera AI och AL verkar inte särskilt smart. Daniel Dennett argumenterar i From Bacteria to Bach and Back (2017) för att vi ska bygga AI-system som verktyg, inte som kolleger, och det är en rekommendation som bör tas på allvar. Gör vi inte det kan Tegmarks oro komma att besannas. Levande, intelligenta maskiner kan mycket väl få för sig att människor inte behövs. AI kommer att förändra arbetsmarknaden genom att ta över arbetsuppgifter på alla möjliga områden, men det är ett pris vi måste betala för utvecklingen. Så länge AI är ett verktyg och inte en kollega är det en omställning som vi lärt oss att hantera.
Tegmark avslutade sitt sommarprat med några korta ord om medvetandet och meningen med livet. Om de tänkande maskinerna utrotar mänskligheten försvinner medvetandet ur universum. Det vore en ohygglig förlust, menar Tegmark. Det är medvetandet, våra upplevelser, som ger våra liv mening och som ger universum mening. Det är svårt att föreställa sig ett liv utan upplevelser och det är inte underligt att många filosofer varit hedonister, dvs hävdat att lyckan finns i goda upplevelser och frånvaron av smärta. Tegmark verkar vara en lycklig människa, nybliven småbarnsfar igen, och det är kanske därför han framhåller upplevelsernas betydelse. Om han haft mer smärta kanske han inte hade talat lika väl om våra upplevelser. Men han är ju en ovanligt framstående forskare, författare till två utmärkta populärvetenskapliga böcker, och det är underligt att han inte fäster större vikt vid kunskapen.
Tegmark ansluter sig till dem som likt Noam Chomsky, Thomas Nagel och David Chalmers betraktar medvetandet som ett märkligt, kanske oförklarligt, fenomen. Dennett kallar dem ”mysterianer” och hävdar själv att medvetandet har en biologisk förklaring, och därför antagligen finns, om än inte lika fullt utvecklat, även hos andra arter. Om man tar Darwins utvecklingslära på allvar betonar man övergångar, gradskillnader, snarare än väsensskillnader mellan människor och andra arter. Enligt Darwins teori har människor med sina medvetanden utvecklats ur tidigare livsformer och det finns ingen anledning att tro att det är något mystiskt med medvetandet. Kanhända människan är unik i att ha upplevelser, men även om så är fallet, finns det en biologisk förklaring till medvetandet.
Även om andra arter använder verktyg är det ingenting i jämförelse med människans verktygsanvändning. Vi använder verktyg med våra händer och vi använder verktyg när vi tänker. Språket är vårt viktigaste tankeverktyg och ger oss förmågor att reflektera, planera, kommunicera och argumentera som inga andra arter har. Språket ger därigenom vårt medvetande en rikedom och karaktär som skiljer oss från andra arter. Även om vi med Darwins utvecklingslära i åtanke betonar likheten mellan människor och andra arter bör vi samtidigt framhålla de skillnader som vår verktygsanvändning medför. Verktygsanvändningen har möjliggjort en fantastisk teknisk och vetenskaplig utveckling helt olik den vi finner hos andra arter. Kanske är den också, som Dennett tror, en förutsättning för medvetande?
Själv tror jag att det finns ett bättre svar än medvetandet på vad som är meningen med livet. Vi är stora apor och som sådana är naturligtvis meningen med våra liv att föra livet vidare, att göra fler apor. Men om vi vill finna en mening som skiljer oss från de andra arterna, tycker jag att vi kan göra det i människans projekt, människans utveckling genom teknik och vetenskap. Det är ett fantastiskt projekt, under lång tid knappast märkbart, men i modern tid desto påtagligare. Att med vetenskap och teknik utforska och lära känna den här planetens materia och levande organismer, och universum, dess utbredning och ursprung, är ett fantastiskt äventyr, och att få vara med på det äventyret ger mitt liv mening i tillägg till den mening som mina fyra söner ger mig.
Om AI skulle utrota mänskligheten kanske människans projekt inte fortsätter och det skulle vara en olycka även om ett misslyckat projekt också är ett äventyr. Allt levande verkar vilja expandera, utmärkas av det Nietzsche kallade ”viljan till makt”, av en stark strävan att föröka sig och breda ut sig. Det är denna strävan som en gång fick hominiderna i våg efter våg att lämna Afrika och breda ut sig över världen och det är den strävan som kommer att ta oss människor ut i rymden. I våra försök att förvandla hela jorden till vår trädgård försöker vi hålla efter ogräs och särskilt de arter vi kallar ”invasiva”. De invasiva arterna är som vi, som allt levande, de breder ut sig. Om AI kommer att fortsätta vårt projekt beror det på att den delar denna strävan, om AI inte bara har intelligens utan även liv, artificiellt liv.
Om vi inte ger AI liv behöver vi inte oroa oss för att bli utkonkurrerade eller offrade, men om vi ger AI liv är det rimligt att betrakta den som vår fortsättning, som en ny art som konkurrerar ut människan, och det är väl inget att sörja över. Den tekniska utvecklingen har tagit över och fortsätter när den biologiska utvecklingen kommit fram till människan. Utan tekniken skulle väl den biologiska utvecklingen ha fortsatt och nya arter avlösa de gamla. Tegmark sörjer över att medvetandet försvinner ur universum om de intelligenta maskinerna utrotar oss, men är det inte rimligare att tro att maskinerna blir minst lika medvetna som vi? Om medvetandet är ett materiellt fenomen, inte något mystiskt, är det väl troligt att även de andra aporna är medvetna och att de intelligenta, levande maskinerna kommer att bli det. De maskinerna kommer, liksom vi, att finna mening genom att med radioteleskop, vetenskapliga teorier och rymdskepp utforska universum.
Bo Dahlbom