“AI kan döda oss alla”

Riskerna med AI diskuteras igen. Noah Smith skriver klokt om det senaste tumultet som orsakades av utvecklaren Jacob Coxon. Coxon väckte mycket uppmärksamhet när han sade upp sig från Anthropic för att han inte ville bidra till att utplåna mänskligheten. Smith skriver också om Dario Amodeis september-essä “We must Pace the Frontier” där Amodei argumenterar för att sakta ned utvecklingen. Samtidigt som Amodeis Anthropic och Sam Altmans OpenAI leder utvecklingen av AI varnar de båda för en utveckling som hotar mänskligheten. Man kan undra vad de håller på med. Många tror att det är ett sätt att öka intresset för AI inför börsintroduktionen. Andra menar att det är ett sätt att hålla undan för uppstickare. Om det blir reglering av AI är de stora företagen bäst rustade att klara av den. Man hänvisar till Meta som gärna talar om reglering nu när företaget skaffat sig en trygg position med stora intäkter.

Amodeis essä är märklig och inte blir det bättre när han intervjuas av CBS. Man får intrycket att Amodei försöker gå balansgång för att lugna sina medarbetare, som likt Coxon oroar sig för AI-utvecklingen, utan att störa företagets lönsamhet. Amodei föreslår en tre-stegsplan, med oberoende granskare, demokratisk koordinering och globalt samarbete, för att göra utvecklingen av AI mer ansvarsfull. Det första steget innebär att alla företag gör plats för oberoende granskare och Anthropic lovar att ta initiativet. Det andra steget innebär att ledande företag i demokratiska länder, delvis med regeringens hjälp, koordinerar sin utveckling. Det tredje steget inbegriper också auktoritära länder och innebär internationellt samarbete.

Det internationella samarbetet lär bli svårt att åstadkomma och i Peking har man redan avfärdat förslaget. I Kina sägs man vara orolig för att AI kan hota kommunistpartiet, men vill inte ha hjälp med det hotet. Inte heller Trump, vars familj investerat mycket i AI-företagen, vill reglera utvecklingen. För honom är det viktigare att USA behåller försprånget till Kina. Trump betraktar varningen att AI kan ta livet av oss som en bluff och man är böjd att hålla med honom. Ända tills han säger att även den globala uppvärmningen är en bluff. I Europa kan vi bara följa en diskussion där vi inte deltar. Här ägnar vi oss istället åt att försöka minska ungas skärmberoende genom att införa åldersgränser för sociala medier.

I USA verkar alla vilja ge sig in i debatten om AI-utvecklingens risker. Dave Karpf skriver den 17 september på Tech Policy Press att visst behöver AI-utvecklingen regleras, men inte av Anthropic utan av regeringen. Som alla företag är Anthropics viktigaste uppgift att tjäna pengar och företaget kommer därför inte att agera på ett sätt som hotar lönsamheten.

Företagen formar idag vår vardag genom den teknik de erbjuder. Ju viktigare tekniken blir för våra samhällen desto större blir tech-företagens makt och inflytande. Men i en demokrati ska alla vara med och påverka teknikutveckling och teknikanvändning. Helst ska regleringen göras med insikt om teknikens betydelse för vårt välstånd. Det kräver en reglering som inte med byråkrati stör utvecklingen av ny teknik. Det är ingen enkel uppgift särskilt om det råder osäkerhet om vilken samhällsutveckling som teknikens användning medför.

Det råder osäkerhet om vad en ökad AI-användning kan betyda, hur vi ska använda AI och till vad. Många verkar vara överens med Amodei om att AI-utvecklingen kan bidra till en fantastisk utveckling av hälsovården med nya mediciner och en skräddarsydd, proaktiv hälsovård. Många menar att vi kan åstadkomma en liknande utveckling av utbildningen, men här finns delade meningar. Många ser framför sig en fantastisk produktivitetsutveckling och ett växande välstånd, medan andra ser jobben försvinna, människor inte längre behövas, eländet breda ut sig och livet bli meningslöst. Trots att vi lever i ett samhälle med ständig teknikutveckling är vi oförberedda när teknikutvecklingen tar ett språng.

I en demokrati hanterar vi teknikutvecklingen genom debatter som den som just nu pågår, framför allt i USA, om AI-utvecklingen. Företagsledare, filosofer, opionionsbildare och politiker deltar i debatten och så småningom växer det fram ett förhållningssätt. Utredningar får uppdrag, parlament debatterar och lag stiftas. Det kanske inte är effektivt, men det är demokratiskt och demokrati tar tid, måste få ta tid.

Vi kan ta den pågående debatten om barns och ungdomars användning av mobiltelefoner och sociala medier som exempel. Redan när Facebook spreds över världen år 2006 möttes man av negativa reaktioner. Samtidigt som användarna snabbt ökade i antal, i Sverige år 2007, var kritiken massiv mot mediets intrång i privatlivet. Kritiken av företagets affärsmetoder och teknik för att göra användarna beroende har vuxit under åren, särskilt med avseende på hur användningen påverkar barn och unga. Kritik har riktats mot alla sociala medier, vilka under inflytande av det kinesiska företaget TikTok alltmer kommit att satsa på korta filmsnuttar. När världens regeringar nu 20 år senare inför regleringar för barn och unga kan man tycka att det tagit onödigt lång tid. Kunde man inte ingripit tidigare och är verkligen förbud den bästa metoden?

Barn och ungdomar spelar hellre spel på sina mobiler eller tittar på TikTok än de läser böcker eller lär sig tysk grammatik. Många vuxna tycker att de lösar de bort sina liv och vill därför förbjuda mobiler i skolan och åldersbegränsa sociala medier. Kanske all ny teknik skulle prövas på detta sätt? Om tekniken ger enkel underhållning bör vi kanske begränsa dess användning? Även för vuxna?

Många verkar ha fått sin uppfattning om tekniken från miljörörelsen och ser tekniken mest som ett hot. Reglering innebär begränsning av användningen och ibland helt enkelt förbud. Men tekniken har ju förvandlat våra samhällen och gett oss det moderna livet med fantastiska bostäder, goda arbetsvillkor, bekvämlighet och ett långt liv utan sjukdomar. Den framtida teknikutvecklingen kommer att fortsätta den utvecklingen, men den kommer naturligtvis att utmana oss. Förändring är aldrig enkelt och samtidigt som tekniken ökar vårt välstånd innebär den stora samhällsförändringar. Ju bättre vi förstår den nya tekniken desto bättre förstår vi hur tekniken ska regleras och dessa förändringar göras. Våra politiker måste förstå att i ett samhälle byggt av teknik är all politik teknikpolitik.

Bo Dahlbom