Den bittra läxan

Det finns en klassisk liten AI-artikel av Richard Sutton, professor vid universitetet i Alberta, känd för sin forskning om förstärkningsinlärning och nybliven Turingpris-vinnare. Det är en kort essä som heter “The Bitter Lesson” (2019) och den ligger på hans hemsida. Essän gör en enkel poäng. Eftersom processorkapaciteten hela tiden ökar enligt More’s lag är det vettigare att ge AI allmänna förmågor som inlärning och sökning än att ge den specifik kunskap. Det senare var länge den dominerande metoden inom AI, men Geoffrey Hinton visade att det var fel. Nu tror inte Sutton på de stora språkmodellerna eftersom de saknar mål och inte har kunskap om världen utan bara om vad vi säger om världen. Men jag undrar. En vuxen människas kunskap om världen är väl mest sådant hon lärt sig genom studier och så snart vetenskapen genom experiment har funnit något nytt rapporteras det i publikationer.

AI-agenterna blir allt mer imponerande. I USA har många blivit skrämda av att självständiga agenter gör sådant ingen bett dem göra. Det har rapporterats om AI-agenter som hackat sig in på hemsidor för att utföra sina uppgifter. De stora AI-företagen har lagt mycket arbete på att göra agenterna självständiga och lyckats över förväntan. Denna självständighet förändrar vår syn på hur vi människor bäst ska använda AI-tekniken. Ethan Mollick skriver intressant om detta i ett blogginlägg med rubriken “The Dot and the Swarm”. Kommentarerna på inlägget är också intressanta.

Bäst är kanske den country-låt Mollick i inlägget ber AI (Opus 5.5, Fable och Suno) göra för att summera Suttons insikt att allmänna förmågor är en klokare väg till artificiell intelligens. Om du inte har för vana att klicka på länkar tycker jag ändå att du ska klicka på den här. Mollick har på begäran laddat upp låten på YouTube. Lyssna på den, gärna några gånger, så lär du dig mycket om AI, och förstår poängen med den bittra läxan att AI klarar sig bäst på egen hand. Sedan kan du fundera på konsekvenserna av detta.

Ethan Mollick är professor i innovation with Wharton School i USA. På Substack har han ett intressant nyhetsbrev om AI, “One Useful Thing”. Där berättar han om hur han använder AI i sin undervisning. I juni skrev han om erfarenheterna med Claude Fable 5 innan regeringen i USA ingrep och Anthropic beslöt att (tillfälligt) dra tillbaka modellen. Mollick är imponerad av AI och var mycket imponerad av Fable. Han bad den göra en karta som visar hur lång tid det tar att komma från New York till valfri plats på jorden och vilka färdmedel man ska välja. Agenten arbetade många timmar med uppgiften, men resultatet är onekligen imponerande!

Ethan Mollick skrev en av de bästa tidiga böckerna om AI, Co-Intelligence(2024), där man lär sig mycket om hur man skriver promptar. På den tiden var AI en chatbot, en assistent som man interagerade med. En vanlig uppfattning var att det var avgörande hur man utformar instruktionen (prompten) till AI. I framtiden skulle vi alla bli “promptingenjörer”, sade man. Det har med tiden visat sig vara en förhastad förutsägelse. AI har utvecklats och nu är AI snarare agenter än chatbotar. När AI-agenterna kom lanserade Mollick istället idén att användningen av AI innebär att organisera agenternas arbete. Med AI skulle vi alla bli chefer. Att använda AI innebär att leda och fördela arbetet bland många agenter. Mollick har skrivit en ny bok som heter Co-Existence som kommer i oktober. I sitt nyhetsbrev berättar han om boken. Men nu verkar den bittra läxan ha fått honom att ändra uppfattning igen.

Förra sommaren skrev Mollick ett intressant blogginlägg om Sutton och den bittra läxan, “The Bitter Lesson versus the Garbage Can” som handlade om hur man inför AI i företag och organisationer. Om vi ska automatisera de administrativa processerna i ett företag måste vi beskriva dem och ofta visar det sig vara en näst intill omöjlig uppgift. Om du någon gång försökt vet du vad jag talar om. Den bittra läxan lär oss att det arbetet är helt onödigt. Vi ska inte försöka beskriva processerna i företaget, lika lite som vi ska försöka lära AI att tänka som vi. AI-agenterna klarar sig bättre själva. Allt arbete vi lade ned på att försöka beskriva företagets processer var i själva verket helt onödigt! AI-agenterna behöver ingen hjälp med att organisera sitt arbete.

Enligt Internetstiftelsen använder 7 av 10 tjänstemän idag AI i arbetet, men den mesta användningen är nog snarare individuell än organiserad av företaget. Man skulle tro att införandet av AI kräver en genomtänkt företagsstrategi, men enligt den bittra läxan kan vi överlåta strategin åt agenterna själva. AI behöver inte vår hjälp. All den kunskap vi samlat under ett långt arbetsliv, allt det arbete företaget lagt ned på att utveckla och beskriva sina processer, ingenting av detta behöver AI. Den begriper bättre själv hur den ska fullgöra sina uppgifter. Den behöver inte oss. Det är den bittra läxan.

Bo Dahlbom