Krönika: AGI – är det dit vi vill?
Många upplever att tiden går snabbare ju äldre man blir. På ett sätt är det förstås en illusion men på ett annat sätt är det sant, utvecklingen går ju faktiskt snabbare och snabbare och fler och fler saker händer hela tiden. Skulle du leva år 1600 och sedan magiskt teleporteras till år 1700 skulle du förmodligen inte märka någon jättestor skillnad.
Om du sedan förflyttades till år 1800 hade saker varit lite annorlunda men du skulle fortfarande känna igen dig. Tog du därefter ett skutt till år 1900 hade du förmodligen blivit chockad över att se framrusande tåg, dundrande fabriker och elektriska ljus. Men det är ingenting mot vad en resa till år 2000 hade varit. Plötsligt är det asfalt och skyskrapor överallt, enorma metallfåglar flyger i himlen, det finns bomber som kan ödelägga hela städer, man kan se och prata med vem som helst i hela världen genom en liten låda och människor har gått på månen! Vad hände?!
Den teknologiska och vetenskapliga utvecklingen har en tendens att accelerera sig själv. Ju mer avancerade verktyg och metoder vi har, desto snabbare kan vi uppfinna nya ännu mer avancerade. Men takten saker har gått i hittills är i sin tur ingenting jämfört med vad som skulle hända om vi verkligen lyckades skapa AGI, Artificiell Generell Intelligens, en AI övermänsklig på alla områden. Det är inte bara det att sådan AI skulle vara bättre än mänskliga forskare på att göra tekniska framsteg. Den skulle dessutom kunna arbeta oerhört mycket snabbare. En hjärncell kan avfyra några hundra signaler per sekund, en modern transistor fler än en miljard. Om vi kunde tänka en miljon gånger snabbare hade en dag motsvarat 3 000 års tankeverksamhet. 3 000 år!
En AI kan dessutom kopieras i miljoner eller miljarder upplagor som arbetar parallellt, och dessa hade sannolikt kunnat använda delar av sina nya insikter till att förbättra sin egen intelligens i en exponentiell loop. Den som tycker att det är svårt att hänga med bland dagens TikTok-flöden och chattbotar bör spänna fast säkerhetsbältet. När intelligens blir digital finns det nästan ingen gräns för hur fort det kan gå.
Bland de mest framstående AI-forskarna är det få som tror att AGI ligger längre än ett årtionde bort och de stora AI-bolagen pumpar in hundratals miljarder dollar för att vägen dit ska bli den kortast möjliga. Man kan inte utesluta att ett stort genombrott gör att vi är där bara om några få år. Det kan mycket väl vara så att världen 10-15 år från nu ter sig lika märklig för oss som år 2000 tedde sig för den som levde år 1600. Konsekvenserna lär bli enorma för vad det innebär att vara människa. Ändå pratar vi knappt om det. Vi lever på som vanligt och låtsas som att allt kommer vara ungefär likadant när vi går i pension eller våra barn tar examen som det är nu. Politikerna diskuterar framtiden som om den kommer att likna gårdagen.
Det är olyckligt, för om det många tror kommer att hända händer finns det flera frågor vi borde ha ställt oss i förväg: Hur ska vi utforma samhället när allt arbete vi kan göra görs snabbare och billigare av AI? Vad ska skolan lära ut när AI kan allt? Hur ska pengar fungera när ingen kan tjäna dem? Vem har kontrollen i en värld som går så fort att ingen människa kan hänga med eller förstå exakt vad som händer? Hur ska vi förhålla oss till teknik som kan förlänga våra liv eller låta oss leva för alltid? Hur hanterar vi högteknologiska vapen många storleksordningar värre än kärnvapen? Vart är vi på väg, och framför allt, är det dit vi vill?
JONAS VON ESSEN
Minnesmästare, föreläsare och debattör
