När Max Tegmark målar upp dystopiska framtidsscenarion vad gäller AI bemöter han på förhand eventuell kritik: Det handlar inte om skrämselpropaganda, snarare ”safety engineering”. Det vill säga att från ett tidigt stadie i produktutvecklingen förutse risker för att kunna minimera faran under utvecklingsprocessen.
Om vi gör det så kommer det bli den bästa investeringen som Europa någonsin har gjort.
Och det finns ingen brist på risker när det kommer till AI, eller AGI (artificial general intelligence). Förmodligen är det bara atombomben som har gett upphov till lika superlativa mardrömsscenarion. Vad gäller AGI går det snabbt att räkna upp några populära motiv: tekniken kommer endast en liten, mäktig elit till del och skapar förhärskande sociala hierarkier och förtryck, eller att AI:n vänder sig mot människan.
Internetdagarna
Internetdagarna arrangeras av Internetsstiftelsen och är en samlingsplats för innovatörer, experter och opinionsbildare som formar internet. Internetsdagarna pågår under 19–20 november 2018. I år är det 19:e året i rad som evenemanget hålls.
För Max Tegmark är båda dessa faror någonting vi måste hantera redan nu. Han punktar upp flera förslag för att lyckas:
– Förbjud dödliga autonoma vapen, se till att AI-genererat välstånd kommer alla till del, så att alla får det bättre. Och investera i AI-säkerhetsforskning, säger Max Tegmark och puffar för de 23 ”Asilomar AI principles” som undertecknats av flera framstående forskare och stöds av delstaten Kalifornien.
Principer som ska slå vakt om mänskliga värden och värderingar i AI:ns tidevarv. Samtidigt uttrycker han förhoppningar om att hans födelseland Sverige ska kunna visa vägen för hur man lyckas fördela välståndet från AI på ett rättvist sätt.
De är väldigt intresserade av AI och vill att jag ska föreläsa om det där
När det kommer till risken att AI:n skulle vända sig mot människan menar han inte att den skulle bli ond eller ens självmedveten. Snarare att den kan bli oerhört kompetent men med målsättningar som går på tvären med människans.
En förslavad gud
Ett sätt att undvika det skulle kunna vara att ha en avancerad AI i en isolerad låda, utan tillgång till internet. Ett scenario som han kallar för den ”förslavade guden”.
– Men vi vet ju aldrig om den kommer kunna överlista oss och bryta sig fri, säger Max Tegmark, och målar upp andra, mer positiva scenarion. Exempelvis en AI som vi lyckas lära mänskliga värderingar från ett tidigt skede, och som hjälper människan att förbättra sin tillvaro.
Jag tycker det är pinsamt som europé
Samtidigt är det högst oklart vem som hinner först med att skapa en fungerande AGI. Europa ligger inte så bra till i det loppet. Efter föreläsningen på Internetdagarna fick Max Tegmark bråttom till flygplatsen – för att bege sig till Kina. Ett tecken i tiden.
– De är väldigt intresserade av AI och vill att jag ska föreläsa om det där, säger Max Tegmark till Arbetsvärlden utanför bilen.
Hinner de före västvärlden med att skapa AGI?
– Det beror mycket på vad vi gör i västvärlden. Jag tycker det är pinsamt som europé att vi var nummer ett på AI och sedan blev nummer två, omkörda av USA, och nu är vi nummer tre. Jag tycker vi bör storsatsa och skapa ett CERN (världens största partikelfysiklaboratorium beläget i Schweiz, red anm) för AI.
– Om vi gör det så kommer det bli den bästa investeringen som Europa någonsin har gjort. Inte bara för industrin utan för alla.