Vi använder cookies för att ge dig en bättre upplevelse.
Godkänn
Max Tegmark: Det skulle bli Europas bästa investering Svenskfödde MIT-professorn Max Tegmarks föreläsning om AGI var en av höjdpunkterna under årets Internetdagar, som arrangeras av Internetstiftelsen. Foto: Simon Markusson

Max Tegmark: Det skulle bli Europas bästa investering

Artificiell intelligens Under de pågående Internetdagarna talade den världskände astrofysikern och futuristen Max Tegmark om optimism utan naivitet inför AI-teknikens frammarsch. För Arbetsvärlden berättade han också om varför han skäms som europé och avslöjade vad som skulle bli Europas bästa investering någonsin.
19 nov 2018

När Max Tegmark målar upp dystopiska framtidsscenarion vad gäller AI bemöter han på förhand eventuell kritik: Det handlar inte om skrämselpropaganda, snarare ”safety engineering”. Det vill säga att från ett tidigt stadie i produktutvecklingen förutse risker för att kunna minimera faran under utvecklingsprocessen.

Om vi gör det så kommer det bli den bästa investeringen som Europa någonsin har gjort.

Och det finns ingen brist på risker när det kommer till AI, eller AGI (artificial general intelligence). Förmodligen är det bara atombomben som har gett upphov till lika superlativa mardrömsscenarion. Vad gäller AGI går det snabbt att räkna upp några populära motiv: tekniken kommer endast en liten, mäktig elit till del och skapar förhärskande sociala hierarkier och förtryck, eller att AI:n vänder sig mot människan.

Internetdagarna

Internetdagarna arrangeras av Internetsstiftelsen och är en samlingsplats för innovatörer, experter och opinionsbildare som formar internet. Internetsdagarna pågår under 19–20 november 2018. I år är det 19:e året i rad som evenemanget hålls.

+ Expandera

För Max Tegmark är båda dessa faror någonting vi måste hantera redan nu. Han punktar upp flera förslag för att lyckas:

– Förbjud dödliga autonoma vapen, se till att AI-genererat välstånd kommer alla till del, så att alla får det bättre. Och investera i AI-säkerhetsforskning, säger Max Tegmark och puffar för de 23 ”Asilomar AI principles” som undertecknats av flera framstående forskare och stöds av delstaten Kalifornien.

Principer som ska slå vakt om mänskliga värden och värderingar i AI:ns tidevarv. Samtidigt uttrycker han förhoppningar om att hans födelseland Sverige ska kunna visa vägen för hur man lyckas fördela välståndet från AI på ett rättvist sätt.

De är väldigt intresserade av AI och vill att jag ska föreläsa om det där

 

När det kommer till risken att AI:n skulle vända sig mot människan menar han inte att den skulle bli ond eller ens självmedveten. Snarare att den kan bli oerhört kompetent men med målsättningar som går på tvären med människans.

En förslavad gud

Ett sätt att undvika det skulle kunna vara att ha en avancerad AI i en isolerad låda, utan tillgång till internet. Ett scenario som han kallar för den ”förslavade guden”.

– Men vi vet ju aldrig om den kommer kunna överlista oss och bryta sig fri, säger Max Tegmark, och målar upp andra, mer positiva scenarion. Exempelvis en AI som vi lyckas lära mänskliga värderingar från ett tidigt skede, och som hjälper människan att förbättra sin tillvaro.

Jag tycker det är pinsamt som europé

Samtidigt är det högst oklart vem som hinner först med att skapa en fungerande AGI. Europa ligger inte så bra till i det loppet. Efter föreläsningen på Internetdagarna fick Max Tegmark bråttom till flygplatsen – för att bege sig till Kina. Ett tecken i tiden.

– De är väldigt intresserade av AI och vill att jag ska föreläsa om det där, säger Max Tegmark till Arbetsvärlden utanför bilen.

Hinner de före västvärlden med att skapa AGI?

– Det beror mycket på vad vi gör i västvärlden. Jag tycker det är pinsamt som europé att vi var nummer ett på AI och sedan blev nummer två, omkörda av USA, och nu är vi nummer tre. Jag tycker vi bör storsatsa och skapa ett CERN (världens största partikelfysiklaboratorium beläget i Schweiz, red anm) för AI.

– Om vi gör det så kommer det bli den bästa investeringen som Europa någonsin har gjort. Inte bara för industrin utan för alla.

19 nov 2018
Kommentera
Kommentera

Kommentera artikeln

Vi vill gärna få frågor, kommentarer och reflektioner om våra artiklar! Arbetsvärlden förhandsmodererar artikelkommentarer, vilket gör att det kan dröja en stund innan din kommentar dyker upp. Håll dig till ämnet, och håll en god ton. Vi föredrar om du anger ditt riktiga namn, men du måste inte.

Nyheter
De viktigaste nyheterna två gånger i veckan
Copyright © Arbetsvärlden 2017 | Linnégatan 14
114 94 Stockholm
Telefon 08-782 93 12 | red@arbetsvarlden.se
Ansvarig utgivare: Mikael Feldbaum
Arbetsvärlden ges ut av Tjänstemännens
Centralorganisation, TCO.