Det går ett spöke genom Europa, och det spöket är att kalla allt för AI.
Det mest kusliga med AI-spöket är inte hypotetiska resonemang kring att tekniken skulle riskera mänsklighetens framtid imorgon. Det kusligaste, menar vi, är att för det vi kallar AI verkar plötsligt inte lagar och regler gälla längre – idag.
I AI-spökvärlden, dit även rätt mycket av det som tidigare kallats digitalisering förpassats, är offentlighetsprincipen upphävd och du är inte längre oskyldig till motsatsen bevisats.
Hur en utredning bör jobba har dessvärre AI-kommissionen valt att frångå.
Vi såg det först i den offentliga förvaltningen – med myndigheter som automatiserade beslut utan att det var lagligt och utan den insyn som krävs av grundlagen. Nu ser vi det på allra högsta nivå, nämligen regeringens utredning AI-kommissionen som precis varit ute på remiss.
Utredningsväsendet är bland det finaste vi har i detta land och en av de bärande pelarna i ett öppet och demokratiskt Sverige med kanske världens högsta tillit gentemot staten. Här kan frågor om reglering, inte minst av ny teknik, vridas och vändas på av experter – och sedan presenteras i en viss form för att så många berörda ska kunna komma till tals och ge sina perspektiv.
Hur en utredning bör jobba har dessvärre AI-kommissionen valt att frångå. Motiveringen är att de har haft för bråttom. Vi ser tvärtom att för så genomgripande lagstiftning bör det finnas en chans att hinna förstå och förankra förslagen. Stora delar av välfärden i kommuner och regioner har inte ens varit representerade i själva utredningen trots långtgående förslag på området.
Regeringens AI-kommission kommer inte med konkreta förslag på hur AI ska regleras i Sverige, de lägger istället fram något de kallar ”KPI:er”.
Låt oss göra några nedslag från utredningens förslag, förlåt KPI:er:
- All data som myndigheterna har ska delas fritt mellan dem, vilket är motsatsen till dagens regler även om det idag är möjligt för myndigheter att dela data om de vill.
- Sekretessen för hälso- och sjukvårdsdata ska gå att bryta ”om det behövs för att ställa bättre diagnoser”, vilket är en väldigt öppen formulering för att dela extremt integritetskänslig data.
- AI-teknik med data från Försäkringskassan, Skatteverket och socialtjänsten bör användas för analys med AI-teknik, på ”ett sätt som inte varit tidigare möjligt” för att ”förebygga och förhindra” brott.
AI-tekniken hanterar ofattbart stora mängder data och jobbar med sannolikheter. Sannolikheter för vilket ord som bör komma efter nästa i en mening (hej ChatGPT) – eller sannolikheter för att en viss individ ska begå en viss handling, utifrån hens historiska data. Det sistnämnda har många utmaningar i en rättstat, därför att vi döms på de handlingar vi gör – inte efter hur sannolikt det är att vi kommer göra dem.
Istället för att göra det en utredning ska, ser den ut som en glättig reklamfolder.
AI-kommissionen tar inte ens upp att förslagen riskerar att bryta mot grundläggande lagar, vilket borde vara en av deras viktigaste uppgifter. Istället för att göra det en utredning ska, ser den ut som en glättig reklamfolder som lika gärna skulle kunna ha kommit från någon av de stora utländska teknikföretagen som tjänar grova pengar (obefintligt beskattade) på programvaran som förespråkas.
Regeringen beställde förslag för ”en säker och etisk AI-användning”, men fick en partsinlaga för öppna spjäll för datadelning och nedmontering av det fåtal skyddsvallar som finns, som exempelvis dataskyddsförordningen GDPR.
I ena vågskålen ligger fri datadelning med mer eller mindre känsliga personuppgifter vi gett till staten, ovetandes om att de ska användas för att mata hungriga AI-modeller. I den andra vågskålen ligger demokratins processer och – vilket måste sägas – individens frihet.
Vi är inte negativa till teknikutvecklingen men vi måste värna frihet från att varje handling ska mätas, spåras och bli till råvaror för försäljning i energislukande serverhallar.
Denna avvägning förväntar vi oss av Sverige – ett land som, till skillnad från de högt rankade föredömen kommissionen målar upp med Kina, Saudiarabien och USA, fortfarande håller demokratins flagga högt.