Hajpen kring AI är stor idag. Den nya tekniken ska genomföra underverk överallt och så även i offentlig förvaltning. När man pressar beslutsfattare och politiker på konkret hur dessa underverk ska se ut så får man dock sällan särskilt konkreta exempel. Det kan säkert vara bra med chattbottar, vilket är det vanligaste svaret vi får när vi vill veta hur de visserligen oerhört banbrytande maskininlärda språkmodellerna ska implementeras. Chattbottar kommer däremot inte att lösa så många av välfärdens utmaningar.
Vi publicerar i dagarna en ny antologi om algoritmer i den offentliga förvaltningen. Boken ”AI och makten över besluten” behövs eftersom den offentliga förvaltningens tekniska utmaningar är mer komplexa än att applicera en språkmodell. Vi tänker inte minst på Sveriges omfattande och långtgående offentlighetsprincip. Som medborgare har du rätt till insyn i de beslutsfattandet och i de politiska processer dit din makt är delegerad, genom förtroendevalda företrädare.
Myndighetsbeslut riskerar att bli, och har de facto vid flera tillfällen blivit, förvandlade till svarta lådor.
Offentlighetsprincipen som grundbult är intimt förknippad med svenskens höga tillit gentemot samhällets institutioner. Problemet är att med de nya och nygamla tekniska lösningar vi håller på att rulla ut riskerar vi dessa principer om transparens och insyn.
Hur tänker vi då, frågar den uppmärksamme läsaren; Sverige var ju först i världen med lagen om offentlighetsprincip och inte har väl några grundlagar ändrats? Det stämmer bra, men vi ser i praktiken hur dessa lagar inte följs och inte är helt lätta att tillämpa när vi kommer in på förvaltningens digitala lösningar. Myndighetsbeslut riskerar att bli, och har de facto vid flera tillfällen blivit, förvandlade till svarta lådor.
Charlotta Kronblad skriver i antologin om skolplaceringsskandalen i Göteborg där automatiserade beslut placerade ett stort antal elever helt fel. Akademikerförbundet SSR har tidigare visat hur Trelleborg under många år innan det blev lagligt automatiserat beslut om ekonomiskt bistånd, och sedan fått kritik av Justitieombudsmannen när de inte visar hur dessa beslut fattas.
I Nederländerna tvingades Ruttes regering avgå till följd av att algoritmiska beslut fått katastrofala konsekvenser.
Henrik Montgomery / TT
De avskräckande exemplen från andra länder är många och manar till lärdom. Johan Hirschfeldt tar upp två situationer som inte blivit väl introducerade för en svensk publik. I Nederländerna tvingades Ruttes regering avgå till följd av att algoritmiska och oförklarade algoritmiska beslut fått katastrofala konsekvenser för väldigt många invånare. I Australien påverkade en automatiserad välfärdsalgoritm vid namnet Robodebt över en halv miljon människor och tvingade individer till återkrav om hundratusentals kronor, med flera självmord tillskrivna dessa skuldindrivningar.
Vi ser dock inte att den svenska förvaltningen tagit till sig av dessa skandaler, och kraven från Akademikerförbundet SSR om reglering för att reda ut hur insyn ska säkras och förklarbarhet värnas har inte hörsammats.
Foto: SU
I modern tid finns egentligen bara en rejäl utredning om digitaliseringen av den offentliga förvaltningen. Vi är väldigt glada att Cecilia Magnusson-Sjöberg, som är den professor som höll i utredningen, också skriver i vår antologi. Vi efterlyser en rejäl uppföljare på denna utredning: många av de frågor som ställdes redan då har fortfarande inte besvarats, eller implementerats på olika platser utan den genomlysning som vår samhällsmodell bygger på. Det är märkligt att Sverige här helt verkar frångå den stolta förvaltningstradition där avgörande samhällsfrågor utreds grundligt och med alla relevanta intressenter.
Vi har tagit initiativ till denna antologi för att vi är optimister. För att tekniken ska kunna fylla den roll vi hoppas i framtidens offentliga förvaltning har vi dock ett rejält arbete att göra och ett stort antal frågor att besvara.
En hel del av dem tas upp i boken:
- Hur kan vi använda open source och öppen källkod för att slippa bli bundna till långa kontrakt med dyra konsultföretag?
- Hur ska vi förhindra att offentliganställdas appar och deras data används som en bakdörr för att nå känslig information om individer och samhälle?
- Ska AI-algoritmer få fatta beslut överhuvudtaget?
- Hur bejakar vi en teknikutveckling som inkluderar både medarbetarare och medborgare i de frågeställningar som ska hanteras – istället för bara tech-företagens lobbyister?
Och, givetvis, hur vi uppdaterar vi lagstiftningen för att säkra transparens och begriplighet kring automatiserade beslut och funktioner – med och utan AI.