I en ny studie från Akademikerförbundet SSR, ”Allt makt åt algoritmen, vår befriare?”, framkommer att allmänhetens förtroende för automatiserade beslut varierar beroende på vilken sektor de fattas inom.
Högst tillit hyser allmänheten för algoritmbaserade beslut inom den privata sektorn, där lika många har högt som lågt förtroende.
Men när det kommer till den offentliga välfärden ser bilden annorlunda ut.
Andelen personer som har litet förtroende för beslutsfattande så som det ser ut i Trelleborg är tre gånger så stor som de som uppger sig ha stort förtroende. Och av de drygt tusen slumpmässigt utvalda personer som tillfrågats skulle bara en sjättedel lita på ett beslut fattat av en algoritm.
Även positiva algoritmbeslut väcker misstro
SSR:s chefsekonom Simon Vinge, som ligger bakom rapporten, säger att fler personer är kritiska till algoritmstyre än vad han väntat sig.
– När det kommer till socialt bistånd kunde vi se att en majoritet av alla som ställs inför det hypotetiska scenariot att de får ekonomiskt bistånd beviljat av en algoritm ändå inte litar på beslutet.
– Medan en majoritet av de som får bistånd beviljat av en mänsklig handläggare hyser tillit till att det gått rätt till, säger Simon Vinge.
Denna typ av automatisering har blivit allt vanligare på senare år, och inom välfärden har Trelleborg gått i bräschen för utvecklingen i och med att man där överlåtit åt en algoritm att fatta de allra flesta beslut relaterade till ekonomiskt bistånd inom kommunen. Något som flera andra kommuner därefter tagit efter.
Delaktighet föder förtroende
Inom ramen för studien har SSR skickat ut en enkät till alla förbundets medlemmar, vilka bland annat fått svara på frågan om de varit delaktiga i utformandet av beslutsalgoritmen på sina arbetsplatser. Enbart fyra av tio medlemmar svarade att de hade varit det.
– Vad vi kan se utifrån våra resultat är att våra medlemmar känner större förtroende för algoritmen om de själva får bidra till att utforma den, säger Simon Vinge.
En femtedel anser till och med att deras arbetsbörda förvärrats sedan dessa infördes
De positiva aspekter som lyfts fram med automatiserat beslutsfattande är att det effektiviserar myndigheternas arbete och frigör tid för tjänstemännen att i lägre grad ägna sig åt rena rutinuppgifter.
– Och som det är nu är det bara en tredjedel av medlemmarna som upplever att de avlastas av algoritmerna, en femtedel anser till och med att deras arbetsbörda förvärrats sedan dessa infördes, säger Simon Vinge.
Önskar sig statlig kontroll
SSR har länge drivit på för att skapa större transparens vad gäller hur beslutsalgoritmerna kodas, för att allmänheten ska få insyn i på vilka grunder algoritmerna fattar de beslut som de gör. Och Simon Vinge är kritisk till att statens särskilda utredare inte förslagit att staten ska ta på sig ansvaret för att utforma en algoritm som ska gälla för alla landets kommuner och regioner.
– Hittills har vi inte fått ut några koder eftersom kommunerna hänvisar till att det är en affärshemlighet mellan dem och företagen som utvecklar dem.
– Men en klar majoritet av våra enkätsvar visar att allmänheten vill se att algoritmerna omfattas av offentlighetsprincipen och folk har större förtroende för staten än för kommunerna. Därför måste staten gå in och skapa ett tydligt regelverk för detta så att algoritmerna inte blir föremål för kommunalt godtycke och för att människor inte ska protestera mot att algoritmer används över huvud taget.
Ökat avstånd mellan medborgare och maktutövning
I början av april förslog regeringens särskilda utredare att kommunallagen bör ändras för att det ska vara möjligt att utvidga användandet av algoritmer i beslutsfattandet inom landets kommuner och regioner.
Varför är motståndet mot algoritmbaserat beslutsfattande så stort?
– Jag tror att många upplever att avståndet mellan en själv och de demokratiska beslut som fattas har ökat, och att det automatiserade beslutsfattandet är en del av den här bilden.
– Beslut som fattas inom välfärden är demokratiska beslut, som delegeras till en programvara som vi inte kan ställa till svars. Och därför behöver vi en reglering för detta för att vi ska kunna värna om det demokratiska ansvarsutkrävandet, säger Simon Vinge.