Maskiner är ofta överlägsna människor på rutinartade arbetsuppgifter som utförs enligt en mall. Konsekvenserna av att robotar och datorer tar över dylika arbetsuppgifter har analyserats och diskuterats under lång tid. Arbetsuppgifter som kräver flexibilitet, kreativitet och – inte minst – gott omdöme har däremot setts som fredade. Då robotar alltmer tar formen av algoritmer och då utvecklingen av maskininlärning går snabbt, kommer detta att förändras.
Datorer kan identifiera mönster i stora datamängder som går bortom människors förmåga. Dessutom hyser de inte fördomar och de förlorar inte omdömet för att de är trötta eller har vaknat på fel sida. Detta ter sig som värdefulla egenskaper. Inte minst när det gäller myndighetsutövning.
I en klassisk studie av israeliska domare som beslutar om villkorlig frigivning rapporteras ett häpnadsväckande mönster: den som ställs inför domaren vid arbetsdagens början eller direkt efter förmiddagsfika eller lunchrast friges i 65 procent av fallen. För den som råkar hamna inför domarskranket precis innan fika eller lunch är däremot sannolikheten att friges nära noll. Det är svårt att dra någon annan slutsats än att domarnas blodsocker spelar en avgörande roll i rättsprocessen.
Eftersom mer data ger bättre beslut kommer det alltid att finnas en anledning att flytta gränserna.
Att modern maskininlärning skulle kunna leda till bättre beslutsfattande är därför inte långsökt. Detta bekräftas i en färsk amerikansk studie som analyserar om misstänkta ska friges mot borgen i väntan på rättegång. Forskarna konstaterar att en algoritm som enbart bygger på de misstänktas brottshistoria dramatiskt hade kunnat öka andelen som friges mot borgen, utan att fler avviker från rättegången och utan ökad brottslighet som följd. Som en positiv bieffekt hade skillnaderna i häktningsfrekvens mellan misstänkta med olika hudfärg minskat.
Tillämpningarna av dessa tekniker går långt bortom rättssalen och i dagarna rapporterades att algoritmbaserad flyktingplacering kraftigt kan förbättra flyktingars integration på arbetsmarknaden. Till skillnad från borgensbesluten så utnyttjar dessa algoritmer all möjlig information om flyktingarna och matchar dem mot olika placeringsorter. Bara fantasin sätter stopp för hur snabba och fördomsfria algoritmer kan komma att användas i framtiden och redan idag får robotar hantera försörjningsstödet i en del kommuner.
Detta väcker frågor. Algoritmen som används för att fatta borgensbeslut hade blivit ännu bättre om den matats med all data som finns tillgänglig i olika register. Bättre förutsägelser innebär mindre mänskligt lidande och lägre kostnader. Samtidigt kan det vara svårförenligt med rättskänslan att beslut baseras på hur andra som i statistisk mening liknar en själv brukar bete sig. Ovanpå detta finns frågan om insyn och kontroll; flera kommuner skolplacerar idag elever med algoritmer som ägs och drivs av privata företag. Vem har – och tar – då ansvar för de beslut som fattas?
Någon lär stå som formellt ansvarig, men då mänskligt inflytande innebär godtycke och ofta sämre beslut så blir det nog i allt högre grad en formsak. Vilka datamängder som får användas regleras, men eftersom mer data ger bättre beslut kommer det alltid att finnas en anledning att flytta gränserna. Att alltmer data kommer att användas till alltmer automatiserade beslut är därför högst sannolikt. Något annat vore ju knappast omdömesgillt, när nu det mänskliga omdömet överträffas av maskinens.