En verksamhetsstrateg och en primärvårdschef inom region Skåne sitter storögda när en journalist från Uppdrag granskning berättar för dem att de blivit blåsta när de upphandlat vad de trodde var revolutionerande artificiell intelligens. ”Vi visste inte” och ”detta är nya uppgifter”, mumlar regionens representanter och bleknar i takt med att UG-visar hur de matats med fejkade resultat i vad som tycks vara en korrumperad upphandling.
Särskilt förnedrande är att det att Region Skåne bidragit med pengar till utveckling av verktyget och själva varit en del av fejkresultats-karusellen. Så här: 1) Vårdexpressen (som verktyget heter) gör reklam mot Region Skåne om hur bra det är. 2) Region Skåne upprepar att det verkar bra. 3) Vårdexpressen citerar region Skåne i sin reklam som om de fällt ett omdöme om hur väl det fungerar för dem ute i verksamheterna.
Så kan det gå till och gör det ibland när bolag säljer in teknik till offentlig sektor. Varför är naiviteten så stor?
Företag utnyttjar den allmänna förvirringen och kallar allt möjligt AI.
Politiker och tjänstemän tror att AI som Vårdexpressen enkelt och automatiskt kan generera nyttig information, bedöma symptom och ge korrekta vårdunderlag. Så är det inte. Företag utnyttjar den allmänna förvirringen och kallar allt möjligt AI, man behöver bara googla för att förstå att mycket av det som säljs under termen är rök och speglar.
Att förklara artificiell intelligens är enkelt. Det är ett paraplybegrepp för olika tekniker som inbegriper någon sorts maskininlärning. Om en maskin börja utbilda sig själv kan den göra det snabbt och i princip utan övre gräns. Men, att konstruera nyttiga AI-verktyg är svårt. Stora administrativa program har hittills inte imponerat utan skapar merarbete och informationsbrus. Anmärkningsvärda, och av forskarsamhället utvärderade framgångar, gäller riktade AI-funktioner inom ett begränsat område. Ansiktsigenkänning, till exempel.
Men även när AI fungerar har den hittills inte visat sig spara pengar eller effektivisera processer, i större utsträckning.
I fallet med Vårdexpressen, som tekniken beskrivs i programmet, tycks det inte handla om AI utan insamlad data som programvaran sammanställer. En läkare som använt Vårdexpressen menar att det hotar patientsäkerheten.
Såklart, du kan inte generellt outsourca insamlingen av data till patienterna. De kan vara gamla, sjuka, förvirrade, omdömeslösa eller analfabeter till och med.
IT-branschen av idag består av produktutvecklare och företag som säljer teknik. Kring dem finns vad jag kallar kringbranschen: Konsulter, fortbildare, inspiratörer – några är seriösa, andra rena charlataner. Ju högre upp någon är i vård/skola/omsorgs maktstruktur, desto vanligare är det att falla för kringbranschens löften om att teknik är lösningen på verksamhetens problem.
Offentlig sektor borde satsa på färre konsulter och fler cyniska språkvetare, arga sociologer, krassa beteendevetare.
När Alf Jönsson, Regiondirektör i Region Skåne, konfronteras med UG: s uppgifter medger han att det inte har gått rätt till men Jönsson upprepar de talepunkter kringbranschen använder dels för försäljning och dels för att bortförklara uteblivna resultat. ”Vi måste gå den vägen”, säger Jönsson, och syftar på AI. Desperation efter artificiell intelligens som magiskt ska revolutionera, förenkla och spara pengar innebär att man ”kopplar ur” sin mänskliga intelligens och sitt omdöme.
På så vis är politiker och tjänstemän med och upprätthåller en entreprenörskult som gör upphandlare mindre klarsynta. Skandaler vi sett inom vården: Konsulterna på Nya Karolinska (med konceptet värdebaserade vård) eller Paolo Macchiarini och hans platsstrupar – de har haft en självbild av att vara revolutionära uppfinnare. Och sjukhusledningar låter sig dras med i det. Politiker måste klara att fördomsfritt analysera vilka system som är mest prisvärda och som inte riskerar patientsäkerheten.
Jönsson påstår också att vårdens arbete måste bli ”helt väsensskilt från det vi gör idag”. Det är en myt kringbranschen sålt in: Först när medarbetare och vårdkedja uppnått en viss grad av modernitet och helt och hållet förändrat arbetet kommer vi se utlovade effektiviseringar och besparingar. Hur ska det konkret se ut när arbetet inom vården blir helt väsensskilt från idag? Vad betyder det? Vid upphandlingar borde det finnas med någon som bryr sig om ords innebörd. Offentlig sektor borde satsa på färre konsulter och fler cyniska språkvetare, arga sociologer, krassa beteendevetare eller historiker som känner igen en kult-stämning när de ser en.