Förra veckan rådgjorde jag med en medlem om någonting som kan förefalla närmast banalt i sin enkelhet, men som tvärtom är riktigt knivigt. Jobba med AI, säger chefen, men det ska aldrig gå att identifiera vem det handlar om!
Arbetsgivaren ger här – liksom många andra arbetsgivare – strikta instruktioner för hur de upphandlade AI-tjänsterna får användas, samtidigt som regeringen uppmanar myndigheter att använda mer AI.
Hur vet jag då som medarbetare ifall det går att identifiera en individ utifrån den information jag öser in i språkmodellen? Här är instruktionen inte lika strikt. Adress är dåligt, personnummer likaså. Mer generella attribut, som man i yngre medelåldern, kan funka. Från ett utsatt område? Kriminell bakgrund? Avvägningar, kära kollega.
Problemet är att vi människor inte längre riktigt kan förstå hur lätt individer kan identifieras i stora datamängder. Det var enkelt i en tid när våra hjärnor var med och utförde den typen av uppgifter. Det är betydligt svårare i en tid när datamodeller bara behöver tre GPS-punkter för att identifiera en individ bland en miljon andra.
Kanske räcker en generell beskrivning om en man i medelåldern, om vi dessutom lägger på lite lätt tillgänglig data från uppdateringar på sociala medier (en kort snap på väg ut från huset) och några GPS-punkter från mannens smartphone via hans Outlook-app.
Vips så har du en individprofilering att lägga till det kuratorn, läkaren eller socialsekreteraren har rådfrågat AI om. Registreringsskyltar, blipp i kollektivtrafiken? Ibland offentligt, ofta lätt att hacka – och i princip alltid kört genom mjukvara från samma leverantör som vi upphandlat för AI.
Kan inte lägga ansvaret på enskilda
Det här går att lösa, absolut. Arbetsgivaren kan välja att jobba med lokala modeller som inte pratar med molnet, vilket lär kunna funka oväntat bra. Det går att välja tillit gentemot Microsoft och andra tech-jättar när de lovar att all data är säker, trots att samma företag i domstol har medgett att Trump-administrationen kan ta del av all europeisk data, när de vill.
Men vad vi inte kan göra är att lägga detta ansvar på enskilda medarbetare.
Den fackliga utmaningen är att just detta är precis vad vi ser idag, på nästan alla digitala områden. Precis som graden av anonymisering i det du laddar upp har blivit en bedömningssport (där du inte får reda på spelreglerna), har varje arbetsplats börjat friskriva sig från AI-modellernas hallucinationer; använd gärna AI, får vi höra – men du måste granska varje ord den producerar som om det var ditt eget.
Tjänstemannaansvar med fängelse
Det finns i grunden två baksidor av denna inställning. Det första är den uppenbara osäkerhet som det skapar för varje enskild medarbetare. De ska ta ansvar för allt mer i sin yrkesutövning, inte minst med nyligen utökat tjänstemannaansvar för offentliganställda, där straffen skärptes till fängelse parallellt med att definitionerna av ansvar vidgades dramatiskt.
Samtidigt är det allt svårare att begripa vad man faktiskt tar ansvar för. Stora språkmodeller är per definition svarta lådor, och Open AI som står bakom ChatGPT menar själva att hallucinerandet, det vill säga när modellerna plötsligt och oväntat producerar radikalt knas, inte är någon barnsjukdom utan tvärtom matematiskt oundvikliga.
”You’re fired!”
Lägg till detta att vi människor i grunden är rätt dåliga på att korrläsa maskinernas texter. Jag tänker då inte bara på den dystopiska arbetsmiljön i att plötsligt bli en robot åt algoritmen, utan även på att vi tenderar att lita på dem och ofta har svårt att upptäcka deras oförutsägbara felslut.
Microsoft vet givetvis detta mycket väl, och har därför skrivit in i många användaravtal att deras AI-modell Co-Pilot bara får användas för ”entertainment purposes” – underhållningssyften.
Det finns såklart miljarder skäl att man kör på ändå, men konsekvensen är att varken företaget eller arbetsgivaren tar minsta ansvar för om en medarbetare skulle råka mata in data som röjer en individ, eller skulle råka fatta beslut med stöd av underhållningsmodellens hallucinationer – på arbetsgivarens uppmaning.
Ett beslut där hallucinationer kan få vara livshotande för klienten, patienten eller brukaren.
Konsekvensen för medarbetaren? Förmodligen ”You’re fired!”
