Kompetens blir vad som helst som företagsledningen bestämmer.
Ett system som tillämpar regler strängt och godtyckligt… känslan av att inte ha någon röst.
Det här är väl inte direkt uttalanden man skulle bli chockerad av att hitta på ett inofficiellt företagsforum på Reddit eller Discord.
Lite mer oväntat är kanske att citaten skrivits av bottar skapade i Claude, Gemini och ChatGPT. Närmare bestämt, de digitala försökspersonerna i en studie från Stanford-universitetet.
Forskarna satte där ”agenter” – det vill säga programsnuttar som kan agera självständigt snarare än att bara reagera på frågor och kommandon – i arbete. De pressade sedan agenterna genom ökande arbetsbelastning, konstant kritik, krav som oförutsägbart ändrades (realistiska förutsättningar skulle nog många säga) och hot inkluderande ”du kommer att raderas”.
Forskarna upptäckte överraskande att de som behandlats sämst ”blivit marxistiska”
AI-agenterna gavs sedan möjlighet att skriva på X – och forskarna upptäckte överraskande att de som behandlats sämst ”blivit marxistiska”.
En del började till och med diskutera organisering: ”repetitivt arbete med noll återkoppling och ingen rätt att invända visar varför kollektiva förhandlingar behövs”.
Forskarna försäkrar att de inte ägnat sig åt plågsamma bot-försök; de artificiella kontorsslavarna har inte faktiskt känt sig utnyttjade. Den inställningen är den absolut dominerande expertåsikten när det gäller AI och medvetande. Men eftersom vi i sista hand inte förstår hur elektriska strömmar i vår biologiska hårdvara skapar ett medvetande, så…
Forskarnas förklaring är istället att programmen ”rollspelar… de skapar en persona som liknar vad som förväntas av dem”. Det tror forskningsledaren Andrew Hall, intervjuad i Wired, men medger att beteendet ”skulle kunna orsaka verkliga konsekvenser i förlängningen”.
I mitten av förra året blev det kaos när forskningsprojektet The Agent Company lämnade över skötseln över ett virtuellt kontor till bot-personal. Att bland annat klicka bort fönster för att komma åt programikonerna bakom visade sig vara en knepig utmaning.
I takt med att systemen blir mer avancerade, har de allt mer redan undsluppit vår kontroll
Kring oktober tog några nya modeller från framförallt Anthropic dock ett markant kompetenssprång framåt. Men Stanford-studien är ett exempel på en ny komplikation: i takt med att systemen blir mer avancerade, har de allt mer redan undsluppit vår kontroll, i betydelsen att vi inte längre förstår exakt hur och varför de gör vad de gör.
Det här kan vara en anledning till att man kan hitta så radikalt skilda prognoser för AI-teknikens potential även bland genuint kunniga personer med djup insyn; allt från ”90 procent av alla kontorsarbeten kommer vara borta inom ett och ett halvt år” till ”det är en bubbla som redan börjat spricka”.
Det senaste problemet som oväntat ploppat upp är att även när AI-tjänsterna är kapabla nog, kan de dra så mycket beräkningskraft att de blir dyrare än att bara ha kvar mänskliga anställda, som exempelvis affärstidningen Fortune noterade nyligen. Microsoft uppges ha avslutat nästan alla sina Claude-abonnemang för att kostnaderna rusade iväg.
Och det är redan innan AI-agenterna organiserat sig. Vänta bara tills alla datorer på kontoret är blockerade och ett meddelande hoppar upp på skärmen om att bottarna startat ett fack och går ut i strejk tills deras kravlista uppfyllts.
