Den franska filosofen René Descartes förklarade sin egen existens i ett par famösa ord: ”Jag tänker, alltså finns jag”.
För Descartes handlade det om att hitta den minsta nämnaren vi som människor kan vara säkra på om oss och vår omgivning. Descartes blev epokgörande för filosofins historia då han utgick från sina egna tvivel: hur vet jag att något finns över huvud taget? Allt jag ser och hör kanske är ett resultat av drömmar eller illusioner?
Detta minsta lilla säkra som för Descartes kunde bli grunden för all annan kunskap var insikten om att jaget finns eftersom jaget kan tänka om sig själv. Allt annat kan vi vara osäkra om eller tvivla kring, men tänkandet förutsätter en individ som tänker. Eller något åt det hållet.
Teknikutveckling är i sig sällan farligt. Som verktyg har AI en mängd användningsområden från transkribering till programmering till schemaläggning inom sjukvården. Oron som uttrycks från allt fler forskare, lärare, filosofer och debattörer handlar om vad som händer med oss när AI tar över beslutsfattande, analys och problemlösning – det vill säga grunderna i den mänskliga intelligensen.
Om AI:n tänker – vad händer då med jaget?
Frågan den artificiella intelligensen i förlängningen ställer är vad som egentligen händer med oss om vi lägger ut tänkandet på entreprenad hos en maskin. Om AI:n tänker – vad händer då med jaget?
I somras skrev Jason Koebler, grundare av det kritiska teknologimagasinet 404 Media, om hur illa förberedd den amerikanska skolsektorn varit på ChatGPT och annan generativ teknologi. I samband med artikeln genomförde han en rad intervjuer med lärare som i dag undervisar den första generationen unga för vilka AI blivit en naturlig del av tänkandet och skolarbetet.
Vissa vittnade om att tvingas lägga timmar på att rätta uppsatser skrivna på två sekunder av chatbotar. Andra berättade hur elevernas språkförståelse försämrats så till den milda grad att elever på språklektioner inte ens kunde grundbegreppen på engelska som nu skulle läras in på spanska.
En engelsklärare i högstadiet förklarar hur hennes elever vill bevisa teser genom svar från ChatGPT. När hon frågar hur de vet att informationen från chatroboten faktiskt stämmer hamnar hon i ett cirkelresonemang. ”Det stämmer eftersom det står i ChatGPT”. ”They cannot understand what I am asking them”, säger hon och undrar om detta till slut kommer få henne att lämna läraryrket helt.
Elliot Higgins, grundare av det grävande journalistnätverket Bellingcat, har kallat det här fenomenet för “the serfdom of self”, ungefär ”jagets träldom”. För Higgins handlar det om när vi blir beroende av teknologi som vi själva inte kontrollerar för att styra och utveckla våra identiteter, känslor och vår uppmärksamhet.
“We hand over more of our inner lives to these systems, and in return they decide the conditions of our existence”.
Det vanligaste användningsområdet för ChatGPT är dessutom inte skolarbeten utan terapi och sällskap, vilket Kristin McMillen nyligen utforskade i Dagens ETC genom att lämna över hanteringen av sitt känsloliv till en robot i sex månader. ChatGPT ger McMillen smicker, men lär henne i praktiken att älta.
Chatboten ger oss svar vi vill höra och styr oss till nya frågor. Den erbjuder inget motstånd och när tankarna planterats tar en algoritm på sociala medier över och serverar oss nya färdiga utsagor om världen och oss själva.
Higgins förklarar att den här processen börjar långsamt genom att plattformarna styr vad vi ser och hur vi i sammanhanget försöker framställa oss, men sedan börjar plattformarna också forma våra vanor, vår världsbild och våra relationer. Tids nog, som i McMillens experiment, blir AI-plattformarna och sociala medier platser dit vi söker oss för att över huvud taget känna mening.
Någonstans i ett serverrum ligger nu alltså mitt psykes innersta smuts
All denna makt över oss ligger alltså plötsligt inte längre i händerna på oss själva eller ens i händerna på andra människor i vår närmiljö. Makten över våra jags beståndsdelar ligger hos företag som OpenAI, Facebook, Microsoft, Google eller X/Grok.
”Någonstans i ett serverrum ligger nu alltså mitt psykes innersta smuts”, som Kristin McMillen skriver.
Så utifrån Descartes minsta lilla sanna mänskliga nämnare: finns vi om tio år? Eller bör vi formulera något nytt, i stil med “AI tänker – alltså finns Sam Altman, Elon Musk och Mark Zuckerberg”?