Det ligger ett nytt EU-förslag på bordet som skulle få genomgripande konsekvenser för alla medborgares integritet. Förslaget innebär att alla meddelanden som skickas via internet ska genomsökas i jakt på barnpornografi. Vi har redan sett hur detta kan missbrukas i andra länder och det är inte konstigt att FN:s policychef Volker Türk varnar för förslaget.
Futurion har tittat närmare på hur övervakning redan används i Kina.
I rapporten ”AI-utvecklingen i Kina – påverkan på svensk tjänstemannasektor” beskriver statsvetaren Mattias Burell och Kina-experten Kristina Sandklef hur statsapparaten och det styrande kommunistpartiet använder AI och annan teknik för att kontrollera medborgarna. Genom övervakningssystem är det möjligt att kontrollera en stor del av all mänsklig aktivitet – både online och i det fysiska livet – och med AI och maskininlärning blir det möjligt för den kinesiska staten att förutsäga vilka medborgare som kan antas vara illojala mot det politiska systemet.
Användningen av AI i övervakningssyfte har fått enorma konsekvenser för människors personliga integritet
Ann-Therése Enarsson, vd Futurion
Polis- och säkerhetsmyndigheterna var tidiga i användningen av AI i Kina. Det finns många exempel på hur efterlysta har åkt fast tack vare övervakningskameror med ansiktsigenkänning. Det har också inneburit att trafficking av kvinnor och barn har minskat eftersom det finns så många övervakningskameror. Polisen har efterlyst kidnappade barn med AI-genererade bilder på hur barnet kan se ut flera år efter kidnappningen. Samtidigt har användningen av AI i övervakningssyfte fått enorma konsekvenser för människors personliga integritet.
Rapporten pekar på både möjligheterna och riskerna med AI. Tekniken och verktygen som utvecklas och används i Kina hittar även till Sverige och implementeras i vårt samhälle och inte minst i vårt arbetsliv. Vi har redan sett hur den digitala övervakningen på landets arbetsplatser ökar, och i den senaste nationella SOM-undersökningen svarade 56 procent att de är oroliga för digital övervakning. I den yngsta åldersgruppen, 16–29 år, är det så många som 61 procent som upplever att det är oroväckande.
Samtidigt vill regeringen att polisen ska kunna avlyssna gängkriminella utan att det finns en konkret brottsmisstanke och nu öppnar justitieminister Gunnar Strömmer (M) för att ge polis och åklagare möjlighet att i hemlighet avlyssna barn som är under 15 år. Syftet är vällovligt, men är alla medel tillåtna i jakten på gängkriminella? Och vad händer i nästa steg?
När ny teknik finns på plats är den mycket svår att stoppa
När en ny teknik finns på plats är den mycket svår att stoppa. Det handlar därför om att använda den på rätt sätt, öka kunskapen om den och se till att begränsa riskerna för missbruk. Det är viktigt att medvetandegöra vilka utmaningar som finns och som vi står inför att möta. Teknik kan både användas till gott och till det motsatta.
Den stora skillnaden mellan AI-tillämpningen i Kina och Sverige är att vi har olika syn på medborgerliga fri- och rättigheter och personlig integritet. I Kina går politisk styrning och samhällsnytta före individens egna önskemål. Men också här och i resten av EU kan övervakning ursäktas med att det till exempel handlar om att leta efter bilder på sexuella övergrepp mot barn.
Chat Control är benämningen på ett förslag i EU om att operatörer av meddelandetjänster ska vara tvungna att genomsöka alla meddelanden i just den jakten. Det förslaget måste uppmärksammas och granskas eftersom det skulle innebära en massövervakning som hotar vår integritet.
Fel utnyttjat riskerar AI att bidra till maktförskjutningar och kränkningar av den personliga integriteten
Detsamma gäller övervakningsprogram som finns i datorerna och telefonerna på våra arbetsplatser. Här behöver fackförbunden och anställda bedöma risken för integritetskränkningar i form av övervakning på distans, men även övervakning på kontoret. Om en arbetsgivare installerar nya system, så bör det utvärderas i samråd med facket efter en viss tid och frågor som gäller fördelning av arbetsuppgifter eller organiseringen av arbetsplatsen bör inte avgöras baserat på AI-grundade beslut.
Fel utnyttjat riskerar AI att bidra till maktförskjutningar och kränkningar av den personliga integriteten. Chat Control är ett lagförslag som FN:s policychef Volker Türk varnar för. Den varningen behöver vi ta på allvar.