Kan du lita på din nya kollega?

Sedd av 115

Arbetsmiljö. En robot fixar administrativa arbetsuppgifter på ett kick. Men är din digitala kollega att lita på i beslutsfattandet?

Senast ändrad 13:27, 9 Okt 2020
Foto: Illustration: Rasmus Meisler.
Ibland används helt automatiserade processer där roboten själv fattar beslut.

Datorprogram som fattar myndighetsbeslut på egen hand – utan att någon människa är inblandad – det är redan verklighet i Sverige.

Det handlar bland annat om tillfällig föräldrapenning hos Försäkringskassan, körkortstillstånd hos Transportstyrelsen och slutlig skatt hos Skatteverket. I kommunerna var Trelleborg först med att införa det inom försörjningsstöd, det som tidigare kallades socialbidrag, och fler har sedan följt efter.

Enligt Riksrevisionen blir automatiserat beslutsfattande allt vanligare inom statsförvaltningen. Det kan leda till ökad produktivitet, lägre kostnader, snabbare beslut och ökad rättssäkerhet. Men om något blir fel, ja, då kan det gå rejält snett. Sveriges Television avslöjade till exempel 2019 att brister i ett automatiserat system som hanterar arbetssökandes aktivitetsrapporter hos Arbetsförmedlingen lett till tusentals felaktiga beslut. Det gjorde att 667 arbetssökande felaktigt blivit av med sin ersättning.

Riksrevisionen kartlägger nu vilka myndigheter som använder automatiserat beslutsfattande och i vilken omfattning. Även effektiviteten och rättssäkerheten granskas.

– Vi tittar bland annat på vilka processer som är automatiserade, hur många beslut som fattas automatiskt och hur man riggar processerna för att säkerställa korrekta och rättssäkra beslut. Vi granskar också specifikt Försäkringskassan, Skatteverket och Transportstyrelsen, säger projektledaren Linda Talme.

Anne Kaun, docent i medie- och kommunikationsvetenskap vid Södertörns högskola, kartlägger också automatiserade beslut. 15 av de 213 myndigheter som svarat på hennes enkät ägnar sig åt någon form av automatisering. Det handlar framför allt om robotic process automation, RPA, ett mjukvaruprogram som automatiserar enkla, repetitiva uppgifter utifrån förutbestämda regler.

Ibland används helt automatiserade processer där roboten själv fattar beslut. I andra fall hjälper roboten till att ta fram underlag som en handläggare sedan fattar beslut utifrån. Det handlar inte om artificiell intelligens, AI, som är självlärande datorprogram som löser problem.

Anne Kaun är också medförfattare till en studie som går igenom 60 exempel på automatiserat beslutsfattande från tolv EU-länder, däribland Sverige.

– I ett europeiskt perspektiv har svenska myndigheter kommit långt när det gäller digitalisering i allmänhet. Men mer kontroversiella och problematiska processer, då komplexa uppgifter ska automatiseras, som ansiktsigenkänning, finns ännu inte i Sverige i samma utsträckning som i bland annat Frankrike, Portugal och Holland, säger hon.

Automatiserade beslut väcker en rad etiska frågor. Vem bär till exempel ansvaret för de beslut roboten fattar?

– Här finns olika lösningar. Ofta handlar det om att skapa en beslutskedja, vissa robotar är inlagda i personalkatalogen och har en tillförordnad chef som ansvarar för deras handlingar, säger Anne Kaun.

Enligt EU:s dataskyddsförordning, GDPR, har människor rätt att inte bli föremål för helt automatiserade beslut när det gäller saker som har rättsliga följder eller påverkar den enskilde i hög grad. Det kan dock vara tillåtet om du har lämnat ditt samtycke, om beslutet inte kan uppnås på annat sätt eller om särskild lagstiftning gör det möjligt. Den svenska regeringen gjorde till exempel en förändring i förvaltningslagen 2018 som tillåter automatiserade beslut. En utredning tittar just nu på hur det kan bli möjligt även i kommuner och regioner. Som EU-medborgare har du också rätt att veta om ditt beslut har fattats av ett automatiskt system.

Anne Kaun efterlyser en större diskussion om hur digitalisering och automatisering i offentlig sektor påverkar medborgarna. Tilliten till staten och offentliga institutioner kan påverkas om människor uppfattar myndigheterna som diffusa svarta lådor med algoritmer.

– Vi måste säkerställa att medborgarna förstår varför de har fått ett visst beslut. Här skulle lagstiftaren behöva gå in och reglera det, säger Anne Kaun.

Samtidigt visar en annan undersökning från Örebro universitet med 1 700 deltagare att fyra av fem svenskar inte vet om att vissa myndighetsbeslut fattas av datorer.

Något som har fått stor uppmärksamhet i Sverige de senaste åren är robotar som hanterar försörjningsstöd inom socialtjänsten. Det här har Lupita Svensson, doktor i socialt arbete vid Lunds universitet, tittat närmare på i samarbete med Akademikerförbundet SSR. I rapporten ”Tekniken är den enkla biten” visar hon att 16 av landets 290 kommuner använde en robot i slutet av 2019. Av dem hade tio kommuner varit igång i mer än sex månader. De flesta kommuner använder roboten som beslutsstöd till handläggarna. Men i ett fåtal fall fattar roboten även beslut.

Lupita Svensson berättar att flera kommuner efterhand har insett att det inte är så enkelt att automatisera arbetet med försörjningsstöd. Robotarna följer fasta regler och fastnar så fort ett ärende inte passar in i mallen, vilket många ärenden inte gör.

– Det är inte konstigt, lagen är formulerad så att det ska ske en individuell bedömning. Lagstiftaren har sagt att det här inte går att detaljstyra eftersom lagen ska omfatta många olika situationer. Kommunerna insåg att en människa gör många avvägningar, som en robot inte kan göra, något vi kan kalla för professionellt handlingsutrymme, säger hon.

Den största risken med automatiseringen är, enligt Lupita Svensson, om utvecklingen går för fort. I de kommuner som haft bråttom och snabbt kommit långt med sin robot såg hon stora förändringar i synen på försörjningsstöd och socialt arbete. Försörjningsstöd betraktades mindre som ett socialt problem och mer som ett arbetsmarknadsproblem, som framför allt kräver arbetsmarknadsinsatser. Hur kommunerna ser på försörjningsstöd och fattigdom, säger hon, har blivit en vattendelare.

– Vissa menar att de flesta ska ordna sin försörjning själva, medan socialtjänstlagen och det sociala arbetet utgår mer från att alla inte kan fixa detta själva, att det till exempel kan finnas strukturella problem.

Då handlar automatiseringen inte längre om effektivisering utan om att omdefiniera en del av välfärden, fortsätter hon.

– Jag säger inte att det är rätt eller fel, men tekniken kan innebära stora förändringar och om vi går in i något nytt bör vi veta vad det är. Det ska styras politiskt och inte bara råka bli en konsekvens av en automatiseringsfunktion.

De kommuner som varit framgångsrika har tydliga politiska mål för roboten och en strategi för försörjningsstödet, enligt Lupita Svenssons rapport. Målen kan handla om att öka sysselsättningsgraden eller effektivisera processer för att frigöra tid till kvalificerat socialt arbete. Det har också funnits en stark och tydlig organisation. En annan framgångsfaktor är att tidigt involvera medarbetarna i processen.

– Många av de kommuner som kommit längre sade att arbetet med delaktighet var tufft under implementeringsfasen. Förändringen skapade oro hos medarbetarna och det behövs stabila chefer som orkar härbärgera det, även när de inte själva vet hur utfallet blir.

Hon menar att många kommuner har en förenklad syn på automatisering. Det är en vanlig uppfattning att roboten är mer objektiv än en människa.

– Men man måste vara kritisk till hur de här programmen skapas, vem som gör dem och hur de byggs upp. Roboten blir inte mer värderingsfri än de människor som skapar programmen.

Men vilka värderingar som byggs in vet vi inte så mycket om, berättar Lupita Svensson. Hon medverkar nu i ett nytt forskningsprojekt som studerar fem kommuner och vilka värderingar som finns inbyggda i deras robotar. Projektet ska också titta på hur handläggarnas professionella handlingsutrymme påverkas när de jobbar parallellt med en robot.

När kommunerna skapat sina robotar har det också uppstått en röra av offentliga och privata aktörer. Det väcker frågor om insyn och offentlighetsprincipen. Vissa har jobbat med öppen källkod. Men när ett privat bolag programmerar en robot, är koden då en offentlig handling eller en upphovsrättsskyddad företagshemlighet? När 290 kommuner ska hitta sin egen lösning uppstår säkerhetsrisker, menar Lupita Svensson. Hon hade gärna sett att staten tagit ett mer övergripande ansvar.

– Det hade tagit längre tid och inkräktat på kommunernas självstyre. Vi hade fått problem då också, men det hade varit mer transparent, säger hon.

up 15