Efterlyser transparens om robotbeslut

Sedd av 99

Socialt arbete. Trelleborg var först med en robot som fattar beslut helt själv. Men är den laglig? Facket har JO-anmält kommunen för att den inte visar hur roboten gör.

Senast ändrad 10:01, 12 Okt 2020
1 av 2 Foto: Anna Simonsson.
Simon Vinge på Akademikerförbundet SSR vill veta hur algoritmerna som styr roboten fungerar.
2 av 2 Foto: Anna Simonsson.
Anna Göransson Tosic, chef för arbetsmarknadsförvaltningen i Trelleborg, tycker att det är spännande att vara med och driva utvecklingen framåt.

Trelleborg var först i Sverige med att använda en robot i arbetet med försörjningsstöd, det som tidigare kallades socialbidrag. Det är också den kommun som har gått längst, roboten fattar beslut på egen hand.
– Det är spännande att vara med och driva utvecklingen framåt. Sedan är det tufft också när det finns många frågetecken i lagstiftning och liknande. Men någon behöver gå först och utmana systemet, säger Zara Göransson Tosic, chef för arbetsmarknadsförvaltningen i Trelleborg.
Roboten är en del i kommunens arbete för att förbättra stödet till medborgarna och handläggarnas arbetsmiljö, bland annat genom att ta bort repetitiva arbetsuppgifter och därmed frigöra resurser för att stötta människor.

"Det här kommer att påverka nästan alla våra medlemmar i framtiden"

– Simon Vinge, chefsekonom på Akademikerförbundet SSR –

Roboten hanterar i dag 30 procent av ärendena inom försörjningsstöd. Det handlar om rutinmässiga ärenden, de som sticker ut skickas till en handläggare. Alla som söker försörjningsstöd får också träffa en arbetsmarknadssekreterare som ska hjälpa dem att komma vidare ut i egen försörjning.
Sedan roboten gjorde entré 2017 har kommunen slussat mellan 420–450 personer per år från försörjningsstöd till arbete eller studier. Dessförinnan låg den siffran på mellan 200 och 300 personer.
Den svåraste frågan har varit om det är lagligt att roboten fattar egna beslut. Enligt Socialstyrelsen och Sveriges kommuner och regioner, SKR, tillåter kommunallagen inte helt automatiserade beslut. Men regeringen har tillsatt en utredning för att se hur det kan bli möjligt i regioner och kommuner. En liknande ändring gjordes i förvaltningslagen 2018.
– Vi tog hjälp av en jurist som drog slutsatsen att nej, det står inte i kommunallagen att det är tillåtet att delegera till ett automatiserat beslutsfattande, men det står inte heller att det är förbjudet. Vi väljer att se att det inte är prövat och då kan man inte heller säga att det är olagligt, säger Zara Göransson Tosic.

En annan svårighet som har dykt upp är hur roboten fattar sina beslut. I juni 2018 tog Simon Vinge, chefsekonom på Akademikerförbundet SSR, kontakt med Trelleborg och bad att få veta hur logiken bakom algoritmen såg ut. Han träffade representanter för kommunen och upplevde att båda parter var trevande i början, hur visar man hur en algoritm fungerar?
– De sa att de hade ett program som styrde roboten och jag svarade att vi kan väl börja där, kan ni inte skicka skärmdumpar på gränssnittet? De sa ja till det och sedan upphörde kontakten. Jag påminde dem, men det tog stopp där.
Ett år senare, i september 2019, när skärmdumparna fortfarande inte hade synts till, anmälde Simon Vinge kommunen till Justitieombudsmannen. Enligt offentlighetsprincipen ska offentliga handlingar lämnas ut skyndsamt.
– I mitt yttrande tryckte jag på att kommunen är skyldig, enligt GDPR, att visa begripligt hur algoritmen fungerar. Digitaliseringsrättsutredningen från 2018 slår också fast att alla ska kunna förstå ett beslut, oavsett hur det har fattats. Det är begripligheten som är den stora frågan.

I Trelleborg ställer sig Zara Göransson Tosic frågande till JO-anmälan. Hon menar att kommunen lagt mycket tid och resurser på att föra en dialog med Akademikerförbundet SSR och förklara hur roboten är programmerad.
– Det är mycket märkligt att förbundet väljer att gå den här vägen. Det har funnits en lång konversation och vi skulle skicka över skärmdumpar, sedan är det en person här som har glömt det, det har inte varit något avsiktligt från vår sida. Men i stället för att påminna oss så väljer SSR att göra en JO-anmälan, säger hon.
På frågan om insyn och hur roboten fattar beslut svarar Zara Göransson Tosic att den är programmerad utifrån kommunens riktlinjer, som är offentliga. Om något skulle bli fel ligger ansvaret hos arbetsmarknadsnämnden. Alla beslut går också att överklaga, och då ser en handläggare över ärendet.

En annan fråga har varit om algoritmen är en offentlig handling som ska lämnas ut enligt offentlighetsprincipen eller inte. Det kom Trelleborg fram till att den är. När tidningen Dagens Samhälle begärde ut programkoden skickade Trelleborg över den utan sekretessprövning. Koden visade sig innehålla hundratals personuppgifter.
– Jag blev lite chockad. Integritets-mässigt är det oerhört allvarligt, det här är sekretessbelagda uppgifter, säger Simon Vinge på Akademikerförbundet SSR.
Trelleborg anmälde sig själv till Datainspektionen. Kommunen inledde också en egen utredning av vad som hade hänt. Den visade att personuppgifterna som kommit ut låg kvar sedan kommunen testade sin robot 2016. De bestod av namn och personnummer på medborgare som sökt hemsjukvård.
– Det var ett olyckligt misstag. Men det fanns ingen känslig information med och vi kan inte se att någon har kommit till skada. Vi har utrett det här och vidtagit åtgärder för att minimera risken att det händer igen. Vi har upprättat en rutin för vad som ska hända nästa gång någon begär ut algoritmen, bland annat ska it-enheten kontrollera koden innan den skickas iväg, säger Zara Göransson Tosic.

"I stället för att påminna oss så väljer SSR att göra en JO-anmälan"

– Zara Göransson Tosic, arbetsmarknadschef i Trelleborg –

Egentligen handlar inte frågan om Trelleborg, utan om att staten inte har tagit sitt regleringsansvar, menar Simon Vinge. Sverige har 290 kommuner, vissa är ganska små och det är inte rimligt att de ska klara automatiseringen på egen hand, menar han.
– Jag tror att staten behöver gå igenom det här ordentligt och börja med vilka områden som ens är lämpliga att automatisera, hur ska man göra, och, om någon vill veta hur de automatiserade besluten fungerar och begär ut det, vad ska den personen då få?
Han tror att automatiseringen har stor potential att effektivisera och förbättra arbetet på myndigheter och i kommuner. Men då krävs insyn och transparenta beslut. Akademikerförbundet SSR vill därför ha en ombudsman för algoritmer.
Automatiserat beslutsfattande har blivit vanligare samtidigt som tekniken kommer att bli mer avancerad. Ju mer komplex tekniken är, desto lurigare blir det att veta hur beslut har fattats, säger Simon Vinge.
– Det här kommer att påverka nästan alla våra medlemmar i framtiden.

up 18