18 mars, 2022

DO: Risk för diskriminering vid automatiserade beslut

LIKABEHANDLING Statliga myndigheter behöver mer kunskap om riskerna för diskriminering vid automatiserade beslut, konstaterar Diskrimineringsombudsmannen, DO, i en ny rapport.

Jennie Bäckman, utredare på DO och en av rapportförfattarna. Foto: Hans Alm/DO

Jennie Bäckman, utredare på DO och en av författarna till rapporten ”Transparens, träning och data”.

Foto: Hans Alm/DO

DO har kartlagt hur statliga myndigheter använder automatiserat beslutsfattande och vad de har för kunskap om riskerna med det. 14 av 34 tillfrågade myndigheter i rapporten svarar att de använder automatiserat beslutsfattande, bland annat Arbetsförmedlingen, Kriminalvården, Skatteverket och Försäkringskassan. Många har infört verktyget för att öka effektiviteten och korta handläggningstiderna. De upplever också att ärendehanteringen på så sätt blivit mer likvärdig, enhetlig och rättssäker och att den leder till färre överklaganden. Men även vid automatiserat beslutsfattande finns det risk för diskriminering, vilket många myndigheterna saknar tillräcklig kunskap om, anser DO.

Till exempel konstaterade DO vid två tillsynsbeslut ifjol att Försvarsmakten och Plikt- och prövningsverket brutit mot diskrimineringslagen när de automatiskt uteslöt sökande till militärtjänst som uppgett diagnosen ADHD eller autism från möjligheten att göra en individuell bedömning.

– De stora riskerna med automatiserat beslutsfattande är om nödvändig data saknas, det finns en snedvridning i dem, eller att de reproducerar historisk diskriminering. Sedan finns det risk för bristande transparens, vilket gör det svårt för individen att upptäcka diskriminering och för myndigheten att rätta till saken, säger Jennie Bäckman, utredare på DO och en av författarna till rapporten ”Transparens, träning och data”.

Det är angeläget att synliggöra de risker som finns, tycker DO, Lars-Arrhenius. Foto: Tomas Gunnarsson

Rapporten visar att många myndigheter saknar tydliga styrdokument för att säkerställa att individer inte missgynnas vid automatiserade beslut. 10 av 14 myndigheter gör riskanalyser vid implementering av automatiserat beslutsfattande, men bara 4 tar hänsyn till grunderna i diskrimineringslagen vid det arbetet. Samma siffror gäller för kvalitetsuppföljningar.

Trots bristerna så svarar få av myndigheterna i undersökningen att de behöver mer kunskap för att minska risken för diskriminering.

– I våra intervjuer framkommer att det finns en medvetenhet och vilja att göra rätt. De har tagit hänsyn till massor av lagar, men inte till diskrimineringslagen, säger Jennie Bäckman.

”Det är nu extremt angeläget att utveckla kunskapen vad gäller AI och automatiskt beslutsfattande och synliggöra de risker som finns”, skriver DO Lars Arrhenius i myndighetens pressmeddelande om rapporten.

I vår ska DO kontakta myndigheter för att öka kännedomen om risker för diskriminering vid tillämpningen av automatiserat beslutsfattande.

Läs rapporten på DO:s webbplats.

Stefan Karlsson

Senaste nytt

Myndighetspersonal ofta utsatta för hot

ARBETSMILJÖ Anställda på statliga myndigheter utsätts ...
2 december, 2022

Så funkar det: Turordning

ARBETSRÄTT Riksdagen har beslutat om nya turordningsr...
30 november, 2022

Så påverkas Arbetsförmedlingen av regeringens nedskä...

ARBETSFÖRMEDLINGEN 2,1 miljarder kronor. Så mycket minskar an...
29 november, 2022

JO kritiserar Sis tillämpning av tvångsåtgärder

SIS Sis har under flera år använt tvångsåtgärd...
28 november, 2022


Läs även

Studenter kritiska till budgeten – ”Levererar inte a...

EKONOMI Budgeten innehåller inte de förbättringar ...
9 november, 2022

Bristande kunskap om diskriminering

LIKABEHANDLING Akademikerförbundet SSR lyfter diskriminer...
7 oktober, 2022

Maktens kvinnor ständigt ifrågasatta

LEDARSKAP ”Kvinnor som tar minsta snedsteg åker ut m...
26 september, 2022

Beredd att få sparken om det blir maktskifte i höst

KARRIÄR Pelle Rödin är statsministerns rådgivare. ...
29 augusti, 2022