18 mars, 2022

DO: Risk för diskriminering vid automatiserade beslut

LIKABEHANDLING Statliga myndigheter behöver mer kunskap om riskerna för diskriminering vid automatiserade beslut, konstaterar Diskrimineringsombudsmannen, DO, i en ny rapport.

Jennie Bäckman, utredare på DO och en av rapportförfattarna. Foto: Hans Alm/DO

Jennie Bäckman, utredare på DO och en av författarna till rapporten ”Transparens, träning och data”.

Foto: Hans Alm/DO

DO har kartlagt hur statliga myndigheter använder automatiserat beslutsfattande och vad de har för kunskap om riskerna med det. 14 av 34 tillfrågade myndigheter i rapporten svarar att de använder automatiserat beslutsfattande, bland annat Arbetsförmedlingen, Kriminalvården, Skatteverket och Försäkringskassan. Många har infört verktyget för att öka effektiviteten och korta handläggningstiderna. De upplever också att ärendehanteringen på så sätt blivit mer likvärdig, enhetlig och rättssäker och att den leder till färre överklaganden. Men även vid automatiserat beslutsfattande finns det risk för diskriminering, vilket många myndigheterna saknar tillräcklig kunskap om, anser DO.

Till exempel konstaterade DO vid två tillsynsbeslut ifjol att Försvarsmakten och Plikt- och prövningsverket brutit mot diskrimineringslagen när de automatiskt uteslöt sökande till militärtjänst som uppgett diagnosen ADHD eller autism från möjligheten att göra en individuell bedömning.

– De stora riskerna med automatiserat beslutsfattande är om nödvändig data saknas, det finns en snedvridning i dem, eller att de reproducerar historisk diskriminering. Sedan finns det risk för bristande transparens, vilket gör det svårt för individen att upptäcka diskriminering och för myndigheten att rätta till saken, säger Jennie Bäckman, utredare på DO och en av författarna till rapporten ”Transparens, träning och data”.

Det är angeläget att synliggöra de risker som finns, tycker DO, Lars-Arrhenius. Foto: Tomas Gunnarsson

Rapporten visar att många myndigheter saknar tydliga styrdokument för att säkerställa att individer inte missgynnas vid automatiserade beslut. 10 av 14 myndigheter gör riskanalyser vid implementering av automatiserat beslutsfattande, men bara 4 tar hänsyn till grunderna i diskrimineringslagen vid det arbetet. Samma siffror gäller för kvalitetsuppföljningar.

Trots bristerna så svarar få av myndigheterna i undersökningen att de behöver mer kunskap för att minska risken för diskriminering.

– I våra intervjuer framkommer att det finns en medvetenhet och vilja att göra rätt. De har tagit hänsyn till massor av lagar, men inte till diskrimineringslagen, säger Jennie Bäckman.

”Det är nu extremt angeläget att utveckla kunskapen vad gäller AI och automatiskt beslutsfattande och synliggöra de risker som finns”, skriver DO Lars Arrhenius i myndighetens pressmeddelande om rapporten.

I vår ska DO kontakta myndigheter för att öka kännedomen om risker för diskriminering vid tillämpningen av automatiserat beslutsfattande.

Läs rapporten på DO:s webbplats.

Stefan Karlsson

Senaste nytt

Prenumerera på vårt nyhetsbrev och läs om arbetsliv, lön, karriär och fackliga frågor – varje onsdag direkt i din inkorg.

Senaste nytt

Mer pengar till Kriminalvården och Sis i vårbudgeten

VÅRBUDGET Kriminalvården får ett tillskott på 1,4 mi...
15 april, 2024

Fackliga kollegorna i fängelse – ”Det är nog värst f...

MÄNSKLIGA RÄTTIGHETER Maryia Taradzetskaya befann sig i Berlin f...
15 april, 2024

Lönefrågor lockar nya medlemmar i Arvika

FACKLIGT Frågor om lön och friskvård lockar nya med...
12 april, 2024

Debatt: När vi hyllar arbetet trampar vi på de arbet...

DEBATT Jacob Oredsson, hälso- och sjukvårdskurato...
11 april, 2024


Läs även

Medlingsinstitutet: ”Tuff avtalsrörelse med många sv...

AVTALSRÖRELSE Sifferlösa avtal på väg bort och risk för ...
16 januari, 2024

Vinnare i ny tävling bland pol.kand- och samhällsvet...

UTBILDNING Första priset gick i år till Anton Bryntes...
10 januari, 2024

Minoritetsstress drabbar hbtqi-personer på jobbet

ARBETSMILJÖ Hbtqi-personer upplever ofta en minoritets...
13 november, 2023

Nytt råd för mänskliga rättigheter – ”Vi måste tala ...

LIKABEHANDLING Marie Cham, ombudsman på Akademikerförbund...
11 september, 2023