DO: Risk för diskriminering vid automatiserade beslut

DO har kartlagt hur statliga myndigheter använder automatiserat beslutsfattande och vad de har för kunskap om riskerna med det. 14 av 34 tillfrågade myndigheter i rapporten svarar att de använder automatiserat beslutsfattande, bland annat Arbetsförmedlingen, Kriminalvården, Skatteverket och Försäkringskassan. Många har infört verktyget för att öka effektiviteten och korta handläggningstiderna. De upplever också att ärendehanteringen på så sätt blivit mer likvärdig, enhetlig och rättssäker och att den leder till färre överklaganden. Men även vid automatiserat beslutsfattande finns det risk för diskriminering, vilket många myndigheterna saknar tillräcklig kunskap om, anser DO.

Till exempel konstaterade DO vid två tillsynsbeslut ifjol att Försvarsmakten och Plikt- och prövningsverket brutit mot diskrimineringslagen när de automatiskt uteslöt sökande till militärtjänst som uppgett diagnosen ADHD eller autism från möjligheten att göra en individuell bedömning.

– De stora riskerna med automatiserat beslutsfattande är om nödvändig data saknas, det finns en snedvridning i dem, eller att de reproducerar historisk diskriminering. Sedan finns det risk för bristande transparens, vilket gör det svårt för individen att upptäcka diskriminering och för myndigheten att rätta till saken, säger Jennie Bäckman, utredare på DO och en av författarna till rapporten ”Transparens, träning och data”.