DO granskar riskerna med AI i arbetslivet

Artificiell intelligens, AI, och automatiserat beslutsfattande, som används inom allt fler delar av samhället, framställs ofta som en garanti för likabehandling och icke-diskriminering. Men Diskrimineringsombudsmannen, DO, och flera andra liknande europeiska myndigheter har uppmärksammat att användningen kan leda till diskriminering.

DO ska förutom att kartlägga riskerna för diskriminering också utreda i vilken utsträckning och vilka sammanhang som arbetsgivare använder den nya tekniken och hur goda kunskaper de har om vad som kan leda till diskriminering.

Myndigheten ska slutrapportera om uppdraget till regeringen senast den 1 november nästa år.

– Det är jättebra. Jag är väldigt positiv. Det här är en utveckling vi måste ha koll på. Det gäller hela arbetsmarknaden, säger Simon Vinge från Akademikerförbundet SSR.

Han och förbundet har länge drivit frågan om att det krävs bättre transparens och insyn i de algoritmer som används vid automatiserat beslutsfattande om ekonomiskt bistånd på en rad kommuner i landet.

– Jag tycker att det behövs ett organ, en opartisk tredje part, som kan granska algoritmer. Det är ett förslag som olyckligtvis helt lyser med sin frånvaro i den svenska debatten, säger han.

Läs mer >> DO: Risk för diskriminering vid automatiserade beslut