11 augusti, 2022

En ursäkt från roboten påverkar tilliten

FORSKNING Robotar har blivit en allt vanligare del av vår umgängeskrets. Men vad krävs för att vi ska kunna lita på våra nya vänner?

Vi kan lätt bli manipulerade av robotar, visar Neziha Akalins forskning. Men om roboten gör fel litar vi mindre på den.

Foto: Örebro universitet

Inom industrin används robotar sedan länge av de flesta större tillverkningsföretag. Men på senare år har robotar även börjat användas mer och mer i sociala sammanhang för att interagera och umgås med oss människor. Till exempel försöker man att använda dem inom äldreomsorgen där de bland annat kan påminna om att ta medicin, men även sådant som robotdammsugare och smarta högtalare räknas till kategorin sociala robotar.

Ju mer vi umgås med robotar, desto viktigare blir det att vi kan känna oss trygga med dem. Men vad är det som får oss att lita på en robot – och när blir vänskapen satt på prov? Det här har Neziha Akalin, doktorand i datavetenskap, undersökt i sin avhandling vid Örebro universitet. Hon berättar att det först nyligen har publicerats en del vetenskapliga artiklar om de psykologiska aspekterna av att interagera med robotar. Visst finns det alltid säkerhetsföreskrifter för maskiner och robotar, men de tar nästan alltid bara hänsyn till den fysiska säkerheten – att roboten inte ska skada sin användare, påtalar hon.

– Det är förstås också viktigt, men vi borde även ta hänsyn till hur säker roboten upplevs. Om människor inte känner sig säkra runt robotar kommer de inte att använda dem.

Neziha Akalins forskning är en del av ett EU-projekt som fokuserade på användande av robotar inom äldreomsorgen. På grund av pandemin kunde emellertid bara de två första studierna involvera äldre deltagare medan de följande två gjordes med yngre.

Hon började med att låta en grupp äldre studiedeltagare umgås fritt med den sociala roboten Pepper för att sedan höra sig för om vad de tyckte om honom. I den andra studien lät hon deltagarna köra ett träningspass med Pepper. Under tiden registrerade hon bland annat hur deltagarnas ansiktsuttryck påverkades av de olika interaktionerna med roboten. Detta, märkte hon, gav dock ingen tydlig indikation på huruvida de kände sig säkra med Pepper eller inte. I sina följande studier, med yngre deltagare, använde hon därför smarta klockor som kan mäta puls och hur svettiga vi är.

"Om roboten sedan ber om ursäkt, då accepterar vi det"

Neziha Akalin

Dessa fysiska reaktioner visade sig kunna berätta mer om hur säkra deltagarna kände sig. Det stod inte minst klart när Neziha Akalin i en av studierna faktiskt försökte få deltagarna att känna sig otrygga i umgänget med Pepper. Hon tog hjälp av tidigare forskning kring vad som påverkar tillit människor emellan och programmerade sedan roboten så att han skulle agera på sätt som gjorde att han bland annat upplevdes som oförutsägbar.

– En faktor som påverkar vår tillit till andra är om vi har en känsla av kontroll. Därför gjorde jag så att roboten plötsligt kom väldigt nära deltagaren och insisterade på svaret en fråga. Jag manipulerade också förutsägbarheten genom att få roboten att göra en onödig armrörelse till exempel. De smarta klockorna visade tydligt att detta agerande utlöste mer svett hos deltagarna, berättar hon.

Tidigare forskning har visat att det som påverkar vår tillit till robotar mest negativt är om de gör något fel.

– Men om roboten sedan ber om ursäkt, då accepterar vi det.

Studien där de äldre deltagarna fick träna med Pepper som coach visade också att vi är mer benägna att tycka om en robot om den smeker oss medhårs. Deltagarna fick i uppdrag att härma en sekvens med armrörelser. Själva övningarna var enkla medan utmaningen var att memorera i vilken ordning de skulle göras. Utan att veta om det var deltagarna uppdelade i tre grupper där den första fick negativ feedback av Pepper, den andra positiv och den tredje fick rent smicker, oavsett hur de egentligen presterade. De som fick positiv eller smickrande feedback tyckte mer om roboten än gruppen som fick negativ feedback.

– En intressant upptäckt var också att robotar kan manipulera människor. I den positiva gruppen trodde deltagarna att de gjorde ett bra jobb även om de inte gjorde rätt. I den negativa gruppen fanns till exempel en kvinna som gjorde rätt hela tiden, men när roboten gav negativ feedback trodde kvinnan på det och tyckte att övningarna var jättesvåra.

På senare år har robotar som används till automatiserat beslutsfattande inom socialtjänsten, till exempel om försörjningsstöd i bland annat Trelleborgs kommun, varit föremål för debatt. Processen upplevs inte som tillräckligt transparent, menar en del av kritikerna. Neziha Akalin säger att just transparens är en viktig faktor för tilliten till robotar, oavsett om de är av det sociala slaget eller ej.

– Vi behöver förstå varför roboten eller maskinen fattar ett visst beslut, annars kan vi känna oss otrygga.

Karin Persson

Läs även

Så genomskådar du härskarteknikerna

ARBETSMILJÖ Förminskande och förlöjligande är vanliga ...
29 september, 2022

HR-chefen om ökad utbrändhet: ”Arbetsgivare bör rapp...

LEDARSKAP Tre av fyra akademiker i början av karriär...
22 september, 2022

Ohövlighet på arbetsplatsen smittsamt

ARBETSMILJÖ Att mötas av eller till och med bli åskåda...
21 september, 2022

Socialtjänsten i Nacka vände en negativ utveckling

ARBETSMILJÖ Så lyckades medarbetarna på barn- och fami...
13 september, 2022