AI – frälsare eller förgörare?

Karim Jebari är disputerad i filosofi vid Kungliga Tekniska Högskolan 2014 och sedan dess forskare vid Institutet för framtidsstudier.

Han undersöker bland annat sociala konsekvenser av ny teknologi och menar att många av oss har en övertro på AI som det finns goda skäl att göra upp med – oavsett om vi tror att den kan frälsa mänskligheten eller förgöra den.

– I framför allt de sekulära delarna av västvärlden har teknologin fått den roll som religionen fyllt historiskt sett. Teknologiska framsteg fyller oss med förtröstan och hopp om framtiden, säger Karim Jebari.

Karim Jebari

En konsekvens av det, menar han, är att vi tenderar att tillskriva teknologi som vi inte riktigt begriper alldeles för starka egenskaper:

– Vi har läst science fiction-böcker och sett Star Wars-filmer på bio och använder ord för att beskriva vad en robot kan utföra som handlar mycket mer om vad vi läser in än vad den faktiskt utför.

Karim Jebari exemplifierar med sin robotdammsugare därhemma, som han döpt till Baxter. På frågan vad Baxter utför skulle Karim Jebari svara ungefär ”att dammsuga och städa min lägenhet”. Men i själva verket kan man inte påstå att Baxter städar. Roboten som styr dammsugaren plockar inga strumpor eller ställer saker i ordning.

– Det Baxter gör är att slumpmässigt röra sig framåt i en riktning tills ett objekt är i vägen varpå Baxter backar tjugo centimeter och rör sig i en annan slumpmässig riktning.

Baxter tänker inte att ”där tog jag en dammråtta, se så fint det blir!”. Men många av oss, till och med de som säljer robotdammsugare, skulle beskriva det Baxter utför i så generösa ordalag.

Det gör, menar Karim Jebari, att vi förväntar oss för mycket av AI. Att vi blir förvånade när Baxter har missat att dammsuga stora delar av lägenheten och fastnat i ett hörn, eftersom den algoritm som styr honom säger att efter tre krockar med samma föremål ska han sluta försöka.

– Jag menar inte att det här mystifierande språket kring AI är moraliskt fel. Men det gör att vi tror att AI-styrda föremål tänker på ett sätt som de inte har förmåga till.

Med andra ord: AI är inte så märkvärdig som många vill göra den till. Och den är fortfarande extremt smal, understryker Karim Jebari.

– Den kommer förvisso att bli bättre och bättre, men min kvalificerade gissning är att den stora superintelligensen som många väntar på inte kommer – åtminstone inte inom de närmaste århundradena.

– Sedan är det mycket möjligt att vi kommer att få andra AI-paradigm i framtiden, som är mycket mer kapabla än dem vi ser idag. Kvantdatorer, till exempel, som många säger är framtidens grej – även om vi fortfarande inte vet hur de kommer fungera i praktiken.

Ofta framhålls risken att AI ska göra allt fler människor arbetslösa som den största anledningen till oro. Men Karim Jebari tycker att det är andra saker vi ska vara rädda för.