Riskerna större utan superintelligensen

Robert Johansson leder en forskargrupp på Stockholms universitet som strävar efter att ta fram AGI, artificiell generell intelligens, till 2029. Alltså en intelligens som till skillnad från Chat GPT kan fortsätta att lära sig nya saker efter att den är skapad, en intelligens som liknar människans.

Robert Johansson

Flera kända AI-forskare har varnat för konsekvenserna av en superintelligens sedan Open AI lanserade Chat GPT i november förra året och sedan uppföljaren GPT-4 i våras. Fysikprofessor Max Tegmark uppmanade alla i sitt sommarprat i P1 att komma ihåg att AI är en extrem psykopat.

I våras kom den så kallade 22-ords-varningen (21 ord på svenska) från en rad AI-experter: ”Att minska risken för utrotning från AI borde vara en global prioritet vid sidan av andra samhällsrisker som pandemier och kärnvapenkrig”. Bland de som skrev under uttalandet fanns Sam Altman, vd för Open AI, företaget bakom Chat GPT.

Men Robert Johansson, docent i psykologi, oroar sig inte över vart AI-utvecklingen är på väg. Och den intelligens hans forskargrupp skapar är något helt annat än Chat GPT, säger han.

– Det handlar om att ta fram ett system som kan lära sig så som vi människor gör – men också som har känslor och ett medvetande. I jämförelse kan man säga att GPT-4, även om den är väldigt sofistikerad på många sätt, inte är mer intelligent än en daggmask.

Men visst är han orolig. Dock inte för den artificiella intelligens han själv håller på att forska fram.

– Jag är extremt orolig för vad som händer i världen. Vi har krig, en klimatkatastrof och allt värre hatbrott. Jag jobbar dygnet runt för att ta fram en vetenskaplig ansats till det. Jag är mycket mer orolig för problemen jag försöker lösa än för själva lösningen.

Han är orolig för att mänskligheten ska utrotas. Men, återigen, inte av den anledning som andra AI-experter för fram.

– Jag tycker att människor är lite för lite oroliga för till exempel klimatkatastrofen. Kanske är det så att om vi inte bygger AGI så har vi snart utrotat mänskligheten? Jag är personligen öppen för att det är vårt enda hopp.

Robert Johansson tror att den AGI de har som mål att ta fram till 2029 kommer att kunna bidra till att lösa klimatkrisen.

– Det tror jag absolut att den kan göra. Men det är självklart ett otroligt svårt problem.

Han beskriver klimatkrisen som ett beteendeproblem eftersom det handlar om det vi människor gör. Det finns en kraft i beteendevetenskapen och det går att ändra människors beteende. Ett exempel är Greta Thunberg och Fridays for Future som lyckades förändra en ”imponerande mängd” beteenden. Ett annat exempel på när det gick snabbt att förändra beteenden är pandemin.

AGI-systemen kan få en unik roll i att förstå och förändra mänskligt beteende, tror Robert Johansson. Därför är beteendevetenskapen en avgörande del i AI-forskningen.

– Det är inte bara ett ingenjörsproblem att förstå vilka experiment vi behöver göra. Det behövs ett extremt tätt samarbete mellan beteendevetenskapen och datavetenskapen. Ta maskininlärning, redan på den nivån tycker jag att det blir missvisande när definitionerna inte kommer från beteendevetenskapen.

Men visst, den paus som Max Tegmark, Elon Musk och andra vädjade om i våras, skulle kunna vara bra, tror även Robert Johansson, åtminstone när det gäller de system som Open AI har lanserat. De bygger på otroliga mängder fakta och, konstaterar han, det är en samhällelig utmaning att hantera dem.

– Jag är öppen för att det inte är en helt dum idé att vara försiktig med en snabb utveckling.