Annons
X
Annons
X

”Ny teknik kan bli vår undergång”

Att styra teknikutvecklingen mot en bättre värld kräver framsynthet. Vad vi gör i dag kan mycket väl innebära skillnaden mellan å ena sidan en blomstrande framtid för mänskligheten, och å andra sidan en nära förestående undergång, skriver professor Olle Häggström.

(uppdaterad)
Nu väntar troligen ännu mer radikala förändringar än under 1900-talet, ­genom framsteg inom bland annat syntetisk biologi, nanoteknologi, artificiell intelligens och robotik, skriver Olle Häggström.

Nu väntar troligen ännu mer radikala förändringar än under 1900-talet, ­genom framsteg inom bland annat syntetisk biologi, nanoteknologi, artificiell intelligens och robotik, skriver Olle Häggström. Foto: Laurent Cipriani/AP

DEBATT | TEKNISKA FRAMSTEG

Det finns en utbredd föreställning om att vetenskapliga och tekniska framsteg utgör vår frälsning, och ju mer sådana framsteg desto bättre. I forskarsamhället dominerar den närmast totalt, inklusive universitetsledningar och forskningsråd, och hela vägen upp till regerings- och EU-nivå. Enligt min mening är denna föreställning förhastad och livsfarlig.

Givetvis har vetenskapliga och tekniska framsteg gjort fantastiskt mycket för vår ekonomi och vår välfärd. Det skall inte heller förnekas att sådana framsteg har enorm potential att göra oss ännu rikare, och våra liv ännu friskare och bättre. Men det finns en baksida: vissa genombrott kan komma att göra våra liv sämre, eller rentav (i extrema fall) orsaka mänsklighetens undergång.

Tänk på hur världen och våra liv tedde sig i början av 1900-talet, och på den enorma skillnaden mot ­dagens värld. Mycket av denna skillnad kommer ur just veten­skapliga och tekniska framsteg. Hans Rosling brukar nämna (som ett exempel bland många) hur tvättmaskinen revolutionerat vår vardag. Med tanke på hur mobiltelefoner och internet förändrat våra liv de senaste 20 åren kan man knappast tala om ­någon inbromsning i förändringstakten. Inne­varande århundrade kommer troligen att bjuda på ännu mer radikala förändringar än 1900-talet, genom framsteg inom bland annat syntetisk biologi, nanoteknologi, artificiell intelligens (AI) och robotik. Samt, icke att förglömma, diverse sätt att förbättra våra kognitiva förmågor och modifiera den mänskliga naturen, på till exempel genetisk och farmakologisk väg, eller med elektroniska implantat i våra huvuden.

Annons
X

De potentiella vinsterna från dessa teknologier är praktiskt taget obegränsade, men detsamma gäller riskerna. En rapport från McKinsey häromåret uppskattar att framsteg inom AI och robotik kommer att generera ett värde om 50 000 miljarder dollar under den närmaste tioårsperioden. Samtidigt börjar en välgrundad oro att växa fram om vad robotiken kommer göra med arbetsmarknaden. På längre sikt finns anledning att fundera över om mänskligheten kommer att kunna behålla herraväldet när AI-teknologin nått så långt att vi inte längre är planetens intelligentaste varelser. Sistnämnda scenario kan låta extremt, men förtjänar att tas på allvar, och de senaste åren har en rad framstående tänkare varnat för det: Nick Bostrom, Max Tegmark, Stephen Hawking och Bill Gates, med flera.

Andra nya teknologier är tveeggade på motsvarande vis. En av de största utmaningarna de närmaste årtiondena blir hur vi kan förhindra att framsteg inom syntetisk biologi leder till att terrorister får tillgång till enormt kraftfulla biologiska mass­förstörelse­vapen.

Vår framtid är osäker, och vi har inget att vinna på att inta en fatalistisk attityd. Vad vi gör i dag kan mycket väl innebära skillnaden mellan å ena sidan en blomstrande framtid för mänskligheten, och å andra sidan en nära förestående undergång. Varje seriöst försök att uppskatta hur stora värden som står på spel ger närmast ofattbara siffror.

Vad göra? Att hejda den vetenskapliga och tekniska framstegsvågen är inte någon tilltalande tanke, om det ens skulle vara möjligt, vilket det realistiskt sett knappast är. Vad vi behöver göra är att hitta sätt att puffa på utvecklingen i riktningar där framtidsutsikterna är goda, och bort från dem där riskerna för katastrof och undergång överväger. Våra kun­skaper är ännu långt ifrån tillräckliga för att med säkerhet skilja det ena från det andra – med undantag för vissa uppenbara fall såsom det oursäktligt vettlösa i att utveckla AI-teknologi för robotiserade vapen (en utveckling som dessvärre är i full sving). Därtill behöver vi hitta säkra sätt att hantera de teknologier som kan skapa såväl välstånd som katastrof. Vårt nuvarande förhållningssätt påminner mest om att med bindel för ögonen rusa rakt fram i ett minfält.

För att kunna göra rätt avvägningar är vi alltså i stort behov av att förbättra kunskapsläget om kommande teknologiers risker och möjligheter. Ännu mer akut är behovet av att göra en användbar sammanställning av den kunskap som trots allt redan finns på området. Här skulle jag vilja se en ambitiös och statligt sanktionerad utredning. I väntan på en sådan har jag själv försökt dra ett strå till stacken med min bok ”Here Be Dragons”, där jag skisserar tänkbara scenarier och konsekvenser av framtida teknikgenombrott, inklusive bedömningar av vad som är troligt och vad som är mindre troligt.

Men en enskild forskares och författares tankar räcker naturligtvis inte. En svensk statlig utredning med genomlysning av hela problemområdet som grund för framsynta beslut om forskningspolitik skulle vara ett stort framsteg, men räcker naturligtvis inte heller för att i sig rädda världen. En sådan utredning skulle dock kunna skapa politisk diskussion och inspirera andra länder och andra aktörer att ta problematiken på allvar. På aningen längre sikt skulle jag vilja se skapandet av ett internationellt organ med uppgift att sammanställa kunskapsläget och göra konsekvensanalyser av tänkbara åtgärder – här ­skulle IPCC (Intergovernmental Panel of Climate Change) delvis kunna fungera som förebild. Men det vi nog behöver mest av allt är en bred och livaktig politisk diskussion om vad för slags värld vi vill skapa.

Olle Häggström

professor i matematisk statistik

Chalmers

Fotnot: Boken ”Here Be Dragons: Science, Technology and the Future of Humanity” utkommer i dag, torsdag, på Oxford University Press

Olle Häggström Foto: Privat

Annons
X

Nu väntar troligen ännu mer radikala förändringar än under 1900-talet, ­genom framsteg inom bland annat syntetisk biologi, nanoteknologi, artificiell intelligens och robotik, skriver Olle Häggström.

Foto: Laurent Cipriani/AP Bild 1 av 2

Olle Häggström

Foto: Privat Bild 2 av 2
Annons
X
X
X
X
Annons
X