Söndagstuggare: Magnus Carling frågar sig om digitaliseringen har gått för långt

Magnus Carling, författare till boken Svart kod, utmanar digitaliseringens alla fördelar och undrar om den tekniska utvecklingen har gått för långt.

Jag har arbetat i över ett kvarts sekel med IT och under stor del av den tiden har IT-säkerhet varit en del av mitt yrke. På senare år har jag ägnat mig åt informationssäkerhet på heltid och samtidigt sett hur en alltmer uppkopplad värld blir beroende av en hiskelig mängd ettor och nollor.

Utvecklingen har varit och fortsätter vara rasande snabb. När internet slog igenom runt 1995 fanns det gott om folk som inte trodde att vi skulle kunna betala räkningar på nätet. Det gick inte att lita på en internetbank. De fick fel.

Det fanns också skeptiker som trodde att ingen någonsin skulle vilja läsa hela böcker på skärm, eller att ljudböcker skulle bli allmänt tillgängliga i en prenumerationstjänst. De fick också fel.

Att bygga ett digitalt samhälle har många fördelar. Information och inte minst media i form av film och musik har blivit oerhört tillgängligt. Dessutom har priset gått ner. För ett par hundralappar i månaden får du tillgång till all världens musik. För en hundring kan du se tusentals filmer och hundratals serier.

Allt går med ljusets hastighet. Ett par klick så har du beställt hem en ny tvättmaskin, veckans mat eller bokat en resa till metropolen Gunnilse eller till sandstranden i Thailand. Samtidigt har kontanter försvunnit och barn som växer upp nu har fått svårt att relatera till pengar som någonting annat än just siffror.

Det går inte längre att leva ett liv nedkopplat. Försök om du inte tror mig. Vissa delar går att klara av utan åtkomst till digitala tjänster, men det är betydligt svårare och tar längre tid. Vi har blivit lika beroende av internet som vi är av el och rinnande vatten. När nätet inte fungerar stannar världen. Bokstavligen.

Företagen, myndigheterna och organisationerna som drabbats av cyberattacker vet vad en attack kan innebära. Olja kan sluta levereras, el kan sluta fungera, det går inte att boka varor för leverans och det slutar inte där. Väldigt få företag, om ens några, klarar sig utan IT och internetuppkoppling. I bästa fall kan man falla tillbaka på sin telefon, men gissa vad – även den bygger på att IT-systemen fungerar.

Det sårbara samhället kommer bli ännu mer sårbart när vi fortsätter den digitala resan. På gott och ont. Frankenstein väckte sitt monster till liv med teknik. Titanic skulle vara osänkbart och gick ändå på grund. De digitala profeterna tror att utvecklingen av ny teknik är lösningen, men få av dem pratar om sårbarheterna. Ännu färre pratar om det riktiga hotet med att fortsätta teknikutvecklingen.

För någonstans är den på väg, den konstgjorda intelligensen. Det pågår en ny kapplöpning mellan stormakterna vad det gäller konstgjord intelligens. Det gäller att ligga först, inte minst på grund av vad konstgjord intelligens kan bidra med. Kanske lösa cancerns gåta en gång för alla, förlänga livet och bota Alzheimers. Eller starta ett tredje världskrig och utrota allt liv för all framtid.

Konstgjord intelligens är skrämmande. Jag tror att det inte går att stoppa utvecklingen, den politiska viljan finns inte. Men den dag intelligensen får lov att förbättra sig själv och blir, om än bara lite, intelligentare än oss kan vad som helst hända. Det är då vi kan få se spökena i maskinerna komma till liv.

Dessvärre behöver den konstgjorda intelligensen inte ens se oss som fiender. Det räcker med att vi är i vägen för dess mål. Kanske har den fått som uppgift att lösa klimatkrisen. En enkel lösning skulle vara att ta död på mänskligheten, trots allt är vi upphov till klimatutmaningarna på planeten.

Eller om en konstgjord intelligens hyllas av dess uppfinnare och på så vis får storhetsvansinne. Vi kanske måste dyrka den som en gud, och offra till dess ära. Eller så blir vi alla uppkopplade batterier eller slavar på något annat sätt.

Jag säger inte att det kommer att ske på det här sättet. Men jag hävdar att den digitala sårbarheten vi redan ser idag är bara början. Och jag hävdar att en superintelligens kan bli okontrollerbar. Hur mycket forskarna kring konstgjord intelligens hävdar att de kan kontrollera den. Det ligger i sakens natur att en konstgjord intelligens som kan förbättra sig själv kan hitta vägar runt vilka spärrsystem som helst.

Astronomerna pratar ibland om den stora tystnaden. Varför är universum så tyst? Kan en av anledningarna vara att andra civilisationer utvecklade konstgjord intelligens och att det tog död på civilisationen?

Eller kan det vara så att när utvecklingen har gått så långt behöver inte människor vara särskilt aktiva? Trots allt kan vi alltid lita på en fysisk, klassisk bok. En pappersbok behöver inte el för att fungera. Den går till och med att läsa när det är mörkt, bara du har tillgång till ett stearinljus. Kanske är det just det de tysta civilisationerna i universum gör. De tröttnade på allt digitalt brus som hela tiden pockade på uppmärksamhet, kopplade ner och satte sig för att läsa.

Om gästbloggaren

Magnus Carling är aktuell med boken Svart kod. Bokens tema är hotet från konstgjord intelligens, något Magnus ser som ett av de största hoten mot mänsklighetens framtid. Magnus arbetar som informationssäkerhetschef på ett globalt företag och har sett hur cybervärlden blir allt mer sårbar.