Nya teknologiers samhällspåverkan

Samhället kan inte förstås utan att vi förstår hur teknologin påverkar oss. Mänskligheten har gradvis blivit allt mer inbäddad i ett teknologiskt ekosystem som idag är grunden för vårt välstånd och på många sätt definierar den mänskliga erfarenheten. Det förra seklets teknologiska utveck­ling saknar motstycke, och det är troligt att förändringarna under 2000-talet kommer att bli än mer avgörande. Vi är den första generationen som kan utrota fattigdomen och den sista som kan hejda klimatförändringarna, som FN:s förre generalsekreterare Ban Ki-moon konstaterat. För att klara dessa globala utmaningar spelar teknologiska innovationer en stor roll, och områden som bioteknologi och artificiell intelligens (AI) kan ha en avgörande samhällelig påverkan.

Användningen av nya teknologier kan emellertid få problematiska konsekvenser när de introduceras i sam­hället. AI och bioteknologi är båda så kallade generella teknologier, vilket innebär att de har potential att i grunden förändra många olika sektorer, som till exempel jordbruk, sjukvård och tillverkningsindustri. Generella teknologier brukar också ha påtagliga effekter på människors vardag. Elektricitet, datorer och internet är exempel på generella teknologier som är väletablerade idag. Något som kännetecknar denna typ av teknologier är att till synes små misstag i hur de introduceras kan leda till oanade konsekvenser i hur de används, och därmed föra med sig stor negativ samhällspåverkan. Att förebygga problem eller åtminstone upptäcka dem i ett tidigt skede är en av forskningens viktigaste uppgifter, och detta är fokus i aktuella och planerade studier på temat Nya teknologiers samhällspåverkan.

AI är ett samlingsnamn på olika metoder som gör det möjligt för maskiner att lösa problem med hjälp av processer som traditionellt varit förknippade med biologiska hjärnor, som inlärning, språk och perception. Tack vare snabb förbättring av hårdvara och ökad tillgång till stora väl­sorterade datamängder har exempelvis maskininlärning gjort stora framsteg under 2000-talet. AI har gått från att bara vara en angelägenhet för rent akademiska diskussioner, till att vara en del av produkter som de flesta av oss använder dagligen.

AI-system baserade på maskininlärning bygger på att algoritmer genom inlärning lär sig mönster, till exempel sambandet mellan en persons ålder och benägenhet att klicka på en viss musikvideo. Men AI kan även användas till att fatta viktiga beslut, till exempel vid rekrytering, kreditprövning eller – inom offentlig sektor – beslut om socialbidragsansökningar.

IFFS utforskar AI-teknologins konsekvenser längs tre linjer. Den första handlar om spridningen av AI-teknologi över geografiska, demografiska och ekonomiska områden och här syftar forskningen bland annat till att skapa en modell för förutsägelser. Den andra studerar vilka konsekvenser AI har på mänskligt beslutsfattande, exempelvis inom rekrytering och mediekonsumtion, men också vilka långsiktiga effekter AI kan få på samhället i stort, från normförändringar till nya sätt att producera varor och tjänster. Den tredje linjen analyserar hur vi kan öka pålitligheten i AI-system, både med avseende på vilka normer som bör utvecklas och hur dessa system bör vara designade.

En allt större del av våra beslut fattas med stöd av AI och detta gäller även beslut som fattas i den offentliga sektorn. Ambitionen här är att undersöka hur användandet av AI kan påverka den demokratiska legitimiteten hos sådana beslut. En viktig aspekt av demokratisk legitimitet är att offentliga beslut ska förklaras offentligt – de skäl som ligger till grund för ett beslut ska kunna redogöras på ett tillgängligt sätt. Detta utmanas av maskininlärning då den statistiska modell som algoritmen har skapat inte är tillgänglig för inspektion.

Inom fältet bioteknologi ryms ett stort antal teknologier och praktiker, allt från genetiskt modifierade grödor och bakterier till genetisk sekvensering av virus. Bioteknologin väckte stora förhoppningar och farhågor runt sekelskiftet i samband med kartläggningen av den mänskliga arvsmassan. Men det är först nu, när mycket av den politiserade debatten tystnat, som metoder och tillämpningar inom bioteknologi står redo att få transformativa konsekvenser inom jord­bruk, materialvetenskap, medicin, brottsbekämpning och miljövård. Även om bioteknologi är en disciplin som är distinkt från AI-teknologi, så står dessa teknologier i nära relation till varandra. Mycket av forskningen inom AI har inspirerats av neurovetenskapen, och AI har i sin tur gjort stora avtryck inom den bioteknologiska forskningen.

Bio­teknologiska innovationer har i allt högre utsträckning börjat analyseras och diskuteras i den sam­hällskontext som de kommer att interagera med. En ny teknologi är till exempel flödes­cyto­metri, där sädesceller kan sorteras efter kön, vilket gör det möjligt för föräldrar att välja kön på sina barn utan aborter eller IVF. För att förstå hur sådan teknologi kan påverka samhället över tid måste vi också veta vad människor värdesätter i olika delar av världen, och hur sannolikt det är att detta förs vidare över generationer.

En annan fråga är human enhancement, det vill säga att med tekno­logiska medel förbättra mänskliga funktioner utöver det som anses vara ”normalt”. Det innebär att definitionen av mänsklig förbättring är socialt konstruerad och i ständig förändring. Om fluortandkräm inte var en del av vår vardag, hade vi ansett att det var ”normalt” att ha tand­lossning i 60-årsåldern och uppfattat en åldring med friska tänder som en ”supermän­niska”. Mänsklig förbättring ställer oss inför intressanta etiska frågor, som till exempel hur icke-kurativa medicinska interventioner bör prioriteras inom sjukvården, och vilka risker som är acceptabla att utsätta en frisk människa för. En annan viktig fråga som möjligheterna att förändra den mänskliga kroppen ställer oss inför berör en av filosofins mest klassiska: Vad är ett gott liv?

Teknologi är inte bara enkla verktyg som tillåter oss att ta kontroll över den fysiska världen, den förändrar också den sociala världen, ofta på sätt som inte var avsedda när den utvecklades. Bioteknologi har funnits länge, men får nu – inte minst i och med faktisk eller potentiell utveckling av biologiska massförstörelse­vapen – transformativa konsekvenser. För vad, vem, hur?

Den snabba utvecklingen inom såväl AI som bioteknologi ställer allt högre krav på studier av extrema scenarion där oförutsedda konsekvenser av AI-utvecklingen eller hypotetiska massförstörelsevapen orsakar en existentiell katastrof, till exempel permanent civilisationskollaps eller utrotningen av vår art. Studiet av existentiella risker, hur de normativt bör bedömas, förebyggas och analyseras är således en viktig del av IFFS forskning om nya teknologiers samhällspåverkan. Särskilt fokus ligger på vilka principer våra beslut bör följa när vi står inför katastrofal risk, till exempel om sådana beslut kan vara rationella även fast de bryter mot principer som rationella beslut uppfyller i vanliga (icke-katastrofala) situationer.

AI påverkar oss, men vem påverkar AI? (2:01 minuter)