Vad händer när robotar tar över dödandet?

Den tidigare KTH-forskaren Linda Johansson, idag anställd på Försvarshögskolan, har studerat robotar och etik och lade i maj förra året fram sin avhandling om detta. Namnet på avhandlingen är Autonomous Systems in Society and War – Philosophical Inquiries. Av den kan vi utläsa att det är hög tid att diskutera etiska frågor runt robotar, som att det kan vara nödvändigt att se över krigets lagar och även att börja undersöka huruvida avancerade robotar skulle kunna hållas ansvariga för sina handlingar. Vidare är det dags att inse att robotarna inom en inte allt för avlägsen framtid kommer att ta över fler jobb än vad vi kanske har föreställt oss.

Linda Johansson

Linda Johansson har bland annat forskat runt etiken och militära autonoma robotar, framför allt så kallade drönare eller UAV:er (unmanned aerial vehicles). Anledningen är enkel: användandet av drönare ökar och allt mer pengar läggs ner på att utveckla dem.

Antalet civila offer som drönarna skördar är omfattande. Enligt en FN-undersökning har 33 drönarattacker runt om i världen resulterat i civila offer. I Pakistan har 2200 – 3300 personer dödats av drönare sedan 2004 varav 400 varit civila. Enligt de senaste siffrorna från det pakistanska försvarsdepartementet har 67 civila dödats i drönarattacker i landet sedan 2008.

– Soldater får ju döda andra soldater i krig – skulle det då vara tillåtet att på andra sidan jorden attackera de operatörer som styr drönarna, frågar Linda Johansson.

Helt klart är att ny teknik ändrat förutsättningarna för krig och att det finns massor av nya frågeställningar som dessa krigsrobotar skapar. Linda Johansson är inte främmande inför att det är nödvändigt att se över krigets lagar.

Tarantula Hawk

Tarantula Hawk

– Vem trodde för 30 år sedan att vi idag, 2014, skulle springa runt med internet på fickan?! Med tanke på hur snabbt utvecklingen går är det hög tid att ta tag i dessa etiska frågeställningar runt robotar. Ja, det är en av slutsatserna i min forskning. Det är inte för tidigt att börja diskutera sådana här frågeställningar. Det är viktigt att diskutera etiska aspekter redan idag, säger Linda Johansson.

Hon fortsätter med att understryka att utvecklingen av autonoma system och robotar går mycket snabbt. Än så länge är förvisso till exempel drönare bara delautonoma, det krävs fortfarande en operatör som fattar beslutet att beskjuta ett mål. Samtidigt läggs stora summor pengar på att utveckla ökad autonomi hos drönarna. Det finns en stark lockelse i att ersätta soldater med robotar.

Vägen dit är dock också den kantad av etiska frågeställningar och problem.

– Snart kan vi stå inför en situation där en operatör styr två drönare istället för en, detta på grund av kostnadsskäl. Lägg sedan till att människan har en tendens att förlita sig på tekniken. Lägg sedan till en situation där väldigt snabba beslut måste tas. Då är det lätt att kliva ur beslutsloopen och lämna över kontrollen till roboten eller datorn. Människan blir den svagaste länken. Ta till exempel Iran Air Flight 655. Där gick allt väldigt snabbt, man litade på tekniken som felade och ett civilt flygplan antogs vara militärt och sköts ner, säger Linda Johansson.

Hon tillägger att vi ska föreställa oss en operatör som styr två drönare samtidigt med att vi spelar två tv-spel på en och samma gång. Det blir snabbt oöverskådligt.

Just referensen till tv-spel är för övrigt relevant av flera orsaker.

– Det är inte ovanligt att man jämför krig där drönare ingår som en form av datorspelskrig. Det finns dock en ganska stor etisk skillnad. Det är inte ovanligt att drönaroperatörer följer en person, ett mål, i flera dagar eller en hel vecka. Detta till skillnad från en vanlig soldat som inte gör det utan möter sin motståndare direkt, öga mot öga. De posttraumatiska stressyndromen som drabbar en operatör kan i vissa fall vara lika illa som en vanlig soldats dito, säger Linda Johansson.

Hon tillägger att det inte bara är militära autonoma robotar som är av intresse rent etiskt.

– Det är fler arbetstillfällen än vad man först kan tro som kan ersättas av robotar. Det är inte bara enkla fabriksjobb som i framtiden tas över av autonoma system. Journalistik skulle delvis kunna göras av robotar. Det finns redan idag tester som visar att folk har svårigheter att skilja på en robots och en människas sportreferat, säger Linda Johansson.

Hon återgår till att beskriva de etiska aspekterna av militära autonoma robotar.

– I krig förlorar de stridande parterna rätten att inte bli attackerade men erhåller rätten till självförsvar. Om robotar i större utsträckning snarare ersätter än assisterar människan torde detta påverka den moraliska egaliteten. Robotarna riskerar ju inte sina liv. Betyder det att de har förlorat rätten att döda mänskliga soldater, säger Linda Johansson frågande.

Hon tillägger att frågan saknar ett entydigt svar. Kanske är det så att rättfärdigandet att döda elimineras eller åtminstone urholkas om ena parten till stor del använder robotar. Robotar, särskilt drönare, kan också förenkla genomförandet av ”hemliga krig” med låg transparens och få inblandade. Exempel på detta är underrättelseorganisationer som använder robotar vid sidan av militären och dödar bakom kulisserna.

Äkta robotarLinda Johanssons forskning har resulterat i en sammanläggningsavhandling om sju artiklar. Förutom autonoma system i krig så har hon studerat andra aspekter på robotar. En av artiklarna handlar om vårdrobotar och etiken runt dem, och två artiklar handlar om så kallat agentskap. Om och i så fall hur avancerade robotar kan hållas ansvariga för sina handlingar.

Linda Johansson har skrivit en bok, Äkta Robotar, om samma typ av frågor, men kanske mer inriktad på autonoma robotar. En kommentar till detta och var och hur det behandlas i science-fiction har jag skrivit på bloggen Anarres. Boken utkommer nu i mars.

Svensson/KTH

Intressant?
Mer: Robotnyheter, Ny Teknik,
Läs även andra bloggares åsikter om , , , , , , , , , , , , , ,

Köp boken hos Bokus

Köp boken hos Adlibris 

About these ads