När en maskin dödar någon, vems är då felet? När människorna som styr ett krig sitter långt bort bakom en skärm och det är maskiner som bär vapen, då blir kriget något helt annat. P3 kultur diskuterade framtidens krig och tog upp precis de här frågorna redan för ett gäng år sedan. Forskaren Linda Johansson gick in djupare på detaljer i sin bok Äkta robotar — och helt nyligen i en debattartikel i DN.

Det här är ganska skrämmande scenarier, och det jag särskilt fastnade för i Linda Johanssons bok var hur stark benägenhet människor tycks ha att lita på maskinerna.

Bedömningen av en handling kan lätt bli olika beroende på hur stor aktiv inblandning människor har haft i en händelse. En autonom robot som skjuter ner civila ses mer som en olyckshändelse, medan en soldat som håller i ett vapen och skjuter ner civila kan anklagas för krigsbrott.

Peter Watts ställer det på sin spets i novellen ”Collateral” där den mänskliga soldatens nervsystem görs till en integrerad del av krigsmaskinen. Vi vet ju att många av de saker vi gör och beslut vi fattar gör vi innan vi själva blir medvetna om situationen. Den medvetna tanken kommer efter handlingen. Således borde det gå att vässa detta till den grad att mer avancerade handlingar kan simuleras och triggas igång innan ens personens egna reflexer hinner agera, men ändå skulle vara samstämmiga med hur personen själv tänker. Kan det leda till en fullständigt etisk men samtidigt helt omoralisk soldat? Och vad är i så fall skillnaden mellan en soldat och en robot?

Eller som Peter Watts formulerar det i sin novell:

What happens to the very concept of a war crime when every massacre can be defined as an industrial accident?

Det krävs dock inte ens en cyborg för att mörda utan skuld i science fiction. I Ender’s Game av Orson Scott Card är grymhet och våld försvarbart om människan som utför dåden är av rätt kvalitet och har en inneboende godhet. (Spoilervarning: här följer ledtrådar till hur det går slutet av boken.) John Kessel har i essän Creating the innocent killer gått igenom precis hur vi som läsare fås att sympatisera med en mördare genom att gång på gång försäkras om att han innerst inne är god. Men är det verkligen så att någon som både dödar sina mobbare och utplånar en hel befolkad planet kan betraktas som oskyldig?

Först ska jag säga att det här är egentligen bara den yttersta extremen av vanligt underhållningsvåld. Vi hejar ofta på en hjälte på film som dödar massor av människor, bara det är en underdog som tar revansch eller en hämnare som tar sig an en tillräckligt ondskefull skurk. Det är berättelser som går hem.

Men sedan landar jag ändå i att det är något läskigt med att jag som läsare lockas att tycka att Ender är en sympatisk figur och kanske rentav en hjälte. (I och för sig har var jag inte fullständigt charmad av boken ens när jag läste den, men det var helt andra saker jag hakade upp mig på då.) Jag rekommenderar alla som läst Ender’s Game att ta och läsa hela John Kessels essä. I ett tillägg i slutet skriver han så här, vilket är en kort sammanfattning av hans poäng:

Card sets up Ender to be the sincere, abused innocent, and rigs the game to make us accept that he does no wrong. I see the entire pupose of the ”remote war by game” trick in the novel as a device to make this argument plausible. But in the real world genocide is not committed by accident. We see the immoral consequences of such a mode of thought in the heaps of dead bodies that history has piled up, committed always by leaders who tell us they only meant to protect us from evil. I just will not accept that.

Risken är dock att det även i den verkliga världen blir en sådan glidning. Att folkmord, eller liknande hemskheter, skulle kunna avfärdas som olyckshändelser. Att krig med människors liv som insats skulle bli allt mer av ett spel är det många som varnat för, där drönare och andra fjärrstyrda maskiner blir vanligare.

En cynisk syn på krig och hur de drivs av vapenindustrin är själva grunden för trilogin om The Red av Linda Nagata, science fiction om cyborgsoldater i en nära framtid som jag verkligen kan rekommendera (den tredje delen väntar på min läshög).

Science fictions diskussion av de här frågorna känns ofta relevant och vaken. Även där fiktionen inte är så realistisk har den fördelen att kunna göra situationer och ställningstaganden levande. Vi människor har en tendens att förstå saker bättre när vi tänker i berättelser. Så länge vi kan genomskåda själva berättandets fällor och mekanismer kan den här sortens inlevelse ge verktyg att ta med till verklighetens debatt. Men som exemplet med Ender’s Game gäller det att inte bli dårad av berättargreppen, vare sig det är i en roman eller i en politikers manifest.

Att robotkrigets moraliska problem redan är här är det i alla fall ingen tvekan om. Dem måste vi vara medvetna om.

(Det blir för övrigt en paneldiskussion om detta ämne på Fantastika i Stockholm i sommar. Linda Johansson ska vara med. Och undertecknad.)