(Jag råkade lägga upp detta på min andra blogg igår, pga trötthet. Men jag tror att detta inlägg passar bättre här, så nu har jag flyttat det hit.)

The-Last-Good-Man-Linda-Nagata Vad händer med det personliga ansvaret när maskiner själva kan fatta avgörande beslut? Det pratas en del om sånt just nu, kanske mest när det handlar om självkörande bilar. Många förväntar sig förstås att trafiken ska bli säkrare och flyta smidigare utan mänsklig oberäknelighet, och att de där valen mellan att köra på ett barn eller offra en passagerare inte ens ska uppstå. Men det finns ju fler situationer där maskiner skulle kunna reagera snabbare och mer tillförlitligt än människor, och där de kanske snart kan ersätta (eller komplettera) oss.

Jag har precis läst en rätt gammal och en rykande färsk berättelse om maskiner som fattar beslut på liv och död.

watchbird004Den äldre av dem är ”Watchbird” av Robert Sheckley (länken går till novellen som ebok från projekt Gutenberg) från 1953. Där sätts autonoma flygande övervakare in för att stoppa mord innan de begås. Maskinerna kan läsa av något diffust beskrivet mönster av hjärvågor och hormoner, och de flyger omkring och uppfattare allt som händer. De är dessutom självlärande och kommunicerar med varandra, och på så vis kan de förbättra sin insats med tiden. Vad kan gå fel?

Så långt låter det som något som passar in perfekt i dagens debatt om deep learning och robotar som tar över människors jobb. Men den har också en stark 1950-talssmak, saknar intressanta personer, och tar snabbt en vändning åt det riktigt skruvade och absurda. En intressant historia, men den känns också ganska platt i jämförelse med den känslomässigt involverade The Last Good Man av Linda Nagata som jag också just har läst.

Jag berättade tidigare om The Red av samma författare, som också handlade om maskiner i krig. The Last Good Man är en mycket annorlunda bok, även om den innehåller lite av samma ingredienser. Även här ser vi hur krig bedrivs av privata aktörer, hur aggression drivs på av vinstintressen, och så vidare. Men den cyborg som finns här har inte blivit starkare och bättre med sina proteser, utan de är trots all högteknologi fortfarande sämre än kroppsdelarna de ersätter. I stället för att krigets soldater är länkade människor med stöd av drönare börjar människor allt mer fasas ut. Huvudpersonen i boken, True Brighton, är en helikopterpilot som fått ge upp flygandet eftersom det numera sköts av helikoptern själv. Men hon är fortfarande i branschen och på fältet.

Samtidigt som maskinerna tar över mer av det faktiska krigandet är det ytterst människor som ligger bakom krigets grymheter. True har för åtta år sedan förlorat sin son i en operation som gick hemskt fel och slutade med att han blev plågsamt och spektakulärt avrättad. Men exakt vad som hände, eller varför, det blev inte utrett. Berättelsen handlar väldigt mycket om moral och ansvar, och att handla rätt. Jag kan inte säga att jag direkt tyckte om den (det gör ont i kroppen när jag läser om blod och våld), men den var fängslande. Och det robotiserade kriget skrämmer mig.

Annonser