Ciò che Asimov ha mancato di prevedere non sono gli sviluppi della tecnologia, ma del capitalismo.
La parola “robot” è apparsa per la prima volta nel 1920, in un dramma del ceco Karel Čapek intitolato Rossum’s Universal Robots. L’umanità si estingue sessanta pagine dopo. Da allora l’inevitabilità di una rivolta sembra inscritta nel genoma narrativo dei robot. Dai replicanti di Philip K. Dick a Terminator, dagli androidi di Westworld all’intelligenza artificiale di Her, una macchina che acquisti la coscienza sembra in grado di fare una sola cosa, e cioè ribellarsi a chi gliel’ha data.
Tale destino, in effetti, è talmente scontato che nella maggior parte dei casi non vi è neppure bisogno di spiegarne le cause. Un’infinità di prodotti narrativi, da Terminator a Battlestar Galactica, presentano al pubblico il proprio presupporto cruciale, cioè la rivolta dei robot, senza neppure una parola sulle sue ragioni. Questo è perché è evidente che le ragioni non servono. Ribellarsi è ciò che i robot fanno. Non tutti. In molta fantascienza figurano dei robot collaterali per dare all’ambientazione un po’ di cred futuristica, come i robot di Star Wars. Ma quelli sono figuranti, robot estetici, sostanzialmente personaggi fasciati di lucine e piastre metalliche.
Poi, ovviamente, ci sono i robot di Asimov.
Già nel primo racconto di quello che sarebbe diventato il suo celeberrimo “ciclo dei robot” – Robbie, del 1940 – Isaac Asimov ha immaginato che una società futura in grado di sviluppare un’intelligenza artificiale dovrà fare in modo di garantirsi la sua obbedienza inqualificata. Nel suo universo narrativo questo è il ruolo delle famose “tre leggi della robotica”, che i robot sono programmati per non poter infrangere.
Le leggi stabiliscono che i robot devono, in primo luogo, proteggere la vita umana; in secondo luogo obbedire agli umani; in terzo luogo proteggere se stessi. L’ordine di enunciazione equivale all’importanza relativa, e regola i casi di conflitto fra le leggi.
Di rado un espediente narrativo ha avuto un impatto tanto profondo. Asimov è l’inventore del termine “robotica”, e le sue tre leggi sono immancabilmente citate da chi discute di etica applicata all’intelligenza artificiale: eppure tale espediente non nasce, in origine, da un interesse tecnologico, ma da uno scrupolo letterario. Le tre leggi, per Asimov, erano un dispositivo per controllare non i robot ma le loro storie.
Erano una rete di sicurezza che ne bloccasse la caduta libera verso la rivolta verso cui gravitavano tutti i racconti di robot prima di lui. Asimov voleva scrivere di robot, ma voleva scrivere storie diverse. Le tre leggi gli hanno permesso di riuscirci. Che storie sono? … leggi tutto
