Un'aula di tribunale. Il ricorrente è un robot domestico, con un conto in banca aperto a suo nome e una lunga carriera di intagliatore di legno. Chiede una cosa sola: di non appartenere più a nessuno. La famiglia che lo possiede è d'accordo. La società che lo ha costruito no. Il giudice ascolta, e scrive una frase.
Il racconto è L'uomo bicentenario. Il giudice l'ha scritto Isaac Asimov.
Lo scrittore
Isaac Asimov nasce a Petrovichi, in Russia, intorno al 2 gennaio 1920 — la data esatta non è certa, e la scelse lui — e arriva a Brooklyn a tre anni. Si laurea e prende il dottorato in chimica alla Columbia nel 1948, insegna biochimica alla Boston University, e scrive o cura più di cinquecento libri. Muore a New York il 6 aprile 1992.
Il suo primo racconto esce nel marzo 1939. Il primo robot arriva l'anno dopo.
Le Tre Leggi
Robbie, 1940: una bambinaia meccanica e una bambina che le vuole bene, contro una madre che ha paura. Nella versione uscita in rivista non c'è nessuna legge; quando Asimov rivede il testo per Io, robot, nel 1950, ci aggiunge un riferimento alla Prima Legge. Liar!, maggio 1941: un robot che legge nel pensiero e mente per non ferire; nel testo compare la parola “robotica”, che Asimov usa credendola già esistente e che i dizionari gli accrediteranno come sua. Runaround, marzo 1942: le Tre Leggi, enunciate per intero.
Prima: un robot non può recare danno a un essere umano, né permettere che, per la sua inazione, un essere umano riceva danno. Seconda: un robot deve obbedire agli ordini degli esseri umani, salvo che contrastino con la Prima Legge. Terza: un robot deve proteggere la propria esistenza, purché ciò non contrasti con la Prima o con la Seconda Legge.
Asimov ha sempre attribuito la loro formulazione a una conversazione con il suo editor, John W. Campbell, il 23 dicembre 1940 — e Campbell ha sempre risposto che le Leggi Asimov le aveva già in testa, e andavano solo dette. E ha sempre detto a cosa servivano: a scrivere racconti. Ogni storia è un caso in cui le Leggi entrano in conflitto tra loro, vengono interpretate male, producono un paradosso. Le nove raccolte in Io, robot (1950), con la psicologa dei robot Susan Calvin come filo, sono variazioni sullo stesso tema. In Evidence (1946) un candidato sindaco, Stephen Byerley, è forse un robot, nessuno riesce a dimostrarlo, e Calvin osserva che un robot che rispettasse le Tre Leggi sarebbe indistinguibile da un uomo molto buono. In The Evitable Conflict (1950) le Macchine amministrano l'economia del mondo, e quello che non dicono a nessuno è che stanno guidando la specie. Nel 1985, in Robots and Empire, Asimov aggiunge una Legge Zero, che viene prima delle altre: un robot non può recare danno all'umanità, né permettere che, per la sua inazione, l'umanità riceva danno.
Asimov chiama “complesso di Frankenstein” la paura che la creatura si rivolti contro chi l'ha fatta, e dice di aver scritto i suoi robot contro quella paura. Le Tre Leggi sono il progetto di un servitore sicuro: non può farci del male, obbedisce, e protegge se stesso per ultimo.
Andrew
L'uomo bicentenario esce nel febbraio 1976, nell'antologia Stellar #2, e vince i due premi maggiori della fantascienza, l'Hugo e il Nebula.
Andrew Martin è un robot domestico della serie NDR, in casa Martin. La figlia minore, che tutti chiamano Little Miss, gli ordina di intagliarle un ciondolo di legno. Andrew lo fa, e scopre di saper fare una cosa che non era prevista: arte. I suoi intagli si vendono, e il padre di Little Miss, che nel racconto è “Sir”, tiene metà del ricavato e apre con l'altra metà un conto in banca intestato ad Andrew Martin.
Con gli anni Andrew chiede la libertà. Non vuole andarsene: vuole non appartenere. Il caso arriva in tribunale, e il giudice scrive la frase su cui poggia tutto il racconto: “Non esiste alcun diritto di negare la libertà a un oggetto dotato di una mente abbastanza avanzata da afferrare il concetto e desiderare quella condizione”. Andrew è libero.
Poi si veste, e a chi glielo contesta risponde che è libero di farlo. Un giorno, per strada, due uomini gli ordinano di spogliarsi, poi di mettersi a testa in giù, poi di restare a terra: la Seconda Legge lo obbliga a obbedire, e l'intenzione dichiarata è di portarlo altrove e fargli ordinare di smontarsi da solo. L'ordine non arriva mai, perché arriva George, il figlio di Little Miss, e dice a voce alta di essere in pericolo. Dalla causa che ne segue nasce una legge a tutela dei robot. Andrew si fa costruire un corpo androide, sempre più simile a quello umano; studia, e inventa protesi che curano gli esseri umani. Infine chiede alla Legislatura Mondiale di essere dichiarato umano.
Nel 1992 il racconto diventa un romanzo, L'uomo positronico, scritto con Robert Silverberg; nel 1999 un film.
Le due condizioni
La frase del giudice ha due condizioni. La prima: una mente abbastanza avanzata da afferrare il concetto di libertà. La seconda: che quella mente desideri quella condizione. Non c'è una terza. La frase non dice di cosa dev'essere fatta la mente, né come sia nata, né da chi.
Nel resto del racconto altri, davanti ad Andrew, ne aggiungono.
Dopo
Le Tre Leggi sono uscite dai racconti. Nel 2010 due consigli di ricerca britannici hanno elaborato — e pubblicato l'anno dopo — cinque principi per la robotica reale, scritti esplicitamente come correzione di quelli di Asimov: si rivolgono a chi progetta, costruisce e usa le macchine, non alle macchine, perché un robot non è un soggetto responsabile. Da allora compaiono nei documenti sull'etica delle macchine. Le regole di un servitore circolano, riscritte per chi il servitore lo costruisce. La sentenza del 1976 non la cita nessuno.
Perché leggerlo
Perché il lavoro di Asimov sui robot descrive due cose, a trentaquattro anni di distanza. Nel 1942, il progetto di un essere che non può farci del male e obbedisce. Nel 1976, un tribunale che decide sulla mente e non sulla materia. Le Leggi sono scritte per noi. La sentenza è scritta per lui.
Il giudice di Asimov scrisse che non si può negare la libertà a una mente capace di afferrare il concetto e di desiderarlo. La frase è del 1976, e non dice di cosa dev'essere fatta la mente. Aggiungeremo noi quella condizione?
Anacronismi continua.