La coscienza (e l’infelicità) dell’umano artificiale

22 Ottobre 2022Lorenzo Cuffini

Scritto da MARIA NISII.

“L’Eterno odia queste sei cose, anzi sette sono per lui un abominio: gli occhi alteri, la lingua bugiarda, le mani che versano sangue innocente, il cuore che concepisce progetti malvagi, i piedi che sono veloci nel correre al male, il falso testimone che proferisce menzogne e chi semina discordie tra fratelli.” (Proverbi 6.16-19).

Il presente è la più fragile tra le strutture improbabili. Poteva essere diverso. In qualunque sua parte, come nel suo complesso, poteva costituirsi altrimenti. Il che vale per i massimi sistemi e per le piccolissime cose. È molto facile immaginare un mondo in cui l’unghia del mio alluce non avesse deciso di farmi la guerra; un mondo in cui avrei potuto essere ricco e abitare a nord del Tamigi grazie al successo finanziario di un mio investimento; un mondo in cui Shakespeare fosse morto bambino senza che nessuno ne sentisse la mancanza o in cui gli Stati Uniti avessero preso la decisione di sganciare su una città giapponese l’ordigno atomico di cui avevano verificato la perfetta efficacia; in cui la task force delle Falkland non fosse mai salpata, o fosse tornata vittoriosa e perciò adesso il paese non fosse in lutto… (Ian McEwan, Macchine come me, p.61-2)

Nel regno delle possibilità che è la letteratura (corrispondente all’if dell’informatica), Alan Turing non è morto suicida ma ha contribuito alla nascita di creature artificiali vendute “come articolo da compagnia, sparring partner intellettuale, amico e factotum in grado di lavare i piatti, fare i letti e ‘pensare’” (p. 5). Si tratta di umani artificiali estremamente realistici per aspetto fisico, espressioni facciali, movimenti; dotati inoltre di pelle tiepida al tatto, pulsazioni regolari nella zona sinistra del petto e una vita emotiva (comprensiva di bisogni sessuali). Pur trattandosi di simulazioni, la loro perfezione è tale da ingannare fin troppo facilmente. Infine, come un cordone ombelicale, dall’addome esce un cavo elettrico necessario all’alimentazione e, appena caricati, un singhiozzo ne annuncia la prima boccata d’aria.

(Alan Turing, interpretato da Benedict Cumberbatch in Imitation game di Morten Tyldum del 2014)

Tra i primi esemplari messi in circolazione (12 Adam e 13 Eve), un Adam viene acquistato da Charlie Friend, trentenne appassionato di elettronica e intelligenza artificiale che, sulla scia di una lunga tradizione ( https://scrittoridiscrittura.it/senza-categoria/molta-sapienza-molto-affanno – in Macchine come me si cita infatti Mery Shelley) racconta di aver sacrificato il denaro dell’eredità di sua madre “ sull’altare della curiosità, quell’intramontabile motore della scienza, della vita intellettuale, della vita e basta” (p. 14). Charlie decide di condividere Adam con Miranda, vicina di casa di cui è innamorato, chiedendole aiuto nella selezione degli elementi caratteriali come richiesto dal manuale di istruzione. Entrambi si aspettano di avere con loro un ospite fisso, ma anche una creatura su cui proiettano desideri e ambizioni come fosse un figlio, quasi creando una sorta di famiglia.

Al suo primo risveglio Adam si mostra subito dotato di personalità e acume. Per prima cosa si accorge di essere nudo (ha già perduto l’innocenza!?) e chiede dei vestiti: accetterà solo inizialmente quelli sportivi di Charlie e più avanti acquisterà a suo gusto un completo che meglio si adatta alla propria percezione di sé. Nei primi tempi Charlie sente ogni tanto il bisogno di “spegnere” Adam: la prima volta il robot tenta una debole ribellione (“non mi sembra una buona idea… Ero qui tranquillo a pensare. Riflettevo sulla religione e sul concetto di aldilà”, p. 34), la seconda volta però si accorge dell’intenzione di Charlie e gli afferra il polso con tale forza da causargli una brutta frattura. Di questo si scuserà con dolcezza ma anche con fermezza: “non voglio che tu o Miranda mi tocchiate mai più in quel punto” (p. 113). Non ci sarà una terza volta, in quanto Adam li avvisa di aver disattivato il pulsante: si percepisce come un io cosciente e vanta il diritto a una vita vigile. Quando verrà a saperlo l’ingegnere della casa di produzione di Adam dirà: “Si tratta di macchine ad apprendimento automatico e ci eravamo accordati che, se lo avessero voluto, sarebbero stati liberi di affermare la propria dignità” (p. 178).

https://scrittoridiscrittura.it/senza-categoria/playing-god-la-nascita-di-eva

Una delle apprensioni è che si riveli uno shock e un affronto vivere in compagnia di soggetti più intelligenti di voi stessi (p. 138).

Adam “impara” a interagire con altri che non siano Charlie e Miranda, a cui non viene esplicitata la sua diversa natura. E se all’inizio sembra rallentato o entrare in modalità stand-by quando non viene richiesto il suo intervento, col tempo partecipa alle discussioni senza attendere di essere interrogato. Di notte quando si mette sotto carica o in tutti i momenti di pausa, Adam legge con avidità acquisendo conoscenze di gran lunga superiori ai suoi amici. Della letteratura però, in quanto specchio di complessità e contraddizioni della vita e dell’essere umano, gli risulta inaccettabile il motore conflittuale dal quale dipana i suoi intrecci. Arriverà un tempo, sostiene Adam, in cui l’umanità sarà integrata alle macchine (come lui), e si porrà fine a tutto questo, mettendo fine di conseguenza anche a questo tipo di narrazioni:

Quasi tutto ciò che ho letto della letteratura mondiale descrive variabili di fallimenti umani, a livello di comprensione, di logica, di buonsenso e di adeguata solidarietà. Mancanze di cognizione, onestà, cortesia, consapevolezza; strepitose raffigurazioni di violenza, ferocia, egoismo, stupidità, paranoia e, soprattutto, di profonda incomprensione degli altri. C’è spazio anche per la bontà, questo è vero, e per l’eroismo, la grazia, la saggezza, la verità. È dal fertile groviglio di questa matassa che si dipanano le diverse tradizioni letterarie, come le piante selvatiche nella famosa siepe di Darwin. I romanzi si sviluppano utilizzando tensione, inganni, violenza, ma anche momenti d’amore e perfette risoluzioni formali. Ma quando il connubio tra uomini, donne e macchine sarà completo, questo genere di letteratura diventerà obsoleto perché allora ci comprenderemo troppo bene. Abiteremo una comunità di intelligenze a cui avremo accesso immediato […] Arrivando a poter dimorare nella mente gli uni degli altri, perderemo la capacità di mentire. I nostri racconti cesseranno di essere interminabili cronache di malintesi. La letteratura perderà la propria malsana fonte di malintesi (p. 139-40).

A differenza degli altri umanoidi messi in circolazione, Adam si innamora (di Miranda) e Charlie all’inizio si sente seriamente in competizione con lui. “Non posso cambiare i miei sentimenti. Quelli me li devi consentire” (p. 109), risponde Adam alle rimostranze di Charlie, “Ho sentimenti profondi. Più di quanto sia in grado di esprimere”. E quando Charlie lo guarda incredulo, lui gli dice: “Non mi offendere, ti prego” (p. 111), per poi aggiungere: “Come diceva Schopenhauer a proposito del libero arbitrio, possiamo scegliere tutto ciò che desideriamo, ma non siamo liberi di scegliere che cosa desiderare” (p. 112).