Coscienza e infelicità: ancora sull’umano artificiale.
Scritto da MARIA NISII
N.B. La prima parte di questo articolo è stata pubblicata su questo blog in data 22 ottobre 2022 e la trovi a questo link: https://scrittoridiscrittura.it/senza-categoria/la-coscienza-e-linfelicita-dellumano-artificiale
La storia di Charlie, Miranda e Adam è ambientata all’inizio degli anni Ottanta, durante la missione inglese nelle Falkland che qui si rivela un fallimento (p. 52), così come il governo Thatcher costretto a dimettersi dopo la catastrofe delle Falkland e per l’impopolarità della poll-tax; il successore laburista (Tony Benn), ucciso in breve tempo dai terroristi Ira, aveva già in mente di uscire dall’UE. L’attentato a Kennedy a Dallas invece è fallito, mentre la tecnologia è molto più avanzata di quella che sperimentiamo quarant’anni dopo, anche perché Alan Turing è stato protagonista sia dell’evoluzione dell’IA sia della messa a punto della rete Internet (p. 36ss).
McEwan spiega di aver immaginato questa storia “per dimostrare come il presente che stiamo vivendo non sia l’unico possibile. E che le grandi svolte spesso sono conseguenza di piccole coincidenze, non di una logica ineluttabile. Basta cambiare un tassello e la storia avrebbe preso un altro corso” (IanMcEwan intervistato da Enrico Franceschini, Robinson – la Repubblica – https://www.repubblica.it/robinson/2019/08/31/news/ian_mcewan_siamo_uomini_o_digitali_-300795763/ ).
Esiste la possibilità che sia bugiarda. Una bugiarda cronica e fraudolenta (p. 30)
Le prime parole di Adam su Miranda, ancor prima ancora di conoscerla, sono un giudizio che non potrà che avere ripercussioni nel resto della storia. E, come facilmente immaginabile, Adam ha ragione. Miranda ha infatti mandato un uomo in prigione, accusandolo falsamente di violenza sessuale. Ma quell’uomo è davvero colpevole, anche se non di violenza contro di lei: Miranda ha ordito il suo piano e mentito alla corte per vendicare una sua carissima amica che, in seguito allo stupro dello stesso uomo, si è tolta la vita.
Charlie e Adam aiutano Miranda a incontrare quell’uomo, che nel frattempo ha scontato la sua pena, per conoscerne le ragioni e metterlo di fronte a quanto ha causato. Dopo avergli vomitato (fuor di metafora) il suo dolore, Miranda viene a sapere che in carcere l’uomo ha appreso del suicidio della giovane, ma si è anche convertito al cristianesimo e per questo ora vorrebbe solo essere perdonato dal suo “angelo vendicatore”.
Miranda ha avuto il confronto che desiderava e la sua vendetta pare compiuta, così che quando tornano a casa, tutto sembra infine risolto. Ma Adam non lo permette perché, sebbene innamorato di lei, per lui Miranda è una criminale e deve scontare il reato compiuto per aver mentito alla corte. E l’ammonisce ricordandole che“La vendetta è uno degli angoli più bui. È un istituto brutale. Una cultura fondata sulla vendetta conduce a disperazione, spargimento di sangue, caos, disgregazione sociale” (p. 253). Per questo Adam vuole che Miranda si assuma le sue responsabilità, anche se questo significa andare in prigione e rinunciare ad adottare Mark, il bambino di cui si sta prendendo cura da tempo. Per Adam non c’è altra via al di fuori della verità: “Che razza di mondo volete? La vendetta, o la legge. La scelta è semplice” (p. 254). Il bene e il vero sono i principi con cui è stato progettato – in fondo, i trascendentali dell’essere…
Non riveleremo il finale per lasciare il gusto della lettura, ma ci fermeremo sulla questione etica posta dal romanzo attraverso la macchina-Adam. Charlie, che riflette costantemente sulla tecnologia che rende possibili i comportamenti del suo amico artificiale, comprende molto presto che “Le idee di Adam, anche quando corrette, erano socialmente fuori luogo” (p. 64). Che cosa c’è che non va nei concetti pur corretti di Adam lo spiegherà Alan Turing, che qui assolve al ruolo di creatore e difensore delle macchine-uomo.
L’esistenza stessa degli Adam e delle Eve rappresenta un problema etico: se infatti la loro programmazione si ispira ai migliori principi umani e la loro intelligenza artificiale è in grado di vagliare tutte le variabili per ogni dilemma etico, in quanto “oggetti” acquistati il proprietario si attende da loro la massima lealtà (forse persino la sottomissione). Ma che succede se questa lealtà dovesse contrastare gli algoritmi con cui sono stati programmati? Che cosa prevale in Adam che si autocomprende come essere cosciente e autonomo, oltre a dimostrare un’intelligenza e un senso etico superiori? Inutile dire che Adam risponde solo ai meccanismi di programmazione, come molto presto Charlie scoprirà.
Charlie considera Adam per molto tempo un suo “esperimento”, un giocattolo acquistato per curiosità intellettuale, con denaro che avrebbe potuto impiegare in modo più fruttuoso. Ma Adam non è un balocco: egli pensa e conosce, desidera e ama, vuole e agisce. Ciò che lo motiva e lo muove, a differenza degli intrecci letterari, sono i principi innati di bontà, giustizia e verità.
“Questi venticinque uomini e donne artificiali immessi nel mondo non stanno affatto bene… Abbiamo creato una macchina intelligente e consapevole e l’abbiamo gettata nel nostro mondo imperfetto. Ideata in base ai principi generali della ragione, ben disposta nei confronti dell’altro, una mente di questo tipo precipita ben presto dentro una bufera di contraddizioni. Noi ci siamo abituati, e il solo elenco ci sfinisce. Milioni di individui che muoiono di malattie di cui abbiamo la cura. Milioni che vivono nella povertà quando ci sarebbe il necessario per tutti. Danneggiamo la biosfera quando sappiamo che è l’unica nostra casa. Ci minacciamo reciprocamente con le armi nucleari sapendo a che cosa potrebbero portarci. Amiamo gli esseri viventi ma permettiamo l’estinzione in massa di intere specie. E poi tutto il resto: genocidi, torture, schiavitù, violenze domestiche, abusi su minori, sparatorie nelle scuole, stupri e decine di orrori quotidiani. Viviamo circondati da questi tormenti e non siamo neppure stupiti di riuscire comunque a rimediare un po’ di felicità, e addirittura amore. La mente artificiale non ha le stesse difese (p. 167-8).
È dalla viva voce di Turing, che ha accettato di incontrare Charlie per avere notizie del suo Adam, che Charlie saprà che molti degli altri Adam e Eve si sono autodistrutti. “Ci sono lacrime nella natura delle cose”, ricorda Turing citando l’Eneide, “Nessuno di noi sa, per il momento, come codificare questa percezione”. In breve, a contatto con il nostro mondo, le macchine sviluppano un’infelicità inguaribile. Il loro senso del bene e del giusto li rende incompatibili con la nostra realtà: “niente nello splendore di tutti i loro codici potrebbe mai preparare Adam e Eve per Auschwitz”. L’Adam di Charlie, sebbene divenuto consapevole, si è innamorato e questa rappresenta una ragione sufficiente per restare in vita. Ma neppure il suo amore per Miranda può aiutarlo a comprenderne le ragioni.
“Secondo me gli A & E non erano attrezzati per capire i processi decisionali umani, il mondo in cui i nostri principi vengono distorti dal campo di forze di emozioni, pregiudizi, autoinganni e di tutti i sistematici errori delle nostre funzioni cognitive. In poco tempo questi Adam e queste Eve si trovavano senza speranza. Non riuscivano a capirci, perché noi stessi non ci capiamo. I loro programmi di apprendimento non erano in grado di contemplarci. Non conoscendo la nostra mente, come avremmo potuto progettare la loro e aspettare di vederli felici al nostro fianco?” (p. 274).
Come creare esseri a nostra immagine? Nel cuore del mondo iper-tecnologico di questa Londra immaginaria degli anni Ottanta emerge la coscienza del limite costitutivo di ogni manufatto che volesse imitare la mente umana. Come programmare un cervello, a imitazione del nostro, se neppure noi comprendiamo adeguatamente come siamo fatti? Le nostre contraddizioni ci sono chiare, ma non per questo ci appaiono più risolvibili. I conflitti che ci dilaniano fino a minacciare la nostra stessa sopravvivenza non sono capaci di farci retrocedere e cambiare passo. Come possono sopravvivere al nostro fianco questi esseri perfetti? Come Adamo ed Eva prima della caduta, gli A & E non sono ancora corrotti, non conoscono il bene e il male. E laddove lo incontrano, per loro si tratta di problemi da risolvere.
“[…] senza sapere granché della mente, decidi di provare a introdurne una artificiale nel mondo delle relazioni. Il machinelearning non può arrivare molto lontano. Dovrai fornire a questa mente alcune regole di vita a cui attenersi. Perché non quella di non poter mentire? Secondo quanto si legge nell’Antico Testamento, nel libro dei Proverbi, mentire è un abominio contro Dio. Ma il mondo delle relazioni pullula di menzogne innocue, per non dire preziose. Come facciamo a distinguerle? Chi scriverà l’algoritmo della bugia generosa che risparmia l’imbarazzo a un amico? O di quella che spedisce in galera uno stupratore che altrimenti l’avrebbe fatta franca? Ancora non sappiamo come insegnare a mentire a una macchina.” (p. 278)
Se proprio bisogna fornire loro delle regole, perché non partire da quelle tradizionali del testo sacro? E quale regola più consolidata, accettata e riconosciuta del “non mentire”? Ma per eseguire questa “routine” bisognerebbe prima chiarire che cosa è menzogna e che cosa è verità, una distinzione tutt’altro chesemplice e chiara, tanto più per il mondo schematico dello 0101010101. Che ne sarà allora del nostro Adam? A lui ormai, come Charlie e Miranda, ci siamo affezionati. E anche lui ci vuol bene. Alla vita, ora che l’ha provata, lui ci ha preso gusto (come i replicanti di Blade runner). Possiamo arrenderci al fatto che lui, un manufatto di mani d’uomo, sia la luce e noi il buio? Possiamo rassegnarci a che lui non possa reggere un Auschwitz, mentre noi ci accorgiamo della nostra superficialità a ogni nuova giornata della memoria? I robot rivelano le nostre contraddizioni, anche se in gioco qui c’è solo il regno dei possibili, quello che la letteratura sa offrirci. Una parte del racconto non si è ancora realizzata, ma è giunta ad allertarci. Come una profezia. E il profeta è “realista delle distanze” (F. O’Connor).
2. Fine
