Oggi, al festival Cronobie, ho avuto il piacere di ascoltare Giuseppe O. Longo (per cosa stia la O. non l’ho mai capito), scienziato e studioso di “scenari” in cui – un po’ come gli autori di fantascienza – dando forma a futuri possibili indaga il nostro rapporto attuale e futuribile con la tecnica e con noi stessi. Perchè il modo in cui vediamo le macchine (che sono altro da noi, sono le nostre creature, sono la materializzazione del nostro intelletto ed altro ancora) dice molto del modo in cui vediamo noi stessi, e del modo in cui intendiamo gestire il nostro futuro.

In particolare, un aspetto che mi colpì delle riflessioni di Longo quando lessi il suo Homo technologicus, è l’attenzione – certo non unica ma per lo meno rara –  per i diritti di questi altri che sono le macchine, per i doveri che abbiamo o avremmo noi nei loro confronti. Il dovere di Frankenstein verso la sua creatura, se vogliamo; il rifiuto del quale è fra l’altro all’origine di tutte le disgrazie che sappiamo.

Insomma, se creiamo una machina in grado di soffrire, di desiderare, di pensare, avremo delle responsabilità nei suoi confronti, no? Perchè dovremmo creare qualcosa del genere, un nuovo essere dolente? E una volta creato, non saremo noi responsabili del suo dolore? Della sua sofferenza, nel caso che le avessimo instillato un desiderio che – per natura o fatalità – non può soddisfare?

Ho sempre trovato questo pensiero molto suggestivo, e senza dubbio degno di essere considerato. Credo che la roboetica abbia effettivamente un suo perchè, anche se è possibile che non ci serva mai (perchè è possibile che mai avremo automi pensanti e desideranti)… ma nel caso un giorno ci trovassimo ad averli, sarà bene averci fatto una pensata per tempo.

 Oggi però mi sono chiesta un’altra cosa. Mi sono chiesta: ma come facciamo noi a sapere che soffre? Quando si tratta di un essere umano, noi comprendiamo i sentimenti altrui sulla base essenzialmente di due elementi: i sintomi, ovvero il modo in cui si comporta, le sue esternazioni, le parole usate, sono simili a fenomeni che conosciamo anche in noi stessi, e li conosciamo legati ad alcune particolari sensazioni. Se a questo aggiungiamo la consapevolezza che si tratta di un nostro simile, e che quindi presupponiamo che “funzioni” in modo simile a noi, ecco che capiamo i suoi sentimenti, che proviamo compassione, per quanto ci sia in realtà impossibile comprendere e provare realmente le stesse sue sensazioni.

Nel caso di una macchina ci sono modi precisi in cui noi riusciamo a farle emulare alcuni comportamenti particolari, come i desideri – che secondo molte interpretazioni sono alla base del dolore. Programmiamo l’automa per ricercare una certa condizione, ad esempio la luce, e gli facciamo, ad esempio, emettere un suono e muoversi incessantemente se non la trova. Questo simula piuttosto bene il desiderio, e la ricerca di una soddisfazione.

Ma lo simula o lo è?

Non dimentichiamo poi che non solo questo comportamento è programmato deliberatamente per simulare il desiderio, ma anche noi in quanto spettatori siamo portati a interpretarlo come tale, perchè tendiamo a proiettare sugli oggetti esterni le categorie che ci riguardano.

Quante volte, ad esempio, ci è capitato di dire che il computer “s’incazza” o “si lamenta” se non rispettiamo una certa procedura? Evidentemente è il nostro modo di interpretare e renderci familiari i meccanismi di funzionamento del pc, ma nessuno di noi crede seriamente che la macchina abbia provato un qualche sentimento.Se però un comportamento come quello sopra descritto è applicato a qualcosa di minimamente somigliante a un essere vivente, in particolare se dotato di voce, ecco che molto più facilmente non dico che crediamo che soffra, ma magari ci urta sentirlo, perchè tende a commuoverci: ci stimola a pensare che soffra. Ci stimola compassione.

Ecco, ora mi chiedo: come faremo a capire quando le nostre macchine penseranno, ameranno e soffriranno? Come potremo essere sicuri che non ne stanno solo mostrando i sintomi, che noi abbiamo ben studiato e ricreato?

Credits: L’immagine è la copertina di Parasite dolls, un anime dove andreidi create per essere schiave sembrano ribellarsi, ed una di loro sembra pensare, amare e soffrire.