LA PARTE MIGLIORE DI NOI: I ROBOT! (E LA PAURA CHE CI SOMIGLINO TROPPO)

imagesasimovMICHELANGELO DE BONIS

Premessa

Questo articolo l’ho riscritto molte volte sia nella mia mente sia sulla tastiera del mio computer. Questa è la forma definitiva al momento della consegna, ma se avessi avuto altro tempo sicuramente oggi leggeremmo un pezzo del tutto diverso, come diversi sono quelli ormai cestinati. Come mai questa revisione continua? Perché nel parlare di automi mi sento come un bambino dentro una metropoli. Sono affascinato dalle possibili soluzioni e strade che potrei prendere e ne comprendo anche la lunghezza e la difficoltà nel seguire certe strade piuttosto che altre. Strade diverse portano a mondi diversi. A scoprire opere architettoniche e pezzi di vissuto totalmente differenti ma anche intrecciati con tutti gli altri.

Quello che leggiamo oggi è un mondo che scaturisce dall’aver seguito un itinerario: chiedo scusa a tutti quei mondi che avrebbero potuto veder la luce e che avrebbero potuto farci riflettere con altri punti di vista. Per il momento sono ancora nascosti nei meandri di strade non percorse. Magari un giorno cambierò direzione e avranno la possibilità di mostrarsi più maturi e splendenti.

Autómatos: ‘che si muove da sé’

“[Efesto] si moveva grondante di sudore intorno ai mantici, tutto affaccendato. Voleva fare dei tripodi, venti in tutto, da mettere lungo la parete, in giro, della sala grande di Zeus, di solida struttura. Aveva applicato, di sotto, al fondo di ciascuno, delle ruote d’oro. Così da soli potevano recarsi in mezzo all’adunanza degli dei, e poi far ritorno di nuovo a casa: una meraviglia a vedersi!” (Iliade, Libro XVIII)

Già nei miti dell’antica Grecia c’è traccia di questa “meraviglia a vedersi”: oggetti che si muovono da soli e che servono il dio Efesto nei suoi lavori. C’è però una classe ben specifica di automi che risultano essere simili a questi anche se totalmente differenti, sono degli oggetti che si muovono da sé ma che svolgono compiti di una tale complessità che solamente gli essere umani potrebbero svolgere.

Da dove viene l’idea di un oggetto artificiale, che somigli in qualche modo nelle fattezze all’uomo stesso, che possa avere una mente per comprendere delle istruzioni e poter eseguire compiti che di solito sono definiti complessi ad appannaggio degli esseri umani?

Strano a dirsi anche questo viene da lontano. Ritroviamo questo oggetto artificiale proprio nella fucina di Efesto ancora raccontato nell’Iliade di Omero.

“Premurose accorrevano attorno al loro padrone ancelle d’oro, simili a giovinette vive. Esse avevano intelligenza, voce e forza: erano esperte nei lavori delle dee immortali. E allora si affaccendavano pronte ai cenni del loro signore.” (Iliade, Libro XVIII)

Le aiutanti di Efesto sono “simili” a giovinette vive, sanno muoversi, tessere, filare e fare tutto ciò che era compito delle dee immortali.

C’è una categoria di automa che nei pensieri dell’uomo va al di là del semplice muoversi da sé. Si muovono, ma hanno anche abilità e “avevano intelligenza”.

Questo genere di automa è a servizio di un dio. Sembra quasi naturale, che il suo ruolo di essere vivo ed intelligente venga da una sorta di potere divino instillato al loro interno.

Cosa succede se il potere della conoscenza si trasmette dal divino agli uomini?

Gli uomini del passato hanno avuto molto da riflettere su questa domanda. Ed erano spaventati da un pensiero latente: e se l’uomo non fosse stato in grado di “governare” questa tecnologia?

La mitologia greca ci rappresenta tale paura con il mito di Prometeo. Il titano compie un atto di condivisione della conoscenza, disobbedendo Zeus che aveva vietato di dare all’uomo il “fuoco” e regalando all’uomo la tecnologia. Per questo suo atto venne punito pesantemente. Zeus lo incatena, nudo, in una zona esposta alle intemperie, e gli conficca una colonna nel corpo. Infine gli invia periodicamente un’aquila per squarciargli il petto e dilaniargli il fegato, che gli ricresceva durante la notte, giurando di non staccare mai Prometeo dalla roccia.

Un altro racconto che descrive le paure per l’accesso alla conoscenza del bene e del male è il racconto biblico di Adamo ed Eva. Qui Dio vieta esplicitamente di mangiare il frutto dell’albero della conoscenza e quando l’uomo disobbedisce, mangiandone, viene cacciato dal Paradiso per vivere nella terra.

Costruiti a immagine e somiglianza: la paura che il mostro siamo noi

C’è un sentimento di paura della conoscenza che non è solo patrimonio degli antichi. Facendo un salto temporale di diverse centinaia di anni, un racconto di fantascienza (oggi li chiamiamo così) del 1818 Frankenstein, scritto da Mary Shelley, descrive come uno scienziato, anatomista, Victor Frankenstein, cucendo insieme parti umane di diversi cadaveri riesce a infondervi la vita attraverso una non ben nota scoperta scientifica. Che anche in questo racconto la tecnologia, la ricerca scientifica, la conoscenza non siano visti in modo positivo è palese già dal nome assegnato all’essere il “Mostro” .

Dopo questo racconto il tema dell’automa nella fantascienza ha sempre preso una piega per lo più negativa: il Mostro è la personificazione di tutto ciò che l’uomo non dovrebbe fare attraverso la tecnologia ed invece si accinge a fare. La conoscenza è il mezzo per elevarsi dalla condizione umana a quella divina. Gli esempi che ho proposto mostrano però anche come l’uomo si chieda se non sia la strada sbagliata, se il lavoro delle proprie mani sia sufficiente a rendere l’uomo migliore, e con esso l’umanità stessa, e non ci sia invece bisogno dell’aiuto e della salvezza che viene dall’alto.

Un ultimo tassello del puzzle. L’uomo può con la tecnologia generare un effetto di distruzione così come raccontato dal libro del 1920 R.U.R. Rossum Universal Robots del cecoslovacco Capek. Un libro che segna la svolta già nel suo titolo. Questi essere automi – che discendono da quelli “simili a giovinette vive” aiutanti del dio Efesto – vengono chiamati per la prima volta Robot, ché in ceco “robota” significa appunto “schiavo”. Questi esseri automatici, con vita infusa da qualche tecnologia, svolgono mansioni tipiche degli umani e “si affaccendavano pronte ai cenni del loro signore”, sono appunto schiavi, sin tanto che non si ribellano ai loro creatori, distruggendo l’intera umanità.

La tematizzazione negativa del robot all’interno della fantascienza è stata fortunatamente rivista e corretta da uno dei più grandi scrittori di fantascienza del ‘900. Isaac Asimov, uno scrittore che è riuscito a rendere vicino le cose lontane e presenti le cose assenti, si rese conto che noi esseri umani potevamo non soffrire del complesso di Frankenstein, cioè che la tecnologia sia sempre e comunque negativa perché abbiamo paura di noi stessi e timore che ci possa sfuggire di mani. Per superare questo complesso c’è bisogno di uno sforzo maggiore e di un impegno collettivo nei quali trovare le soluzioni adeguate ai pericoli e porre rimedio alle difficoltà e agli errori. La conoscenza e la possibilità di migliorare deve superare l’idea che l’uomo non debba usare la propria ragione per mezzo della tecnologia.

In fondo l’etimologia del nome Prometeo è piuttosto semplice e si compone del verbo medomai (pensare) preceduto dal prefisso pro- (davanti, prima), con il significato di colui che pensa prima, previdente. Se questo titano ha ceduto l’uso del fuoco e della tecnologia all’uomo lo ha fatto coscientemente e pensando in modo previdente.

Costruiti a immagine e somiglianza: diventare migliori si può

Ad Asimov si deve la formulazione di regole che dovrebbero tutelarci dalla realizzazione dell’incubo del complesso di Frankenstein. Le “Tre Leggi della Robotica” affermano che:

  1. Un robot non può recar danno agli esseri umani né può permettere che, a causa del suo mancato intervento, gli esseri umani ricevano danno.
  2. Un robot deve obbedire agli ordini impartiti dagli esseri umani tranne nel caso che tali ordini siano in contrasto con la Prima Legge.
  3. Un robot deve salvaguardare la propria esistenza, purché ciò non sia in contrasto con la Prima o la Seconda Legge.

Queste Tre Leggi Fondamentali della Robotica sono inscritte all’interno del loro cervello, il cervello positronico. Una serie di racconti bellissimi raccolti in Io, Robot ne illustrano alcune delle applicazioni e paradossi. Sono racconti visionari che hanno ispirato tutti quei suoi appassionati lettori che poi sono diventati ingegneri.

E se qualcosa va storto? c’è sempre qualcosa che può andare storto. Nell’uso quotidiano di computer e dispositivi elettronici a tutti è capitato di avere un blocco o un software che non funzioni come deve. La risposta e le soluzioni di Asimov sono semplici e geniali, proprio perché mettono l’uomo, la ragione e la competenza tecnologica al centro della narrazione e della progettazione. I robot sono macchine, sofisticate, accurate, ma pur sempre macchine. Se si incontra un difetto, un problema imprevisto, si lavora insieme per superare il difetto, creare nuovi modelli più affidabili ed usare l’esperienza negativa per crescere.

Nel racconto “Bugiardo!” c’è un robot che per un difetto di produzione riesce a leggere nella mente delle persone:

 “Lei si voltò verso di loro e disse con sarcasmo: ― Conoscete la Prima Legge della Robotica, no? È di fondamentale importanza.

I due uomini annuirono contemporaneamente. ― Certo ― disse Bogert, irritato. ― Un robot non può recar danno agli esseri umani, né può permettere che, a causa del suo mancato intervento, gli esseri umani ricevano danno.

― Che accuratezza ― lo prese in giro la Calvin. ― Ma che tipo di danno?

― Be’, qualsiasi danno.

― Esatto, qualsiasi danno. Ferire i sentimenti di una persona, ridimensionare il suo orgoglio, infrangere le sue speranze… questi non sono forse danni?”

Così nella storia il robot per non ferire moralmente un essere umano e disobbedire alla prima legge universale della robotica dice bugie, ciò che gli essere umani vorrebbero sentirsi dire.

Per quanto siano macchine noi non riusciamo a sottrarci al meccanismo della nominazione, che è un meccanismo che ci rende le macchine familiari. Dare un nome vuol dire anche poter rendere l’altro una parte essenziale del nostro mondo, perché proprio attraverso il nome si rende l’altro reale. Asimov per scelta stilistica e visione strategica punta molto sui nomi: RG-32 diventa Archie, MIK-27 è Mike, QT-1 Cutie RB-34 Herbie (il famoso bugiardo), e così via. Chiaramente il robot e la sua integrazione sociale cambiano radicalmente cambiandogli nome, poiché diventa appunto prossimo all’umano.

Costruiti a immagine e somiglianza: l’eredità dell’umano attraverso la robotica

Oggi viviamo tutti un’integrazione robotica a svariati livelli. Non è difficile trovare nelle nostre case piccoli automi che puliscono il pavimento, oltre che automi che lavano le stoviglie, robot da cucina che preparano in modo più o meno autonomo pietanze, dispositivi che con comandi vocali accendono, spengono la lavatrice: ah già, un automa che lava biancheria in automatico. Non è solo robotica “casalinga”. Fiorente è la robotica in campo automobilistico. Di serie in molte autovetture sono cambio automatico, rilevamento automatico dei limiti di velocità, sistema di avviso e correzione superamento in carreggiata, sistema anticollisione frontale, cruise control, frenata di emergenza, sensori di parcheggio, parcheggio assistito, sistema di rilevamento stanchezza del conducente. Sono sempre più una realtà le auto a guida autonoma.

Siamo nel pieno di una rivoluzione culturale e sociale: molto adesso dipende da noi e non più (o non solo) dagli scrittori di fantascienza. Abbiamo la possibilità di poter creare una società con le regole e la gestione dei robot che si integrano completamente con il nostro modo di vivere. Questo è un processo che non si costruisce semplicemente con la passione e le competenze del singolo ma deve essere attivamente diffuso a partire dalla scuola, per non cedere al complesso di Frankenstein.

Ho recentemente concluso l’esperienza stupenda di un corso a bambini di quarta elementare sulla robotica educativa, un metodo di insegnamento delle discipline scientifiche e tecnologiche come informatica, meccanica, fisica, elementi di elettronica e anche elementi di psicologia comportamentale. Il lavoro insieme a questi bambini è stato stimolo creativo per apprendere le grammatiche e i linguaggi del cambiamento in corso, affinché loro stessi siano vettori e portatori sani di rivoluzione sociale e non semplici fruitori.

E allora perché studi recentissimi mostrano come i più pessimisti e scettici nell’uso e nelle prospettive di uso sanitario, industriale, sociale, educativo, siano proprio i giovani rispetto agli anziani? Io credo che non abbiamo ancora superato il complesso di Frankenstein. Per affrontare radicalmente questo complesso irrazionale occorrono un nuovo umanesimo e un nuovo illuminismo, che ci permettano di affrontare, superandoli, paure o complessi. Un approccio dove la fiducia nella ragione e nella nostra capacità di risolvere problemi siano alla base delle possibili sfide che ci troveremo inevitabilmente ad affrontare. Non sappiamo Prometeo cosa vide in noi per godere della sua attenzione, non sappiamo e non prevediamo il futuro, ma possiamo essere coscienti della responsabilità e del privilegio che il dono di Prometeo ci consegna. Asimov in Visioni di Robot interpreta così la responsabilità di questo privilegio:

“Se gli esseri umani erano morti per colpa del loro odio e della loro stupidità, perlomeno avevano lasciato un successore degno; un essere intelligente che aveva dato valore al passato, lo aveva conservato e si era spinto nel futuro, facendo del suo meglio per soddisfare le aspirazioni dell’umanità costruendo un mondo migliore e viaggiando nello spazio in maniera più efficiente di quanto avremmo fatto noi “veri” esseri umani.

Quanti esseri intelligenti nell’universo si erano estinti senza lasciare successori? Forse eravamo i primi a lasciare una tale eredità.”

 

ENDOXA - BIMESTRALE Informatica STORIA DELLE IDEE

2 Comments Lascia un commento

  1. Sia benedetto Asimov e le tre regole! Complimenti a Michelangelo per l’ottimo nesso con l’Iliade!
    Con l’augurio di Bypassare il complesso di Frankenstein al presto, aspetto nuovi articoli!!

    "Mi piace"

  2. Appassionato come sempre! Colpa nostra se i giovani mostrano poca fiducia nelle potenzialità della robotica?! Probabilmente non vedono in noi testimoni ‘illuminati’ e fiduciosi.
    Per questo il tuo ottimismo e la tua visione sono da esempio per vivere e leggere nel modo giusto la rivoluzione tecnologica che ci ingloba tutti.
    Grazie e al prossimo articolo.

    "Mi piace"

Rispondi

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo di WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione /  Modifica )

Google photo

Stai commentando usando il tuo account Google. Chiudi sessione /  Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione /  Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione /  Modifica )

Connessione a %s...

%d blogger hanno fatto clic su Mi Piace per questo: