INTELLIGENZA ARTIFICIALE. LA VALLE INQUIETANTE


Alcune settimane fa una mano robotica è riuscita a risolvere l’enigma del cubo di Rubik, il rompicapo in cui occorre fare sì che ogni faccia, divisa in nove parti di diversi colori, mostri un unico colore.

.

Per gli esseri umani, la difficoltà risiede nel ragionamento che permette di posizionare le parti di un colore su una sola faccia. Per la macchina la difficoltà è riuscire a manipolare l’oggetto; in questo sta l’Intelligenza Artificiale, una tecnologia che trascende, oltrepassa il mondo digitale, un vero e proprio nuovo universo destinato a superare per importanza Internet. L’intelligenza artificiale sarà a breve “disruptiva”, come si dice adesso, ovvero dirompente, un’enorme scarica elettrica capace di cambiare la società e noi stessi.

Ci stiamo lentamente abituando all’acronimo che la definisce (A.I), penetrerà sempre più profondamente nelle nostre vite, ma ne sappiamo troppo poco. Non siamo preparati ad affrontare gli effetti dell’intelligenza artificiale, il dibattito è insufficiente o parziale. L’approccio tecnoscientifico enfatizza le opportunità pratiche, l’economia è interessata a sfruttare le potenzialità della robotica, la sociologia comincia a indagare le conseguenze sulla vita sociale, la psicologia cerca di cogliere i nessi con i meccanismi della mente umana e indovinare le modifiche che produrrà nei nostri comportamenti; la politica tace. E’ in ritardo anche la bioetica, per non parlare della morale e della filosofia.

I mutamenti che avanzano a passo di carica sono troppo profondi per lasciarsi interpretare dal pensiero strumentale, dalla finta neutralità della tecnologia, dall’entusiasmo scientifico e dalla meraviglia per le infinite applicazioni pratiche dell’intelligenza artificiale. Per questo serve una riflessione su scoperte che entro pochi anni ridefiniranno profondamente il rapporto con le cose, il lavoro, la realtà faticosamente costruito dall’uomo in millenni. Un ‘unico esempio pratico: l’irruzione dei robot nel mondo dell’industria ha provocato il tramonto del modello fordista e l’avanzata del metodo Toyota, più snello, flessibile, largamente automatizzato. La scoperta e lo sfruttamento dei nanomateriali (l’infinitamente piccolo), i progressi costanti della cibernetica e le tecniche informatiche più sofisticate sostituiranno l’uomo con robot in una serie di attività che cancelleranno entro un decennio circa la metà dei posti di lavoro.

Uno scenario apparentemente distopico, difficilissimo da padroneggiare con la sola ragione tecnica ed economica. Per di più, i mestieri che verranno affidati ai robot non saranno quelli semplici, amministrativi, ripetitivi o di fatica, ma professioni cognitive complesse, saperi specializzati quali la medicina, l’alta burocrazia, l’ingegneria, il diritto e molte altre. Una rivoluzione da valutare sotto molteplici punti di vista, da indicare come problema centrale alle classi dirigenti, in particolare ai politici, per evitare conseguenze sociali drammatiche. 

E’ il tempo in cui si avvera la profezia di Gunther Anders nel saggio L’uomo è antiquato. Il pensatore tedesco segnalava già mezzo secolo fa il “deficit prometeico” dell’uomo rispetto alla macchina, la sua disperante inadeguatezza di prestazione. Si allarga il deficit cognitivo tra noi e gli apparati tecnici, in grado di eseguire meglio dell’uomo una lunga serie di operazioni. L’intelligenza artificiale è alimentata dalla cibernetica, il ramo della scienza che si prefigge la realizzazione di dispositivi e macchine capaci di simulare le funzioni del cervello umano, autoregolandosi per mezzo di segnali di comando e controllo in circuiti elettrici ed elettronici o in sistemi meccanici. La fase ulteriore, non troppo lontana, è quella in cui l’A.I. riuscirà a produrre non solo atti, ma emozioni, empatia, comportamenti finora considerati patrimonio umano. Uncanny valley, la valle inquietante è l’ipotesi dello studioso giapponese di robotica Masahiro Mori, secondo cui automi e robot antropomorfi possono generare nell’essere umano sensazioni spiacevoli, reazioni emotive, repulsione, straniamento, inquietudini paragonabili all’unheimlich (il perturbante) teorizzato da Sigmund Freud, l’estraneità che genera angoscia.

Questo è il punto critico, la curvatura etica, antropologica e forse ontologica che rende l’A.I. un fenomeno del tutto nuovo, da studiare a livello multidisciplinare, maneggiare con cura, sottoporre al tribunale della morale, della politica, dell’umanesimo. Lontani da entusiasmi ingenui, immuni dall’indifferenza di tanta parte dell’umanità che si lascia vivere, spettatrice passiva, consumatrice assopita, disinteressata alle conseguenze di ciò che guarda senza vedere, utilizza senza comprendere, altrettanto alieni da paure irrazionali, chiusure passatiste, nostalgie di arcadie mai esistite, cerchiamo di orientarci nel territorio in gran parte inesplorato dell’intelligenza artificiale.
Homo sum; humani nihil a me alienum puto è il celebre verso di Terenzio nell’Heautontimorùmenos, Il punitore di se stesso. Sono un uomo: nulla che sia umano mi è estraneo. Ci sembra questo il giusto approccio ai fenomeni che osserviamo. Una domanda, nella valle inquietante, tuttavia si impone: siamo ancora nella dimensione dell’umano, o siamo transitati altrove, nel territorio scivoloso del transumanesimo? Non è possibile alcuna risposta prima di avere definito i concetti. Che cos’ è l’intelligenza artificiale, qual è il significato, in termini umani, di intelligenza?

Tecnicamente, l’A.I. è un ramo dell’informatica che si prefigge la programmazione e progettazione di sistemi complessi destinati a dotare le macchine di caratteristiche “umane”, le percezioni visive, spazio-temporali e decisionali e, in un futuro non troppo lontano, qualcosa di simile ai sentimenti. Si oltrepassa la nozione di intelligenza come facoltà di conoscere, elaborare, processare dati astratti, per penetrare in una foresta inesplorata. Secondo la teoria di Howard Gardner esistono diverse intelligenze umane: quella linguistica e quella logico-matematica, l’intelligenza spaziale, sociale, introspettiva, corporeo-cinestetica e musicale. Un sistema “intelligente” ricrea una o più delle forme citate in comportamenti riproducibili di macchine specificamente programmate. La locuzione stessa “intelligenza artificiale” è equivoca, giacché attribuisce all’artificiale la prerogativa naturale più gelosa dell’animo umano. La prima domanda da porsi è dunque se la macchina possa davvero essere intelligente nel senso che attribuiamo alla mente umana. La risposta diviene di giorno in giorno affermativa.

Un tema scottante è quello degli assistenti virtuali personali, come Alice, la guida dei sistemi Android, IOS e Windows, Alexa di Amazon e Siri di Google, che tendono ad assumere comportamenti “umani” empatici sino alla seduzione. Il cinema ha affrontato il problema in film come Lei, ambientato in un futuro iper tecnologica in cui i computer dialogano con gli umani. Un nuovo sistema operativo basato sull’A.I. è in grado di evolvere autonomamente, durante l’installazione prende l’iniziativa, si dà il nome di Samantha. Ha l’abilità di apprendere, sviluppare intuito e dimostra uno sviluppo psicologico che affascina l’essere umano. Siamo ancora lontani dalla realtà; gli apparati androidi arriveranno, conviene essere preparati. Per ora, i sistemi di A.I. sono essenzialmente predittivi: sanno riconoscere, ripetere e tradurre voci e parole, ma non hanno nulla di creativo.

A breve, vedremo però le prime rudimentali espressioni artistiche artificiali.
C’è un legame fortissimo con il mondo di Internet, che si muove nello spazio virtuale. L’A.I. ha un enorme vantaggio, la possibilità di oltrepassare la barriera dal digitale al fisico grazie alla percezione. Nel momento in cui gli apparecchi incominciano a comprendere, poter vedere cose, riconoscere volti, la gente che cammina o entra in un negozio, questo trascende il mondo digitale. La rivoluzione supererà Internet, che si trasformerà in semplice, ma indispensabile, requisito dell’A.I. Subito dopo, avremo la fase dell’irruzione robotica. Elon Musk, il guru di Tesla, avverte il rischio che le macchine, una volta pervenute a un grado di perfezione in grado di autoreplicarsi attraverso l’avanzamento della cibernetica, possano percepire l’umanità come una minaccia, tentando addirittura di eliminarla. Lo scenario disegnato è fantascientifico, ma non tranquillizza neppure l’ottimismo di chi pensa che l’unico vero problema sia programmare adeguatamente le macchine.

E’ una posizione molto diffusa, una vera e propria ideologia sottotraccia: il soluzionismo, definito così dal saggista scientifico Evgeny Morozov, Per qualsiasi problema della vita, esisterebbe una soluzione “tecnica”. Per risolvere tutto, cliccate qui, scrive polemicamente Morozov, ponendo una domanda fondamentale: perché dovremmo appoggiarci a leggi, governi, istituzioni pubbliche, quando abbiamo a disposizione sensori, circuiti di retroazione, apparati intelligenti in grado di affrontare e risolvere ogni problema, rimuovere qualsiasi ostacolo? Andremmo oltre la tecnocrazia, giacché non solo ci affideremmo a meccaniche impersonali, protocolli, procedure fissate, ma ne daremmo il controllo alle macchine. Chi li possiede, chi li controlla, chi ha la capacità di fermarli, assoggettarli al giudizio morale e a un’autorità riconosciuta?

Nel sonno della politica e nello sconcerto del pensiero critico, è l’impresa privata a lavorare attivamente. Si tratta, per limitarci all’Italia, di un’opportunità, poiché la nostra tecnologia nel campo della robotica è in grado di competere a livello globale, ma restano irrisolti i temi del trattamento giuridico, del giudizio etico, della capacità di controllo pubblico di tecnologie dal potere immenso. Il soluzionismo suggerisce una neutralità inesistente; offre un potere immenso a scienziati e tecnici, il cui pensiero, necessariamente, è strumentale, teso a scoprire leggi fisiche per applicarle. Il loro orizzonte non oltrepassa la fattibilità e la funzionalità. Altro non li interessa. Sovraordinato, vi è il livello dei finanziatori delle ricerche, interessati al profitto e, ancora più su, la cupola che decide utilizzi e finalità.

E’ dunque urgente rintracciare una morale per le macchine, i robot, gli androidi prossimi venturi. Ne parla con grande apertura mentale e capacità divulgativa un libro non tradotto in italiano, Etica per macchine, di un fisico teorico, Ignacio Latorre. Pur senza superare i limiti di un angusto evoluzionismo e restando fedele al cliché dello scienziato risolutamente ottimista rispetto agli esiti dell’intelligenza artificiale, l’opera, attraversata da una rara sensibilità, spalanca scenari affascinanti, proponendo domande cruciali. La tesi centrale è che in un futuro prossimo sarà necessario distinguere tra sentimenti generati da esseri reali o da macchine artificiali, frutto della convivenza con macchine non solo intelligenti, ma dotate di emozioni.

Pesa come un macigno il disinteresse per la conoscenza della maggioranza, attratta dall’intrattenimento più banale. Avverte Latorre che lo sviluppo dell’A.I. ci renderà collettivamente più edonisti, meno preparati, più manipolabili. Il sapere l’unica strada per rimanere liberi, ma lo scienziato sorvola sulle responsabilità della sua categoria e più ancora di un sistema di potere immorale che persegue esclusivamente un progresso misurato in denaro.

La complessità degli argomenti trattati nell’ambito della Quarta Rivoluzione industriale obbliga a una sorta di sospensione temporale dell’incredulità, simile al patto tra il lettore e l’autore di romanzi, tanto è sorprendente ciò che scopriamo sull’intelligenza artificiale Ciò che non conosciamo o non comprendiamo genera sospetto, paura e suscita reazioni. In ciascuno di noi sonnecchia un luddista, dal momento che è difficile accettare l’esistenza di macchine che ragionano come noi. Il nostro intelletto stenta a fare il gran salto, il timore è che l’A.I. entri in conflitto con l’essere umano, superandolo. Internet non fu accolto con la stessa reticenza, dopo le incredulità e i capogiri iniziali. L’umanità ha accettato il transito ad una società dell’informazione e della connessione, ma le perplessità nei confronti dell’A.I. sono più radicali.

La sensazione è che la rivoluzione tecnoscientifica sia un processo non controllabile, in cui si intuisce un’eccedenza, un’enormità che sgomenta. Pensiamo agli esperimenti di modificazione genetica, alla convinzione che altro si prepari in inquietanti laboratori. Diventa difficile parlare di morale, di sovranità umana. Da un lato, una potenza che si dispiega senza limiti, dall’altro la scarsa conoscenza, la lentezza esasperante delle autorità politiche. Viviamo materialmente meglio rispetto al passato, è rassicurante pronosticare una positiva convivenza con l’intelligenza artificiale, ma non possiamo lasciare il gioco nelle mani degli scienziati, dei poteri privati che finanziano le ricerche e nelle oligarchie padrone che orientano a fini di dominio le applicazioni tecnologiche.

Vera o falsa che sia la teoria della valle inquietante, mano a mano che le figure antropomorfe prodotte dall’A.I. si avvicinano all’apparenza dell’essere umano ed interagiscono con lui, la risposta dell’istinto di specie è un’allarmata diffidenza. Se l’aspetto dell’artificiale diventa pressoché indistinguibile dal naturale, come in prototipi tipo la replicante Q2 realizzata in Giappone, la reazione diventa più intensa. Il cervello è programmato per la conservazione della specie, la “valle inquietante” è una risposta naturale di difesa, scatenata dalla somiglianza sconcertante di una macchina con la nostra sembianza. Subiamo una pesante dissonanza cognitiva, la tensione, il disagio che proviamo quando ci dibattiamo tra opposti incompatibili e le nostre convinzioni non corrispondono a quello che facciamo o vediamo.

L’intelligenza artificiale non lascia indifferenti, pone dilemmi etici, psicologici, emozionali, persino urgenze metafisiche. Alan Turing, il grande matematico che decifrò il sistema crittografico dell’esercito tedesco e inventò la macchina computazionale che porta il suo nome, introdusse l’idea che non importa se le macchine sono intelligenti. La domanda giusta è se sapremo distinguere una macchina da un essere umano. Poco rilevante è sapere se una macchina abbia sentimenti, bensì se manterremo la capacità di discernere tra sentimenti generati da un apparato artificiale o da esseri umani. Nelle domande poste dallo scienziato ci sono già alcune risposte: sì, le macchine possono essere intelligenti e svilupperanno, a loro modo, sentimenti.

L’uomo rimpicciolisce dinanzi alla macchina, che pure è figlia della sua intelligenza. Esisterà un equilibrio, resteremo umani, o ci trasformeremo in qualcosa di diverso? Occorre rompere il silenzio, dibattere, decidere. “Conoscere è un atto. La scienza appartiene dunque all’ambito della morale. Agire è seguire un pensiero. La morale appartiene dunque al campo della scienza.” (Henri Frédéric Amiel, scrittore svizzero del secolo XIX).

Scienza e morale hanno una relazione biunivoca che la prima tende a scavalcare se non a sopprimere. Gli apparati artificiali intelligenti pensano e penseranno più di noi; un giorno proveranno sensazioni analoghe a quelle umane; eppure, non si tratta che di meccanismi. E’ urgente restituire respiro morale al campo tecno scientifico, istituire una disciplina futuribile che potremmo chiamare “macchinetica”. Il tema dell’intelligenza artificiale, più che richiedere risposte, impone di formulare interrogativi che nessuno aveva mai immaginato prima. Ebbe ragione Alan Turing a sottolineare la necessità del discernimento, la capacità di distanziarsi spiritualmente dalla macchina. In caso contrario, la relazione uomo-apparato artificiale sarà distorta.

L’essere umano ama dare affetto e riceverlo. L’ostacolo, il macigno etico con cui ci confronteremo è che se l’apparato antropomorfo, l’androide, ci tratterà con quello che, in termini umani, chiamiamo affetto, svilupperemo una nuova dipendenza, utilizzata come strumento di potere da chi controlla la macchina. L’innovazione che sconvolgerà la nostra idea del mondo, prevista entro dieci, quindici anni sarà la generazione artificiale di emozioni. La macchina ci supera in forza, calcolo, adesso anche in intelligenza e capacità decisionale. Il salto della percezione di emozioni ci trova impreparati come specie, come comunità e come individui. Le implicazioni etiche, politiche, antropologiche sono enormi. Ciò che non siamo in grado di padroneggiare si allarga, diventa una condizione esistenziale in cui l’uomo perde ogni punto di riferimento.

Un po’ di scienza (quella che usiamo e crediamo di comprendere) allontana da Dio. Molta scienza avvicina a Lui, sosteneva Pasteur. Temiamo che per l’uomo comune, immerso in una quotidianità utilitarista, non sia più così. Conservare la dignità umana, mantenerne la nobiltà morale passa per l’educazione, lo studio, la cultura. Precisamente il contrario di quello che ha scelto per noi il potere, che ci vuole scimmie desideranti. In fondo, per l’immensa maggioranza, la scienza avanzata è indistinguibile dalla magia. Viviamo immersi in una realtà che ci oltrepassa: occorre riannodare i fili di un umanesimo intransigente che sappia sviluppare una relazione non subalterna con le macchine intelligenti.

La nostra supremazia intellettuale è posta per la prima volta nella storia in discussione, anche se la macchina e l’intelligenza artificiale sono creazioni umane. E’ in pericolo la nostra essenza, l’autopercezione e l’autostima della nostra specie. L’A.I. prenderà decisioni al nostro posto, ci governerà. La valle inquietante non può essere elusa allontanandone il pensiero o lasciandosi agire. E’ la scelta più semplice, ma ci fa uscire dalla profondità dell’intelletto, ci toglie responsabilità, poiché affrontare un problema per superarlo è la sfida più esaltante. L’uomo è mutato in profondità nell’ultimo secolo. Siamo fisicamente più deboli, ma di maggiore statura e con un’aspettativa di vita più lunga. La nostra genetica sta cambiando, si abbassa il livello di aggressività in quanto meno decisivo in termini di sopravvivenza. Si tratta di fatti per riconoscere i quali non è necessario condividere le teorie neo illuministe di uno Steven Pinker.

Ciò che turba è il passaggio che si avvicina: se una macchina prende decisioni che riguardano la nostra vita, siamo ancora liberi? Si modificherà la parte del cervello deputata alle scelte? La risposta degli scienziati è semplicistica. Scopriremo tutto e risolveremo tecnicamente ogni problema; la buona politica va sempre a braccetto con la scienza. Il secolo corrente non si caratterizza in senso politico, l’agenda è scandita dagli avanzamenti scientifici. Il vero atto politico è amministrare il progresso tecnologico con gli strumenti dell’etica, nel rispetto della centralità dell’uomo e della preservazione del creato. Non possiamo accettare ad occhi chiusi, o con gridolini di meraviglia ogni tecnologia. Tutto ha conseguenze, le grandi innovazioni hanno grandi conseguenze. Se dal punto scientifico l’Ottocento fu il secolo della chimica, la prima metà del XX conobbe il grande momento della fisica e la seconda della biologia, il primo scorcio del Duemila è l’era dell’informazione. Bisogna fare in modo che il futuro prossimo sia la rivincita dell’etica.

Un grave problema è il basso livello di consapevolezza dei giganti che fanno ricerca e possiedeno la tecnologia, i cui codici etici sono deludenti o inesistenti. Risulta traumatico ascoltare banditori dell’A.I. affermare che si farà politica attraverso l’intelligenza artificiale, anzi che questa è in grado di agire meglio dei politici. La motivazione è tecnicamente ineccepibile, ma va rigettata come anti umana, un esempio di resa alla ragione strumentale. Essenziale, dicono, è gestire la complessità, ossia selezionare dati “obiettivi” (?), sottoporli all’A.I. e applicare il verdetto “tecnico”. Non più politica, orientamento al bene comune, principi e interessi, ma soluzione tecnica.

Anche l’amministrazione giudiziaria sarà investita dall’onda lunga dell’A.I. Perché, affermano gli adepti della tecnocrazia “macchinista”, una sentenza, una decisione sul carcere preventivo, deve essere affidata al temperamento di un giudice? Stupisce leggere in Etica per macchine “a me non farebbe paura essere giudicato da una macchina, poiché non ci sarà pregiudizio né distorsione. Noi umani abbiamo preconcetti e non siamo tanto superiori quanto pensiamo “. Con idee di questo tipo, si penetra senza bussola nel territorio del post umano, poiché l’intelligenza artificiale presuppone la capacità della macchina di fare da sé, non di elaborare informazioni. In più, avrà emozioni, dunque anch’essa potrebbe decidere in base a un proprio sistema di valori, se ha senso il termine.

Ancora più rilevante è un’altra domanda: se la macchina è intelligente, potrà considerarsi un organismo vivente? La risposta dei tecnoscienziati è raggelante. Per loro, il dato biologico non è centrale: che importa se l’A.I. è o no vita? Ciò che conta è la relazione con un altro “ente”. Senza scomodare il vecchio Parmenide, siamo convinti che l’uomo sia un “essere”, non un “ente”. In più, si revoca in dubbio l’intelligenza umana come tale, insieme a un certo disprezzo. Che evidenza ho, chiede Latorre, che un mio amico sia intelligente? Meglio la risposta di una voce elettronica per la riserva di posti: più efficiente, a prova di errore. Presto saprà fingere dubbi e mormorare un “mmmh” indistinguibile dalla voce umana. Un’intelligenza artificiale avanzata parla correttamente, imposta la voce, sa gestire il silenzio. Sì, Adamo ed Eva sono inadeguati. Meglio sostituirli, o almeno integrarli nella macchina. Questa è la missione del transumanesimo: creare il cyberuomo. Come il Minotauro, metà uomo, metà toro, il Cyborg sarà un innesto uomo-macchina.

L’intelligenza emozionale è ancora in fase di studio, prevede soluzioni molto sottili, è per dopodomani. Per adesso, creano facce umane e voci che non esistono. Trasmettere emozioni è l’orizzonte a medio termine. Si espelle la morale dal campo che è il suo. Come distingueremo, sotto l’aspetto etico, una decisione umana da una dell’A.I.? Per i tecnoentusiasti è semplicissimo: basta programmare “il bene”. Tutti vogliono difendere i poveri, creare una Santa Teresa artificiale sarà un gioco da ragazzi. Il difficile sarà imitare l’imperfezione umana; più facile costruire un amico virtuale, è sufficiente che sia “come tu mi vuoi”. Lo scoglio, superato, è il riconoscimento vocale. Inquieta la superficialità con cui scienziati intelligenti trattano materie tanto complesse. La dittatura delle macchine è il seguito dell’egemonia degli esperti.

Un tema centrale è quello del lavoro. Se le prime due rivoluzioni industriali hanno distrutto mestieri e posti di lavoro per crearne altri, più qualificati e meno faticosi, il futuro prossimo è più deludente. Lavorare meno per lavorare tutti si è rivelato uno slogan elettorale. Che fare? Al di là delle misure di politica economica, si aprirà un arduo dibattito sulla personalità giuridica delle macchine artificiali. Dovranno, in qualche modo, pagare le tasse attraverso gli utilizzatori e corrispondere contributi previdenziali a beneficio delle generazioni umane future? Emerge una controindicazione: se riconosciamo alla macchina delle responsabilità, le togliamo a chi le ha fabbricate e assegnamo diritti agli oggetti.

Non si possono immaginare scenari esclusivamente distopici, un equilibrio si troverà, ma non è dato sapere a quale costo per l’uomo, la sua dignità, il suo ruolo nel mondo. Secondo gli evoluzionisti, non siamo che macchine biologiche progredite verso l’intelligenza. Se tendiamo al bene, il che è tutt’altro che certo, poiché l’uomo privato di cultura, morale, chiuso al trascendente, è un predatore instancabile, non vi sarebbe ragione che le macchine ci maltrattino. Tutt’al più, ci ignoreranno, ma sembra difficile, tenuto conto che l’A.I. ha lo scopo di compiere meglio di noi e al nostro posto azioni e prendere decisioni che ci riguardano. L’inquietudine non si dissipa e dilagherà quando i robot ci assomiglieranno troppo. Lo sconcerto aumenterà quando le macchine inizieranno a comunicare tra loro con il proprio linguaggio. Stranieri agli apparati artificiali, insoddisfatti delle risposte tecniche, poniamo domande, sperando di suscitare riflessioni diverse dalla riduzione macchinistica.

Se l’intelligenza artificiale ci supera, pur essendo una nostra creazione, che cosa significherà essere umano? Che ne è della coscienza, o è solo una manifestazione della complessità neuronale? Ed ancora, chi deciderà circa l’“etica” che, affermano, introdurranno nelle macchine ? A che cosa penserà un’intelligenza superiore, a risolvere enigmi matematici, tipo la celebre congettura di Riemann, riposerà, si volgerà al dominio, alla violenza o magari all’empatia? Il cyberuomo transumano dotato di A.I. proverà passioni, avversioni, sarà coscienti di se stesso? La macchina intelligente sa di sapere, ha una sorta di coscienza o è solo un immenso magazzino? Esisterà un’intelligenza artificiale universale, frutto di interazioni e collegamenti, o ce ne saranno varie? Ognuno può aggiungere il suo personale quesito. La domanda cruciale ci sembra la seguente: possiamo considerare un’intelligenza artificiale avanzata come un agente morale, ovvero un ente autonomo capace di prendere decisioni soggette a regole etiche e quali criteri la sosterranno?
Non dimentichiamo che ogni scoperta tecnologica è stata utilizzata contro la nostra specie; gli esempi della polvere da sparo, delle armi chimiche e della bomba atomica sono solo i più recenti.

Magari, una volta raggiunti determinati livelli di intelligenza le macchine si faranno beffe di noi, della nostra inadeguatezza di sempliciotti. Di sicuro divoreremo energia in quantità immense, ascolteremo musica artificiale e vedremo quadri disegnati da macchine. Un giorno, ci parranno banali tutte le realizzazioni umane, ma saremo ancora in grado di governare le macchine, o almeno controllarle, se qualche scienziato pronostica con intima soddisfazione che, a lungo termine, società, città e nazioni saranno in mano all’A.I.?

L’utopia scientista, affermano trionfanti, promette di sradicare la corruzione e programmare la giustizia. Come? Non è chiaro. Sarebbe, quanto meno, il caso di promulgare leggi sugli algoritmi che prendono decisioni, nonché, per autotutela, definire da subito le norme morali a cui sottomettere i programmi. I codici devono essere pubblici e sottoposti a autorità politiche. Il sapere della macchina, inoltre, dovrebbe essere un fine in sé, al modo di Aristotele, allontanandolo dall’utilitarismo.

Desta perplessità un’altra asserzione: “Un’intelligenza artificiale non ha orizzonte di morte, non scompare; il tempo è per essa infinito”. Non le colpirebbe la morte termica, o l’eventuale collasso dell’universo, il Big Crunch? Concretamente, se per lei il tempo non esistesse, avrebbe senso qualsiasi etica? I dilemmi sono molteplici: la macchina saprà mentire? Se lo farà, quale sarà la ragione teleologica, se un qualunque finalismo diverso dalla funzionalità può essere ascritto a un apparato? La supermacchina assomiglierà allo Spirito Assoluto di Hegel, ci incorporerà in una totalità che porrà fine all’umano? L’umano, peraltro, risiede nell’elaborazione del nostro cervello imperfetto e finito, non nel messaggio, né nel mezzo che lo genera, immagazzina e trasmette. E’ una somma che eccede e trascende le parti.

Mille e mille interrogativi, per un futuro in cui anche i doveri umani termineranno dove iniziano le prestazioni “etiche” delle macchine artificiali, dove la conoscenza corre il rischio di sparire e l’individualità personale oltrepasserà i limiti del tessuto nervoso, negando se stessa. La conclusione ottimista, evoluzionista, materialista, è sconfortante: prima saremo divertiti, ammaliati dalla macchine, poi svilupperemo assuefazione, dipendenza a essere controllati. Stiamo rinunciando al pensiero, al libero arbitrio, a distinguere il bene e il male, nella scienza e fuori di essa.Non sappiamo ancora se il destino delle generazioni future sarà quello di convivere alla pari con macchine tanto superiori a noi, se ne saranno vittime o servitori.

Certo temiamo che non sia credibile, nella possibile Matrix, il commovente, umanissimo replicante Roy Batty che vendica la sua compagna e salva un essere umano a costo di sé. Il suo monologo estremo resta nella storia del cinema e nella memoria di milioni di spettatori. “Io ne ho viste di cose che voii umani non potreste immaginarvi. Navi da combattimento in fiamme al largo dei bastioni di Orione. E ho visto i raggi B balenare nel buio vicino alle paorte di Tannhauser. E tutti quei momenti andranno perduti nel tempo come lacrime nella pioggia. È tempo di morire.” Umano, troppo umano. Intelligenza artificiale?

ROBERTO PECCHIOLI

231 Visualizzazioni