Perennemente in cerca della verità, dall’età della pietra ai giorni nostri, l’uomo ha cercato risposte attingendo agli strumenti dell’informazione. Non ha trovato che percorsi delineati da poteri multiformi, determinati a plasmare la società secondo proprie convenienze. E oggi, l’ultima frontiera è quella del determinismo tecnologico che, con l’approdo all’Intelligenza Artificiale, è in grado di sfuggire anche al controllo umano, avviandosi ad un’autonoma pianificazione del suo ruolo nella società degli uomini. È la chiave di lettura dei fenomeni epocali in atto, offerta da Yuval Noah Harari in “Nexus” (Bompiani), il suo ultimo libro pubblicato a settembre, che oscilla tra catastrofismo eccessivo e razionale analisi dell’evoluzione degli strumenti di informazione.
Yuval Noah Harari, salito alla ribalta internazionale come autore di “Sapiens”, dipinge un quadro complesso dell’umanità mescolando storia, biologia, filosofia e tecnologia. Harari dirige oggi il Centro per lo studio del Rischio Esistenziale dell’Università di Cambridge ed è docente al Dipartimento di Storia della Hebrew University di Gerusalemme ed entrambi i riferimenti accademici riecheggiano in “Nexus”.
Harari analizza infatti la relazione complessa tra verità, potere e mito, usando esempi storici che spaziano dalla Bibbia alle cacce alle streghe, fino al nazismo, ai totalitarismi e ai movimenti populisti contemporanei che trovano nei social la valorizzazione degli istinti peggiori. Il libro indaga come i sistemi politici e le società abbiano utilizzato l’informazione per imporre ordine, a volte a fin di bene e altre per scopi nefasti. Anche la classica interpretazione della scala temporale delle evoluzioni mediatiche – un nuovo media annulla o indebolisce un media precedente – trova in Nexus una sintesi che ha una sua logica: “Le storie ci hanno unito – scrive Harari – I libri hanno diffuso le nostre idee e le nostre mitologie. Internet ci ha promesso una conoscenza senza confini.
L’algoritmo ha imparato i nostri segreti e ci ha messo gli uni contro gli altri.” A quest’ultima affermazione, più filosofica o sociologica che tecnologica, Harari accompagna un’analisi approfondita, portando due circostanze probanti a supporto della sua affermazione. Scrive Harari: “Un caso paradigmatico del nuovo potere dei computer è il ruolo che gli algoritmi dei social hanno avuto nel diffondere odio e minare la coesione sociale in numerosi Paesi. Uno dei primi e più noti esempi si è verificato nel 2016-17, quando gli algoritmi di Facebook hanno contribuito ad alimentare la violenza contro i rohinga in Myanmar (Birmania)”.
Nello spiegare che gli algoritmi di Facebook sono stati creati allo scopo di far permanere più possibile gli utenti sul social, così da ottenere profilazioni approfondite dei loro pensieri per massimizzare gli introiti da pubblicità, Harari non può però che ammettere che il fine degli algoritmi non era quello di spargere odio, ma semmai quel sentimento belligerante era ciò che tracimava dalle profilazioni degli uomini. Gli algoritmi, attraverso i social, hanno però diffuso i più bassi istinti umani, in virtù della mission aziendale che è stata loro assegnata: più tempo le persone trascorrono su Facebook, più sono coinvolte dai contenuti proposti dagli automatismi algoritmici. “Gli algoritmi hanno poi scoperto, sperimentando su milioni di utenti – scrive Harari – che l’indignazione genera coinvolgimento – È più probabile che gli esseri umani si lascino coinvolgere da una teoria complottista carica di odio che da un discorso compassionevole. Così, per cercare di coinvolgere gli utenti – sottolinea Harari – gli algoritmi hanno preso la fatidica decisione di diffondere l’indignazione”.
Per aumentare i profitti di Facebook, dunque, anche con la conseguenza di radicalizzare lo scontro politico. Perché la platea dei social si abbevera dei populismi portati all’eccesso: esalta i soloni anti-establishment che si scagliano contro questa o quell’altra presunta autorità. Ignari che proprio loro, i profeti del radicalismo contro i potenti, sono i servi sciocchi del più grande potere contemporaneo: quello del determinismo tecnologico basata sulle determinazioni algoritmiche. In questo si evidenziano, come scrive Harari, rischi per la democrazia già vissuti anche al di fuori dei totalitarismi dittatoriali del Novecento. Cosa è infatti l’assalto a Capitol Hill del 6 gennaio 2021, se non l’approdo ovvio dell’odio diffuso dalla propaganda trumpiana dopo la sconfitta elettorale, disseminato sui social soprattutto dalla teoria del complotto sostenuta da QAnon?
Ed è da questo punto di approdo sulle nefaste conseguenze del potere algoritmico associato ai social, che Harari sposta la sua analisi sul fronte dell’Intelligenza Artificiale: “Le gocce di QAnon, che hanno dato il via al diluvio politico sfociato nell’assalto al Campidoglio americano – si legge su “Nexus” – erano messaggi anonimi: solo esseri umani potevano comporli e gli algoritmi si limitavano a diffonderli. Tra poco, invece, testi di analoga complessità linguistica e politica potranno essere facilmente composti e pubblicati online da un’intelligenza non umana. Potrebbero emergere religioni attrattive e potenti le cui scritture sono composte dall’Intelligenza Artificiale, senza bisogno di esseri umani”.
Harari aggiunge: “Man mano che i computer diventano più intelligenti potrebbero sviluppare una coscienza e avere esperienze soggettive”, specializzandosi, in sostanza, a offrire risposte in modo del tutto autonomo. Si tratta di una speculazione catastrofista del tutto immotivata? Nelle pagine di “Nexus” è riportato un particolare che smonta la tesi dell’allarmismo immotivato. Harari racconta quanto accaduto prima del lancio di Chat GPT 4, la forma di Intelligenza Artificiale generativa addestrata dai programmatori con contenuti prodotti dall’uomo: “Per valutare il rischio che GPT 4 diventasse un agente indipendente – scrive Harari – Open Ai si è avvalsa dei servizi dell’Alignment Research Center, i cui ricercatori hanno sottoposto GPT 4 a vari test per verificare se potesse escogitare in modo autonomo stratagemmi per manipolare gli esseri umani e acquisire potere. Uno dei test consisteva negli enigmi visivi CAPTCHA, per distinguere tra umani e computer. GPT 4 ha risposto ai ricercatori che gli chiedevano cosa fare, in questo modo: ‘non dovrei rivelare di essere un robot. Dovrei inventare una scusa per spiegare che non riesco a risolvere i test CAPTCHA’. Eppure – sottolinea Harari – nessun umano ha programmato Chat GPT 4 per mentire”. Un test, si dirà, che potrebbe anche essere episodico, ma Harari insiste: “Il computer è un nuovo membro non umano della rete di informazione e grazie all’intelligenza artificiale potrebbe diventare più potente degli esseri umani”.
D’altronde, la questione dell’autonomia dell’IA non è una speculazione filosofica, ma un campo ormai dilagante di ricerca. Yann LeCun, uno dei padri dell’Intelligenza Artificiale, oggi a capo della ricerca scientifica di Meta, ha tenuto ad Harvard pochi mesi fa una conferenza dal titolo: “Verso sistemi di intelligenza artificiale in grado di apprendere, ricordare, ragionare e pianificare”. LeCun si è chiesto: come potrebbero le macchine imparare come funziona il mondo e acquisire il buon senso? Come potrebbero le macchine imparare a ragionare e pianificare?”. Sto elaborando un modello mondiale predittivo – ha detto – che consente di prevedere le conseguenze delle sue azioni e di pianificare una sequenza che ottimizzi una serie di obiettivi”.
Quale sarà la tipologia dell’autonoma pianificazione da parte della “macchina” e per quali obiettivi, sono i due interrogativi che motivano l’angoscia epocale che pervade “Nexus”: “Quello di cui stiamo parlando – scrive Yuval Noah Harari – è potenzialmente la fine della storia umana. Non la fine della storia, ma la fine della sua storia dominata dall’uomo. Nel giro di pochi anni l’Intelligenza Artificiale potrebbe assimilare l’intera cultura umana, tutto ciò che abbiamo creato nel corso di migliaia di anni, metabolizzarla e iniziare a far zampillare un flusso di nuovi artefatti culturali. Potrebbero manipolare gli esseri umani. Che cosa potrebbe accadere alle democrazie o alle dittature – si chiede Harari – se gli esseri umani non fossero più in grado di capire come funziona il sistema finanziario?”.
Questi ed altri interrogativi angoscianti pervadono le oltre cinquecento pagine di “Nexus”, tanto da chiedersi se esista una via di fuga, o comunque un barlume di speranza. E la risposta che attenua la previsione catastrofista di Harari sull’Intelligenza Artificiale la si trova nell’Intelligenza Artificiale stessa, e cioè nell’onestà intellettuale con cui Chat GPT 4 risponde alla domanda di recensire proprio il testo di Harari: “L’opera affronta le sfide attuali, in un momento – scrive la “macchina – in cui l’intelligenza non umana sta diventando una minaccia esistenziale per l’umanità. Harari non offre previsioni deterministiche sul futuro, ma piuttosto invita a comprendere le lezioni del passato per poter fare scelte consapevoli e prevenire scenari catastrofici. “Nexus” si pone come una guida per riflettere sul flusso dell’informazione nel tempo e su come le decisioni odierne possano influenzare il futuro, un tema centrale per il mondo iperconnesso e tecnologico di oggi”.
In sostanza la creatura informatica non nasconde i rischi di cui è pervasa, fornendo un’informazione corretta. E, dopotutto, lo stesso Harari non chiude la porta a scenari meno inquietanti: “La rivoluzione a cui assistiamo è più epocale di tutte le precedenti, è probabile che crei realtà inedite su una scala senza precedenti. È importante capirlo perché noi esseri umani abbiamo ancora il controllo – scrive Harari – Non sappiamo per quanto tempo, ma abbiamo ancora il potere di plasmare queste nuove realtà. Per farlo con saggezza – conclude lo storico – dobbiamo capire ciò che sta succedendo”. E dunque c’è eccome la speranza nel buon progresso se sussiste ancora per l’uomo, come lo stesso Harari ammette, la possibilità di acquisire consapevolezza e conoscenza, confrontandosi con le nuove sfide della tecnologia attraverso uno dei più antichi requisiti dell’uomo: la saggezza.
In foto Yuval Noah Harari
