Ad un certo punto dello svolgimento di Macchine come me di I. McEwan il protagonista fantastica di un’umanità che, liberata dalle incombenze quotidiane ormai affidate all’intelligenza artificiale (IA), potrebbe dedicarsi a coltivare le arti e le scienze per dar vita a un nuovo Rinascimento. S. Butler aveva invece immaginato che gli abitanti di Erewhon avessero messo al bando le macchine prevedendo che la loro evoluzione avrebbe condotto l’umanità in schiavitù.
La strategia più sensata per affrontare questa alternativa “fra Arcadia e Apocalisse”, per riprendere liberamente il titolo di un intervento di Paolo Rossi del 1976, non sarà all’altezza degli argomenti degli apocalittici, ma è certamente migliore dell’ingenua identificazione fra sviluppo tecnologico e miglioramento, ed è quella di considerare la tecnologia né buona né cattiva in sé: dipende dall’uso che gli uomini ne fanno. E questo certamente vale anche per l’IA. Ma c’è di più e di peggio: per gli apocalittici l’IA potrebbe evolvere verso tecnologie autodirette, l’uso delle quali non sarebbe più sotto il controllo umano.
Con l’IA classica una volta che un programma software è stato compilato resta quel che è (al netto delle correzioni dei bug): ingegneri e programmatori hanno “scritto” nel programma quello che sanno e che volevano che il programma “sapesse”. Con l’IA che sfrutta le reti neurali il programmatore dota invece la rete di una strategia che le servirà per imparare dall’ambiente o da sessioni di addestramento supervisionato. A differenza dell’IA classica le reti neurali cambiano e si autorganizzano. Allo scopo esistono algoritmi specifici ma cosa accada nella rete in dettaglio non è ancora ben chiaro. Dunque: la rete potrebbe organizzarsi in modi dannosi per gli esseri umani?
Nel 1965 J. Good avanzò l’idea che un giorno l’IA avrebbe superato l’intelligenza umana; una trentina di anni dopo V. Vinge e R. Kurzweil hanno cominciato a usare il termine Singolarità per identificare quel momento. Da allora in poi saranno le stesse macchine a progettarne altre fino a che ci saranno macchine superintelligenti. Dell’epoca della Superintelligenza N. Bostrom disegna un quadro decisamente apocalittico: che cosa ci può essere di più innocuo del fabbricare graffette? Eppure se una super-IA perseguisse questo compito potrebbe non fermarsi davanti a niente, compreso quello di sottrarre risorse alle necessità di sopravvivenza della specie umana o anche, in mancanza d’altro, usare i corpi umani come riserve di materie prime.
Quando a partire dalla conferenza di Dartmouth College nel 1956 il termine “”IA” cominciò a circolare, H. Simon predisse che macchine con intelligenza pari a quella umana erano “dietro l’angolo”. Ancora la profezia non si è avverata e quella di Cartesio secondo cui le macchine non potranno mai pensare al momento sembra avere la meglio. Morale: qualsiasi previsione sullo sviluppo della tecnologia è azzardata. Riflettere sul mondo possibile è però necessario per evitare che diventi reale se non è desiderabile. Ma c’è una ragione anche più profonda per interessarsi agli sviluppi dell’IA ed è il fatto che progettare l’IA dovrebbe permetterci di capire che cos’è l’intelligenza naturale. Nientedimeno che una questione vecchia come l’umanità: cosa ci caratterizza e ci distingue?
L’IA ha introdotto un nuovo paradigma circa il modo in cui concepiamo noi stessi e le cose: sembra che tutto sia riconducibile a informazione e a dati (nei suoi libri Y.N. Harari elimina impavidamente il “sembra”). Questo non deve meravigliare: l’informatica è parente stretta della matematica e la matematica è lo strumento più potente che abbiamo per spiegare la realtà. La domanda è dunque se la mente umana sia interamente riconducibile a questo paradigma. Non lo sappiamo per il semplice e misteriosissimo fatto che nella mente c’è anche la coscienza, e intelligenza e coscienza non sono la stessa cosa. D’altronde non solo artefatti, intelligenti o superintelligenti che siano, ma anche organismi non coscienti sono capaci di comportamenti intelligenti. La coscienza sembra essere l’ultima frontiera su cui si decide il confronto fra mente naturale e mente artificiale.
Su questo tema però la nuova IA al momento non sembra dirci niente di più di quanto abbiamo imparato dall’IA classica. Per fare un esempio: le reti sono di gran lunga più efficienti e competenti nel padroneggiare i linguaggi naturali, compongono frasi di gran lunga più corrette di quanto possa fare la buona vecchia cara IA (Good Gold Old Fashioned AI), ma le capiscono? Hanno un significato per noi, non per l’IA. Per accedere alla semantica è allora necessario un hardware speciale come il cervello? Domande del genere hanno condotto a nuove teorie della mente, che sono ad oggi lo stato dell’arte, e cioè alle teorie cosiddette della mente incorporata (e poi situata ed estesa) per le quali la mente non è separabile dal corpo in cui è situata o incarnata: per essere quello che siamo bisogna avere esperienze e per ciò occorre un corpo.
P.S. È necessario un corpo naturale o andrà bene anche uno artificiale?
