“ Se noi Sapiens siamo così sapienti, perché siamo così autodistruttivi? ”
Che cosa ha a che fare l’Intelligenza Artificiale con la caccia alle streghe, l’isteria di massa che raggiunse il culmine tra il XVI e il XVII secolo, quando decine di migliaia di persone innocenti (soprattutto donne, ma anche uomini e bambini) accusate di cospirare con il diavolo, furono torturate e messe al rogo in tutta Europa?
Molto, secondo Yuval Noah Harari, che propone nel suo ultimo libro Nexus – Breve storia delle reti di informazione dall’età della pietra all’IA (Bompiani, 612 pagine, € 24.70) la caccia alle streghe quale esempio di come una credenza superstiziosa possa diventare motore di un movimento di massa distruttivo. Reso possibile grazie alla diffusione del volume Malleus maleficarum – Il martello delle streghe (Yume, 226 pagine, € 21), uno dei più grandi bestseller dell’Europa moderna, scritto nel 1485 dal frate domenicano e inquisitore Heinrich Kramer, interamente basato su false credenze.
Ma facciamo un passo indietro. Harari, rinomato storico e filosofo israeliano, autore di Sapiens. Da animali a Dèi (Bompiani, 560 pagine, € 23.70) affronta in Nexus (in latino: connessione), volume ponderoso, ricchissimo di casi esemplificativi e approfondimenti, il tema dell’Intelligenza Artificiale illustrandone i pericoli con il suo inconfondibile approccio storico-filosofico. L’autore, che ha già affermato sull’Economist (28 aprile 2023) che l’Intelligenza Artificiale sta ” hakerando il sistema operativo della civiltà umana “, parte da lontano: ovvero, da una carrellata storica sulle reti umane – “ il network organico ”- e sull’impatto sulla nostra società delle tecnologie dell’informazione, per poi arrivare alle reti di silicio – “ il network inorganico ” – e all’A.I.
Yuval Noah Harari
Noi Sapiens, spiega, siamo gli unici animali capaci di collaborare su larga scala e di costruire grandi reti di cooperazione. Ma, avverte, lo facciamo in modo incauto come l’apprendista stregone della fiaba di Johann Wolfgang von Goethe (1749-1832). Ricordate l’episodio di Topolino e le scope nel film Fantasia di Walt Disney con la musica di Paul Dukas? La fiaba racconta che un vecchio stregone, prima di assentarsi dal laboratorio, chiede al suo apprendista di andare a prendere l’acqua al fiume. Il giovane, per pigrizia, pronuncia un incantesimo e ordina a una scopa di fare il lavoro per lui. La scopa esegue, ma lui non sa come fermarla. Disperato, la fa a pezzi ma provoca una moltiplicazione di scope che inondano d’acqua il laboratorio. Finchè il mago ritorna e rompe l’incantesimo. La morale: mai evocare poteri che non si possono controllare. Il riferimento all’Intelligenza Artificiale è voluto.
Harari affronta e approfondisce nella prima parte del libro il tema dell’informazione, uno fra i concetti fondamentali della nostra cultura e delle tecnologie che la trasmettono. L’informazione non è necessariamente equivalente alla verità, avverte, e più informazione non vuol dire più verità. Attenti dunque a credere a fantasie pericolose come quelle presentate da Elon Musk, uno dei primi finanziatori delle ricerche di A.I., come il progetto TruthGPT, annunciato nell’aprile 2023, descritto come «un’Intelligenza Artificiale dedicata alla ricerca della verità più approfondita possibile, che cercherà di capire la natura dell’Universo» (sic!).
L’informazione è stata distribuita attraverso reti di comunicazione come racconti orali, scritture, libri; e via via radio, televisione, computer… che hanno permesso all’uomo di creare storie – o narrazioni – che hanno avuto un’influenza dirompente e globale. Basti pensare alle religioni, codificate nei libri sacri, oppure ai totalitarismi come il nazismo e lo stalinismo, ideologie che hanno conquistato seguaci e causato distruzione, morte e guerre. In tutte le religioni si trova la fantasia di essere connessi a un’intelligenza sovrumana e infallibile. E questo rimanda all’idea alla base dell’Intelligenza Artificiale. Non è forse vero che già molti si affidano alle informazioni trovate sulla rete, o alle risposte dei LLM come Chat GPT, come se fossero espressione di verità, ovvero infallibili?
Elon Musk
La rete informatica, l’ultima che l’uomo ha creato, è molto diversa dalle altre. Intanto è la prima rete della storia dove l’uomo non è sempre coinvolto nello scambio d’informazione. Ovvero, oggi i computer possono parlare direttamente con altri computer, senza necessariamente passare attraverso l’uomo. Ogni giorno, ad esempio, i computer, che sono già in grado di comprendere e valutare in frazioni di secondo alcune realtà finanziarie meglio dell’uomo, eseguono transazioni senza l’intervento o il controllo umano. In caso di errori o malfunzionamenti, potrà succedere una crisi ben più grave di quella del 2008. Che già era stata aggravata proprio dall’automatismo e dalla velocità delle reti di computer.
Inoltre, grazie all’Intellligenza Artificiale, i computer possono perseguire obiettivi e prendere decisioni da soli. Presupposto perché possano accumulare molto più potere degli umani. Così si ritorna alla fiaba dell’apprendista stregone. Oggi abbiamo evocato miliardi di scope magiche come droni, chatbot e altri spiriti sotto forma di algoritmi… E non è scontato che il mago di cui avremo bisogno per salvarci riuscirà a interrompere l’incantesimo. (continua)