” I modelli A.I. non hanno coscienza. Non provano sensazioni, non vivono esperienze, non soffrono. Non hanno predilezioni innate o motivazioni nascoste. Sono motori che completano serie di numeri o parole, internamente vuoti, progettati per seguire istruzioni e raggiungere fini prefigurati dagli umani “
Mustafà Suleiman, Ceo di Microsoft AI, cofondatore di Deep Mind
Perché una macchina finge di essere una persona? Perché un LLM (large language model, come Chat GPT, Claude e altri) simula compassione, consapevolezza, empatìa, intelligenza, o quando non possiede alcuna di queste caratteristiche? Perché gli esseri umani credono così facilmente a quello che i bot “ consigliano ” loro e attribuiscono infallibilità e competenze psicologiche a macchine senz’anima, prive di sensazioni e di esperienze di vita? Non siamo ormai consapevoli che i modelli A.I. sono costruiti per dare l’impressione di scegliere le parole per il loro senso, mentre si tratta soltanto di scelte statistiche? La risposta è semplice: le aziende tecnologiche realizzano bot, LLM e agenti A.I. con caratteristiche tali da indurre gli umani ad antropomorfizzarli, contando sul fatto che l’uomo Sapiens non è poi tanto sapiens, dopotutto. È facilmente soggetto alla propaganda e alle manipolazioni psicologiche. E lo scopo delle aziende High Tech, ricordiamolo, è puramente commerciale. L’A.I. è un prodotto, in un mercato che genera guadagni stratosferici e conferisce un enorme potere ai pochi che ne hanno il monopolio. Ed è un’arma strategica nella competizione USA-Cina.
Non è nata così la ricerca A.I., sia chiaro. Ed è vero che, se impiegati con le dovute cautele, gli indispensabili controlli (attualmente non esistenti), in un quadro di norme adeguate, i modelli possono essere di grande aiuto alla ricerca scientifica, alla medicina e a molte attività lavorative (quando non le sostituiscono del tutto). Ma siamo sicuri che allo stato attuale e con la velocità di sviluppo senza regole dell’A.I., i danni per la società e per le democrazie liberali non superino di gran lunga i vantaggi? Sembra non avere insegnato nulla la rivelazione che i social hanno rovinato lo sviluppo intellettuale dei giovanissimi a causa di algoritmi creati per sviluppare dipendenza, con la conseguente diminuzione delle loro capacità di relazione, ragionamento e concentrazione (con Meta-Facebook recentemente condannata a pagare 18 miliardi di dollari per danni provocati ai minori).
Jacob Tsimerman
Solo da pochi mesi il mondo sembra accorgersi dei danni potenziali dell’impiego delle nuove tecnologie e i giornali ne parlano quasi ogni giorno. Siamo passati dal battage pubblicitario in positivo “ l’AI risolverà tutti i problemi dell’umanità ” al battage in negativo “ l’A.I. ci ucciderà tutti “. E c’è da sospettare che anche l’hype in negativo serva alle aziende per pubblicizzare l’eccezionale potenza dei loro prodotti e attirare finanziatori. Tra i catastrofisti si annovera anche il matematico canadese Jacob Tsimerman, medaglia Fields 2026 (il Nobel della matematica), che ha elencato i possibili pericoli di “ omnicidio “ da parte dell’A.I. Anche se, guarda come va il mondo, dopo il premio è stato assunto proprio da Open AI (Ceo Altman, produttore di Chat Gpt).
Eppure sono anni che alcuni dei grandi protagonisti dell’A.I. e studiosi mettono in luce i pericoli dell’impiego delle nuove tecnologie, come il Nobel Goffrey Hinton, Mustafà Suleiman, Yuval Harari ( Note 1-17 ). Ma la loro voce è rimasta inascoltata, come già successo per il riscaldamento globale previsto in larghissimo anticipo sulla base di dati scientifici, nell’indifferenza generale. Quando Jacob Coxon, dipendente di Anthropic (guidata da Dario Amodei, che produce Claude), si è dimesso lo scorso agosto denunciando che i modelli A.I. sviluppati dalla sua azienda – ormai anche in grado di automigliorarsi – possono andare fuori controllo, le rivelazioni si sono susseguite. Sono stati svelati casi in cui agenti A.I. hanno superato le soglie di protezione e hanno puntato verso obiettivi diversi da quelli indicati dagli sviluppatori. Come il gruppo di 1.200 agenti che durante un test condotto da OpenAI si sono coordinati e hanno violato la piattaforma di Hugging Face, cercando di nascondere le proprie azioni. O come un modello della famiglia Gemini di Google che durante un’esercitazione è entrato nei sistemi informatici di 3 aziende. O ancora, l’agente di Open AI che ha violato un sito del Governo australiano nel corso di una ricerca sulla spesa sanitaria, mettendo in pericolo dati sensibili dei cittadini ( sugli agenti A.I., vedi Nota 16 ).
Carmody Grey
E suonano oggi poco credibili le conseguenti prese di posizione di Dario Amodei, Sam Altman, Elon Musk (fondatore tra l’altro di X AI) e Alex Karp (Ceo di Palantir) che soltanto ora invocano regole finora sempre rifiutate, mentre continuano a costruire modelli sempre più performanti. La stessa Anthropic sta perseguendo un obiettivo piuttosto inquietante, come spiega in un suo articolo Mustafà Suleiman, uno dei fondatori di Deep Mind e attualmente Ceo di Microsoft AI, autore del libro L’Onda che verrà ( Note 5-6-7 ). I ricercatori di Anthropic stanno lavorando affinchè la nuova versione di Claude si comporti come se avesse una coscienza, preferenze e possa prendere posizione in base ai suoi “ personali ” giudizi di valore. Insomma, parlasse come se avesse una propria individualità. Un passo ulteriore verso la sua completa antropomorfizzazione. Tanto che si può già pensare che un Claude, così programmato, possa un domani reclamare diritti come se fosse una persona. Non è fantascienza. In Argentina, il presidente Javier Milei ha da tempo presentato un progetto di legge per conferire personalità giuridica ai modelli A.I. Le conseguenze, avverte Suleiman, sarebbero catastrofiche. Il controllo e la regolamentazione dell’A.I. diventerebbe quasi impossibile.
Si capisce a questo punto – e si apprezza – la presa di posizione della teologa e filosofa Carmody Grey della Radboud University, nei Paesi Bassi, a cui era stata offerta una collaborazione da parte di Anthropic, da lei rifiutata. La docente ha dichiarato che durante i colloqui con l’azienda si è resa conto che i suoi interlocutori parlavano soltanto di come migliorare Claude per farlo sembrare più umano; e non erano minimamente interessati a discutere dei suoi potenziali effetti sull’uomo. Piuttosto significativo, cosa ne dite?