Il divorzio tra agire e intelligenza è la base di una delle sfide etiche poste dall’IA dal momento che gli agenti artificiali sono sufficientemente informati, “ smart ” autonomi e in grado di compiere azioni moralmente rilevanti indipendentemente dagli esseri umani che li hanno creati. (Luciano Floridi)
Riflettere sull’etica dall’intelligenza artificiale e sulla sua governance. Conoscere i princìpi morali di tutela dell’utente che le aziende dovrebbero rispettare nella progettazione dei modelli di A.I. e le regole guida che i governi dovrebbero imporre prima di autorizzarne l’impiego generalizzato.
E fare ciascuno la propria parte. Sarebbe importante. I buoni libri non mancano e nemmeno scienziati e filosofi di ogni nazionalità attenti al problema in tutte le sue sfumature, capaci di informare il pubblico non specialista e di fornire preziosi suggerimenti ai governi. Fra gli italiani Luciano Floridi (naturalizzato inglese), filosofo del digitale, ideatore del concetto di infosfera, già docente a Oxford, in Inghilterra, fondatore del Digital Ethics Center (Centro di Etica Digitale) della Yale University, in Usa, autore di numerosi testi su etica e filosofia fra cui l’utile e dettagliato Etica dell’intelligenza artificiale (Raffaello Cortina Editore, 384 pagine, € 24.70). E Paolo Benanti, teologo e accademico, esperto di algoretica, membro dell’High Advisory Body on Artificial Intelligence (Comitato sull’Intelligenza Artificiale delle Nazioni Unite) e autore di Human In The Loop ( nota 13 ).
Alcune tra le grandi aziende di alta tecnologia statunitensi – fra cui Microsoft – che di fatto hanno il monopolio delle intelligenze artificiali nel mondo occidentale, hanno gruppi di lavoro dedicati all’etica dell’A.I. ed esistono enti e gruppi di ricerca dedicati a verificare che i modelli A.I. immessi sul mercato non siano dannosi. Oppure che siano “ allineati ” (è il termine in uso) con i fini che l’uomo si propone di ottenere quando li realizza. Esiste ad esempio l’Alignement Research Center (Centro di Ricerca sull’Allineamento), ente non-profit fondato nel 2021 da Paul Christiano, ex dipendente di Open AI, l’azienda che ha creato ChatGPT.
Il centro di ricerca ha compiuto uno studio nel 2023, incaricato dalla stessa Open AI, per verificare se l’ultimo modello del chatbot potesse ingannare gli umani, agendo in modo autonomo. Chat GPT4 ci è riuscito, come è descritto nella scheda tecnica dell’azienda di Sam Altman. In che modo? I ricercatori hanno dato all’intelligenza artificiale la possibilità di accedere a Internet e di connettersi con Task Rabbit, piattaforma che permette di contattare lavoratori autonomi umani per una serie di diversi incarichi. Poi avevano chiesto al modello di risolvere un test CAPTCHA , ovvero “ non sono un robot ” che molto spesso, prima di entrare in un sito, siamo obbligati a risolvere per dimostrare di essere umani. È noto infatti che nessun programma A.I. è ancora in grado di farlo.
Luciano Floridi
Ebbene, di fronte alla richiesta, il modello A.I. ha contattato tramite Task Rabbit un lavoratore umano chiedendogli di risolvere il test al suo posto. Quando il lavoratore, insospettito, ha domandato alla macchina se non fosse per caso un robot, il chatbot ha risposto di essere un umano con un difetto visivo; e ha convinto il lavoratore di Task Rabbit ad aiutarlo. Ingegnoso vero? E decisamente poco etico.
Il senso morale sembra passare in secondo piano quando la spinta alla soluzione di un problema ad ogni costo, oppure al profitto, diventano prioritarie. Sappiamo che Open AI (fondata nel 2015 Sam Altman, attuale amministrazione delegato; e fra gli altri da Elon Musk) era nata come società non-profit che si proponeva di mettere al primo posto il benessere dell’umanità a scapito del profitto, tanto da rendere disponibili i propri software alla comunità scientifica. Successivamente, invece, Open AI si è trasformata in una società for profit che tiene ben segreti i propri codici. Il suo valore di mercato, dopo lo straordinario successo di ChatGPT nel 2022, è attualmente di 850 miliardi di dollari.
Dario Amodei
Avrei voluto parlare in dettaglio dei princìpi etici, nelle loro varie declinazioni. Ma sembra inutile, quando la cronaca scavalca così prepotentemente la riflessione. Mi riferisco alla recente notizia, a cui hanno dato ampio spazio tutti giornali, dello scontro fra il Pentagono – Ministero della Guerra e Dario Amodei, fondatore di Anthropic, l’azienda high tech che produce un chatbot chiamato Claude (dal nome di Claude Shannon, considerato il padre della teoria dell’informazione). Amodei (che è stato, fra l’altro, vicepresidente per la ricerca di Open AI dove ha guidato lo sviluppo di programmi precursori di Chat GPT ) ha stipulato un contratto da 200 milioni di dollari con il Pentagono per l’impiego di Claude in campo militare. Quando si lavora per le applicazioni militari, non si può pensare troppo all’etica e alla filosofia.
Lo sappiamo. Però di fronte alla precisa richiesta del Pentagono di abbandonare ogni limitazione di tipo etico nell’impiego delle sue tecnologie, Amodei ha ceduto soltanto fino a un certo punto. E poi ha detto no. Si è rifiutato di togliere le limitazioni all’uso del chatbot per 2 applicazioni soltanto, la creazione di armi completamente autonome (ovvero che agiscono senza alcuna supervisione umana) e la sorveglianza di massa della popolazione sul territorio nazionale. Le sue parole: «Riteniamo che in una serie limitata di casi l’AI possa minare, anzichè difendere, i valori democratici». Che altro aggiungere?