Ero a Creta e aspettavo il volo di linea per Atene, da cui sarei ripartita dopo 1 ora per Milano. Una coincidenza un po’ stretta, ma fattibile, dato il semplice percorso da un gate all’altro per il trasferimento.
Dopo l’annuncio di un grande ritardo e la conseguente perdita della coincidenza, sono stata chiamata dalla responsabile della linea aerea. Con un sorriso, mi ha consegnato un biglietto alternativo: Heraklion Atene, Atene Istanbul e Istanbul Milano, con 1 ora scarsa d’intervallo fra arrivo e partenza per i 2 cambi (e arrivo a destinazione 6 ore dopo quanto previsto). Non mi ha chiesto se mi andava bene, né se sarei stata in grado di correre per raggiungere l’area internazionale degli aeroporti, senza aiuto. A stento ci sono riuscita, ma ho compreso che a decidere con freddezza non era stata lei, ma un algoritmo. La responsabile doveva aver schiacciato il bottone “ trova l’alternativa ” e il programma ha risposto come sa fare lui senza minimamente preoccuparsi dell’essere umano (d’accordo o no, giovane o anziano, in forza o no…). Input e output, in 1 millesimo di secondo. Prendere o lasciare.
Perdere l’aereo non è poi così grave, ma se l’algoritmo usato in banca decide in modo inappellabile e senza spiegazioni a chi concedere o negare un prestito; se il modello matematico utilizzato in tribunale sceglie a chi concedere o negare la libertà provvisoria; o quello che seleziona chi licenziare o meno fra gli insegnanti di una scuola, a seconda di un punteggio basato su variabili sconosciute a chi lo usa e a chi viene giudicato, siamo di fronte ad armi matematiche potenzialmente distruttive. Quelle di cui parla Armi di distruzione matematica di Cathy O’Neil, (Bompiani, 368 pagine, € 17.10), premiato best seller in USA alcuni anni fa, ma ancora valido come premonitore di quanto ci aspetta, in misura massiccia, con gli algoritmi dell’Intelligenza Artificiale. Ancora più veloci e potenti, ancora più opachi, inappellabili e basati su stratosferiche quantità di dati raccolti su di noi, grazie alla rete ( abitudini, gusti, tenore di vita, amici, storia creditizia…).
L’autrice, una matematica statunitense, Phd a Harvard, ha lavorato per anni creando algoritmi basati sui Big Data per la finanza, ma ha lasciato Wall Street disgustata dall’uso distorto degli strumenti che lei stessa contribuiva a creare constatando che erano soltanto orientati a massimizzare il profitto e non a facilitare la vita delle persone, con conseguenze rovinose soprattutto per i meno privilegiati. Un libro denso, ricchissimo di esempi nel settore della pubblicità, delle assunzioni, bancario, finanziario, nella propaganda politica… che svela alcuni meccanismi della cui minuziosità siamo ignari. Ogni nostro ingresso sulla rete oppure su un social, ogni nostra interazione con oggetti collegati a Internet, viene processata in millesimi di secondo, catalogata e venduta alle aziende che ci inviano pubblicità mirata, oppure selezionano alcuni dei nostri dati per infilarci in un certa categoria i cui membri, cioè noi e molti altri soggetti “ come noi ”, verranno valutati da algoritmi per i più vari scopi.
Colpisce nella sua semplicità un esempio d’utilizzo perverso dei modelli matematici. Negli Stati Uniti, alcune catene di negozi – ad esempio i fast food o le caffetterie – fanno uso di programmi per cambiare i turni dei loro impiegati, a seconda delle previsioni di minore o maggiore affluenza basate sulle previsioni del tempo (se pioverà o ci sarà il sole), sulla programmazione televisiva (se c’è un evento sportivo che terrà tutti incollati allo schermo domestico) e così via. Da un giorno all’altro, o da una settimana all’altra, viene ad esempio richiesto a una donna con dei figli piccoli di lavorare la mattina invece del pomeriggio, il sabato oppure la sera o la notte. Con conseguenze distruttive sulla salute mentale e fisica, sulla vita famigliare non più programmabile, sulla gestione dei bambini. Le armi matematiche, nei casi illustrati, premiano con spietatezza solo l’efficienza e il profitto senza tener conto dell’impatto sulle persone. Non evoco il mio (meno grave) ineludibile cambio di biglietto aereo?
La matematica statunitense Cathy O’Neil
Dopo aver rivelato i meccanismi perversi che trionfano nei più disparati campi, Cathy O’Neil non demonizza la matematica, regina delle scienze e madre di tutti i modelli; le analisi dei dati e dei programmi (semplificando, degli algoritmi); bensì il suo utilizzo distorto, esclusivo, opaco, privo di regole. E come fanno sempre più numerosi insider dell’industria dei dati e dell’A.I., sconvolti e disgustati per le implicazioni sociali del loro lavoro e per i pericoli per la democrazia, l’autrice auspica trasparenza, regolamentazione (e qui l’Europa è molto più avanti dell’America) e attenzione all’etica, oltre che al profitto. Chissà?