News
11/09/2019

Book Review – L’algoritmo e l’oracolo

By: Raffaele Maurici

Come la scienza predice il futuro e ci aiuta a cambiarlo

Algoritmi capaci di fare previsioni si insinuano ogni giorno nella vita sociale di tutti, scandiscono le attività quotidiane, orientano le aspettative delle persone, le loro decisioni. E’ un flusso ininterrotto di anticipazioni del futuro che alimentiamo noi stessi, grazie alle tracce digitali che incessantemente lasciamo dietro di noi, talvolta a nostra insaputa. Sembra che le dinamiche sociali siano prevedibili, a patto di disporre di un numero sufficiente di dati. E i dati siamo noi. Troviamo così confortevole sentirci immersi in questo mare di anticipazioni, dati e algoritmi che ci stiamo abituando ad “essere previsti”.

Dalle prime ore del mattino incontriamo previsioni su ogni aspetto della nostra vita, il meteo ci anticipa le condizioni atmosferica della giornata, apposite app prevedono il traffico che potremmo incontrare e ci consigliano percorsi alternativi, altri software preannunciano il passaggio dell’autobus o il ritardo del treno, altre ancora anticipano nuovi libri o brani musicali che sicuramente incontreranno il nostro apprezzamento. In rete, ci vengono proposti gli articoli e le notizie che non vorremmo perdere. I social ci suggeriscono altre persone da seguire e quali post sono più adatti a noi. Sono solo alcuni esempi di una presenza di algoritmi predittivi che si fa ogni giorno più pervasiva, sui motori di ricerca, nei marketplace, nelle richieste di mutui bancari, durante i colloqui di lavoro, negli avanzamenti di carriera, nei percorsi di cura. Sempre più gli algoritmi predittivi influenzano non solo la nostra quotidianità ma anche i momenti di svolta della nostra vita.

Come siamo giunti a tutto questo? A questa domanda risponde, in modo esauriente e rigoroso, “L’algoritmo e l’oracolo. Come la scienza predice il futuro e ci aiuta a cambiarlo”, il nuovo saggio del fisico italo-americano Alessandro Vespignani, scritto insieme alla giornalista Rosita Rijtano per il Saggiatore.

Grazie ai suoi lavori nell’ambito delle predizioni scientifiche, Vespignani –  professore di Fisica e Informatica alla Northeastern University di Boston, dove dirige il Network Science Institute –  è considerato uno più riconosciuti e quotati scienziati del settore al mondo.

Nelle sue intenzioni, il saggio non vuole essere un manuale di approcci e modelli della predizione scientifica, ma un vero e proprio racconto, riportato in prima persona, di storie che hanno visto Vespignani protagonista o testimone nell’ascesa della nuova predizione scientifica.

Il libro, adottando un linguaggio scorrevole e diretto, introduce il lettore in un mondo narrativo insolito, popolato da algoritmi e matematici, senza attardarsi sui dettagli tecnici o sulle controversie accademiche, riservando spazio per le diverse figure umane che si avvicendano nel racconto e tracciando un chiaro filo conduttore, riflettendo su come la nostra vita stia cambiando, grazie alla capacità di tracciare mappe del futuro sempre più nitide.

Le vicende accompagnano i lettori lungo un arco temporale di tre decenni, dai primi successi delle analisi predittive scientifiche fino allo scenario odierno, dominato dagli algoritmi dell’intelligenza artificiale. Un’evoluzione che ha visto un continuo allargamento del campo di azione, dallo spazio originario circoscritto alle scienze naturali e a settori limitati dell’economia, fino a una visione sempre più ampia che, a giudizio dell’autore, porta a delineare “una fisica dei sistemi sociali e a ridurre il comportamento degli individui in formule matematiche”.

Trent’anni che hanno visto nascere e convergere due autentiche rivoluzioni, vissute da Vespignani in prima persona: la scienza della complessità e la trasformazione digitale.

La scienza della complessità, forse più speculativa, ha posto le prime basi per la predicibilità dell’essere umano, “ridimensionando l’importanza del singolo come artefice del futuro” e mostrando come i fenomeni collettivi che emergono da semplici interazioni tra un grande numero di individui possano essere “colti e catturati in formule matematiche”.

La trasformazione digitale, su un versante più operativo, ha invece favorito l’acquisizione di enormi moli di dati e, con l’avvento dell’intelligenza artificiale e di maggiori potenze di calcolo, ha messo a disposizione inedite materie prime, macchine e strumenti per le scienze della predizione.

Gli antichi Babilonesi erano in grado di prevedere le eclissi e le posizioni dei pianeti, grazie a un’ossessiva ricerca di regolarità e ripetizioni, riuscivano a costruire un modello empirico del cielo dopo anni di osservazioni. Lo sviluppo del metodo scientifico ci ha permesso di elaborare modelli meccanicistici, un approccio inedito che a metà del diciannovesimo secolo ha permesso di prevedere persino l’esistenza di un pianeta mai osservato. Un passo successivo fu lo sviluppo di previsioni probabilistiche ma, secondo il parere dell’autore, fu alla fine degli anni novanta che avvenne un cambiamento radicale: “una rivoluzione che fece letteralmente esplodere il campo d’azione delle previsioni. Un’ondata di dati socioeconomici che parlano di noi, degli uomini. Dati che tracciano come ci muoviamo, cosa ci piace, chi sono i nostri amici. Dati che registrano le nostre reazioni a quello che succede nel mondo, i nostri pensieri e le nostre opinioni”. La scienza delle predizioni si estende rapidamente dalle scienze naturali all’uomo, “assimilando dati, modelli matematici, intelligenza artificiale, tramutando l’uomo in un atomo sociale e rendendolo quindi predicibile”

Grazie agli algoritmi predittivi, è possibile produrre predizioni per orientarsi in un mondo sempre più interconnesso, anticipando scenari sociali di complessità crescente, dalla gestione delle catastrofi naturali alla propagazione delle epidemie, dalle dinamiche del consenso politico alla viralità delle notizie. In modo altrettanto dirompente e inaspettato, le previsioni stanno cominciando a insinuarsi nella nostra vita quotidiana e privata.

Ma fino a dove possono spingersi le predizioni? Con esempi puntuali quanto sorprendenti, Vespigniani ci mostra come oggi sia possibile predire, in modo efficace, anche l’esito di alcune tra le più complesse ambizioni umane. E’ possibile predire il successo: anticipare la carriera degli artisti, le vendite di un libro, la scalata in classifica di una canzone. “Il talento da solo non basta. Il fattore che prevale su tutti è l’accesso precoce a istituzioni prestigiose, geograficamente concentrate e strettamente interconnesse”. Come ci ricorda lo scienziato Albert-Làszlò Barabàsi: “il successo non riguarda te, riguarda noi”.

Vespigniani dedica un intero capitolo a riflettere sulle possibili insidie che l’utilizzo pervasivo di algoritmi predittivi può comportare per la nostra società.

Analogamente agli esseri umani, gli algoritmi predittivi possono covare pregiudizi. Si tratta di distorsioni cognitive che gli algoritmi acquisiscono attraverso i set di dati che selezioniamo per le fasi di addestramento delle reti neurali. Per evitare previsioni pregiudizievoli, diventa importante garantire che i dati abbiamo la necessaria rappresentatività delle caratteristiche sociali più sensibili, come l’etnia, il genere, il reddito.

Come ricorda però l’autore, la definizione matematica di imparzialità non è univoca, a volte la parità predittiva e l’equità dei falsi positivi sono mutualmente esclusive. Identificare i classificatori “ingiusti” è reso ulteriormente complicato per via della non trasparenza e talvolta della segretezza che circonda gli algoritmi. Un fenomeno dovuto non solo alla tutela dei diritti di proprietà, ma anche all’impossibilità di descrivere nei dettagli il loro funzionamento: alcuni algoritmi operano come “scatole nere” e acquisiscono dati in entrata e producono dati in uscita, attraverso processi che risultano non interpretabili dall’esterno.

Occorre inoltre considerare che questi metodi predittivi “assumono implicitamente che il nostro futuro è il passato”. Le anticipazioni si basano sulla ricerca di associazioni tra dati nel passato, nell’assunzione che il futuro sia già scritto in qualche modo in esso.

Pertanto accontentarsi del «non capisco ma funziona» può essere una trappola. Esiste il rischio di elaborare previsioni su basi concettualmente sbagliate senza esserne consapevoli. Occorre quindi “aprire le scatole nere”, in modo da essere in grado di giustificare i risultati e offrire una comprensione teorica di come gli algoritmi hanno operato. Come mette bene in evidenza l’autore, “oggi siamo consapevoli di quanto un approccio non ancorato a una comprensione teorica dei fenomeni che vogliamo prevedere sia pericoloso”.

In questa direzione opera un modo ulteriore di prevedere il futuro, basato sulla simulazione dei mondi artificiali all’interno del computer. Per operare in questa direzione occorre sviluppare  modelli teorici dei processi che guidano l’evoluzione del sistema e tradurli in equazioni validate attraverso gli esperimenti. Si tratta di sviluppare modelli che simulano le dinamiche sociali, in analogia con quelli adottati nelle previsioni meteorologiche. Modelli computazionali e algoritmi basati su regole ed equazioni in grado di simulare la vita di milioni di persone, i loro movimenti e le loro interazioni sociali.

Se “i modelli algoritmici basati sul machine learning possono solo predire un futuro che è basato sulla nostra conoscenza del passato. I modelli di simulazione invece permettono di alterare i meccanismi di interazione che definiscono il futuro del sistema. Possiamo quindi immaginare scenari in cui le persone infette vengono messe in quarantena, studiare mondi artificiali in cui i voli aerei vengono vietati, o pensare città in cui siano vietate le automobili. Il computer e i modelli si trasformano in un laboratorio dove studiare mondi futuri, tracciandone una carta geografica del futuro che rispecchi le nostre scelte”.

Nella visione di Vespignani, “la scienza delle previsioni può avere due facce; da una parte può essere uno strumento di progresso potentissimo, ma allo stesso tempo un formidabile strumento di controllo e prevaricazione di cui non vogliamo far conoscere l’esistenza”.

Diverse organizzazioni sono sorte attorno alla prospettiva di una intelligenza artificiale per il bene comune e di un’etica dell’uso dei dati. Nel bene o nel male, il potere insito nelle previsioni scientifiche cambierà profondamente il quadro delle relazioni sociali e dell’interazione delle persone con il mondo circostante.

A giudizio dell’autore, “non è quindi difficile intravedere un mondo a due velocità, dove le diseguaglianze socioeconomiche si riflettono anche in una diseguaglianza di intelligenza predittiva. La diseguaglianza di un ordine globale dove ci sono dei governi con la sfera di cristallo e governi senza; organizzazioni e movimenti politici in grado di leggere e capire il futuro e tutti gli altri che brancolano nel buio. E gli incentivi a diffondere i risultati di modelli previsionali che funzionano sono molto pochi. Chi avrà potere predittivo infatti non lo vuole dichiarare, creando radicali problemi di trasparenza e chiarezza normativa.”

Ad oggi, è soprattutto dal mondo della ricerca accademica che giungono gli studi sulle potenzialità e i limiti dell’utilizzo di dati, algoritmi e simulazioni. Ma le previsioni sono generate, sempre più spesso, da grandi aziende globali. “Sono loro a essere in possesso della materia prima, i dati, che vengono invece passati con il contagocce al mondo della ricerca pubblica, e sono sempre loro a possedere le infrastrutture computazionali più imponenti al mondo”.

Del potere crescente degli algoritmi sono certamente coscienti le corporation e i governi nazionali che li utilizzano, ma è pertanto importante che l’intera società acquisisca maggiore consapevolezza del potere dei nuovi oracoli digitali. “Quello che serve è un’alfabetizzazione computazionale”.

Accanto ad essa, è necessario sviluppare anche una vera e propria etica della predizione scientifica, perché sta prendendo corpo un nuovo modello sociale, dove sarà pratica comune prevedere le dinamiche sociali e le aspettative dei singoli. Una pratica che darà vita a nuovi equilibri e poteri.

“Abbiamo fatto molta strada da quando la nostra vita era scandita da oracoli spirituali che ci parlavano attraverso i loro sacerdoti. Oggi corriamo il rischio di sostituirli con oracoli digitali che ci parlano attraverso i loro sacerdoti informatici. L’unico modo per evitare questo pericolo è capire da dove vengono le loro predizioni e imparare a leggere, finalmente, le mappe del futuro”.

Raffaele Maurici è presidente di Innovation Agency e membro del comitato direttivo dell’Istituto Italiano di Bioetica.

 

SCHEDA DEL LIBRO

Titolo: L’ algoritmo e l’oracolo. Come la scienza predice il futuro e ci aiuta a cambiarlo

Autori: Alessandro Vespignani, Rosita Rijtano

Editore: Il Saggiatore

Anno edizione: 2019

Alessandro Vespignani è professore di Fisica e Informatica alla Northeastern University di Boston, dove dirige anche il Network Science Institute. È fellow dell’American Physical Society, dell’Institute for Quantitative Social Science alla Harvard University e membro dell’Academia Europaea. Grazie ai suoi numerosi lavori nel campo delle predizioni scientifiche e della teoria delle reti è considerato uno degli scienziati più quotati e riconosciuti al mondo.