È passata una decina di giorni dall’uscita di questo libro, ma complice un lungo viaggio in treno attraverso la Foresta Nera (nessuna copertura della rete telefonica) ho trovato in fretta qualche ora per leggerlo. L’ho trovato piacevole, con interessanti spunti di riflessione, anche se forse mi aspettavo un po’ di matematica in più.

Il libro presenta alcuni degli algoritmi che, che noi lo sappiamo o meno, intervengono oggi nella nostra società. Lo fa tratteggiandoli a grandi linee, ma nello stesso tempo fornendo esempi di come influenzino la vita delle persone, a volte positivamente, a volte negativamente.
Nel corso dei capitoli vengono mostrati alcuni punti di forza e alcune debolezze intrinseche dell’automazione, introducendo poco per volta concetti e strumenti che possono permetterci di valutare in modo critico l’impatto che gli algoritmi hanno.

Autrice di questo viaggio tra gli algoritmi è Hannah Fry, professore associato di “Matematica delle città” all’University College di Londra. Fry è molto attiva nella comunicazione e nella divulgazione, collabora al canale YouTube di argomento matematico Numberphile, è co-conduttrice del podcast The Curious Cases of Rutherford & Fry ed è attiva su Twitter (@FryRsquared). Una sua presentazione TED, The mathematics of love, ha su YouTube più di 1 milione di visualizzazioni (considerando i diversi upload).

Il libro ha 7 capitoli principali che, partendo da un tema specifico e concentrandosi su di esso, portano piano piano alla luce alcune caratteristiche generali degli algoritmi.
Il primo capitolo, Power, introduce i temi del libro, dando i concetti di base, ma cominciando a mostrare i primi esempi di successi e di limiti degli algoritmi (e specularmente degli umani).
Il secondo, Data, è molto attuale: si concentra soprattutto sul data brokerage e sul caso Cambridge Analytica. Al centro del capitolo il messaggio non è un banale “teniamoci i nostri dati per noi”: viene mostrato che condividere alcuni dati con certi fornitori di servizi può essere comodo, o anche molto buono, ma farlo senza attenzione può rivelare molto più di noi di quanto non vorremmo fare (o anche di quanto noi stessi sappiamo).
Nel terzo capitolo, Justice, vediamo esempi di algoritmi usati nel concedere (o meno) la libertà provvisoria e nel valutare rischio di recidiva per i condannati, ma anche nel valutare l’entità di una sentenza. Si parla di falsi positivi e falsi negativi e del compromesso che è necessario fare tra il ridurre gli uni e gli altri, ma anche di bias, sia umani, sia delle macchine. In questo capitolo si comincia a capire che compromesso è una parola chiave e che stabilire in modo chiaro le priorità è cruciale per gettare le basi di un buon rapporto con gli algoritmi. Un esempio: meglio un giudice umano, che può capire “umanamente” le peculiarità del caso in oggetto, o un giudice automa, che sia consistente nelle sue sentenze? E possiamo eticamente affidare valutazioni di questo tipo ad un codice “chiuso”, del quale non sappiamo i dettagli del funzionamento?

But maybe that is precisely the point. Perhaps thinking of algorithms as some kind of authority is exactly where we are going wrong. (Ma forse è proprio questo il punto. Magari pensare agli algoritmi come se fossero un qualche tipo di autorità è quello che stiamo sbagliando.)

Se il capitolo precedente lascia un po’ cupi e perplessi sull’opportunità di cedere potere agli algoritmi, il quarto, Medicine, restituisce un po’ di speranza. Nella diagnostica gli algoritmi possono fare la differenza, pur sempre in collaborazione con i medici, ma anche in questo caso valgono i caveat del capitolo precedente: quali sono le priorità? Meglio non rischiare e fare un’operazione inutile (con i costi umani e materiali conseguenti) o aspettare e rischiare che sia troppo tardi? Non è detto che ci sia una risposta giusta, ma se vogliamo che un algoritmo prenda decisioni di questo tipo, sarà opportuno che sappiamo con che priorità è stato programmato. Il capitolo torna anche sul tema della condivisione dei dati, che in ambito medico, se fatta con consapevolezza, può essere di grandissimo aiuto.
In Cars, il quinto capitolo, si parla principalmente di piloti automatici, altro tema di grande attualità. Di essi vediamo limiti intrinseci e potenzialità, così come problemi etici e legislativi che introducono. Spunta anche un ulteriore problema: se ci abitueremo a non guidare quasi mai, nelle poche volte in cui dovremo intervenire saremo in grado di farlo? Non è una domanda campata per aria, perché è qualcosa che capita già ora con gli autopiloti negli aeroplani.
Crime, il sesto capitolo, conclude la linea di ragionamento vista nelle pagine precedenti: gli algoritmi possono essere di grande aiuto, ad esempio nella prevenzione del crimine e nel supporto alle indagini, ma allo stesso tempo non dobbiamo dimenticare che possono avere dei limiti, più o meno noti ed evidenti, anche legati al modo in cui interagiamo con essi, ad esempio fornendo dati che possono dar luogo a circoli viziosi.
L’ultimo capitolo, Art, è molto diverso dai precedenti. Infatti nell’affrontare il rapporto tra algoritmi ed arte le discussioni si fanno più filosofiche. Cos’è, in fondo, l’arte? Quali sono i capolavori? Sembrano essere domande lontane dal mondo degli algoritmi visti negli altri capitoli, ma non è così: in tutti gli algoritmi abbiamo bisogno di definire nel modo più preciso possibile (magari matematico) gli oggetti, le caratteristiche e le proprietà di cui il codice si dovrà occupare. Ma lo sappiamo fare? Il problema di non saper riconoscere un’immagine può essere esclusivo di un algoritmo, ma non possiamo lamentarci se un computer non sa individuare quali opere d’arte siano capolavori, se non c’è unanimità su quali essi siano (e dunque nemmeno una definizione).

Il messaggio centrale, per parafrasare Orazio, è “est modus in algorithmis”, c’è una misura nell’usare gli algoritmi. Rifiutare a priori che i computer, le macchine prendano in gestione parte della nostra vita è miope (oltre che poco pratico). Tuttavia, anche delegare ciecamente tutto ad una macchina non è una buona strategia, come mostrato con numerosi esempi.

Perhaps the answer is to build algorithms to be contestable from the ground up. Imagine that we designed them to support human in their decisions, rather than instruct them. (Forse la risposta è sviluppare algoritmi che possano essere messi in discussione fin dalle basi. Pensiamo a svilupparli per aiutare gli umani nelle loro decisioni, invece che per dire loro cosa fare.)

Un punto solo accennato, ma che sta sotto a buona parte della presentazione è la critica agli algoritmi “chiusi”, dei quali non sappiamo (solitamente per questioni di trademark) come funzionino. Prima di affidare responsabilità ad un sistema autonomo di decisione, infatti, è opportuno sapere il modo in cui opera e, possibilmente, perché. Questo perché la programmazione, la stesura di un algoritmo può contenere errori, anche sottili, ma che nel momento in cui vengono esposti al mondo, e non solo all’ambiente ridotto dei test, possono avere conseguenze gravi. Questo vale sia per gli algoritmi “imperativi”, in cui le istruzioni sono date in modo diretto, ma anche per gli algoritmi del tipo “machine learning”, coi quali il computer dovrebbe imparare a fare un certo compito (ad esempio riconoscere immagini di tessuti cancerosi) a partire da un codice che non parla del compito specifico, ma solo di come imparare.

Ci sono purtroppo un paio di sviste editoriali, una delle quali particolarmente fastidiosa, perché un’immagine proposta (che dovrebbe mostrare un dettaglio importante) è stampata in modo che, almeno nell’edizione paperback, tale dettaglio non sia visibile.

Il libro non cerca di dare risposte definitive alla domanda su quanto e come gli algoritmi debbano intervenire nella vita umana, ma vuole fornire a coloro che intendono farsi questa domanda alcuni strumenti per ragionarci in modo più razionale.

Per chi è questo libro? Per chi vuole sapere qualcosa in più su come gli algoritmi (e non solo PageRank) stanno già avendo influenza sulla nostra vita. Per chi non si fida dell’automazione e preferirebbe meno macchine e più umanità nelle decisioni. Per chi invece non si fida degli umani e vorrebbe solo algoritmi a gestire in modo matematico il mondo.
È forse meno indicato per coloro che vorrebbero vedere qualche dettaglio in più, magari un po’ di codice o la matematica che c’è sotto. Non ne troveranno in questo libro, nemmeno nelle note: anche il teorema di Bayes, più volte citato nel testo, non viene mai presentato nei dettagli.

Hannah Fry
Hello World
How to Be Human in the Age of the Machine
Editore: Penguin Random House
Anno edizione: 2018
Pagine: 244
Prezzo: £13.99
ISBN: 978-0-857-52525-3