Maurizio Codogno, meglio noto in rete come .mau., racconta come lui vede la matematica, con la scusa di non doverla insegnare né crearne di nuova. Un professore ha “dimostrato” che un LLM non potrà mai superare la creatività di un bravo dilettante. Ma stiamo facendo la domanda corretta?

Lo scorso novembre David Cropley dell’University of Adelaide ha pubblicato un paper dal titolo “The Cat Sat on the …?” Why Generative AI Has Limited Creativity, sul Journal of Creative Behaviour. Ne ha parlato il sito PsyPost, con un articolo che chiosa i risultati del paper con il titolo “un soffitto matematico limita l’IA generativa a una creatività da dilettante”. Cropley, che è Professor of Engineering Innovation – qualsiasi cosa voglia dire, non sono riuscito a trovare quali studi abbia fatto – prende una definizione standard di creatività e la applica alla produzione degli LLM, che di base generano statisticamente una parola dopo l’altra. Cropley nota che c’è una proporzionalità inversa tra l’originalità della parola aggiunta e la sua efficacia: definendo la creatività come il prodotto tra originalità ed efficacia, è facile mostrare come questo prodotto non può mai superare il 25%. Questa percentuale sarebbe il limite tra la creatività di un (bravo) dilettante e quella di un (pessimo) professionista.

Non so cosa ne pensiate voi, ma a me vedere la matematica usata in questo modo fa rabbrividire. Non è che definire una formula significa automaticamente poterla usare senza doverci applicare alcuna creatività (…); il tutto senza considerare il fatto che non è affatto detto che il modello usato da Cropley, oltre che essere davvero rozzo, rappresenti davvero quello che fanno gli LLM, o se preferite gli esseri umani. Soprattutto l’idea di moltiplicare l’efficacia per la creatività in modo da ottenere un singolo valore mi sembra di una stupidità estrema.

Quindi vuol dire che penso che le IA siano ormai creative? Niente affatto, ma per una ragione totalmente diversa, di cui ho parlato implicitamente in questo post sulle mie Notiziole in cui citavo quanto scritto da Alejandro Piad Morffis. Il suo punto di vista è che noi sbagliamo a cercare di capire se le IA sono o no intelligenti, perché quello che stiamo facendo è usare dei loop tra umani, macchine e per esempio le regole dell’universo, e sono i loop che stanno trovando nuovi risultati, non le IA (o gli umani, se per questo). Per Piad Morffis gli LLM, almeno in matematica, sono creativi ma inaffidabili, e quindi possono funzionare come propositori. Esistono altri sistemi, i verificatori – l’esempio più noto in matematica è sicuramente Lean – che invece sono per costruzione non-creativi, ma in compenso sono affidabili, e possono verificare le idee sparate dai propositori per vedere se funzionano davvero o no.

Ma non è che la coppia propositore-verificatore sia creativa: quello che manca, e secondo me mancherà ancora per molto tempo, sono gli altri due ruoli. Ci sono infatti il curatore, colei o colui che guarda i risultati e decide quali vale la pena di portare avanti; ma soprattutto l’immaginatore (in originale, il “poser”, in contrapposizione al “proposer” che ho tradotto come proponente), chi decide quale problema provare ad attaccare. Sono questi due i ruoli che per me sono davvero creativi. Altrimenti già qualche decennio fa avevamo tecniche di “generazione automatica di creatività” come ASIT (disclaimer: lo conosco perché mia moglie ha tenuto dei corsi di formazione su questo metodo) che permettono di tirare fuori idee in modo sistematico, più o meno quello che fanno gli attuali LLM anche se in modo ovviamente diverso. Non è detto che la nostra idea umana di creatività sia l’unica possibile, e gli LLM potrebbero essere intelligenti anche se non fossero creativi come vorremmo. E potremmo aggiungere che nel “publish of perish” molti paper pubblicati nelle riviste anche blasonate hanno ben poco di creativo nell’accezione da me usata. Ma voi vorreste davvero una pletora di articoli scritti da IA, tecnicamente corretti, ma di cui non verrebbe in mente un qualsivoglia uso pratico nemmeno se foste matematici e quindi la parola “pratico” fosse già molto più eterea che per una persona normale?

Guarda la pagina di questa rubrica

Maurizio Codogno

Maurizio Codogno, noto online come .mau., è nato a Torino nel 1963, e si è laureato in matematica presso la Scuola Normale Superiore di Pisa e successivamente in informatica a Torino. Autore di numerosi libri di divulgazione scientifica, tra cui “Matematica in pausa caffè” e “Chiamatemi Pi Greco”, ha il suo blog “Notiziole di .mau.” dall’inizio del millennio ed è stato curatore della collana di libri Matematica di Gazzetta dello Sport e Corriere della Sera.