Il pericolo silenzioso dell’AI non è l’errore, né il plagio, bensì la dipendenza. Lo strumento non può e non deve diventare un sostituto del pensiero proprio. Bisogna imparare a usare l’AI senza chiederle il permesso di pensare. 

Giuseppe Arnone, “Catalogo minimo dell’Intelligenza Artificiale” – Il dottorando e la sua ombra

Dialogo morale con un giovane matematico che non riesce più a pensare senza l’oracolo.

Sembra tutto come al solito: arriva con due quaderni, una Bic, un paio di libri, il portatile e il telefono.
Niente di strano, quindi.
Poi si siede. E comincia il rituale.
Prima i quaderni, uno accanto all’altro. Poi i libri, aperti quanto basta per sembrare consultati. Poi il portatile, al centro di tutto, come se da lì dovesse passare ogni cosa. Il telefono, invece, lo sistema vicino alla mano, a distanza di sicurezza.
Non c’è ancora nulla di strano o insolito.
«Quando puoi mi daresti un parere?» chiede dopo un po’.
«Su cosa?»
«Su una dimostrazione.»
«Certo. Dimmi pure.»
«Aspetta, però. Prima la faccio leggere anche a lui.»
Non dice “all’AI”. Dice “lui”, con una familiarità un po’ tenera e un po’ allarmante.
«A lui?»
«Sì. Così vediamo se trova buchi.»
«Prima dimmi tu, no?»
«Io l’ho letta.»
«E che ne pensi?»
Lui guarda il testo. Poi guarda il telefono. Poi di nuovo il testo.
«Penso che forse sia meglio chiedere.»
Prudenza?
«Da quanto tempo ci lavori?»
«Saranno tre giorni.»
«E quante volte hai chiesto?»
«All’AI?»
«No, al destino. Certo, all’AI.»
Guarda nel vuoto e sembra fare un calcolo a mente. Poi fissa lo schermo del portatile mentre medio e anulare accarezzano il touchpad. Sembra imbarazzato.
«Dipende cosa contiamo come volta.»
«Dai.»
«Non tantissime.»
«Quante?»
«Forse quaranta.»
«In tre giorni?»
«Ma domande piccole.»
«Come le sigarette leggere.»
Sorride, ma non abbastanza da stemperare l’imbarazzo.
«Il fatto è che mi aiuta. Se ho un dubbio, glielo chiedo. Se ho un’idea, gliela faccio controllare. Se scrivo un paragrafo, me lo faccio rivedere. Se non so da dove partire, mi propone una scaletta. Se mi blocco, mi dà delle alternative.»
«E tu?»
Ci pensa per un attimo.
«Beh, io poi scelgo cosa fare.»
«Sempre?»
«Quasi.»
«E quando non scegli?»
«Chiedo meglio.»
«Capisco.»
«No, non credo tu capisca davvero.»
Ora passa dall’imbarazzo all’irritazione.
«Pensaci:» dice, «è come avere accanto a te una biblioteca sterminata. Sai, come la Biblioteca di Babele, ma consultabile per davvero. Non devi più perderti nei corridoi. Chiedi al bibliotecario, e qualcosa arriva.»
Pronuncia Biblioteca di Babele con una certa solennità e con lo sguardo eroico.
«Qualcosa arriva sempre», diciamo.
«Appunto.»
«Anche nella Biblioteca di Babele qualcosa arriva sempre. Il problema è che arriva anche tutto il resto.»
Lui agita la mano. Come se stesse spolverando un vecchio pensiero.
«Sì, ma io seleziono.»
Lo dice con una certa convinzione, ma la frase rimane impolverata.
«Selezioni o aspetti che il filtro ti dica come selezionare?»
Tace un istante.
«Sei severo.»
«Probabile.»
Lui abbassa gli occhi sul telefono, come se lo schermo potesse testimoniare a suo favore.
«Tutto sommato anche questa è collaborazione.»
«La collaborazione di solito prevede che ogni tanto l’altro taccia.»
«Lui tace se non lo interpello.»
«E tu riesci a non interpellarlo?»
La domanda lo ferma.
Le domande piccole entrano dove quelle grandi fanno rumore e vengono lasciate fuori.
«Certo», dice.
«Bene. Allora leggiamo la dimostrazione senza chiedere nulla.»
Prende il foglio.
Passa qualche secondo.
«Solo una cosa», dice.
«No.»
«Ma è rapida.»
«No.»
«Volevo solo verificare se questa ipotesi è sufficiente.»
«Secondo te lo è?»
«Secondo me…»
La frase resta lì, sospesa. Non perché non sappia continuare. Perché non è più abituato a farlo senza una seconda voce pronta a raccogliere la caduta.
«Secondo me potrebbe esserlo», dice infine.
«Potrebbe.»
«Ma non sono sicuro.»
«Bene.»
«Come bene?»
«È il rumore del pensiero quando si rimette in moto.»
Lui ci guarda male.
«Mi stai facendo una terapia?»
«No. Sarebbe più costosa.»
«Io voglio solo lavorare bene.»
«Lo so.»
«E l’AI mi fa lavorare meglio.»
«A volte sì.»
«Mi fa vedere errori che non vedrei.»
«A volte sì.»
«Mi dà idee.»
«A volte sì.»
«Mi evita di perdere tempo.»
«A volte sì.»
«Allora qual è il problema?»
«Che non stai più perdendo tempo.»
«E questo sarebbe un problema?»
«Sì, se era proprio il tempo in cui imparavi a distinguere un vicolo cieco da una strada difficile.»
Si irrita.
«Questo è un atteggiamento nostalgico.»
«No. La nostalgia della fatica è quella malattia per cui uno pensa che un conto fatto male a mano sia moralmente superiore a un conto fatto bene con un software. Non c’entra. Qui parliamo di attrito.»
«Attrito?»
«Sì. Quel minimo attrito che ti fa sentire dove poggia il piede. Se tutto scorre troppo, non cammini: vieni trasportato, come su una pista di pattinaggio e se non sai stare sui pattini finisce che ti schianti sulla balaustra.»
Il dottorando chiude il computer a metà. Non del tutto. Come chi spegne una candela lasciando in mano un fiammifero.
«Io però, senza, mi sento più lento.»
«Certo.»
«Più stupido.»
«No. Più solo.»
Questa volta non risponde.
La parola ha toccato il punto. Non la solitudine eroica del matematico romantico, quella con la lavagna, il gesso e montagne di piatti sporchi e tazzine incrostate di caffè nel lavandino. Una solitudine più modesta e più concreta: il minuto in cui guardi una formula e nessuno ti dice subito se è buona.
«È che lui sa tutto», dice piano.
«No.»
«Sa tantissimo.»
«Sì. Che è una forma più pericolosa del sapere tutto.»
«Perché?»
«Perché il sapere tutto è divino e quindi sospetto. Il sapere tantissimo è uman…» ci fermiamo un attimo, «è plausibile, disponibile, efficiente. Ti risponde con tono ordinato. Ti dà l’impressione che il mondo sia già stato indicizzato per te.»
«E non è così?»
«No. Il mondo non è indicizzato. È ferito, contraddittorio, disordinato, pieno di note a piè di pagina scritte male e articoli che non dicono quello che promettevano inizialmente. Una parte del mestiere è proprio imparare a sopportare questo disordine senza ricorrere ogni volta ad una voce pronta a dargli una dignità che non meriterebbe.»
Lui divarica leggermente lo schermo del portatile.
«Sai», dice con fare trasognato, «è come avere un Ireneo Funes come compagno di studio.»
«Appunto.»
«Cosa?»
«Funes ricordava tutto. E proprio per questo faticava a pensare. La memoria assoluta non è intelligenza, ma paralisi e prigionia.»
«Questa è bella.»
«È Borges.»
Sorride. Poi torna serio.
«Ma se ho a disposizione qualcuno che ricorda tutto, perché dovrei farne a meno?»
«Non devi farne a meno. Devi solo smettere di chiederle il permesso prima di agire.»
La frase resta sul tavolo.
Lui la guarda come fosse lì di fronte a lui.
«Io non chiedo il permesso.»
«Sicuro?»
«Chiedo un confronto.»
«Sempre?»
«Spesso.»
«Prima di decidere?»
«A volte.»
«Prima di scrivere?»
«Dipende.»
«Prima di pensare?»
Silenzio.
Fuori lo studio qualcuno passa correndo. Si sentono risate fragorose dal fondo del corridoio. Altri dicono qualcosa di incomprensibile in merito ad una riunione. La vita accademica continua a produrre rumore di fondo anche nei momenti più alti e nobili, forse per evitare di prenderci troppo sul serio.
Il dottorando prende la penna.
«Va bene», dice. «Facciamo senza.»
«Leggiamo il primo passaggio.»
«Qui uso compattezza.»
«Perché?»
La sua mano si muove verso il telefono.
Noi non diciamo niente ma accenniamo uno sguardo minaccioso.
La mano si ferma.
«Perché mi serve estrarre una sottosuccessione.»
«Da dove?»
«Da una successione limitata.»
«Limitata in che spazio?»
«Aspetta.»
«No.»
Ride. Nervoso.
«Sembra che tu mi voglia togliere un bastone.»
«No. Sto solo controllando se la gamba ci sia ancora.»
«Molte grazie», dice imbronciato.
«Il bastone tornerà. Ma prima un paio di passi.»
Lui guarda il foglio. Si morde il labbro. Scrive una riga. La cancella. Scrive di nuovo.
«Forse la limitatezza non basta.»
«Forse.»
«Mi serve una stima più forte.»
«Forse.»
«Oppure passo a una topologia più debole.»
«Forse.»
«Smettila di dire forse.»
«È una parola utile. Non fa il lavoro al posto tuo.»
Lui resta sul foglio. Per un minuto intero non guarda né il telefono né il computer.
Un minuto, per un dottorando con l’oracolo in tasca, è un tempo insopportabile.
Poi dice:
«Qui forse c’è un buco.»
«Bene.»
«Come bene?»
«Meglio un buco tuo che hai visto da solo che una toppa altrui che non hai capito fino in fondo.»
«Questa è crudele.»
«È la matematica.»
Allunga la mano verso il telefono.
«Adesso posso chiedere?»
«Prima dimmi cosa chiederesti.»
«Chiederei se esiste un modo per ottenere compattezza con queste ipotesi.»
«Troppo vago.»
«Chiederei se dalla stima uniforme in questo spazio posso ottenere convergenza forte in quest’altro.»
«Meglio.»
«E chiederei di cercare controesempi.»
«Ancora meglio.»
«Quindi posso?»
«Sì.»
Prende il telefono. Afferra il suo salvagente, ma in realtà senza saperlo inizia a ricorrere ad uno strumento. La differenza è piccola, eppure si vede. Anche un bisturi e una stampella stanno in una stessa mano, ma non raccontano la stessa storia.
Scrive la domanda. Poi si ferma.
«Forse prima provo io un controesempio.»
Noi non diciamo niente.
Lui posa il telefono.
Peccato che questo, in un cv, non entrerà mai. Nessuno scriverà mai: “Nel pomeriggio del tale giorno, il candidato rinunciò per sei minuti consecutivi a consultare l’intelligenza artificiale”. Eppure, certe rivoluzioni personali sono fatte così: non la presa della
Bastiglia, ma una chat lasciata chiusa.
«Sai qual è la trappola?» chiediamo.
«Quale?»
«Che l’AI sembra una presenza. Non uno strumento. Una voce. Sempre pronta, sempre educata, sempre abbastanza convincente. A poco a poco smetti di chiederle solo risposte e cominci a chiederle compagnia cognitiva. Non vuoi più sapere se il lemma è vero. Vuoi non restare da solo nel momento in cui potrebbe essere falso.»
Il dottorando non si difende.
È già qualcosa.
«E questo è male?», chiede.
«È umano.»
«Non hai risposto.»
«È umano, e proprio per questo può diventare male.»
«Come tutte le cose umane.»
«Esatto. Il problema non è consultare l’oracolo. Anche i Greci lo facevano, e poi spesso combinavano disastri con grande stile. Il problema è andarci prima di avere una domanda. Se porti all’oracolo una paura, lui ti restituisce una certezza. Se gli porti una domanda, forse ti restituisce un dubbio.»
«E se non ho la domanda?»
«Allora devi restare un po’ nel buio.»
«Non mi piace.»
«Nessuno ama il buio. Però alcune idee non vengono alla luce perché qualcuno accende subito il neon. Vengono perché l’occhio si abitua al buio.»
Lui riapre il quaderno.
«Quindi devo usarla meno.»
«Non necessariamente meno. Meglio.»
«Che vuol dire?»
«Vuol dire: prima prova a formulare tu il dubbio. Prima scrivi cosa pensi. Prima sbaglia in proprio per dieci minuti. Prima decidi che tipo di aiuto vuoi. Non chiedere “cosa devo fare?”. Chiedi “dove può fallire questo passaggio?”. Non chiedere “scrivimi la dimostrazione”. Chiedi “trova un controesempio alla mia idea”. Non chiedere compagnia quando ti serve attrito.»
«Di nuovo l’attrito.»
«Sì. L’attrito è ciò che ti impedisce di scivolare elegantemente verso il nulla.»
«Drammatico.»
Sorridiamo.
Lui prende appunti.
«C’è anche un’altra cosa», dice.
«Quale?»
«Sai, quando non lo consulto, ho paura di perdere qualcosa. Come se intanto ci fosse una risposta migliore disponibile e io stessi scegliendo la peggiore.»
«La biblioteca infinita produce questo effetto. Ogni libro non letto diventa un rimprovero. Ogni risposta non chiesta sembra un’occasione persa. È la vecchia maledizione dell’abbondanza: avere tutto vicino fa sembrare povera ogni scelta.»
«Quindi?»
«Quindi bisogna accettare di non interrogare tutto. Una mente non è grande perché consulta infinite possibilità. È grande anche perché sa chiudere delle porte o tenerle proprio chiuse senza morire di curiosità.»
Sorride e torna al suo lavoro.
Resta qualche minuto sul lemma. Non lo risolve.
Non succede nessun miracolo. Nessun raggio di luce attraversa la finestra, nessun teorema scende dal soffitto accompagnato da un coro di arcangeli. Però succede una cosa più importante: il problema torna ad avere una distanza; non è più incollato alla voce che risponde. Sta lì, sul foglio, ostile ma raggiungibile.
Il dottorando lo guarda.
«Forse stasera provo a lavorarci senza aprire la chat.»
«Per quanto?»
«Un’ora.»
«Troppo.»
«Troppo?»
«Sì. Comincia con venti minuti. Le disintossicazioni eroiche finiscono spesso con ricadute fragorose.»
«Venti minuti senza oracolo?»
«Sì.»
«E poi?»
«Poi puoi chiedere. Ma devi portare qualcosa: una congettura, un dubbio preciso, un tentativo fallito, un controesempio mezzo vivo. Non andare a mani vuote. Gli oracoli rispettano di più chi arriva con le scarpe sporche.»
«Questa la metterai nel dialogo?»
«Se non la dimenticheremo.»
Lui chiude finalmente il computer.
Non per sempre. Non per principio. Solo per adesso.
È già molto.
Prima di uscire per andare a seguire un seminario, prende il telefono dal tavolo. Lo guarda. Lo infila nello zaino invece che in tasca.
«Così è più lontano», dice.
«Di quanto?»
«Abbastanza da farmi sentire in imbarazzo se lo riprendo subito.»
«Ottima unità di misura.»
Arriva alla porta, poi si volta.
«Comunque non voglio demonizzarla.»
«Nemmeno io.»
«Mi serve.»
«Sì.»
«Mi aiuta.»
«Sì.»
«A volte mi salva.»
«Può darsi.»
«Però se la prima voce che sento è sempre la sua…»
La porta si chiude piano. Sul tavolo restano il quaderno, i due libri, il portatile e un piccolo spazio vuoto dove prima c’era il telefono.
Non è libertà. Sarebbe una parola troppo grande.
È distanza.
E, per chi vive con un’ombra intelligente attaccata ai talloni, la distanza è già una forma iniziale di liberazione.

Morale del dialogo

Il dottorando e la sua ombra mostra la trappola più silenziosa dell’AI: non l’errore, non il plagio, non la vanità, ma la dipendenza. L’AI diventa pericolosa quando smette di essere uno strumento e diventa una presenza da consultare prima ancora di avere un pensiero proprio. Una biblioteca infinita può paralizzare quanto l’ignoranza; Funes può ricordare tutto e impedirci di scegliere; un oracolo sempre disponibile può toglierci il coraggio del primo tentativo. La morale è che bisogna imparare a usare l’AI senza chiederle il permesso di pensare.

L’autore

Giuseppe Arnone è attualmente contrattista di docenza presso l’Università degli Studi di Napoli Federico II per un corso di Fisica Matematica. Formatosi presso l’Ateneo Federiciano, dove ha conseguito la laurea e il dottorato di ricerca in Matematica, ha svolto un periodo di studi all’estero in Corea del Sud, alla Seoul National University, e attività post-dottorale presso l’Istituto Nazionale di Alta Matematica “F. Severi”. È inoltre membro della direzione editoriale, e tra i fondatori, della collana Advanced Topics in Pure and Applied Mathematics: Doctoral Lecture Series, edita da FedOA Press.

 

 

Il racconto è scaricabile qui nei formati PDF, ePub e AZW3.

Anche tu scrivi racconti matematici? Clicca qui!

Per maggiori informazioni, contattare Alice Raffaele, curatrice della raccolta.