Il dibattito sull’Intelligenza Artificiale nella ricerca scientifica sta diventando sempre più interessante. E, credo, sempre più importante. Non riguarda soltanto quanto l’AI sia capace di risolvere problemi, di produrre codice, dimostrare teoremi o analizzare quantità di informazioni che un essere umano non potrebbe affrontare negli stessi tempi. Riguarda anche, e forse soprattutto, il nostro rapporto con la conoscenza.

Quanto conta che un sistema di AI riesca a produrre qualcosa più velocemente di noi, se poi quel qualcosa non può essere realmente compreso, manipolato, riutilizzato e trasformato dagli esseri umani? E ancora: l’obiettivo della ricerca è semplicemente aumentare la produzione? Più articoli, più teoremi, più codice, più risultati? Oppure esiste una dimensione della conoscenza che riguarda anche il percorso attraverso il quale la costruiamo: la comprensione, l’intuizione, il confronto con gli altri, il tempo trascorso su un problema e, in senso più ampio, il fiorire dell’essere umano attraverso l’attività intellettuale?

Qualche giorno fa ho avuto modo di parlarne con un mio amico, il prof. Damiano Mazza, un matematico e ricercatore al CNRS, direttore del Laboratorio di Informatica di Parigi Nord. La conversazione era nata intorno alle recenti notizie sull’utilizzo dei grandi modelli linguistici nella matematica e, in particolare, nella formalizzazione automatica delle dimostrazioni. A un certo punto mi ha mandato su WhatsApp una lunga riflessione. Mi è sembrata interessante perché sposta il discorso dalla domanda più immediata, “quanto è brava l’AI a fare matematica?”, a una domanda molto più radicale: che cosa significa, per noi, fare matematica?

La riporto di seguito. L’incipit è quello di una risposta ad una mia segnalazione di articolo dal quotidiano “Il Fatto Quotidiano”: Claude formalizza in undici giorni la dimostrazione del Teorema di Fermat, il progetto umano prevedeva 10 anni.

Ciao Daniele, non ho letto l’articolo perché richiede un abbonamento, quindi non so se riporti anche cosa ne pensano gli esperti. In generale, chi lavora nella formalizzazione, e conosco diverse persone che se ne occupano, cerca di rendere una dimostrazione formale leggibile, comprensibile e, soprattutto, riutilizzabile. Normalmente dimostrazioni complesse richiedono un’enorme quantità di risultati preliminari, definizioni e lemmi di base, che possono poi essere utilizzati anche in altri contesti. È qualcosa di molto simile a un software complesso costruito sopra numerose librerie condivise.

Le autoformalizzazioni prodotte attraverso sistemi di AI vengono talvolta criticate proprio perché possono risultare poco utilizzabili da questo punto di vista. Lo scopo della formalizzazione di un risultato matematico importante, infatti, non è necessariamente quello di essere sicuri che il teorema sia vero. In molti casi sulla correttezza del risultato non ci sono particolari dubbi. Il vero interesse consiste nel rendere espliciti tutti i dettagli della dimostrazione, estrarne la struttura e presentarla nel modo più modulare possibile. In questo modo, in futuro, altre dimostrazioni potranno appoggiarsi su quel lavoro senza dover ricostruire da zero tutta la parte fondazionale.

Il problema è che le grandi aziende di AI sembrano spesso avere incentivi diversi. La logica rischia di diventare quella del primato: questo risultato l’abbiamo ottenuto noi e non un concorrente. Si tratta di “piantare una bandiera”. Diventa allora del tutto secondario che la formalizzazione sia composta da centinaia di migliaia di righe di codice difficili da leggere e da riutilizzare, e dalle quali la comunità matematica, come comunità, apprende relativamente poco.

C’è poi il caso, molto discusso, del lavoro sulle equazioni di Navier–Stokes. Due ricercatori stavano sviluppando, aiutandosi anche con Claude e ChatGPT, alcune idee precedentemente introdotte da altri matematici per arrivare ad una soluzione di un celebre problema aperto relativo a tali equazioni. Si trattava di una ricerca indipendente, senza nessun coinvolgimento diretto di alcuna azienda di AI, sebbene uno dei due ricercatori sia un impiegato di Anthropic. OpenAI è venuta in qualche modo a sapere dei notevoli progressi di questi due ricercatori, nonché del fatto che uno di loro era impiegato dall’azienda sua acerrima rivale. Poiché il problema in questione è una sorta di Graal (è uno dei cosiddetti “Millennium Problems”, per i quali nel 2000 l’Istituto Clay ha offerto un premio di un milione di dollari a chiunque ne risolva uno), hanno immediatamente orientato una quantità enorme di risorse verso la soluzione di questo problema, che hanno ottenuto in tempi brevissimi, potendo così “piantare” un’altra bandiera (e che bandiera: risolvere un Millennium Problem è un po’ l’equivalente dello sbarco sulla Luna all’epoca della corsa allo spazio). In tutto questo, c’è il fortissimo sospetto che i risultati parziali dei due ricercatori siano stati utilizzati, senza il loro consenso, per il training del modello interno utilizzato da OpenAI, che è così potuta partire da una posizione già considerevolmente avanzata verso la soluzione del problema.

La vicenda ha alimentato una discussione molto più ampia sulla competizione tra grandi aziende, sull’enorme disparità di risorse computazionali disponibili e, soprattutto, sui problemi di attribuzione del lavoro intellettuale quando sistemi di AI vengono utilizzati per accelerare ricerche iniziate da altri. Al di là di come siano andate esattamente le cose in questo caso specifico, la questione generale rimane importante. Un’azienda può mobilitare migliaia di agenti artificiali in parallelo e arrivare rapidamente a un risultato sul quale piccoli gruppi di ricercatori hanno lavorato per mesi o anni. Ma allora diventano inevitabili alcune domande: chi ha avuto l’idea? Chi ha costruito le fondamenta? Chi deve ricevere credito? E che cosa rimane alla comunità scientifica oltre al risultato finale?

La filosofia dominante sembra essere che l’AI sia soprattutto un acceleratore. Qualunque cosa tu debba fare, l’AI dovrebbe permetterti di farne di più e più rapidamente. Ma in matematica, e probabilmente in qualunque attività creativa, bisogna anche riflettere. E che cosa significa “riflettere di più e più rapidamente”? Il rischio è che si ragioni esclusivamente in termini produttivi e non umanistici.

Della matematica, allora, non importa più il procedimento: importa l’output. L’output sono i teoremi. Se l’AI permette di dimostrare più teoremi, più rapidamente e con meno fatica, nella logica puramente produttiva il problema sembra risolto. Ma è davvero così?

Lo stesso ragionamento si potrebbe applicare alla musica. Se tutto ciò che conta è l’output, allora l’output della musica sono le canzoni. Un sistema di AI può produrre più canzoni, più rapidamente e con meno fatica. Ma chi ragiona esclusivamente così probabilmente trascura una parte essenziale dell’esperienza musicale: scrivere una canzone, provare con il proprio gruppo, improvvisare insieme, suonare su un palco, provare emozioni e condividerle.

In generale la tecnologia tende a sollevarci da qualcosa che consideriamo oneroso. Il problema dello sviluppo attuale dell’AI, fortemente guidato dagli interessi economici di grandi aziende private, è che si potrebbe progressivamente insinuare l’idea che anche pensare sia un’attività onerosa. Pensare diventa precisamente ciò che una macchina può fare al nostro posto. Al di là del linguaggio dell’AI come “acceleratore”, il rischio è di arrivare implicitamente all’idea che sia desiderabile avere qualcosa che pensi per noi, perché il dover pensare sarebbe soltanto una delle tante fatiche della condizione umana dalle quali la tecnologia può liberarci. Personalmente trovo questa prospettiva terrificante.

Qualche settimana fa, in una conversazione con amici, mi si chiedeva se i matematici fossero preoccupati dall’AI. Credo che molti lo siano, ma non necessariamente perché temano di perdere il proprio lavoro. Il problema più profondo è un altro: stiamo iniziando a subappaltare alcune delle nostre capacità cognitive più elevate. Come faranno i futuri ricercatori a imparare come si fa ricerca, se una parte crescente del processo viene delegata a macchine che “pensano” al loro posto? Il prof. Terence Tao della UCLA dedica un interessante post a questo tema, mostrando come le preoccupazioni dei matematici non siano tanto occupazionali, col timore che l’AI prenda il loro posto, quanto esistenziali.

Il mantra delle aziende di AI è che i loro prodotti non “pensano” al nostro posto ma ci liberano dai compiti intellettuali minori, permettendoci di concentrare le nostre facoltà sulle cose davvero importanti. Ma chi ci dice che non sia proprio grazie alla miriade di sforzi intellettuali banali, fatti costantemente tutti i giorni, che riusciamo ad essere creativi, brillanti, intelligenti quando abbiamo bisogno di esserlo? È un po’ come se un centometrista, interessato solo a vincere medaglie, smettesse di correre agli allenamenti, perché non è durante gli allenamenti che si vincono medaglie…

Se l’AI fosse sviluppata avendo esplicitamente il bene dell’umanità come uno dei propri obiettivi fondamentali, domande di questo genere dovrebbero essere affrontate prima di lanciarsi nella direzione verso la quale stiamo andando.

Forse, allora, ciò che deve preoccuparci non è tanto l’AI in sé. È anche, e soprattutto, il contesto economico e sociale all’interno del quale la stiamo sviluppando.

Qui finisce il messaggio del prof Mazza. Trovo questa riflessione importante perché tocca un problema che va ben oltre la matematica. Se l’AI diventa un paradigma dominante, saremo portati a modellare mentalmente ogni nostro pensiero, ogni nostra interazione col mondo in termini di input e output, funzioni obiettivo, metriche quantitative. E il problema non è tanto che si diventa disumani, ma che si diventa vittime degli strumenti che noi stessi abbiamo creato per cercare di “ordinare il mondo”.

Nella ricerca scientifica stiamo iniziando a misurare le capacità dei sistemi di AI utilizzando metriche comprensibili e, apparentemente, oggettive: quanti problemi risolvono, quanti benchmark superano, quanto codice producono, quanti teoremi riescono a dimostrare. Sono metriche utili. Ma rischiano di misurare soltanto ciò che è facile contare.

La conoscenza scientifica non è soltanto il risultato finale. È una struttura che deve poter essere ispezionata, criticata, modificata, ricombinata e trasmessa. Un risultato scientifico che soltanto una macchina è in grado di generare, all’interno di una catena di ragionamento troppo complessa perché una comunità umana possa appropriarsene, pone quindi un problema molto particolare. Potrebbe essere formalmente corretto. Potrebbe essere nuovo. Potrebbe perfino essere straordinariamente utile. Eppure potrebbe contribuire molto meno di quanto immaginiamo alla conoscenza umana.

È un tema sul quale sto riflettendo da tempo anche lavorando sull’AI applicata alla scienza: non basta chiedersi se una macchina sia in grado di accedere alla conoscenza o di produrne di nuova. Dobbiamo chiederci chi governa quella conoscenza, come viene organizzata, quanto rimane comprensibile, quanto può essere riutilizzata dalle comunità scientifiche e quanto contribuisce alla fioritura dell’essere umano intesa come nostra maggiore comprensione del mondo, di noi stessi.

Ed è qui che la questione tecnica finisce inevitabilmente per diventare una questione antropologica.

Forse la domanda non è: quanto velocemente può pensare una macchina? La domanda più interessante potrebbe essere: che tipo di esseri umani vogliamo diventare, ora che abbiamo macchine capaci di svolgere una parte crescente delle attività che fino a ieri chiamavamo “pensare”?

Se il criterio è esclusivamente la produzione, la risposta sembra semplice: più risultati, più rapidamente. Se invece il criterio comprende anche comprensione, autonomia, creatività, responsabilità e crescita della persona, allora il problema diventa molto più complesso. Perché forse la fatica di capire non è un difetto da eliminare dal processo della conoscenza. Forse ne è una parte essenziale.

E, in questo senso, la vera sfida dell’AI nella ricerca scientifica potrebbe non essere costruire sistemi capaci di pensare sempre di più al nostro posto. Potrebbe essere costruire sistemi capaci di aiutarci a pensare meglio, senza privarci del bisogno, e del piacere, di farlo.