L’intelligenza artificiale sa quando non sa?

Quando pensiamo all’intelligenza, tendiamo a valutarla in base alle risposte che una persona sa fornire. Chi possiede molte conoscenze, risolve problemi complessi e trova rapidamente una soluzione viene considerato intelligente. Eppure, una delle qualità più importanti dell’intelligenza umana non consiste nel sapere, ma nel riconoscere i limiti di ciò che sappiamo.

Una persona competente non è necessariamente quella che risponde sempre. È anche quella che, davanti a una domanda difficile, sa dire: "Non lo so", "non ho abbastanza informazioni" oppure "devo verificare". Questa capacità viene chiamata metacognizione: la facoltà di riflettere sui propri processi cognitivi e distinguere ciò che sappiamo da ciò che crediamo soltanto di sapere. Ma l’intelligenza artificiale possiede qualcosa di simile? Una macchina può sapere quando non sa?

Rispondere non significa sapere

I moderni modelli linguistici sono progettati per produrre risposte. Quando ricevono una domanda, generano la continuazione linguisticamente più plausibile sulla base di ciò che hanno appreso durante l’addestramento. Questo meccanismo ha prodotto risultati straordinari: i modelli possono scrivere testi, tradurre, spiegare concetti scientifici, programmare e risolvere problemi complessi.

Il loro obiettivo fondamentale, però, non è stabilire se una frase sia vera, ma prevedere quale sequenza di parole sia più probabile in un certo contesto. Per questo una risposta può essere impeccabile nella forma e sbagliata nei fatti. Il modello può inventare il titolo di un libro, attribuire una frase alla persona sbagliata o descrivere con precisione un evento mai avvenuto.

Il problema non è soltanto che l’intelligenza artificiale possa sbagliare: anche gli esseri umani sbagliano. È che può farlo con lo stesso tono sicuro, fluido e convincente usato per una risposta corretta. La sicurezza linguistica non coincide con la sicurezza epistemica, cioè con la probabilità che un’affermazione sia vera. Le cosiddette allucinazioni o, più precisamente, alcune forme di confabulazione artificiale, consistono proprio nella produzione di affermazioni plausibili ma prive di un fondamento affidabile.

Probabilità non significa verità

In un modello linguistico ogni possibile parola riceve una probabilità. Dopo la frase "La capitale della Francia è", la parola "Parigi" avrà una probabilità molto elevata, perché quell’associazione compare spesso nei dati. Si potrebbe quindi pensare che basti osservare queste probabilità per capire quanto il modello sia sicuro della risposta. Ma la questione è più complessa.

La probabilità assegnata a una parola indica quanto quella parola sia prevedibile in un contesto linguistico, non la probabilità che l’intera affermazione sia vera. Una frase falsa può essere composta da parole molto prevedibili. Se nei dati circola una convinzione errata ma diffusa, il modello può riprodurla con grande sicurezza. Al contrario, un fatto vero ma raro può ricevere una probabilità bassa soltanto perché è apparso poche volte durante l’addestramento.

La macchina dispone dunque di una misura della plausibilità linguistica, non di un misuratore universale della verità. Per valutare l’affidabilità serve un concetto diverso: la calibrazione. Un sistema è ben calibrato quando la sicurezza che dichiara corrisponde alla frequenza con cui ha ragione. Se assegna una sicurezza dell’80% a cento risposte, ci aspettiamo che circa ottanta siano corrette. Se lo sono soltanto cinquanta, il modello è troppo sicuro; se lo sono novantacinque, è troppo prudente. La calibrazione non rende infallibile una macchina, ma rende i suoi errori più prevedibili.

Le tracce dell’incertezza

Anche se i modelli linguistici non possiedono un indicatore interno capace di separare sempre il vero dal falso, la loro incertezza può lasciare alcune tracce. Un primo metodo consiste nel chiedere al modello più risposte alla stessa domanda. Se esprimono tutte lo stesso concetto, possiamo ipotizzare che il sistema abbia una rappresentazione relativamente stabile. Se invece propone ogni volta una soluzione diversa, probabilmente si trova in una zona di forte incertezza.

Non basta, però, confrontare le singole parole. "La capitale della Francia è Parigi", "Parigi è la capitale francese" e "la risposta è Parigi" sono frasi diverse, ma hanno lo stesso significato. Per questo alcuni ricercatori hanno introdotto il concetto di entropia semantica. Il sistema genera più risposte, raggruppa quelle equivalenti nel significato e misura quanto differiscano i significati prodotti. Se oscilla tra risposte incompatibili, l’entropia semantica aumenta e segnala un maggior rischio di confabulazione.

Il metodo è promettente, ma non risolve il problema. Una macchina può essere coerentemente sbagliata: se ha appreso un’informazione falsa o possiede un modello distorto della realtà, può ripetere sempre la stessa risposta errata. In quel caso l’incertezza sarebbe bassa, ma la risposta resterebbe falsa. La coerenza è quindi un indizio di affidabilità, non una garanzia di verità.

Chiedere "sei sicura?" non basta

Un secondo metodo, apparentemente più semplice, consiste nel chiedere direttamente alla macchina quanto sia sicura. Dopo una risposta potremmo domandare: "Quanto sei sicura, da zero a cento?". In alcuni contesti i modelli riescono a stimare, almeno in parte, la probabilità che una propria risposta sia corretta. Alcuni esperimenti indicano che, quando domanda e formato sono ben strutturati, i modelli più grandi distinguono abbastanza bene le risposte solide da quelle fragili.

Ma questa soluzione contiene un paradosso. La frase "sono sicura all’85%" è a sua volta una sequenza di parole generata dal modello, non necessariamente la lettura fedele di uno strumento interno. Potrebbe essere soltanto la risposta linguisticamente più appropriata. Chiedere a un modello di dichiarare la propria sicurezza non basta quindi a renderlo ben calibrato.

Uno studio presentato a NeurIPS ha mostrato che la semplice formulazione di una domanda sulla sicurezza può essere insufficiente e che, per ottenere stime migliori, i modelli devono essere addestrati anche su esempi di risposte corrette e scorrette. La capacità di riconoscere i propri limiti, dunque, non emerge necessariamente da sola: deve essere insegnata.

Il problema non è soltanto la macchina

C’è un’altra difficoltà: anche quando l’intelligenza artificiale comunica incertezza, gli esseri umani possono interpretarla male. Tendiamo a fidarci di più delle risposte dettagliate, ben scritte e accompagnate da spiegazioni. La lunghezza e la qualità apparente del testo diventano segnali indiretti di competenza. Ma una spiegazione lunga non è necessariamente corretta.

Alcuni esperimenti hanno mostrato che le persone tendono a sopravvalutare l’accuratezza dei modelli e che spiegazioni più estese possono aumentare la fiducia anche quando non migliorano la correttezza. Si crea così un disallineamento pericoloso: la macchina produce una risposta fluida perché è stata addestrata a comunicare bene; l’essere umano interpreta quella fluidità come prova di conoscenza. La sicurezza stilistica della macchina diventa sicurezza psicologica dell’utente.

Il rischio, quindi, non è soltanto l’errore dell’intelligenza artificiale, ma l’eccessiva fiducia che quell’errore può generare.

Perché le macchine preferiscono indovinare

Esiste anche una ragione più profonda per cui i sistemi artificiali tendono a rispondere invece di ammettere la propria ignoranza: spesso siamo noi a premiarli quando lo fanno.

Immaginiamo un esame di cento domande a risposta multipla. Se una risposta sbagliata non comporta penalità, la strategia migliore è rispondere sempre, anche senza conoscere la soluzione. La stessa logica può valere per l’intelligenza artificiale. Molti test misurano quante risposte corrette produce un modello, ma non attribuiscono un valore adeguato alla capacità di astenersi. Così un sistema che prova sempre a indovinare può ottenere un punteggio superiore a uno più prudente, che risponde soltanto quando dispone di informazioni sufficienti.

Uno studio pubblicato nel 2026 su Nature ha mostrato che alcune comuni valutazioni basate sull’accuratezza possono incentivare proprio questo comportamento: indovinare viene premiato più dell’ammettere l’incertezza. Gli autori propongono di modificare le metriche, specificando il costo di una risposta sbagliata e il valore dell’astensione. Se vogliamo macchine intellettualmente più oneste, dobbiamo smettere di valutare l’intelligenza come semplice capacità di fornire una risposta.

L’arte di non rispondere

Un’intelligenza artificiale affidabile dovrebbe poter scegliere tra azioni diverse. Quando dispone di informazioni solide, può rispondere. Quando rileva incertezza, può cercare una fonte, consultare una banca dati, usare uno strumento di calcolo o confrontare più soluzioni. Se la domanda è ambigua, può chiedere chiarimenti. Se il rischio è elevato, può trasferire la decisione a una persona competente. E quando gli elementi non bastano, può astenersi.

Questa strategia viene chiamata selective answering, risposta selettiva: il sistema risponde soltanto quando la propria affidabilità supera una certa soglia. L’astensione non è un malfunzionamento, ma in molti contesti una funzione di sicurezza. Un sistema medico che non riconosce un caso dovrebbe segnalarlo al personale sanitario. Un algoritmo della pubblica amministrazione dovrebbe evitare decisioni automatiche con dati incompleti. Un agente che opera su infrastrutture critiche dovrebbe fermarsi davanti a situazioni diverse da quelle per cui è stato verificato.

Il valore della risposta dipende anche dal costo dell’errore. Per suggerire un ristorante può essere accettabile una certa incertezza. Per indicare una terapia, attribuire una responsabilità giuridica o controllare una rete elettrica, la soglia deve essere molto più alta. Non esiste quindi un livello universale di sicurezza: l’affidabilità va calibrata in base al contesto e alle conseguenze.

Il rischio opposto

Anche l’eccesso di prudenza può diventare un problema. Un’intelligenza artificiale che rispondesse sempre "non lo so" sarebbe sicura, ma quasi inutile. Potrebbe rifiutarsi di affrontare problemi nuovi proprio quando il suo contributo sarebbe più prezioso.

L’obiettivo non è costruire una macchina che non sbaglia mai, né una macchina che non rischia mai. È trovare un equilibrio tra utilità e prudenza. Troppa sicurezza produce errori pericolosi; troppa incertezza produce immobilità. Ancora una volta, l’intelligenza sembra emergere dall’equilibrio tra due capacità opposte: agire e fermarsi.

Una nuova forma di intelligenza

Dire che una macchina "sa di non sapere" non significa necessariamente attribuirle una coscienza. L’intelligenza artificiale non deve provare il dubbio come un essere umano, né sentire esitazione, paura o disagio. Può però sviluppare una forma operativa di autocontrollo: riconoscere che una domanda è fuori dalle proprie conoscenze, che le informazioni disponibili sono contraddittorie o che il rischio associato alla risposta è troppo elevato.

Sarebbe una forma di metacognizione artificiale: non la consapevolezza umana dei propri pensieri, ma la capacità funzionale di valutare i limiti del proprio processo decisionale.

Forse il prossimo grande salto dell’intelligenza artificiale non consisterà soltanto nel costruire sistemi capaci di rispondere a domande sempre più difficili. Consisterà nel creare macchine capaci di distinguere una conoscenza da un’ipotesi, una deduzione da un’intuizione, una risposta affidabile da una semplice congettura.

Perché l’intelligenza più matura non è quella che ha sempre qualcosa da dire. È quella che sa quando fermarsi.