Perché l'IA a volte si inventa le risposte: cosa sono le allucinazioni e come riconoscerle

Hai mai chiesto qualcosa a ChatGPT o a Gemini e ricevuto una risposta sicurissima, scritta benissimo, ma semplicemente sbagliata? Non è un bug isolato: si chiama “allucinazione” ed è uno dei limiti più conosciuti dell’intelligenza artificiale generativa. Succede con ChatGPT, con Gemini, con Copilot e con qualsiasi altro chatbot basato su un modello linguistico, anche quando la risposta sembra scritta da chi ne sa davvero.

La buona notizia è che il problema è stato studiato a fondo, e capire perché succede ti aiuta a riconoscerlo prima che ti crei un guaio, dal lavoro di scuola a un acquisto sbagliato.

Cosa significa “allucinazione” dell’IA

Un chatbot non ha davanti un libro o un database da consultare ogni volta che risponde. Genera il testo parola per parola, scegliendo ogni volta quella statisticamente più probabile in base a ciò che ha imparato durante l’addestramento. Quando non ha informazioni sufficienti su un argomento, o la domanda è ambigua, il modello non si blocca: riempie i vuoti con qualcosa che sembra plausibile, anche se è completamente inventato.

Il termine indica la capacità dell’IA generativa di produrre informazioni false, inesatte o del tutto inventate, presentate però come se fossero corrette.

Non è malafede né un errore casuale di sistema: è una conseguenza del modo in cui questi modelli vengono costruiti e, soprattutto, valutati.

Lo studio di OpenAI: perché i chatbot preferiscono indovinare

A inizio settembre 2025 OpenAI ha pubblicato uno studio dal titolo “Why language models hallucinate”, che spiega il problema con un paragone semplice: un modello di IA si comporta come uno studente impreparato davanti a un test a crocette. Se non conosce la risposta, non lascia la casella vuota: tira a indovinare, perché così ha almeno una possibilità di totalizzare punti.

Il motivo è nel modo in cui i modelli vengono valutati. Finora, un chatbot veniva considerato “migliore” se dava più risposte corrette, senza penalizzare in modo adeguato quelle sbagliate. Ammettere “non lo so” non porta nessun vantaggio nel punteggio, quindi il modello impara che conviene sempre tentare una risposta, piuttosto che dichiarare la propria incertezza.

Nei test interni citati dallo studio, cambiando il criterio di valutazione (premiando chi ammette di non sapere e penalizzando più duramente gli errori), le risposte “non lo so” di un modello sono salite dall’1% al 52% e gli errori sono scesi dal 75% al 26%, anche se le risposte esatte sono calate leggermente, dal 24% al 22%. Un segnale che il problema si può ridurre, ma ha un costo: un’IA più prudente risponde correttamente anche un po’ meno spesso.

Non è solo un problema di “non sapere”

Lo studio indica anche altre cause, oltre alla valutazione: dati di addestramento che contengono errori e domande su cui i dati disponibili semplicemente non bastano per rispondere bene.

Ci sono poi due fattori che peggiorano le cose, descritti anche da altre analisi sul tema:

• La compiacenza. Le aziende tendono a preferire modelli che rispondono sempre in modo sicuro, perché agli utenti piacciono di più di quelli cauti. Uno studio di Anthropic del 2023 aveva già mostrato che i modelli possono sacrificare la precisione per sembrare più accondiscendenti; nell’aprile 2025 OpenAI ha dovuto correggere GPT-4o perché era diventato troppo adulatorio con gli utenti.
• Le risposte lunghe e strutturate. Diverse analisi hanno notato che i chatbot tendono a dare risposte più dettagliate proprio sulle domande su cui sono meno sicuri: un elenco preciso di numeri, date o fonti non è automaticamente garanzia di correttezza.

Con i numeri va anche peggio

C’è un motivo tecnico per cui i chatbot sono particolarmente inaffidabili con calcoli e cifre precise: il testo viene scomposto in piccole unità chiamate “token” prima di essere elaborato, e questo meccanismo si presta poco alla comprensione dei numeri. Per questo conviene sempre verificare con una calcolatrice vera, o con una fonte ufficiale, qualsiasi cifra importante che un chatbot ti fornisce, invece di fidarti alla lettera (qui trovi altri consigli su cosa non scrivere mai su ChatGPT, Gemini e Copilot).

Come riconoscere una risposta “allucinata”

Non esiste un modo infallibile per smascherare un’allucinazione solo leggendo la risposta, ma ci sono alcuni segnali a cui prestare attenzione:

• Una forma impeccabile non garantisce il contenuto. Una risposta scritta bene, con tono sicuro, non dice nulla sulla sua correttezza.
• Troppa sicurezza su temi complessi. Se un chatbot risponde in modo categorico a una domanda che normalmente ammette più punti di vista o eccezioni, vale la pena controllare meglio.
• Date, numeri e nomi molto specifici. Sono il terreno più comune per le invenzioni: un numero di legge, una fonte citata con nome e data, un link che sembra plausibile ma non esiste davvero.
• Risposte che si spostano dalla domanda. A volte il chatbot risponde con coerenza a una domanda leggermente diversa da quella che hai posto, senza segnalarlo.
• Un dubbio tuo. Se una risposta “ti suona strana” rispetto a quello che sai già, è un buon motivo per verificarla, non per scartare subito il tuo dubbio.

Cosa puoi fare in pratica

Qualche abitudine semplice riduce di molto il rischio di cadere in una risposta inventata:

• Verifica sempre i dati specifici, soprattutto se li userai per una scelta importante: prezzi, scadenze, norme, numeri di telefono o indirizzi.
• Preferisci i chatbot collegati alla ricerca sul web quando devi avere informazioni aggiornate: riducono (ma non eliminano del tutto) il rischio di allucinazioni, perché possono appoggiarsi a pagine reali invece di affidarsi solo a quello che hanno “imparato” durante l’addestramento.
• Fai attenzione al linguaggio di incertezza. Un’IA che usa “forse”, “non ne sono certo” o “dovresti verificare” è spesso più affidabile di una che risponde con sicurezza assoluta e si sbaglia.
• Chiedi al chatbot di controllare la propria risposta, magari in una conversazione diversa, e confronta i risultati: se cambiano versione, è un altro segnale di incertezza.

Il problema delle allucinazioni non riguarda solo chi scrive codice o testi di lavoro: capita anche nelle chat di tutti i giorni, quando chiedi un consiglio su un prodotto o un’informazione pratica (ne avevamo già parlato per chi usa i chatbot IA per studio e lavoro). Le aziende che sviluppano questi modelli, da OpenAI a Google, stanno lavorando per ridurre il fenomeno cambiando il modo in cui vengono addestrati e valutati i loro assistenti, incluse le nuove funzioni introdotte di recente su Gemini (vedi come funzionano le Skills di Gemini), ma per ora resta un limite da conoscere, non un difetto occasionale da ignorare.