Allucinazioni dell’IA: quando l’intelligenza artificiale sbaglia

Quando si parla di allucinazioni dell’intelligenza artificiale, ci si riferisce a casi in cui un modello generativo – pensiamo a un qualsiasi LLM come ChatGPT, Claude o Gemini – produce risposte che sembrano plausibili ma sono in realtà false, non verificate o del tutto inventate. Ad esempio, durante i primi test pubblici di Bing Chat (Microsoft), diversi utenti hanno segnalato che l’IA non solo forniva risposte errate, ma reagiva in modo ostile e offensivo quando veniva corretta.

Nel campo della comunicazione e dell’informazione, questo fenomeno è particolarmente rilevante: non si tratta soltanto di un problema tecnico, ma una questione che mette alla prova la fiducia, spesso cieca, con cui ci affidiamo alle macchine per ottenere risposte e soluzioni.

Come e perché allucinazioni IA si verificano

Le cause di questo meccanismo sono molteplici e strettamente interconnesse. Tutto parte dalla natura probabilistica dei grandi modelli linguistici, che non generano frasi sulla base di una comprensione reale del significato, ma prevedendo la parola più probabile successiva in funzione dei dati su cui sono stati addestrati. Se in quei dati mancano informazioni o vi sono lacune le risposte prodotte rispecchiano inevitabilmente tali limiti. Secondo alcuni ricercatori di OpenAI, i modelli sono progettati e valutati in modo da preferire il dare una risposta, anche quando non possiedono abbastanza dati per farlo con certezza.

C’è poi un altro problema: la mancanza di trasparenza. I processi interni che determinano come l’informazione viene selezionata e trasformata in testo restano in gran parte opachi. L’assenza di audit indipendenti rende difficile individuare dove e perché si generi l’errore.

Uno studio ha cercato di mettere ordine, classificando le allucinazioni in otto categorie: il sovradattamento (“overfitting”, ossia quando un modello troppo complesso perde la capacità di generalizzare), errori logici, errori di ragionamento, errori matematici, fabbricazioni infondate, errori fattuali, errori di output del testo e altri errori.

Le conseguenze delle allucinazioni IA

Il tono sicuro e autorevole con cui gli LLM rispondono rende più facile credere a informazioni false. Le allucinazioni dell’IA non sono un semplice bug, ma possono normalizzare l’errore, legittimandolo quando viene diffuso e ripetuto da strumenti percepiti come affidabili. I pericoli sono reali, come nel caso di un uomo che, dopo aver chiesto a ChatGPT un sostituto del sale da cucina, ha usato sodio bromuro su consiglio del chatbot, finendo gravemente intossicato.

Un alto rischio è la strumentalizzazione deliberata di questi strumenti, come nella campagna di disinformazione volta ad inserire nei dataset di addestramento contenuti filorussi falsi o manipolati, per esempio sui presunti laboratori biologici statunitensi in Ucraina. In questo modo la menzogna si traverse da risposta neutrale, elevata a verità dall’IA.

Quali strategie per mitigazione il problema

Non esiste ancora una cura definitiva per le allucinazioni dell’IA. Anzi, più queste tecnologie diventano parte della vita quotidiana, più cresce il margine d’errore. Tuttavia, esistono alcune strategie efficaci per contenerlo.

Una prima soluzione è il fact-checking, ossia verificare la correttezza delle informazioni generate dal modello confrontandole con fonti esterne, come motori di ricerca o database affidabili. È inoltre essenziale che gli utenti usino prompt chiari e mirati, e mantengano consapevolezza critica poiché sapere che l’IA può sbagliare è il primo passo per usarla responsabilmente. Questo atteggiamento dovrebbe rientrare in una più ampia alfabetizzazione digitale e mediatica, oggi indispensabile.

La responsabilità, però, non può ricadere solo sugli utenti. Le aziende che sviluppano e diffondono questi sistemi devono garantire trasparenza e sicurezza. Rendere pubblici, per quanto possibile, i dati di addestramento e consentire audit indipendenti sulle prestazioni dei modelli sarebbe un passo cruciale.

Anche etichette e avvisi chiari – che ricordino all’utente che il modello può sbagliare o che non sostituisce un esperto – sono strumenti semplici ma utili. Già oggi le politiche d’uso di molti LLM specificano che non devono essere impiegati come sostituti di professionisti, ad esempio in campo medico o psicologico.

Infine, resta un principio fondamentale: la supervisione umana non è sostituibile. L’IA può assistere, suggerire, persino ispirare, ma il controllo finale sulle decisioni e sulle verifiche deve rimanere nelle mani delle persone.