Il vero rischio dell’IA: non sopportare più ciò che non comprendiamo

In Francia il caso è esploso intorno a Thélyson Orélien, poeta e scrittore quebecchese di origine haitiana. Il suo primo romanzo, C’était ça ou mourir, pubblicato da Grasset, racconta il viaggio di un professore costretto ad abbandonare Haiti e a raggiungere il Canada. Il libro viene accolto con entusiasmo, vince il Prix du roman Fnac, vende decine di migliaia di copie ed entra nella corsa ai grandi premi letterari. Poi qualcuno lo sottopone a Pangram, uno strumento utilizzato per individuare testi generati dall’intelligenza artificiale: il risultato indica una probabilità molto alta di utilizzo dell’IA. Orélien nega e in Francia comincia una discussione che arriva sulle pagine di Le Monde: che cosa significa essere autore quando una macchina partecipa alla scrittura?

È una domanda importante, ma guarda il fenomeno dalla parte della macchina. Proviamo a guardarlo dalla parte dell’uomo.

Il rischio più profondo potrebbe non essere che l’intelligenza artificiale impari a scrivere come noi, ma che noi ci abituiamo a desiderare una lingua simile a quella che chiediamo alle macchine: chiara, disponibile, immediatamente comprensibile, capace di eliminare l’equivoco, riassumere, ordinare, spiegare. Una lingua nella quale ogni oscurità diventa un difetto.

Già chiediamo all’IA di semplificare testi, riassumere libri, mettere ordine nei ragionamenti. Nulla di scandaloso. Il problema comincia quando questa abitudine modifica ciò che pretendiamo dagli altri, perché un essere umano non è un testo da rendere più chiaro. Le persone non sempre sanno spiegarsi, si contraddicono, tacciono proprio dove vorremmo una risposta. Un dolore non coincide con il racconto che riusciamo a farne; un migrante non è la somma delle informazioni che ne ricostruiscono la biografia; una persona amata può, dopo trent’anni, rimanerci in parte incomprensibile.

Abbiamo considerato la comprensione una virtù senza controindicazioni, ma il desiderio di comprendere può trasformarsi in una pretesa: se voglio comprenderti interamente, ti chiedo di diventare leggibile per me. E spiegare non è sempre un gesto innocente, perché chi spiega stabilisce un ordine, decide quali fatti contano e costruisce una coerenza che può appartenere più a lui che alla persona che ha davanti.

È questa pretesa che l’intelligenza artificiale rischia di rendere culturalmente normale. La macchina raccoglie indizi, stabilisce correlazioni e restituisce una rappresentazione coerente, mentre gli esseri umani possono amare e respingere la stessa persona, desiderare ciò che temono, credere una cosa e farne un’altra. La contraddizione non è sempre un errore da correggere: talvolta è il luogo nel quale una vita rimane viva.

Dovremmo allora riconoscere qualcosa di semplice: l’altro non ci deve la propria spiegazione. Una società capace di conoscere e prevedere sempre di più gli individui dovrà chiedersi se tutto ciò che può essere conosciuto debba esserlo e se, accanto al diritto di sapere, non esista anche un diritto all’opacità.

Il caso Orélien ci interroga su chi abbia scritto un libro. Ma forse la domanda più importante è un’altra: quale idea dell’uomo stiamo imparando da macchine costruite per risponderci? La libertà non consiste soltanto nel poter parlare, ma anche nel non essere interamente tradotti nella lingua con cui gli altri cercano di comprenderci. Nell’epoca delle macchine che spiegano, dovremo imparare a fermarci prima che la spiegazione dell’altro prenda il posto dell’altro.