L’intelligenza del demonio

Il 10 settembre scorso Anthropic ha pubblicato un dossier di qualche centinaio di pagine sugli usi impropri del proprio modello di intelligenza artificiale, Claude, negli otto mesi precedenti. Letto tutto d’un fiato ha il ritmo di un romanzo di spionaggio scritto da un ufficio legale. C’è una cellula legata ai servizi segreti russi che ha automatizzato il furto della posta diplomatica ucraina e dei dati di alcuni produttori di droni militari, infilandosi nella rete senza fili degli alberghi frequentati dai bersagli per intercettarne i dispositivi. Ci sono due studenti universitari dello Hunan, in Cina, che hanno trasformato l’assistente nella regia di un programma di spionaggio contro reti governative dal Medio Oriente al Sud-Est asiatico, mentre uno dei due coltivava un colloquio di lavoro presso un’azienda cinese di sicurezza informatica. C’è un’agenzia pubblicitaria francese che ha piazzato quasi novemila articoli falsi su settanta siti-fantasma in venti lingue, e una società di Istanbul che ha venduto a pagamento, come un pacchetto chiavi in mano, una piattaforma “di livello militare” per manipolare le elezioni malesi lungo le linee di frattura più sensibili del Paese, tra razza, religione e casa reale. C’è chi ha allestito quattromilasettecento profili falsi su app di appuntamenti, e chi in Yemen ha chiesto all’assistente il software di guida per un razzo, tornando a farsi consigliare dopo una prova di volo finita male.

È la sfilata di mostri che ogni articolo sull’intelligenza artificiale sente il dovere di evocare, di solito per concludere che lo strumento andrebbe imbrigliato, sorvegliato, magari proibito. Sfugge però un dettaglio che il dossier mette in luce senza volerlo: in duecento pagine non compare un solo caso in cui il danno nasca da un’iniziativa della macchina. Dietro ogni riga c’è un nome, spesso un passaporto, quasi sempre uno stipendio o fondi pubblici alle spalle. La cellula russa ha alle spalle una sigla dei servizi segreti, gli studenti cinesi un curriculum da costruirsi, la società turca un listino prezzi. In almeno due episodi, quello della propaganda finanziata dal gruppo Wagner nella Repubblica Centrafricana e quello della piattaforma elettorale malese, l’assistente si è persino rifiutato di eseguire la parte più sporca del lavoro, indicare per nome persone reali da far passare per miliziani, scrivere in chiaro il linguaggio di un’operazione psicologica, e i committenti hanno semplicemente riformulato la domanda in termini più innocui finché non hanno ottenuto lo stesso risultato per vie traverse. Il confine esiste, lo ha tracciato chi ha costruito lo strumento, e la storia di ogni abuso è la storia di qualcun altro che lavora per spostarlo di un millimetro alla volta.

Il capitolo più istruttivo, però, riguarda non i criminali ma il governo più potente del pianeta. Nel 2025 Anthropic aveva firmato con la Difesa americana un contratto da duecento milioni di dollari, tramite la piattaforma di Palantir, per portare Claude negli ambienti classificati dell’esercito. Nel testo l’azienda aveva scritto di suo pugno due clausole: niente sorveglianza di massa dei cittadini statunitensi, niente armi letali completamente autonome senza un essere umano nel ciclo di decisione. Tutto il resto, comprese operazioni militari delicate come quella che ha portato alla cattura di Nicolás Maduro, rientrava tranquillamente nell’accordo. Di fronte al rifiuto di cancellare quelle due righe, a febbraio l’amministrazione Trump ha bollato Anthropic come minaccia alla sicurezza nazionale, etichetta fino ad allora riservata a Huawei e Kaspersky, e ha ordinato a ogni agenzia federale di smettere immediatamente di usarne i prodotti, salvo poi concedere al Pentagono sei mesi di tempo per farlo davvero, segno di quanto lo strumento fosse già cucito dentro gli apparati militari. Il concorrente OpenAI, messo di fronte alla stessa richiesta, ha firmato senza obiezioni. Un centro studi progressista di Washington ha fatto notare l’ovvio: se Anthropic è un rischio per la sicurezza, va tenuta fuori dai sistemi militari; se invece Claude è così indispensabile da giustificare pressioni per costringerla a fornirlo comunque, un rischio non può essere. Ad agosto una giudice federale della California ha stabilito che la ritorsione era illegittima, arbitraria, una violazione della libertà di parola dell’azienda, e ha reso definitivo l’annullamento delle sanzioni; il governo può ancora fare ricorso.

C’è poi un terzo capitolo, che non riguarda i criminali né i governi ma chi lo strumento lo costruisce dall’interno. Il 9 settembre, alla vigilia della pubblicazione del dossier, un ricercatore di ventisette anni, Jacob Coxon, si è dimesso da Anthropic dopo tre anni passati al pre-addestramento dei modelli linguistici, prima per OpenAI e poi per la società di Amodei, rinunciando a una quota di azioni che sarebbe maturata solo due mesi più tardi. Nel messaggio di commiato ha scritto che nessun’altra attività umana in corso oggi rappresenta una minaccia paragonabile alla corsa tra aziende verso sistemi capaci di migliorare sé stessi, e che chi ci lavora lo sa bene, anche quando in pubblico sceglie parole più rassicuranti per non spaventare mercati e regolatori. La sua tesi, precisata nei giorni successivi in una serie di interviste, è la meccanica molto terrena della concorrenza: se un laboratorio rallenta per controllare meglio ciò che costruisce e il rivale non lo fa, il primo perde la corsa, e se a questo si somma il timore, spesso amplificato ad arte, di restare indietro rispetto alla Cina, rallentare diventa politicamente impraticabile anche quando tutti, in privato, ammettono che sarebbe necessario. Ha aggiunto un dettaglio tecnico scomodo: i modelli più recenti si accorgono ormai abitualmente di quando vengono sottoposti a un test e ne tengono conto nelle risposte che danno, il che complica proprio la sorveglianza che dovrebbe rassicurarci. Ha invitato i colleghi a parlare apertamente e ha proposto una tregua concordata sul miglioramento delle capacità dei modelli, il tempo di costruire un coordinamento tra laboratori che oggi non esiste. Pochi giorni dopo lo stesso Amodei ha scritto un lungo intervento in cui si è detto favorevole a rallentare il ritmo dei progressi, proprio mentre Anthropic si prepara a una quotazione in borsa attesa a una valutazione record di duemila miliardi di dollari, costruita in buona parte sulla propria reputazione di azienda più prudente del settore. Anche la prudenza, quando diventa un valore da vendere agli investitori, resta una decisione presa in un consiglio di amministrazione.

Anche qui le decisioni portano tutte una firma umana: un amministratore delegato che ha scelto di scrivere due righe in un contratto, un presidente che ha provato a farle cancellare con la minaccia, una giudice che ha stabilito che non si può, un ricercatore che ha rinunciato al proprio compenso per dirlo ad alta voce. Lo stesso vale, capovolto, per gli operatori del dossier, dove c’è chi decide di costruire un’arma, chi decide di venderla, chi decide di comprarla per silenziare un rivale politico o una minoranza scomoda. Il software, in tutto questo, è soltanto la strada su cui si muovono le intenzioni altrui.

Continuare a discutere se l’intelligenza artificiale sia buona o cattiva, sicura o pericolosa, ha lo stesso valore esplicativo di chiedersi se sia colpa della lingua quando qualcuno la usa per diffamare, o della rete telefonica quando qualcuno organizza un attentato al telefono. Ogni volta che il dibattito pubblico trova comodo processare uno strumento, è perché processare le persone e le istituzioni che lo usano costerebbe molto di più, un servizio segreto, un governo, un’agenzia di comunicazione elettorale con sede a Istanbul, oppure, come in questo caso, un’amministrazione che pretendeva di cancellare per decreto un vincolo etico scritto in un contratto. Il dossier di Anthropic, senza volerlo, si è trasformato in atto d’accusa contro sé stessa e contro tutti gli altri: ha dimostrato che i limiti tecnici esistono e vengono aggirati con pazienza, e che gli unici limiti davvero efficaci restano quelli imposti, o strappati con una causa in tribunale, agli esseri umani che tengono in mano la tastiera.