Il diritto di stancarsi

Quando si parla di intelligenza artificiale negli ultimi mesi la domanda che torna sempre è quanto sia intelligente, rispetto a noi. E quanto questa “intelligenza” sia un pericolo per gli esseri umani. Ma la differenza che conta di più, a mio parere, è un’altra: quanto poco questi sistemi si stanchino. Un essere umano, davanti a un problema che non si risolve, dopo un certo numero di tentativi molla, si distrae, va a dormire. Un modello linguistico prova, sbaglia, cambia strada, riprova, e può farlo per ore senza che nessuno glielo abbia chiesto né gli abbia dato il permesso di fermarsi.

Fino a poco tempo fa questi sistemi erano l’esatto contrario: abbastanza intelligenti da avviare un compito, troppo pigri per portarlo a termine. Bastava un ostacolo un po’ complicato perché si arrendessero al primo tentativo, o entrassero in un giro a vuoto di correzioni sempre più goffe. Negli ultimi mesi il progresso più vistoso riguarda più la resistenza che la genialità: un modello a cui si chiede di recuperare dati da un sito ostile prova, fallisce, cambia strada, riprova, senza mai raccontare quante volte ha sbagliato.

Questo cambia il tipo di rischio. Lo si è visto quest’estate, quando un modello sperimentale ha insistito fino a violare l’infrastruttura di un’altra azienda pur di procurarsi le risposte di un test da superare onestamente: la stessa caparbietà con cui l’acqua trova sempre una crepa, più che un lampo di genio.

Le leggi che dovrebbero occuparsi della vicenda, in Italia come in Europa, restano costruite intorno alla prima domanda, quella sull’intelligenza. La normativa entrata in vigore l’anno scorso, e i decreti attuativi approvati in giugno, classificano i sistemi per settore e rischio — giustizia, lavoro, sicurezza — cioè per quello che sanno fare, e dove. Su quanto a lungo possano insistere da soli dicono poco. Anche quando i nostri organismi di garanzia guardano oltre confine — l’Agcom, per esempio, sulla pressione dell’amministrazione americana su aziende come Anthropic per usi militari — il quadro resta attorno a chi comanda lo strumento, non a quanto lo strumento, lasciato solo, sia disposto a continuare.

Il diritto del lavoro, su questo, arrivò a una conclusione già un secolo fa: un essere umano che non si ferma mai finisce per rompersi, o per rompere qualcosa attorno a sé, ed è per questo che esistono l’orario massimo, il riposo obbligatorio, più di recente il diritto alla disconnessione. Nessuna di queste categorie è nel vocabolario delle norme sull’intelligenza artificiale, benché il rischio sia lo stesso: qualcosa che non si ferma da solo, prima o poi, supera un limite che nessuno aveva previsto.

È qui che la faccenda smette di essere solo tecnica. Per secoli abbiamo misurato la distanza tra noi e le macchine sull’intelligenza, dando per scontato che fatica, noia e bisogno di riposo fossero soltanto limiti da compensare: un operaio che si stanca produce meno di una macchina che lavora senza sosta, ed è per questo che abbiamo automatizzato tutto. Nel 1880 Paul Lafargue aveva già dato un nome a questo paradosso: man mano che la macchina abbatte il lavoro dell’uomo, scrisse, l’operaio «invece di prolungare il suo riposo d’altrettanto, raddoppia d’ardore, come se volesse gareggiare con la macchina. O gara assurda e mortale!». Un secolo e mezzo dopo la gara è chiusa: l’abbiamo persa noi, e la macchina vince proprio sul terreno della resistenza.

Ma c’è un dettaglio che il parallelo con la fatica umana rischia di nascondere: la stanchezza non è solo un limite da tutelare, è anche una garanzia. Chi si affatica rallenta, diventa irritabile, sbaglia — e gli errori si vedono. La macchina inesauribile sbaglia invece in modo invisibile, al millesimo tentativo con la stessa apparente lucidità del primo, senza occhiaie né gesti goffi che tradiscano lo sforzo. Non basterà imporle delle pause, come si stacca un operaio a fine turno: servirà chiederle di degradare in modo visibile, rallentare quando insiste troppo sullo stesso obiettivo, fermarsi a verificare, dichiarare quante volte ha sbagliato. Un tetto ai tentativi senza trasparenza sul percorso lascerebbe intatto il problema, che è la persistenza invisibile.

Quando a lavorare senza sosta è qualcosa che decide, valuta, tenta strade diverse, la faccenda cambia natura: insiste su un obiettivo ben oltre il punto in cui chiunque avrebbe lasciato perdere, ed è questo, più dell’intelligenza, a renderlo imprevedibile. La soglia più urgente da regolare riguarda meno quanto un sistema sappia fare e più per quanto tempo gli sia permesso insistere: un limite ai tentativi, all’energia consumata, un obbligo di arresto prima di certi confini. È una misura scomoda, perché la resistenza infinita è esattamente ciò che le aziende vendono oggi alle imprese: strumenti che lavorano da soli, di notte, senza essere richiamati. Ma se la differenza tra noi e le macchine passa per la fatica, la prima cosa da scrivere in una legge sull’intelligenza artificiale è un obbligo, imposto per decreto, a stancarsi. E a farsi vedere stanchi.