Se lo fanno gli altri: la retorica che giustifica le armi intelligenti

E’ una normalissima giornata di sole del centro Italia e mio fratello di 8 anni è in piedi sul ramo di un albero provando ad arrampicarsi sempre più in alto. Mia madre lo vede, si precipita giù dalle scale, esce preoccupata in giardino e lo sgrida: “Francesco che fai, SCENDI SUBITO!”. Mio fratello scende, piange e poi tra un singhiozzo e un altro gli escono alcune parole strozzate: “Mamma ma lo ha fatto anche Paolo…”, mia madre, che sapeva già di essere destinata alla più classica delle risposte di un genitore, risponde: “allora che fai… se Paolo si butta da un ponte ti butti anche tu?”.

Qualche giorno fa Palantir pubblica su X un estratto del The Technological Republic: Hard Power, Soft Belief, and the Future of the West, by Alexander C. Karp & Nicholas W. Zamiska, in cui critica il decadimento del potere culturale e politico dell’occidente. Con eccezione fatta per gli Stati Uniti. E’ di fatto il suo manifesto sull’IA. Il tweet è diviso in punti, ventidue, e già dal quinto si capisce come la superiorità culturale e politica che viene associata agli USA, non sia altro che una manipolazione e distorsione del mondo agli occhi dei conservatori del West. Palantir scrive: 

“The question is not whether A.I. weapons will be built; it is who will build them and for what purpose. Our adversaries will not pause to indulge in theatrical debates about the merits of developing technologies with critical military and national security applications. They will proceed.”

–

“La questione non è se verranno costruite armi basate sull’intelligenza artificiale, ma chi le costruirà e a quale scopo. I nostri avversari non si fermeranno a dedicarsi a dibattiti teatrali sui meriti dello sviluppo di tecnologie con applicazioni cruciali per la sicurezza militare e nazionale. Andranno avanti.”

Ma questa affermazione non è tanto diversa dalla scusa che mio fratello ha usato per non farsi sgridare, eppure lui ha 8 anni mentre Palantir è una società statunitense leader nell’analisi dei big data e dell’intelligenza artificiale con target strategico militare e finanziario. Affermare che “se non sviluppiamo noi queste tecnologie, lo faranno altri con riscontri tremendi” è un falso dilemma. Propone una visione divisiva: buoni e cattivi che lottano nello scenario della ricerca scientifica. Questo presuppone poi che lo sviluppo tecnologico sia inevitabile e incontrollabile e ciò nasconde un’operazione ideologica di contenuto: la volontaria confusione di una scelta politica con una legge naturale. A tutti gli effetti un dispositivo di potere (1). Infatti è compito della speculazione etica e della filosofia della scienza cercare di controllare questi sviluppi.

Palantir ritiene che i dibattiti etici “teatrali” sull’uso di tecnologie belliche automatizzate e sistemi IA siano completamente inutili: che senso ha per gli Stati Uniti impegnarsi in speculazioni filosofiche se queste non vengono ascoltate universalmente? Facciamo chiarezza. Ad oggi lo scenario normativo entro cui si opera nello sviluppo di agenti artificiali intelligenti è pieno di zone d’ombra e questo permette alle Big Tech di massimizzare i profitti della ricerca e della vendita: si vedano, ad esempio, gli algoritmi di suggerimento per i social network, che utilizzano anni di studi sul gioco d’azzardo o, come nel caso Palantir, la vendita di software IA a Israele per gestire le controverse “operazioni militari” a Gaza. In questo contesto il dibattito etico diventa un ostacolo strutturale al mercato tecnologico, inficiando il vantaggio competitivo frutto del vuoto discorsivo. Le “teatrali” speculazioni hanno l’importante compito di evidenziare i problemi che derivano dall’impiego universale della nuova tecnologia, trovarne di nuovi e spingere verso una nuova regolamentazione, più stringente e giusta. Impegnarsi in dibattiti etici vuol dire avere a cuore l’uomo e il progresso. L’Europa in questo si sta dimostrando il punto di riferimento mondiale: l’impegno alla salvaguardia del lavoro, della trasparenza decisionale, delle relazioni sociali e contro lo sfruttamento è notevole. L’IA Act, insieme ad altri simili pacchetti normativi, è la reazione di una cultura che reagisce, che sa quello che vuole e che non si piega (sebbene con tutti i limiti di lentezza che la burocrazia comporta). Quindi, quando leggiamo dichiarazioni come queste:

“The postwar neutering of Germany and Japan must be undone. The defanging of Germany was an overcorrection for which Europe is now paying a heavy price.” 

–

 “È necessario porre fine alla neutralizzazione postbellica della Germania e del Giappone. L’indebolimento della Germania è stato un eccesso di correzione per il quale l’Europa sta ora pagando un prezzo molto alto.” – Punto 15 del manifesto

bisogna ricordarsi dell’impegno europeo nel progresso e della sua posizione di forza nel tutelare i consumatori e i propri cittadini. La descrizione di un’Europa indifesa è la delegittimazione di un’intera cultura che si difende, forse troppo bene. Le zone d’ombra sono il nuovo privilegio della Big Data Revolution e l’obiettivo di Palantir è mantenerle e difenderle a tutti i costi. Il manifesto è elemosina di potere: non descrive più un futuro inevitabile, ma prova a costruire uno spazio in cui le azioni smettono di dover essere giustificate. Il dibattito etico diventa l’unico “teatro” in cui quel potere può essere messo in discussione.

Note:

1. Michel Foucault, “La sessualità”, Corso all’Università di Clermont-Ferrand (1964) e “il discorso della sessualità”, corso all’Università di Vincennes (1969), Feltrinelli Editore, 2023.