Attenti all’AI

Se è estremamente difficile parlare del senso e dire su di esso qualcosa di sensato, come diceva A. J. Greimas, e’ altrettanto complicato parlare di intelligenza e dire su di essa qualcosa di intelligente, specialmente se artificiale o presunta tale. Il libro Empire of AI. Inside the reckless race for total domination di Karen Hao, una specialista americana sul tema, lo fa al meglio perche’ basa le proprie critiche e proposte su centinaia di interviste agli operatori del settore in tutto il mondo.

Posto che la cosiddetta AI di oggi non e’ intelligente dato che consiste in mera statistica computazionale di alto livello, Hao guarda con favore l’introduzione di modelli sofisticati in medicina, agricoltura eccetera all’interno di un processo di modernizzazione che dura ormai da decenni. Il problema e’ nel modo in cui le aziende della Silicon Valley hanno impostato il machine learning, cioe’ quella modalita’ per cui i programmatori anziche’ dare delle regole al computer gli forniscono grandi quantita’ di dati cosi’ che il calcolatore possa identificare delle regole in autonomia. La materia prima che aziende tipo OpenAI utilizza non e’ di pubblico dominio trattandosi di dati personali, asset aziendali e tecnologie (‘proprietary resources’) che normalmente sarebbero tutelati. Queste informazioni sensibili vengono processate in maniera opaca, spesso fornendo distorsioni della realta’ e per scopi meno nobili di quanto dichiarato pubblicamente. Sono in corso una serie di processi nei tribunali USA sulle proprieta’ e l’uso di questi dati; le sentenze sono attesissime perche’ potrebbero trasformarsi in stimoli per i legislatori di mezzo mondo a legittimare i propri interventi o, in alternativa, a limitarli.

Il secondo problema sollevato da Hao e’ il rischio che le aziende della Silicon Valley si trasformino in nuovi imperi, capaci di perseguire una propria agenda e di disporre di capitale umano, finanziario e in ultimo politico a proprio piacimento. E’ quanto emerge dalle interviste fatte dall’autrice nel sud globale, dove di benefici dell’AI proprio non se ne vedono: anzi, alle comunita’ locali vengono sottratte grandi quantita’ di energia e acqua, necessarie per sviluppare i modelli di training delle aziende informatiche, come nel caso di Cerrillos in Chile. Inoltre, i lavoratori dei contractor locali in paesi come il Kenya o Venezuela vengono sottopagati, privati di tutele fondamentali ed esposti a rischi professionali senza il dovuto supporto: e’ il caso degli operatori che addestrano le macchine a riconoscere i contenuti violenti e inadatti al pubblico, cui pero’ la visione continua crea problemi psicologici. Il loro potere contrattuale nei confronti dei committenti e’ nullo, mentre lo spazio di manovra dei colossi dell’informatica californiana cresce sempre piu’.

Il messaggio di fondo, quindi e’ il seguente: si puo’ sviluppare l’AI in molti modi, ma quello perseguito attualmente dai vari Sam Altman e’ insostenibile perche’ basato su di un utilizzo delle risorse pessimo quanto opaco. Hao propone un parallelo con l’industria tessile che utilizza manodopera a basso costo, quantita’ enormi di energia, acqua e prodotti chimici e rilascia milioni di tonnellate di rifiuti all’anno. La differenza e’ che mentre c’e’ consapevolezza dei consumatori sul tema, e di conseguenza alcune aziende della moda si sono attivate con autoregolamentazioni e protocolli mentre le legislazioni di molti paesi si adeguano, questo non vale per l’industria informatica. Per noi utilizzatori finali, infatti, non e’ facile capire che cosa si muova dietro il mondo di ChatGPT et similia. Perche’ lo sviluppo dell’AI proceda in maniera piu’ etica e’ necessaria una partecipazione dal basso, cosa complicatissima perche’ le aziende interessate agiscono in maniera dirigista e senza considerare le richieste di gruppi di pressione e associazioni.

Per ricapitolare, sulle criticita’ del settore c’e’ poca consapevolezza: e’ un punto sul quale si devono muovere i mass-media cosi’ come i legislatori e le associazioni dei consumatori, tanto per fare qualche esempio. Questo ruolo civico non si puo’ delegare ai tribunali: compito del giudice e’ sanzionare il reo, non creare delle linee guida per un progresso che non crei troppi danni ne’ squilibri.