Processare Hal 9000, una sfida non troppo lontana

:
4 settembre 2019

La domanda a cui cercherò di rispondere, paradossale ma forse non quanto si possa credere, è la seguente: chi era il responsabile degli omicidi commessi da HAL 9000, il computer di bordo protagonista del film “2001: Odissea nello spazio”? Gli uomini che lo avevano programmato, il fabbricante che lo aveva costruito, o il computer stesso, che aveva sviluppato una forma di pensiero autonomo, capace di prendere decisioni, letali per gli esseri umani? E’ possibile ipotizzare, di fronte a forme di intelligenza artificiale sempre più sofisticate, una responsabilità penale della macchina per le sue azioni?

Ovviamente, lo stato attuale delle conoscenze scientifiche non permette di realizzare ancora macchine così evolute come il computer HAL 9000, ma già possiamo dire che l’intelligenza artificiale è sempre più presente nella vita quotidiana degli esseri umani. Dai dispositivi casalinghi come Alexa o Google Home, che imparano dalle domande che rivolgiamo loro e sono in grado di governare gli elettrodomestici più evoluti, per continuare con le auto a guida autonoma che già stanno percorrendo milioni di chilometri in attesa che ne venga autorizzata la circolazione, ci troviamo di fronte ad una presenza sempre più penetrante delle macchine e a problemi fino a qualche tempo fa confinati solo nel mondo della fantascienza.

Per restare all’esempio delle auto a guida autonoma, forse l’ipotesi che necessita di una normazione più urgente, può accadere che il computer venga chiamato a compiere scelte eticamente difficili. Di fronte a una situazione in cui per evitare di investire un pedone sia necessario mettere a rischio la vita del conducente-passeggero, quale dovrebbe essere la scelta eticamente corretta? E se la scelta da compiere fosse tra “sacrificare” uno o l’altro fra due pedoni che si frappongono davanti all’auto? In base a quali criteri dovrebbe essere impostato l’algoritmo che guida le decisioni del computer di bordo? E se, un domani, le auto fossero in grado di sviluppare, attraverso l’esperienza di guida quotidiana, un’intelligenza autonoma, in grado di compiere scelte non così automatiche e dipendenti da un algoritmo come oggi?

Come potete vedere, il futuro che appariva così lontano, così fantascientifico, potrebbe essere più vicino di quanto immaginiamo ed impone al mondo del diritto di non farsi trovare impreparato di fronte a sviluppi tecnici e scientifici sempre più sorprendenti.
Se una macchina, in un futuro non troppo lontano, sarà in grado di sviluppare un’intelligenza artificiale autonoma, non troppo dissimile da quella di HAL 9000, sarà ancora così paradossale immaginare una responsabilità penale della macchina stessa, con sanzioni che possono andare dalla riprogrammazione alla sua disattivazione?

E ancora: proviamo ad immaginare che il comandante della missione Jupiter riesca a riprendere il controllo manuale della navicella spaziale, escludendo semplicemente dai controlli il computer senza disattivarlo, e a far rientro sulla terra. Nulla impedirebbe, anzi la logica imporrebbe, che HAL subisse delle conseguenze per le sue azioni, arrivando fino alla sua disattivazione.
In linea del tutto teorica, la prospettazione di una simile sanzione, potrebbe costituire un deterrente in grado di trattenere una macchina dotata di intelligenza artificiale e, di conseguenza, di consapevolezza di sé, dal compiere azioni criminali nei confronti degli esseri umani (sarebbe interessante anche pensare a come potrebbe svolgersi un “giusto processo” nei confronti di una macchina, e se le macchine stesse possano avere un giorno un ruolo “giudicante” nella stessa amministrazione della giustizia).

Il diritto, in conclusione, anziché rimanere fossilizzato nelle categorie consolidate attraverso secoli di riflessione, si troverà ad essere chiamato a rispondere a sfide sempre più affascinanti e tuttavia imprescindibili per fare in modo che il progresso scientifico e l’intelligenza artificiale rispondano alle esigenze di responsabilità etica e morale che sono proprie degli esseri umani.
Sarà in grado di raccogliere e rispondere a questa sfida? Speriamo di sì.

TAG: criminalità tecnologica, diritto, intelligenza artificiale
CAT: Giustizia, Robotica

2 Commenti

Devi fare per commentare, è semplice e veloce.

  1. marco.fanti62 3 settimane fa
    Chi vuole approfondire il tema trova qui un articolo scientifico pubblicato sulla rivista University of Michigan Journal of Law Reform che tratta la questione https://repository.law.umich.edu/mjlr/vol52/iss2/5/?fbclid=IwAR2AtLN7cjLwWvwUlJL_uhwqcqlGCra030oFDXq_nNpFHMorbIJXGBKZZYQ
    Rispondi 0 0
  2. xxnews 3 settimane fa
    buffo che si cerchi di ipotizzare un nuovo HAL 9000 possibile soggetto passivo di un processo criminale e non ci si ponga davvero il problema di processare UOMINI /DONNE con ben peggiori CRIMINI a proprio carico .... in tutte le categorie in cui l' UMANITA' crede di potersi suddividere ... poi io sono convinto che in teoria sia possibile arrivare a ?? COMPUTERS INTELLIGENTI '' ....MA .... occorreranno migliaia di anni ... saluti
    Rispondi 0 0
CARICAMENTO...