Stop all’uso militare dell’intelligenza artificiale

Un appello contro la militarizzazione dell’intelligenza artificiale e per il suo immediato blocco nelle “catene di uccisione” militari. È quello che hanno lanciato oltre 220 tra organizzazioni della società civile, tra le quali Access Now, Amnesty International, Stop Killer Robots e la Rete Italiana Pace Disarmo, oltre a singoli esperti. 

Nel documento allegato all’appello si spiega che gli strumenti forniti dall’Intelligenza artificiale hanno consentito un aumento della velocità, della portata, dell’intensità e della forza distruttiva degli attacchi statunitensi contro l’Iran. Sebbene molto resti poco chiaro il ruolo preciso svolto dai sistemi di AI in questi attacchi, le incursioni hanno avuto un impatto devastante sui civili e sulle infrastrutture civili. Difficile non pensare all’uccisione di oltre cento bambine iraniane in un bombardamento statunitense su di una scuola: forse l’AI ha permesso rapidamente l’individuazione di un obiettivo, ma siamo ben lontani dalla fantomatica guerra chirurgica se a rimetterci la vita sono stati in tutto 160 civili. 

Lo ha ammesso anche il dipartimento della Difesa statunitense, il quale è stato rifornito da OpenAI e ha stipulato accordi con Google e anche con Anthropic per “sviluppare prototipi di capacità di intelligenza artificiale di frontiera per affrontare sfide critiche di sicurezza nazionale negli ambiti bellico e operativo”. Anche Microsoft e Amazon forniscono da anni servizi di archiviazione, elaborazione dati e altre infrastrutture ai programmi bellici del Dipartimento.

Tra gli estensori dell’appello c’è Giulio Coppi, Senior Humanitarian Officer dell’organizzazione AccesNow che si occupa di diritti civili digitali, il quale ci fa notare come in corrispondenza di un aumento dei conflitti internazionali non solamente si assiste a un incremento degli investimenti per la difesa, ma anche a una militarizzazione della tecnologia civile.

Scrivi dual, leggi liberi tutti

“Società che ieri facevano sistemi informatici per l'educazione, o magari volevano vendere macchine di ogni genere, oggi cercano tutti di strizzare l'occhio ai ministeri della Difesa per vendere sistemi per uccidere”, ci dice Coppi arrivando quindi a trattare il problema del sistema duale che dice renderlo “matto”.

“Il concetto di dual technology è nato con il nucleare, ma in realtà tutto è dual, anche un cucchiaino può essere usato per uccidere. Se si va sul piano umanitario, il dual non esiste: una cosa è civile oppure è militare. Nel mondo della tecnologia ci si nasconde dietro i paroloni per fare in realtà quello che si vuole”.

“Quello a cui noi ci opponiamo è questa normalizzazione della tecnologia come qualcosa che naturalmente è fatta anche per uccidere. Alcune società devono prendere una posizione chiara sul fatto di essere o attori militari e chiarire qual è la loro partecipazione, oppure della società civile, ma non possono fare entrambe le cose”. 

Per Coppi questa specie di cortina di fumo è utilizzata dai ministeri della Difesa di molti Paesi per giustificare l’incremento di investimenti militari e avere mano libera. “Non si sa esattamente – prosegue - quale reale  utilità abbiano questi sistemi dell'Intelligenza artificiale. In guerra bombardare a tappeto è innanzitutto illegale e poi non dà garanzia di precisione di accuratezza. Si viene tutti travolti da questa idea che siccome permettono di generare 2000 o 2 milioni o 2 miliardi di obiettivi al secondo non bisogna lasciarsi scappare l'opportunità, bisogna chiedersi il perché questo sia necessario”.

Troppi segreti e omissioni

Chiedendogli conto della robotica applicata alla guerra, portando ad esempio i cani meccanici cinesi sopra i quali vengono montate delle mitragliatrici, ci fa notare che in realtà non si conosce l’entità dei danni provocati dall'Intelligenza artificiale applicata: “Queste società sono molto brave a non rivelare nulla. Non si sa nulla su come Cloud e Open AI siano stati usati in Iran. Quello che sappiamo è che degli studenti sono morti. Non si sa nulla di come questi cani siano utilizzati e che percentuale il sistema che usano sia”.

“Questo vantarsi della propria capacità di fuoco non viene dai militari, ma dalla sfera politica che si vanta quindi di distruggere, di uccidere. Inoltre il sistema militare americano ha sempre avuto la capacità di obliterare un paese in 30 secondi”.

La questione che Coppi pone è in che modo queste tecnologie sono sotto sorveglianza   per essere certi del rispetto delle leggi della guerra e il diritto internazionale umanitario: “Per il momento non sono compatibili e il problema è che i responsabili se ne fregano, a loro non importa”.

Che fare?

Alla domanda circa quali strumenti si abbiano a disposizione per monitorare e imporre il rispetto delle regole, vista la mancanza di trasparenza delle informazioni, l’alto funzionario umanitario di AccesNow risponde che “ci sono vari livelli a cui si può operare: il Group of government experts sta discutendo della negoziazione di un testo che regolamenterebbe alcuni usi delle armi letali autonome proibendone altri. Lo fa da più di 10 anni e purtroppo ci sono alcuni Stati che lo stanno facendo naufragare per non precludersi la possibilità di sviluppare armi letali autonome”.

Le altre opzioni riguardano “l'assemblea generale delle Nazioni Unite per cominciare un progetto di trattato con tutti gli Stati, invece che solo con una parte.  A livello europeo, ad esempio, la Ue o la Commissione Europea possono comunque prendere delle decisioni autonome per normare o proibire l’uso e lo sviluppo di certe tecnologie".

E poi c'è il livello nazionale, che, come ci spiega Coppi, è il più importante, perché “ogni Stato può sviluppare delle posizioni nazionali. Questo è essenziale perché è là che gli attori delle campagne per il disarmo possono spingere i propri governi a prendere una posizione in materia di utilizzo militare dell’Ia dimostrando argomenti in supporto delle proprie posizioni. I governi però stanno cercando di erodere questo sistema, impedendo che tutte le voci, inclusa la società civile, possano avere un posto a certi tavoli”.

Coppi quindi conclude: “Per me la cosa più bella sarebbe che la gente cominciasse a respingere questa montatura dell'Intelligenza artificiale presentata come inevitabile, mentre non è tutto vero.  L’Intelligenza artificiale permette di nascondere le vere intenzioni di militari e politici dietro una patina di tecnologia”.

La Rete italiana pace disarmo, dal canto suo, fa sapere di avere aderito convintamente alla presa di posizione collettiva, coerente con i suoi impegni contro i sistemi d’arma autonomi e contro la delega a sistemi algoritmici delle decisioni di vita e di morte.

Le richieste nell’appello

I firmatari del “Joint Statement on AI in warfare” chiedono quindi alle aziende tecnologiche di non stipulare né dare esecuzione a contratti con agenzie militari o gruppi armati responsabili di possibili violazioni del diritto internazionale, e di astenersi dal fornire o esportare sistemi di Intelligenza Artificiale di supporto alle decisioni per le “kill chain militari” e l’individuazione di obiettivi per attacchi finché non saranno garantiti reale responsabilità, controllo umano significativo, supervisione e trasparenza.

In sintesi i temi sono lo stop agli armamenti AI, il rispetto del diritto umanitario, il controllo umano effettivo, la trasparenza e la responsabilità penale.