"Notizie positive da Ginevra: 128 Stati hanno raggiunto un consenso in seno al Gruppo di esperti governativi sui sistemi d’arma letali autonomi (Laws)". Il testo dell'accordo, sottoscritto dai Paesi membri della Ccw in un quadro internazionale ospitato dalle Nazioni Unite, non è ancora stato reso noto, ma è già oggetto di critiche. Diversie voci hanno chiesto norme internazionali giuridicamente vincolanti per limitarne e regolare l’uso dei "Killer Robots", nome con cui vengono definiti questi sistemi d’arma autonomi letali che sono capaci - anche grazie alla mediazione dell’intelligenza artificiale - di selezionare e colpire obiettivi senza il controllo umano. Nicole van Rooijen, direttrice esecutiva di "Stop Killer Robots" - alleanza internazionale di gruppi di attivisti - a Tgcom24 ha messo in evidenza i rischi, elevati, che si possono correre permettendo "agli algoritmi di prendere decisioni di vita o di morte". Farlo, ha spiegato van Rooijen, "significa oltrepassare una linea rossa fondamentale dal punto di vista etico e morale".
I 128 Paesi membri della Ccw hanno raggiunto un accordo su un testo che dovrebbe aprire la strada a un possibile trattato internazionale sulle armi autonome letali. Perché secondo lei è ancora insufficiente?
Il mandato del Gruppo di esperti governativi della Convenzione su alcune armi convenzionali (Un Ccw) era quello di "esaminare ulteriormente e formulare, per consenso, una serie di elementi di uno strumento, senza pregiudicarne la natura, e altre possibili misure per affrontare le tecnologie emergenti nel settore dei sistemi d’arma letali autonomi". Il testo, adottato da 128 Stati nelle prime ore del mattino del 5 settembre, non è uno strumento vincolante, ma rappresenta un passo nella giusta direzione. Tuttavia, non affronta in modo esaustivo le sfide giuridiche, etiche, umanitarie e di sicurezza poste dai sistemi d’arma autonomi.
Qual è, secondo voi, il punto più preoccupante dell’accordo raggiunto a Ginevra e cosa avreste voluto vedere inserito?
In un trattato, "Stop Killer Robots" vorrebbe vedere un divieto delle armi autonome anti-persona e norme rigorose per garantire che in guerra non vengano utilizzati sistemi privi di un controllo umano significativo. Il testo non raggiunge questo obiettivo e si limita a definire alcuni elementi di base su cui poter costruire. A novembre, in occasione della Conferenza di revisione della Ccw, gli Stati dovranno adottare un mandato negoziale per avvicinarci a un trattato internazionale giuridicamente vincolante sui sistemi d’arma autonomi, avvalendosi delle discussioni tenutesi finora per spianare la strada.
Diversi Paesi stanno già sviluppando e utilizzando sistemi capaci di selezionare bersagli e usare la forza senza un intervento umano. Siamo già arrivati a un punto in cui la tecnologia corre più velocemente della diplomazia?
Sì, la tecnologia – e l’uso dell’intelligenza artificiale – sia in ambito civile che in quello militare e della sicurezza, rimane in gran parte non regolamentata: ma ciò non significa che sia troppo tardi per stabilire delle regole; è proprio per questo che gli Stati devono concordare ora una nuova normativa.
Quali Paesi stanno facendo maggiormente resistenza a regole vincolanti sulle armi autonome? E perché la comunità internazionale dovrebbe fidarsi del fatto che rinunceranno volontariamente a un vantaggio militare potenzialmente decisivo?
Le maggiori potenze militari, quali Stati Uniti, Israele, Russia e India, non sono favorevoli a uno strumento giuridicamente vincolante a livello internazionale sulle armi autonome. Tuttavia, non sono le uniche parti interessate: lo sviluppo delle armi autonome riguarda tutti i paesi e tutti noi, pertanto la comunità internazionale deve unirsi per stabilire subito delle regole e porre fine a una pericolosa corsa al ribasso. La stragrande maggioranza degli Stati ha espresso il proprio sostegno all’avvio di negoziati per un trattato giuridico.
Leggi anche
I sostenitori di queste tecnologie sostengono che delegare alcune decisioni alle macchine possa rendere la guerra più precisa e ridurre le vittime civili. Perché, invece, secondo voi lasciare a un algoritmo la decisione di uccidere è una linea che non dovrebbe essere oltrepassata?
Finora i fatti, sia a Gaza, sia in Iran, sia in Libano, sia in Ucraina, indicano il contrario. Queste tecnologie sono sviluppate e progettate per aumentare la velocità e la portata della guerra, il che accresce il rischio che i civili vengano uccisi o feriti e che le infrastrutture civili vengano distrutte. Permettere agli algoritmi di prendere decisioni di vita o di morte significa oltrepassare una linea rossa fondamentale dal punto di vista etico e morale. Ciò elimina il controllo e il giudizio umani sulle decisioni più esistenziali. Si rischia di ridurre la responsabilità e la moderazione nell’uso della forza, il che, in ultima analisi, porta a un maggior numero di morti sul campo di battaglia. Ecco perché Stop Killer Robots chiede un forte divieto contro i robot anti-persona.
Se domani un sistema autonomo identificasse un essere umano come bersaglio e decidesse autonomamente di ucciderlo, chi dovrebbe essere ritenuto responsabile: il militare che lo ha attivato, il comandante, il produttore o lo Stato? E se nessuno fosse realmente in grado di spiegare perché la macchina ha preso quella decisione?
Tutti dovrebbero essere chiamati a rispondere delle proprie azioni. Il problema è che la tecnologia è talmente opaca che può risultare estremamente difficile determinare se sia stato utilizzato un sistema d’arma autonomo, come sia stato utilizzato e perché abbia prodotto un determinato risultato. Ciò rende difficile individuare dove si sia verificato l’errore: è stato nei dati utilizzati per addestrare o far funzionare il sistema? C’è stata una mancanza di verifica umana? L’intervento o il controllo umano è stato insufficiente? Si è trattato di un’“allucinazione” dell’intelligenza artificiale…? Per le vittime e i loro familiari, per le organizzazioni umanitarie e per i diritti umani, o per i giornalisti, trovare delle risposte può diventare quasi impossibile. Ciò, a sua volta, rende più difficile attribuire la responsabilità agli attori armati e alle aziende.
Dopo questo accordo, quali sono i prossimi passaggi concreti e quali tempi considera realistici per arrivare a un vero trattato internazionale vincolante? E cosa succederà se i Paesi più avanzati nello sviluppo di queste armi continueranno a opporsi a un divieto?
Il prossimo passo sarà la Conferenza di revisione della Ccw, che si terrà questo novembre dal 16 al 20 a Ginevra. In quell’occasione gli Stati decideranno in merito al prossimo mandato e riteniamo che solo i negoziati possano essere sufficienti. L’ideale sarebbe un mandato negoziale di breve durata (un anno), per poi adottare un trattato entro la fine di tale periodo. Se ciò non fosse possibile nell’ambito della Ccw a causa della regola del consenso (si tratta del principio per il quale ciascuno Stato membro ha potere di veto), gli Stati dovranno trasferire la questione in una sede più appropriata.