Dopo aver assistito al documentario «NAZA» e averne scritto, ho ricevuto il libro «NAZA – Danno collaterale» di Alessandro Richard, dedicato all’impiego dell’intelligenza artificiale da parte dell’esercito israeliano nella Striscia di Gaza e alle questioni etiche, giuridiche e umane sollevate dalla selezione degli obiettivi, dalle vittime civili e dalla responsabilità delle decisioni di uccidere.
Prima ancora di iniziare una lettura approfondita del volume, sono tornato alle parole che avevo annotato durante la proiezione del documentario. Non trascrivevo i dialoghi alla lettera: raccoglievo parole chiave capaci, a mio avviso, di condensare il dramma umano e tecnologico raccontato sullo schermo.
Avevo scritto: «Bombardare», «Papà», «Famiglia», «Donne», «Bambini», «Combattere», «Algoritmo», «Usando tutti i servizi del telefono». Poi frasi ancora più dolorose: «Due bambini sorridenti di tre anni», «Due bambini moriranno», «Un bambino è un NAZA». E ancora: «Videogioco fatto a distanza», «Luce e tenebre», «Bene e male», «Album di foto di famiglia», «Quaderni di scuola», «Abbiamo cancellato la storia». Tra i miei appunti figuravano anche «I soldati obbediscono», «Il mio ruolo tecnico», «Sapevamo e avevamo bombardato», «Un atto voluto» e «Che cosa sono io?». Alcune formulazioni sono qui normalizzate per chiarezza: si tratta dei miei appunti presi durante la visione, non di citazioni letterali verificate del film.
Da quelle parole è nata una domanda che supera il documentario e il libro: stiamo parlando davvero di intelligenza artificiale, oppure di un’intelligenza umana deliberatamente organizzata per rendere più efficiente l’uccisione? Stiamo passando dalla morte di massa, evocata dalla bomba nucleare, a una morte individualizzata e ripetuta, assistita dagli algoritmi?
Quando l’algoritmo entra nella decisione di uccidere
Il libro di Richard affronta il rapporto tra tecnologia e decisione umana nelle operazioni militari a Gaza, soffermandosi sui sistemi menzionati dalle inchieste giornalistiche con nomi come Habsora e Where’s Daddy?. Secondo quelle inchieste, tali strumenti sono collegati all’analisi di informazioni, alla classificazione di possibili obiettivi e al monitoraggio di persone o luoghi. Il loro presunto impiego solleva interrogativi sull’accuratezza dei dati, sui margini di errore, sul controllo umano e sui limiti imposti ai danni civili prevedibili.
L’esercito israeliano ha respinto accuse contenute in inchieste e nel documentario, affermando che le decisioni di attacco sono soggette a valutazioni umane e procedure militari e giuridiche e che l’intelligenza artificiale non decide autonomamente chi colpire. Ma la questione etica non si esaurisce nella presenza formale di una persona nella catena decisionale.
Se un operatore esamina una proposta automatizzata in pochi secondi, esercita davvero un giudizio indipendente? Se il sistema ha già selezionato chi osservare o colpire, quanto spazio rimane a una valutazione critica? Un algoritmo non prova odio né rimorso: elabora dati sulla base di modelli e criteri definiti dagli esseri umani. Per questo la formula «è stata l’intelligenza artificiale» rischia di nascondere la responsabilità di chi l’ha progettata, configurata e impiegata.
L’algoritmo non desidera uccidere, ma può essere utilizzato per attuare decisioni umane. Non conosce il dolore, ma può rendere l’esecuzione di quelle decisioni più rapida e più estesa.
Dalla morte di massa alla morte “al dettaglio”
La bomba nucleare rappresenta la capacità di provocare una distruzione immensa in un tempo brevissimo, senza distinguere gli individui all’interno della sua area di devastazione. L’intelligenza artificiale applicata alle operazioni militari pone una questione diversa: analizzare enormi quantità di dati, individuare persone, edifici o comportamenti e introdurre questi risultati nel processo di selezione degli obiettivi.
Non sono strumenti tecnicamente o giuridicamente equivalenti, né tutti i sistemi militari assistiti dall’intelligenza artificiale funzionano allo stesso modo. Eppure il confronto illumina una trasformazione possibile: dalla devastazione concentrata in un unico evento a una successione di attacchi distinti, moltiplicati dalla velocità dell’analisi e della classificazione.
Più la tecnologia è capace di identificare un individuo, più cresce il rischio che quell’individuo sia ridotto a un insieme di dati: un numero, un segnale, una probabilità statistica. La morte “al dettaglio” può apparire amministrativamente gestibile non perché sia meno tragica, ma perché viene distribuita in migliaia di decisioni separate. Ogni decisione rischia così di perdere il legame con la dimensione umana della catastrofe.
Il bambino trasformato in “danno collaterale”
Una delle parole rimaste più impresse nei miei appunti è «Bambini». Avevo annotato l’immagine di due piccoli sorridenti di tre anni e, subito dopo, la prospettiva della loro morte. È in questo passaggio dal sorriso alla morte che riconosco il nucleo della tragedia. Un bambino non conosce algoritmi, parametri di targeting o calcoli militari. Conosce sua madre, suo padre, i giocattoli, la scuola. Quando la possibilità della sua morte entra nella stima dei danni civili, la questione etica riguarda il modo in cui quel calcolo viene utilizzato e il rispetto delle norme che proteggono la popolazione civile.
Il diritto internazionale umanitario vieta gli attacchi deliberati contro i civili e impone distinzione, proporzionalità e precauzioni. Definire la morte di un bambino «danno collaterale» non la rende automaticamente lecita. E tuttavia nessuna formula giuridica può esprimere per intero la perdita di una vita. Nessun algoritmo può calcolare il valore umano del sorriso di un bambino di tre anni.
Il telefono: dalla comunicazione ai dati per il targeting
Tra le espressioni raccolte durante il film, figurava «usando tutti i servizi del telefono». Il telefono custodisce fotografie di famiglia, messaggi, contatti, spostamenti e frammenti della vita quotidiana. Se raccolte, incrociate e analizzate, alcune informazioni digitali possono contribuire a sistemi di sorveglianza e intelligence.
Ciò non significa che ogni sistema militare acceda a tutti i servizi di uno smartphone, né che ogni dato venga impiegato direttamente per un attacco: affermazioni del genere richiedono prove tecniche specifiche. Resta però il problema generale dell’uso crescente dei dati nella classificazione e nella sorveglianza.
Come evitare che un modello confonda una relazione sociale con un’appartenenza armata, oppure la vicinanza geografica con la partecipazione ai combattimenti? L’errore di un’applicazione commerciale può produrre una raccomandazione sbagliata. L’errore in una catena di targeting può costare una vita. Non è un difetto da correggere semplicemente con il prossimo aggiornamento del software.
«Videogioco fatto a distanza»: questa annotazione mi ha accompagnato a lungo. Oggi un operatore può trovarsi davanti a schermi, mappe, coordinate e immagini digitali, mentre dall’altra parte ci sono esseri umani impegnati nella loro vita quotidiana.
Il rischio è che l’interfaccia assomigli a un gioco mentre le conseguenze rimangono reali e irreversibili. La distanza non cancella la responsabilità; uno schermo non trasforma una persona in un bersaglio virtuale.
Quando insieme alle case scompare la memoria
«Album di foto di famiglia», «Quaderni di scuola», «Abbiamo cancellato la storia». Queste parole ricordano una perdita che non entra facilmente nelle statistiche: la distruzione della memoria.
Quando una casa viene distrutta, non scompaiono soltanto muri. Possono sparire fotografie dei nonni, lettere, libri, certificati, piccoli oggetti che custodiscono la storia di una famiglia. Quando vengono colpite scuole, biblioteche, università e archivi, il danno investe anche il patrimonio della conoscenza e la memoria collettiva.
A Gaza, segnata da generazioni di sfollamenti, assedio e conflitto, la perdita della memoria materiale assume una gravità ulteriore. Una casa può, almeno in linea di principio, essere ricostruita. Ma come restituire un album bruciato, una lettera perduta, i quaderni di un bambino che non c’è più? Distruggere la memoria significa minacciare anche la possibilità di raccontare la propria storia alle generazioni future.
«Svolgevo soltanto il mio ruolo tecnico»: chi risponde?
«Il mio ruolo tecnico» e «I soldati obbediscono» sono forse le due espressioni più importanti dei miei appunti. Chi è responsabile quando una decisione di attacco viene suddivisa tra programmatore, analista, operatore e comandante? Chi scrive il codice? Chi definisce le soglie? Chi interpreta i dati? Chi autorizza l’azione?
Non esiste una risposta giuridica identica per ogni situazione: contano condotta, conoscenza, intenzione, potere effettivo e doveri di ciascuno. Un principio però rimane fermo: l’esistenza di un algoritmo non elimina la responsabilità umana. E l’esecuzione di ordini non costituisce una protezione assoluta dalla responsabilità penale internazionale.
Se il programmatore afferma di aver scritto soltanto il codice, l’analista di aver esaminato soltanto i dati e il comandante di essersi affidato alla valutazione tecnica, chi risponde delle conseguenze? Il pericolo è una responsabilità tanto frammentata, da sembrare non appartenere più a nessuno.
L’intelligenza artificiale può diventare uno strumento di crimini di guerra?
Non ogni impiego militare dell’intelligenza artificiale costituisce un crimine di guerra. La liceità dipende dall’obiettivo, dalla natura dell’attacco, dalle modalità d’impiego, dalle precauzioni e dalle perdite civili prevedibili. Ma l’uso di un sistema tecnologico non protegge chi è responsabile di un attacco illecito.
Se vengono colpiti deliberatamente civili, compiuti attacchi indiscriminati o lanciati attacchi con perdite civili previste eccessive rispetto al vantaggio militare concreto e diretto atteso, la presenza di un algoritmo non modifica le regole fondamentali del diritto internazionale umanitario.
Anche la qualificazione giuridica di genocidio richiede elementi specifici, tra cui l’intento di distruggere, in tutto o in parte, un gruppo protetto: non può essere dedotta dal solo impiego di una determinata tecnologia. I sistemi digitali, tuttavia, possono lasciare tracce utili all’accertamento dei fatti, purché i registri siano accessibili e verificabili. Servono quindi controllo indipendente, conservazione delle decisioni e possibilità di esaminare i criteri di classificazione.
Da Gaza al futuro della coscienza umana
Quando ho ricevuto dal professor Fabio Pasqualetti «NAZA – Danno collaterale», ho capito che la riflessione iniziata in sala non si era conclusa con la fine del film. Il volume offre l’occasione di approfondire il rapporto tra guerra, tecnologia, diritto ed etica. Merita una lettura critica delle fonti e delle conclusioni: non avendone ancora completato la lettura pagina per pagina, questa non è una recensione definitiva, ma una prima riflessione, che collega il suo tema alle domande nate durante la proiezione.
Gaza non ci interroga soltanto sulla guerra israelo-palestinese, ma sul futuro dell’umanità. Se è possibile produrre valutazioni di targeting a velocità senza precedenti, avremo il coraggio morale e giuridico di imporre limiti al loro impiego? Se la bomba nucleare ci ha insegnato a temere l’annientamento collettivo in un istante, gli algoritmi rischiano di abituarci alla morte ripetuta, persona dopo persona, casa dopo casa, famiglia dopo famiglia?
Forse uno dei pericoli più grandi della guerra assistita dall’intelligenza artificiale è rendere ordinaria la morte e allontanare chi decide da chi ne subisce le conseguenze. La domanda non è soltanto fino a che punto una macchina possa pensare, ma fino a che punto l’essere umano possa conservare la propria coscienza quando la macchina gli offre una maggiore capacità di uccidere.
Torno allora alla domanda annotata durante il film: «Che cosa sono io?». Non riguarda soltanto il soldato, il programmatore o il comandante. Riguarda la nostra intera civiltà. Potremmo essere passati dall’era della distruzione di massa a un’era che consente uccisioni individualizzate su scala industriale. Il pericolo più profondo non è la macchina che calcola, ma l’essere umano che decide di trasformare quei calcoli in morte.
Il futuro che merita di essere costruito non è quello in cui le macchine ci aiutano a decidere chi deve morire, ma quello in cui ci aiutano a proteggere chi vive.
