Organo di informazione delle Pontificie Opere Missionarie dal 1927
di Luca Mainoldi
Roma (Agenzia Fides) - In occasione della presentazione il 25 maggio della Enciclica di Papa Leone XIV dedicata all’Intelligenza Artificiale (AI), è utile condividere alcune informazioni sull'uso dell'AI in ambito bellico.
L’AI promette di rivoluzionare tutti i campi della vita umana e il settore bellico è tra i primi a usufruirne. Le guerre attualmente in corso, in particolare quella in Ucraina (dal 2022) e quella in Medio Oriente (dal 2023), sono campi di sperimentazione per armi e tattiche militari innovative. Tra queste vi sono i sistemi robotizzati, come i droni di ogni tipo, e diverse forme di AI. Dalla logistica all’intelligence, dalla pianificazione delle operazioni militari al loro comando e controllo, dalla scoperta dei bersagli alla guida delle armi autonome robotizzate. Non c’è settore dove l’intelligence artificiale non sia utilizzata in ambito militare e strategico.
Tra i sistemi che sollevano forti preoccupazioni etiche vi sono quelli di individuazione dei bersagli umani, scelti in base a forme di profilazione automatica.
“We Kill people based on metadata” (“Uccidiamo gente basandoci sui metadati”) ha ammesso candidamente l’ex capo della National Security Agency (NSA, dal 1999 al 2005) e della Central Intelligence Agency (CIA, dal 2006 al 2009), il generale Michael Hayden, nel lontano (tecnologicamente parlando) 2014. I metadati non si riferiscono ai contenuti di mail o telefonate, ma ai dati relativi al messaggio, come data, ora e posizione di chi invia e riceve mail o telefonate. L’uso strutturale dei metadati permette di creare mappe relazionali di potenziali bersagli, rendendo possibile la cosiddetta profilazione ambientale: routine quotidiana, potenziali vulnerabilità, relazioni famigliari, amicali e professionali. Uno schema che viene potenziato dall’uso di strumenti AI come ad esempio il sistema Lavender e quello denominato Hasbara (“Vangelo”) utilizzati dall’esercito israeliano a Gaza, insieme a un altro chiamato Where’s my Daddy?. Il primo permette di tracciare il movimento di migliaia di persone e di individuare i possibili appartenenti ad Hamas analizzando contatti telefonici, i post sui social, le chat WhatsApp e simili, il riconoscimento facciale ed altro. Sulla base dei rapporti elaborati da Lavender viene stilata in automatico dall’altro programma, Hasbara, una killing list che viene poi passata a Where’s my Daddy? Quest’ultimo sistema seguendo i movimenti dei cellulari avverte quando una persona presa di mira riaccende il proprio telefono (spento per ragioni di sicurezza), solitamente quando torna a casa. Il dramma è che nella guerra di Gaza migliaia di innocenti sono stati uccisi per essere stati accanto o nelle vicinanze di bersagli umani individuati tramite sistemi AI che nati, originariamente per essere utilizzati sotto stretta supervisione umana, sono stati utilizzati senza una accurata verifica delle informazioni da loro generate.
Nella guerra di Israele e Stati Uniti contro l’Iran, sono stati utilizzati strumenti AI forniti da Palantir, la società americana fondata nel 2003 che domina il mercato degli strumenti d’intelligenza artificiale a fini militari e di sicurezza (ma non solo, la sanità nazionale britannica li impiega per analizzare i dati dei pazienti di Sua Maestà). In particolare il sistema Maven ha svolto un ruolo centrale nelle operazioni belliche integrando i dati provenienti da satelliti, droni, radar, segnali elettronici e altre fonti per creare un "quadro operativo comune" del campo di battaglia. Questo ha permesso un’accelerazione drastica del processo di individuazione dei bersagli ("catena di eliminazione”), consentendo ad esempio a una sola persona di gestire in settimane ciò che in precedenza richiedeva mesi a intere squadre di analisti. Il sistema, a quanto pare, incorpora modelli come Claude di Anthropic ed è stato utilizzato sia dalle forze statunitensi che da quelle israeliane.
La diffusione di strumenti simili oltre a porre drammatiche questioni etiche, comporterà una graduale scomparsa dei quadri intermedi (ufficiali di medio livello incaricato dell’analisi dei dati grezzi, ad esempio) sostituiti dalla AI. Questo a sua volta pone il problema (comune all’ambito civile, si pensi ai quadri medi di aziende o di enti pubblici) della selezione e della formazione delle future classi dirigenti a livello apicale, visto che la formazione dal basso, (“fare la gavetta”) sarà sempre più limitata dall’uso dell’AI. Con il rischio che l’intelligenza artificiale diventi la sola fonte delle informazioni sulla base della quale si prendono decisioni letali. Fino al giorno che sarà l’AI stessa a comandare.
Un rischio che si vede giù nelle armi autonome capaci di prendere la decisione di uccidere senza consultare un supervisore umano.
La scelta di sviluppare e impiegare armi del genere è politica. Finora le potenze occidentali hanno dichiarato di non volere introdurre sistemi autonomi letali che non siano controllati dall’uomo. Più sfumata la posizione di altre potenze. Secondo un rapporto ONU, nel 2020 in Libia un drone turco dotato di intelligenza artificiale ha effettuato la prima uccisione documentata compiuta da una macchina in maniera del tutto autonoma svincolandosi dal controllo umano. Rimangono inoltre controverse le rivelazioni del colonello dell’aeronautica americana, Tucker Hamilton, a un convegno sull’AI tenutosi nel 2023, secondo cui in un esperimento simulato, il drone incaricato di distruggere un radar nemico, quando gli è stato ordinato di sospendere l’attacco, ha colpito il proprio centro di comando per potere proseguire la missione. Le dichiarazioni del colonello statunitense sono state poi ridimensionate ma lo scenario prospettato è ritenuto credibile. (Agenzia Fides 21/5/2026)
