Il ragazzo che vendeva benzina al distributore di Zaporizhzhia non ha fatto in tempo a capire cosa fosse. Uno dei droni autonomi che la Russia sta ora impiegando in massa è sceso dal cielo, ha virato verso i serbatoi di propano, e a un certo punto ha scelto da solo dove esplodere.
Il 6 luglio, in quella città del sud-est ucraino, sono morte tre persone. Tra loro Tetiana Bubynets, diciannove anni, studentessa universitaria. Gli operatori russi avevano programmato il drone per dirigersi verso un distributore di benzina: chi ha scelto l’esatto bersaglio da colpire, quasi certamente dei serbatoi di propano, non è stato un essere umano. Lo ha ricostruito un’inchiesta del New York Times, incrociando il racconto di comandanti ucraini, esperti di droni e la squadra forense che ha esaminato i resti del velivolo.
Droni autonomi: un computer che sceglie cosa colpire
Fino a poco tempo fa i droni “intelligenti” tenevano comunque un umano nel processo: il software gestiva l’avvicinamento, la persona premeva il grilletto. Il sistema recuperato a Zaporizhzhia va oltre. A bordo gli investigatori hanno trovato un computer Nvidia Jetson Orin: lo stesso tipo di scheda che anima robot industriali e droni da consegna, riadattato per riconoscere e colpire categorie di oggetti addestrate in anticipo. Un esperto citato dal Times lo ha definito il primo caso documentato di civili uccisi da un drone russo dotato di questo tipo di sistema di puntamento autonomo.
Un manuale IBM del lontano 1979 conteneva un avvertimento che oggi suona profetico: un computer non potrà mai essere ritenuto responsabile, quindi non dovrà mai prendere una decisione manageriale. Quasi cinquant’anni dopo, ai computer affidiamo decisioni con conseguenze molto più gravi di una scelta manageriale.
Lo avevamo già visto, un anno fa
Su Futuro Prossimo lo scrivevamo già a maggio del 2025: i robot decidono chi vive e chi muore, e lo fanno da tempo. A giugno del 2024, secondo fonti raccolte da diverse testate, l’esercito ucraino aveva testato un piccolo sciame di dieci droni in modalità “Terminator” vicino a Chasiv Yar, poco a ovest di Bakhmut: comunicazioni tagliate, IA di bordo, bersagli scelti e colpiti senza alcun controllo umano. È stato il primo uso pubblicamente noto di sistemi letali del tutto autonomi contro esseri umani in combattimento.
All’epoca la regola ucraina vietava ancora, almeno sulla carta, l’autonomia totale nell’ingaggio. Un anno dopo la stessa tecnologia colpisce, con la stessa logica, tre civili in una città ucraina. Nessuno l’aveva chiesto, in un senso preciso: nessuno ha mai avuto il diritto di deciderlo per il resto del mondo, ma qualcuno lo ha deciso comunque, e ora la userà chiunque arrivi ad averla.
Chi altro ci sta lavorando
La Russia non è sola in questo campo. Secondo quanto riferito al New York Times, l’Ucraina ha testato sistemi completamente autonomi contro depositi di carburante e mezzi militari in Crimea occupata: l’ex ministro della Difesa ucraino ha dichiarato che quei test non hanno causato vittime civili. Nessuna delle due parti ha però un incentivo a fermarsi prima dell’altra, e la tecnologia, una volta dimostrata in guerra, non resta un segreto a lungo.
Droni autonomi: chi paga quando sbaglia una macchina?
Un’arma autonoma non può essere processata, non può spiegare le proprie ragioni, non può essere punita dopo una morte ingiusta. La responsabilità umana non svanisce: si complica, si allunga, si annacqua tra chi ha scritto il codice, chi ha addestrato il sistema di riconoscimento, chi ha dato l’ordine di lancio verso il distributore. In pratica, quando la catena si allunga così tanto, la responsabilità tende a diluirsi fino a scomparire.
Le avvisaglie c’erano tutte, da anni. Chi ha denunciato per primo l’uso spregiudicato della sorveglianza e dell’automazione applicata alle guerre moderne veniva trattato come un allarmista, o peggio come un traditore. Poi, quando a usare sistemi di puntamento automatico è stato un esercito percepito come “il proprio”, la conversazione si è fermata al tifo, non alle implicazioni. Ora la stessa tecnologia colpisce, con la stessa logica, i civili ucraini. Era prevedibile, e proprio per questo fa più rabbia.
La riga che non si può più cancellare
Orizzonte stimato: nessuno. I droni autonomi sono già sul campo, hanno già ucciso, e i costruttori di droni economici in tutto il mondo hanno già visto che funzionano: la finestra per regolamentarli prima che si diffondessero si è chiusa mentre nessuno guardava.
Il problema non sono i limiti tecnici del riconoscimento delle immagini, destinati solo a migliorare. È che una volta che un esercito comincia a delegare al software la decisione finale su chi colpire, tornare indietro richiede rinunciare a un vantaggio tattico che nessuno, in guerra, rinuncia volontariamente. Chi ne fa le spese per primo sono i civili nelle zone di combattimento; chi arriva dopo, con budget più bassi e meno scrupoli, sono tutti gli altri.
Droni autonomi che scelgono da soli chi colpire sono già in uso in una guerra attiva, e dei civili sono già morti per mano loro. Russia e Ucraina li testano entrambe, e la tecnologia da qui può solo migliorare, diventando più spietata. È un pendio scivoloso nel senso più letterale: una volta che un esercito affida al software la scelta del bersaglio, riprendersi quella responsabilità diventa sempre più difficile. Forse non si può più tornare indietro, e sì che anche Edward Snowden ci aveva avvisato.
Ma continuare a chiamarla “innovazione” senza dire chi ci rimette, quello sì che si può ancora smettere di farlo.
