Droni ucraini in “modalità Terminator” hanno già ucciso da soli

“Lo abbiamo provato.” “Provato come?” “Lo lanci e sai che tutto quello che si trova in quella zona morirà.” Alexander Kokhanovskyy parlava così, qualche giorno fa, davanti ai giornalisti riuniti dall’ambasciata ucraina a Londra. Quello che il produttore di droni autonomi stava descrivendo è successa due anni fa, vicino a Bakhmut, durante una controffensiva: 10 quadricotteri programmati per volare verso la linea del fronte, restarci sopra una decina di minuti, e attivare quella che internamente chiamavano “Terminator mode”.

Modalità Terminator significa una cosa sola: un modello di intelligenza artificiale a bordo che cerca bersagli umani per conto suo, li identifica, li attacca. Nessun operatore collegato, nessun video da guardare, nessuno che possa fermare la procedura una volta partita.

Sono andati a vedere dopo, con droni pilotati, e nell’area hanno trovato un camion distrutto e un paio di soldati russi morti. La prima morte attribuita ufficialmente a un’arma autonoma è una ricostruzione fatta a posteriori, perché in diretta non c’era nessuno a guardare.

Cosa significa “completamente autonomi”

I droni autonomi non sono una novità: i sistemi anti-nave hanno l’autonomia di ingaggio da decenni, le mine intelligenti pure. Quello che cambia, qui, è il bersaglio. La macchina decide da sola di uccidere un essere umano. Kokhanovskyy lo dice con la calma di chi ha già metabolizzato la cosa: “non c’è connessione con il drone, non vedi il video, niente”.

Quattro chilometri di volo, dieci minuti di pattuglia, e qualsiasi cosa il sensore identifichi come bersaglio finisce nella lista.

Era già successo qualcosa di simile? Forse. Nel 2021 un rapporto delle Nazioni Unite raccontò di un drone turco Kargu-2 usato in Libia con la modalità fire, forget and find attivata contro forze di Khalifa Haftar. Non si seppe mai con certezza se ci furono vittime. Restò un sospetto archiviato in una nota a piè di pagina.

Ne scrivemmo all’epoca, quando i droni autonomi kamikaze sembravano ancora il confine estremo della tecnica militare. Quattro anni dopo, il confine si è spostato in avanti, e questa volta la conferma viene dal produttore stesso, che parla a un congresso e cita date e coordinate. E noi siamo disgustati, come lo eravamo quando Edward Snowden metteva tutti in guardia, come sempre inascoltato.

La regola che proibisce quello che è successo

Le regole ucraine sull’uso militare dell’intelligenza artificiale, oggi, dicono una cosa precisa: l’IA può rilevare, classificare, suggerire, ma l’uomo deve restare nel last loop, la decisione finale di ingaggio. La cosiddetta dottrina human-in-the-loop, che è poi il compromesso etico su cui mezzo Occidente regge le sue linee guida.

Solo che il test del 2024, secondo Kokhanovskyy, è stato fatto in piena modalità autonoma. E aggiunge, sempre nello stesso intervento: “a me piacerebbe operare senza quella restrizione”. Detto in pubblico, con i giornalisti in sala. Detto a nome di un’azienda che oggi sta consegnando alla difesa ucraina il sistema ALITA, 16 piattaforme di lancio, 64 droni intercettori, 2 operatori a gestire tutto, velocità di crociera 450 chilometri orari. In servizio da ottobre.

I funzionari ucraini presenti alla conferenza, davanti alla stessa platea, hanno fatto sapere che il governo sta discutendo con le aziende del settore se “flettere le regole”. A Vienna, nel 2024, decine di paesi si erano riuniti per provare a costruire un quadro internazionale che impedisse esattamente questo: armi che scelgono da sole. Le posizioni erano nobili. La pratica, intanto, viaggiava avanti sotto traccia.

Cosa cambia, davvero

Cambia il principio di responsabilità, prima di ogni altra cosa. Se un soldato sbaglia bersaglio, c’è qualcuno che risponde davanti a una corte marziale o a un tribunale internazionale. Se sbaglia un algoritmo addestrato su un dataset di cui nessuno conosce davvero i bordi, la catena si interrompe da qualche parte tra il programmatore, il comandante che ha autorizzato il lancio del lotto, e il fornitore del modello. È un buco giuridico, al momento: “tutti colpevoli, nessun colpevole”.

Cambia anche la scala. Un drone pilotato richiede un pilota, e un pilota costa addestramento, stipendi, turni, fatica. ALITA promette sessantaquattro droni con due operatori: trentadue a testa. È la logica che sta riscrivendo il campo di battaglia, una persona davanti a uno schermo che guarda decine di puntini muoversi da soli: prende un caffè e intanto controlla di tanto in tanto decine di velivoli che sterminano da soli le persone come se fossero insetti.

Antonio Guterres, segretario generale dell’ONU, ha chiesto un trattato vincolante entro il 2026 per vietare i sistemi che decidono autonomamente sulla vita e sulla morte.

La risoluzione dell’Assemblea Generale del dicembre 2024 è passata con maggioranza schiacciante. Il trattato, però, non c’è ancora. E ottobre è vicino.

L’intervista di Kokhanovskyy ha un dettaglio che mi è rimasto in testa più di tutti gli altri. Quando gli hanno chiesto cosa avesse pensato dopo il test coi droni killer autonomi, ha risposto che lui personalmente non era presente: l’operazione l’aveva condotta un’unità militare non identificata. Ha fatto, sostanzialmente, il pesce in barile. Non c’ero, e se c’ero dormivo.

Due soldati morti e un camion distrutto, conteggiati per inferenza da ricognitori arrivati dopo. Nessuno ha visto in faccia chi ha sparato: nessuno ha visto in faccia chi è stato colpito. È una guerra che si svolge in una stanza vuota, e fuori dalla stanza si raccoglie quello che resta.

E se per fare i cinici o i disillusi dite che si sapeva, che è ovvio, che in qualche modo si è sempre fatto, o se la mettete sulla bandierina (il caso, si, riguarda l’Ucraina, ed esprimere raccapriccio non significa essere Russi: solo umani) non siete meno freddi di quei droni, e non capite la gravità della cosa.