I laboratori che addestrano l’intelligenza artificiale militare spendono anni e budget enormi per simulare il caos tra segnali che spariscono, operatori che improvvisano sotto pressione ed errori che nessuno aveva previsto. I droni ucraini producono lo stesso caos gratis, ogni giorno, in quantità che nessun laboratorio potrà mai replicare. Per questo, dallo scorso gennaio il Ministero della Difesa ucraino vende quel caos: milioni di punti dati raccolti da decine di migliaia di voli sono stati ceduti ad oltre 100 aziende e al governo britannico.
Il meccanismo è semplice e, va detto, anche un po’ vecchio. Gli Stati Uniti facevano lo stesso con i droni su Siria e Yemen già nel decennio scorso, dati poi confluiti nella prima generazione di hardware semiautonomo. La differenza oggi è nella scala (e nella trasparenza commerciale, per così dire) dell’operazione. Non parliamo più di canali classificati che alimentano solo il complesso militare che li ha generati: c’è un mercato aperto, con un catalogo e dei clienti che pagano.
Cosa vendono davvero i droni ucraini
In una parola sola: il governo ucraino vende esperienza. Ogni volo in zona di guerra registra migliaia di punti dati: immagini, video, input del pilota. Il modo esatto in cui una macchina e una persona hanno reagito quando qualcosa è andato storto. È materiale che nessuna simulazione riesce a inventare a tavolino. E nasce da un contesto che nessun ente etico approverebbe mai come banco di prova. La società americana Enabled Intelligence ha già reso disponibili oltre mezzo milione di ore di filmati dei droni ucraini, pubblicizzandone l’uso sia in ambito militare che civile.
Le “esperienze” di droni addestrati nello spazio aereo saturo di jamming sopra l’Ucraina finiscono oggi nei campi agricoli, a mappare terreni dove il segnale cellulare non arriva. La tecnologia nata per uccidere torna utile per arare. Bello, no? Peccato che nel mezzo ci sia un dettaglio che il comunicato del Ministero della Difesa non nomina mai: quei dati, prima di diventare un prodotto commerciale, sono stati la vita (e la morte) reale di persone che non hanno firmato nulla.
Chi c’è dentro quei dataset
Numeri: oltre 100 aziende e il governo britannico hanno già accesso ai dati, secondo l’accordo AI Regno Unito-Ucraina firmato negli scorsi mesi. Il programma Avengers Labs ucraino permette l’addestramento senza accesso diretto ai database sensibili. Una mitigazione parziale, che riguarda solo chi compra, non chi finisce fotografato dentro un fotogramma. Il vuoto normativo: nessuna legge internazionale regola cosa succede quando un dato di combattimento viene spogliato del contesto operativo e diventa licenza commerciale. Le leggi di guerra esistenti dicono come si combatte, non cosa si fa con la sua registrazione dopo.
Il problema del consenso che nessuno pone
Soldati, operatori, civili in fuga da un attacco: tutti finiscono, senza saperlo e senza poterlo impedire, dentro il materiale di addestramento di un modello. Un modello che verrà venduto anni dopo a chi costruisce droni da consegna o macchine agricole. Non stiamo parlando di anonimizzazione mancata come nei soliti scandali sui dati dei social. Stiamo parlando di persone che, nell’istante peggiore della loro vita, sono diventate un asset. Lo scrivemmo già a proposito di Edward Snowden. L’ex analista NSA metteva in guardia dal fatto che il vero pericolo dell’IA non fossero le distopie da film, ma i droni assassini già operativi. Quell’allarme oggi si aggiorna: il pericolo non è più solo l’arma che colpisce, è l’archivio che resta.
Chi compra “battlefield data” oggi verifica solo che il cliente non sia un nemico dichiarato, poi procede. Dati intimi raccolti senza vero consenso, trasformati in prodotto: lo stesso principio lo avevamo già visto quando Google ha pagato 68 milioni di euro per un assistente vocale accusato di origliare le case delle persone. Lì erano conversazioni private in un salotto: qui sono gli ultimi istanti di vita di chi scappava da un drone. La differenza di scala morale, sempre se qualcuno la sta ancora misurando e sa leggere la questione umana, non è nel prezzo pagato.
Il rischio più cinico, però, è economico. Se il valore commerciale dei dati di guerra continua a crescere, chi trae profitto da quei dataset ha un incentivo. Implicito, mai dichiarato, ma reale: perché il conflitto che li genera non finisca troppo presto. Agli ucraini, che di questa guerra paga il prezzo più alto, l’accusa non la faccio. La faccio a chi “collabora” e “rifornisce” un sistema che ha imparato a vedere nel dolore altrui una risorsa infinita, rinnovabile, e per ora completamente deregolamentata.
Cosa servirebbe, e perchè
Non esiste, ad oggi, un’agenzia o un regolatore con giurisdizione su questo tema specifico. Servirebbe trattare i dati di guerra come si tratta un trasferimento di armi controllate: origine tracciata, utenti licenziati, divieto di ricondivisione. Servirebbe obbligare le aziende a dichiarare, sui prodotti civili, quando il modello sottostante è stato addestrato su materiale bellico. Chi ci guadagna oggi da questo vuoto non ha alcun motivo di preoccuparsi di cosa succederà domani, e soffia sul fuoco della guerra, perchè più morti ci sono, più guadagna.
Il campo di battaglia del futuro lo raccontavamo già come un luogo dove droni e robot avrebbero riscritto le regole del combattimento. Nessuno, allora, aveva scritto la riga successiva: che sarebbe diventato anche un luogo dove si estrae valore da chi ci muore dentro. Un bello scatolone di morti trucidati: catalogato, confezionato e rivenduto con la stessa disinvoltura con cui si vende un dataset di foto di gatti.
La domanda che nessuno fa alle conferenze stampa di settore, o nelle trasmissioni tv, o sui giornali di questo infame mondo la faccio io: quanto vale, in euro, l’ultimo sguardo terrorizzato verso il cielo che i droni hanno registrato?
