Ad Antioch, nella periferia di Nashville, il 22 gennaio del 2025 uno studente di 17 anni è entrato nella mensa scolastica con una pistola, ha ucciso una compagna di 16 anni, e poi si è tolto la vita. Nella scuola era attivo un sistema di rilevamento armi basato sull’intelligenza artificiale, pagato dal distretto un milione di dollari. Il sistema, molto semplicemente, non ha visto la pistola. Ha smesso di non vederla solo quando la polizia, arrivata dopo gli spari, è entrata con le proprie armi sguainate: a quel punto sì, ha funzionato.
A maggio 2026 un sopravvissuto, ferito di striscio al braccio, ha fatto causa al produttore di quel sistema. La domanda del suo avvocato è la stessa che si fa chiunque, leggendo: perché dovrebbe essere meglio di un metal detector?
Un milione di dollari per una promessa di marketing
Il sistema si chiama Omnilert, lo produce un’azienda americana, e Metro Nashville Public Schools lo ha installato nel 2023 con un contratto da poco più di un milione di dollari. Lo vendevano come tecnologia capace di individuare un’arma “prima che parta il colpo”, trasformando le telecamere passive della scuola in “strumenti che salvano vite”. La causa civile avviata da Antonyous Henin e depositata a maggio, contesta esattamente queste frasi: l’azienda, sostiene il legale Christopher Smith, sapeva o doveva sapere che il software aveva limiti operativi rilevanti legati al posizionamento delle telecamere, alla distanza, all’angolazione, alla luce, alla visibilità dell’arma.
In altri termini: quel sistema di rilevamento armi con l’AI funziona solo se l’arma è inquadrata bene, ferma, illuminata, e a una certa distanza. In una caffeteria scolastica, praticamente nessuna di queste condizioni è garantita.
Dopo la sparatoria, il CEO di Omnilert Dave Fraser è andato a dire in tv che “la posizione del tiratore e dell’arma facevano sì che l’arma non fosse visibile. Non è affatto un caso in cui il sistema non ha riconosciuto l’arma”. L’azienda, in altri termini, dice che il software non ha fallito: ha solo trovato un mondo che non si adattava al software.
Negli stessi mesi, immagino per un puro caso, dal sito Omnilert sono sparite frasi come “affidabilità impareggiabile” e “salva vite”, sostituite da avvertenze sui possibili “falsi allarmi” e dalla raccomandazione di una verifica umana. Aggiustamenti che non sono sfuggiti ai legali, e sono diventati parte integrante della causa.
Cosa vede l’AI vede, quando non vede le pistole?
Ottobre 2025, in una scuola di Baltimora. Lo stesso sistema Omnilert scambia un sacchetto di patatine Doritos per una pistola: Taki Allen, sedici anni, finisce ammanettato e perquisito dalla polizia mentre tornava da scuola con il suo snack. Qualche mese dopo, un altro sistema concorrente di telecamere intelligenti ha bloccato una scuola intera perché ha scambiato il clarinetto di una studentessa di terza media per un’arma. Tra l’una e l’altra c’è il dato che racconta tutto: quello della sparatoria di Antioch che vi ho introdotto a inizio articolo.
Quel giorno non c’erano né patatine, né clarinetti. C’erano una pistola vera, una mensa piena di adolescenti, e un sistema che non si è accorto di nulla. La frase dell’avvocato Smith è piuttosto netta:
“Pensavo fosse una stronzata. Così come ho una Tesla e penso che la guida autonoma di Tesla sia una stronzata. Non è pronto. Come puoi affidargli la sicurezza dei bambini? Perché dovrebbe essere meglio di un metal detector?”.
Le scuole americane, intanto, continuano a comprare: Metropolitan Nashville dopo Antioch ha esteso i sistemi di rilevamento armi a tutte le sue scuole, stavolta con un’altra azienda. Le scuole, come zone di guerra, hanno bisogno di fornitori, e i fornitori hanno bisogno di scuole.
Nel frattempo, il sito Omnilert ha tolto le frasi più forti, aggiunto i disclaimer, e continua a vendere. Henin, il diciassettenne ferito al braccio quel 22 gennaio, studia ingegneria iinformatica. Forse ha senso.
Quando lo vedremo davvero
Orizzonte stimato: il rilevamento armi via AI in tempo reale come tecnologia affidabile in ambienti reali (mense, corridoi, ingressi, luce variabile, occlusioni continue) non è una questione di anni: è una questione di se.
Il problema è che una pistola tenuta vicino al corpo, in un ambiente affollato, con telecamere posizionate per altro, è strutturalmente difficile da riconoscere. Nel breve (1-3 anni) ci saranno aziende che venderanno il sistema “migliorato” alle stesse scuole che oggi hanno il sistema “limitato”. Il primo a comprarlo sarà chi ha già pagato la versione precedente.
