Dal 1950 trasmettiamo involontariamente la nostra posizione nell’universo attraverso i radar. Allo stesso modo, dal 2022 stiamo involontariamente insegnando alle AI come creare armi biologiche attraverso i modelli generativi. Kathleen McMahon ha capito che se l’intelligenza artificiale può diventare un rischio esistenziale, può anche diventare l’ultima linea di difesa. Valthos, la sua startup di biosicurezza, ha appena ricevuto 30 milioni da OpenAI per sviluppare AI che proteggano da AI malevole. Una partita a scacchi dove ogni mossa sbagliata potrebbe costare milioni di vite. E dove il bioterrorismo esce dalle ipotesi terribili per entrare nel novero delle possibilità concrete.
Valthos: l’AI che combatte l’AI
McMahon, che ha guidato per anni la divisione life sciences di Palantir Technologies, non è tipo da allarmismi. Ma quando ha visto che ricercatori di Stanford hanno creato i primi virus completamente artificiali usando l’AI, con un tasso di successo del 5%, ha capito che il gioco era cambiato. Dei 302 virus progettati dall’intelligenza artificiale e prodotti in laboratorio, solo 16 sono riusciti a infettare il bersaglio. Un numero modesto, ma che segna comunque il primo passo verso una capacità di bioingegneria virale artificiale. Meglio prevenire.
Valthos, fondata insieme a Tess van Stekelenburg (partner di Lux Capital con lauree in neuroscienze computazionali e biologia), sviluppa software che raccoglie dati biologici da fonti commerciali e governative. Monitoraggio dell’aria, delle acque reflue, sorveglianza epidemiologica. L’AI analizza tutto in tempo reale per identificare minacce emergenti e caratterizzarne i rischi. È un po’ come un sistema immunitario digitale: riconosce i pattern anomali prima che diventino epidemie.
Il paradosso del bioterrorismo moderno
La vera ironia? Nessun bioterrorista è mai riuscito a uccidere qualcuno utilizzando armi biologiche proteiche. La setta giapponese Aum Shinrikyo, pur avendo tentato attacchi con tossina botulinica, riuscì a fare vittime solo quando passò ad agenti chimici tradizionali come il gas sarin. Ma il bioterrorismo potenziato dall’AI rappresenta una minaccia di ordine diverso.
Come spiega il Center for AI Safety in un recente report, uno scenario da incubo prevede un terrorista senza preparazione scientifica che usa l’intelligenza artificiale per progettare un supervirus. Combinare il periodo di incubazione dell’HIV, la contagiosità del morbillo e il tasso di mortalità del vaiolo: è questo il peggior caso possibile per la rivoluzione dell’AI. Una prospettiva che ha spinto OpenAI, Founders Fund e Lux Capital a investire 30 milioni di dollari in Valthos.
L’unica difesa contro il bioterrorismo AI è velocità di risposta. Valthos sta sviluppando sistemi AI che aggiornano automaticamente le contromisure mediche per minacce evolutive.
L’obiettivo è rilevare un attacco biologico e avere già pronto l’antidoto prima che diventi pandemia. È una corsa dove chi arriva secondo, perde tutto.
Quando la difesa incontra l’attacco
Jason Kwon, Chief Strategy Officer di OpenAI, è stato chiaro: “Deve esistere un sistema di tecnologie contrapposte per rendere robusto l’intero sistema”. È il primo investimento in biosicurezza che OpenAI dichiara pubblicamente, ma Kwon suggerisce che potrebbero seguirne altri. La logica è semplice: se stai costruendo strumenti che potrebbero essere usati per creare supervirus, devi anche finanziare chi costruisce gli antidoti.
Il paradosso è evidente. Una simulazione di Rand Corporation ha dimostrato che non c’è differenza significativa tra un attacco biologico pianificato con modelli linguistici avanzati e uno basato su semplici ricerche Google. Ma questo valeva per i modelli del “lontano” 2024. Le AI di nuova generazione stanno già cambiando l’equazione.
McMahon, forte dell’esperienza in Palantir, sa che il governo sarà il cliente principale per la tecnologia Valthos. “Dobbiamo incontrare gli operatori dove sono”, dice. È la stessa filosofia che aveva reso Palantir indispensabile per le agenzie di intelligence americane: creare strumenti che funzionano nel mondo reale, non nei laboratori.
Bioterrorismo, il fattore tempo decide tutto
La vera sfida del bioterrorismo moderno non è tecnologica, è temporale. Come già sappiamo da altri scenari di crisi, avere un piano dettagliato fa la differenza tra caos e controllo. Valthos sta costruendo esattamente questo: un sistema che non aspetta che l’attacco arrivi, ma lo anticipa.
I loro algoritmi di machine learning analizzano sequenze genetiche per identificare mutazioni sospette, mentre modelli predittivi esaminano trend epidemiologici per riconoscere anomalie nella diffusione di malattie. È sorveglianza biologica su scala planetaria, ma con un obiettivo preciso: distinguere tra un’influenza stagionale e un attacco coordinato.
Delian Asparouhov di Founders Fund ammette che investire in Valthos “non avrebbe avuto senso, o non sarebbe stato nemmeno possibile” fino a pochi anni fa. Ma i progressi nell’AI hanno aumentato sia la capacità di creare armi biologiche che l’opportunità di prevenirle. È una corsa simmetrica dove il vantaggio va a chi riesce a scalare più velocemente.
McMahon ha una visione semplice: “L’unico modo per dissuadere un attacco è sapere quando sta accadendo, aggiornare le contromisure e implementarle velocemente”. Tre passaggi che sembrano lineari sulla carta, ma richiedono un’intelligenza artificiale capace di processare miliardi di data point in tempo reale e prendere decisioni senza supervisione umana.
Il settore della difesa tecnologica sta diventando centrale per il venture capital della Silicon Valley. Ma mentre tutti investono in droni autonomi e sistemi nucleari avanzati, il bioterrorismo rimane un territorio inesplorato. Valthos potrebbe essere la prima di molte aziende a concentrarsi su questo settore, secondo Brandon Reeves di Lux Capital:
“Siamo ancora agli inizi. Crediamo che il bioterrorismo dovrebbe essere considerato come lo stesso livello di minaccia del nucleare”.
La partita è appena iniziata. Da una parte, AI sempre più sofisticate che potrebbero democratizzare la creazione di armi biologiche. Dall’altra, sistemi di difesa intelligenti che promettono di fermare ogni minaccia prima che diventi catastrofe.
Nel mezzo, nove persone in un ufficio di New York che stanno costruendo quello che potrebbe essere l’ultimo sistema immunitario dell’umanità.
Speriamo basti.
