Gli USA “spengono” Anthropic: cronaca di 24 ore storiche

Venerdì mattina, ora di Washington, mezzogiorno passato da poco. Sei dei più alti funzionari della Casa Bianca cercano al telefono Dario Amodei, l’amministratore delegato di Anthropic. Non lo trovano. Il portavoce dell’amministrazione racconterà ai giornalisti che il CEO era “ad un ritiro wellness”, l’azienda smentirà categoricamente. Sta di fatto che per un’ora e un quarto, mentre a Pennsylvania Avenue si decide se staccare un’intelligenza artificiale dal mondo, l’unica persona che potrebbe evitare questo evento non risponde.

Quando finalmente Amodei richiama, riceve in sequenza tre telefonate. Dall’altra parte, in ordine sparso: il segretario al Tesoro Scott Bessent (collegato in remoto da Houston, dove ha un evento pubblico già fissato), il direttore cyber della Casa Bianca Sean Cairncross, il segretario al Commercio Howard Lutnick, e una buona mezza dozzina di altri funzionari di alto livello.

La richiesta è una sola: caro Dario, vedi di ritirare volontariamente Fable 5, il modello che Anthropic ha rilasciato martedì al pubblico, sennò te lo facciamo ritirare noi. Amodei rifiuta. Un’ora DOPO, viene firmato l’export control (il controllo sulle esportazioni USA basato sulla sicurezza nazionale). L’AI di Anthropic viene “spenta” per tutti i non americani dopo appena tre giorni dall’accensione.

Mi sono preso qualche giorno per leggere tutto, e capire chi ha detto cosa. Perché la cronaca delle ore che hanno portato gli USA a spegnere un’intelligenza artificiale per chiunque non sia cittadino americano è interessante anche solo come scena. Ma quello che vi conviene tenere a mente è un’altra cosa: è la prima volta che capita. E adesso che è capitato, capiterà ancora.

Martedì: Fable accende, mercoledì gioca, giovedì Amazon si insospettisce

Fable 5 è la versione “per tutti” di Mythos, il modello che Anthropic ad aprile aveva reso disponibile solo a una manciata di aziende tech, perché (parole dell’azienda) era troppo potente per essere lasciato in giro.

Per intenderci, è la stessa azienda il cui CEO da anni paragona la sua tecnologia a un’arma nucleare, scrive saggi pubblici sul rischio esistenziale, e ha costruito tutto il suo brand sull’idea di essere “i buoni” della corsa all’AI.

Comunque. Fable esce martedì, certificato dalla stessa Anthropic come “abbastanza sicuro per uso generale”, dopo revisioni dell’amministrazione USA e dell’AI Security Institute britannico. Mercoledì il modello gira, le aziende lo provano. Anche io lo provo (e da profano lo trovo un filo lento, ma formidabile: mi riprometto di recensirlo per il sito dopo qualche giorno, tanto Anthropic lo ha concesso in prova fino al 22 di giugno).

Giovedì, mentre tanti smanettavamo ignari sul nuovo giocattolo, Andy Jassy, CEO di Amazon (che di Anthropic è investitore, quindi sa di cosa parla), chiama la Casa Bianca per segnalare un problema. Qual è il problema? C’è un modo per aggirare le protezioni di Fable. Quello che in gergo si chiama jailbreak: un trucco linguistico che convince il modello a fare cose che teoricamente non dovrebbe fare.

Amazon, va detto, non chiamava a freddo: l’amministrazione aveva chiesto feedback alle aziende che testavano il modello. Ma il dettaglio interessante è che la segnalazione, raccontano fonti vicine al dossier, viene fatta passare all’intelligence americana. Si, prima di arrivare ai segretari di stato passa per l’NSA. E quando atterra sulle scrivanie di Bessent e Cairncross, non è più una “lamentela di un partner industriale”.

È un report di sicurezza nazionale.

Venerdì mattina: la riunione che decide tutto

Venerdì mattina, all’ala ovest della Casa Bianca, si tiene un incontro che a leggere la lista dei partecipanti somiglia più a un consiglio di guerra che a una riunione tech. Ci sono il succitato Bessent (da remoto), il succitato Cairncross, la capo di gabinetto Susie Wiles, il sottosegretario al Commercio Jeffrey Kessler, il vice capo di gabinetto Richard Walters, il segretario di staff Will Scharf, l’assistente del Presidente per le policy Walker Barrett.

Il punto sul tavolo è: cosa facciamo con Fable?

Esito della riunione: chiamare Amodei e chiedergli di staccare la spina volontariamente, in modo coordinato. Una operazione standard, come si fa con un farmaco che mostra effetti collaterali in commercio: lo si ritira, si studia il problema, è poi si rimette in circolo più avanti.

Solo che Amodei, raggiunto nel pomeriggio, dice di no.

Le sue ragioni le scrive nero su bianco Anthropic in un comunicato uscito dopo l’export control. Il jailbreak segnalato sarebbe specifico, non universale: il modello rimane sostanzialmente protetto, gli utenti anzi si lamentano che i filtri siano troppo restrittivi. Una difesa tecnicamente sensata, peraltro vera. Anthropic aggiunge che eliminare ogni possibile aggiramento dei filtri non è oggi possibile per nessuna azienda AI, e questo è altrettanto vero.

Bessent, secondo le ricostruzioni, gli risponde direttamente: “Stai facendo una pessima scelta”. Un’ora dopo, l’ordine esecutivo. Export control sui modelli Fable 5 e Mythos 5 e divieto d’uso per cittadini stranieri. L’effetto netto, ammette Anthropic, è stato disabilitare i modelli per tutti i clienti e restituire i token utilizzati a tutti (magra consolazione anche per me).

La versione di Anthropic, e quella della Casa Bianca

Le due ricostruzioni divergono su un punto non secondario. Funzionari della Casa Bianca raccontano di aver “supplicato per ore” Anthropic di collaborare; persone vicine ad Anthropic raccontano invece di un ultimatum: novanta minuti per spegnere tutto, nessun dettaglio sul problema specifico, nessuna apertura al dialogo. Vabbè: chi ha ragione lo capiremo coi log delle email, semmai usciranno.

Quello che invece è certo, perché lo scrive Anthropic stessa nel suo comunicato, è il giudizio sull’operazione: l’azienda riconosce al governo il diritto di bloccare deployment non sicuri, ma “all’interno di un processo statutario trasparente, equo, chiaro, basato sui fatti tecnici”. L’export control, dicono, non rispetta questi principi. Tradotto in italiano, e perdonate la traduzione: siamo d’accordo che potete fermarci, ma non così.

E qui vengo al punto secondo me interessante. Anthropic ha passato anni a chiedere regolamentazione. Letteralmente: Amodei è andato in audizioni al Congresso, ha pubblicato saggi sul rischio AI, ha costruito un’azienda intorno all’idea che senza supervisione statale l’industria si autodistruggerà.

Quando lo Stato è arrivato davvero, però, Anthropic ha scoperto che essere regolati non è esattamente quello che si era immaginata: una cosa è chiedere regole astratte, scritte da un legislatore in cinque anni dopo audizioni di esperti. Un’altra è ricevere una telefonata di Bessent il venerdì pomeriggio.

Perché queste 24 ore resteranno

Ora, semplicemente, esiste un precedente.

Uno Stato ha spento un modello di intelligenza artificiale, in tre giorni, usando uno strumento giuridico (l’export control) inventato negli anni Quaranta per fermare la fuga di tecnologia bellica verso paesi nemici. Ha funzionato.

Le aziende AI di tutto il mondo adesso sanno che si può fare, sanno quanto è veloce, e sanno che il processo statutario “trasparente ed equo” che Anthropic invoca non esiste, almeno non ancora. Esiste l’autorità di sicurezza nazionale, ed è uno strumento contundente. Quello con cui Washington ha già fatto la guerra dei chip con la Cina, per intenderci. I clienti non-americani di servizi AI di frontiera adesso sanno di essere il primo dial che Washington può ruotare in caso di problemi di sicurezza nazionale.

Vale per Anthropic oggi, varrà per gli altri domani.

David Sacks, ex zar AI dell’amministrazione e di solito ostile a ogni forma di regolamentazione, sabato mattina ha scritto su X che la decisione è giusta e proporzionata, e che si aspetta che Anthropic risolva il problema in fretta. Ha aggiunto, con sottolineatura, di essere “francamente perplesso” sul fatto che proprio Anthropic (l’azienda che ha sempre detto che la sicurezza viene prima di tutto) non si sia voluta adeguare.

Sui guai pregressi (a marzo il Pentagono aveva inserito Anthropic in una lista di rischi di filiera, dopo che l’azienda si era rifiutata di lasciare usare i suoi modelli per sorveglianza domestica di massa e armi autonome), Sacks dice che quello è un altro paio di maniche, e che le due cose non sono collegate. Sarà.

Quella che è certa è una sola cosa: martedì scorso, in cinquanta paesi, qualcuno usava Fable per scrivere codice, riassumere documenti, fare ricerca. Sabato mattina lo stesso utente apriva l’app e leggeva un messaggio di errore.

In mezzo, c’erano stati una telefonata mancata e novanta minuti che hanno fatto la storia a modo loro: e probabilmente anche un pezzo del nostro futuro.