Jacob Coxon ha scritto un post su X martedì sera, poi ha chiuso il suo laptop aziendale e ha lasciato Anthropic. Dei suoi 27 anni di vita, tre li ha passati tra i team di pretraining di OpenAI e della stessa Anthropic: è un insider. Uno che i modelli li ha costruiti da dentro, non uno che li commenta da fuori. Le sue non sono le prime dimissioni nel settore legate ai rischi della superintelligenza. Ma sono le prime accompagnate, poche ore dopo, dalla conferma pubblica di un collega ancora dentro l’azienda.
Perché c’è un dettaglio che rende questa storia diversa da un tweet allarmista qualunque, ed è bene dirlo subito: c’è molto marketing dietro le dichiarazioni allarmate e i timori di estinzione umana dovuta all’IA. Le aziende ci hanno costruito sopra narrative, lettere aperte, dichiarazioni da conferenza stampa che suonano gravi e vendono bene. Ma questa volta non è solo marketing, perché a rispondere a Coxon non è un ufficio comunicazione: è Evan Hubinger, responsabile allineamento di Anthropic, con il suo nome e cognome.
Cosa ha scritto davvero Coxon
Il cuore del post è una frase che non lascia molto spazio a interpretazioni morbide: “le persone che costruiscono l’IA credono davvero che possa ucciderci tutti entro la fine del decennio”. Lo stesso Coxon aggiunge che non si tratta di trovata pubblicitaria, anzi: molti dirigenti e ricercatori senior, dice, addolciscono i toni quando parlano con la stampa, ma esprimono lo stesso timore in privato. E accusa sia OpenAI che Anthropic di non comportarsi in modo responsabile, definendo la corsa attuale una scommessa diretta sulla vita di tutti.
La differenza tra le due aziende, secondo Coxon, non sta nella consapevolezza del rischio. In pratica, sostiene che in OpenAI il tema non sia stato interiorizzato del tutto a livello di posta in gioco per la civiltà, mentre in Anthropic la consapevolezza c’è, chiara: solo che l’azienda si sente comunque bloccata in una gara, convinta che se non arrivasse per prima ci arriverebbe qualcun altro con meno cautele. La ricetta perfetta per l’autodistruzione.
La cifra che Hubinger mette sul tavolo
Stima del rischio: Evan Hubinger, alignment science lead di Anthropic, ha confermato pubblicamente su X che il timore di Coxon è genuino, aggiungendo una cifra precisa: c’è oltre il 10% di probabilità che l’IA porti all’estinzione umana entro il prossimo decennio.
Precisazione: Hubinger ha poi chiarito, in un post successivo, che il rischio dai modelli attualmente disponibili resta basso. Il timore riguarda uno scenario specifico: la superintelligenza che nasce da un ciclo di auto-miglioramento ricorsivo, non i chatbot che usiamo oggi.
Non è una voce isolata
Samuel Marks, scalable oversight lead sempre in Anthropic, si è unito al coro nelle ore successive, scrivendo che gli sviluppatori IA credono che la loro tecnologia possa causare l’estinzione umana, forse già nei prossimi anni, e che in generale più un dipendente è senior più questa preoccupazione cresce. Aggiunge anche lui lo stesso dettaglio: molti dentro i laboratori vorrebbero rallentare per capire come costruire IA più sicura, ma restano incastrati nella stessa corsa che dicono di temere.
Il fatto che dirigenti e capi ricerca di Anthropic e OpenAI avessero già firmato, nel 2023, una dichiarazione che equiparava il rischio estinzione da IA a pandemie e guerra nucleare non è una novità. La novità è che stavolta a parlarne non è un documento firmato in un contesto controllato, ma un thread pubblico nato da chi ha appena sbattuto la porta. E arriva mentre OpenAI insegue a sua volta l’annuncio di sistemi sempre più vicini all’AGI, con dirigenti come il chief scientist Jakub Pachocki che ammettono che la società non è pronta alla velocità con cui la tecnologia sta salendo.
Quanto ci metteremo a capire se avevano ragione
Se il rischio riguarda la superintelligenza da auto-miglioramento, non esiste una data di scadenza affidabile: dipende da progressi che, per ammissione degli stessi addetti ai lavori, non stanno rallentando.
Chi ci mette la faccia per primo, in ogni caso, è chi già lavora dentro questi laboratori: sono loro a dover decidere ogni giorno se restare, andarsene come Coxon, o continuare a costruire ciò che dicono di temere. Il costo che ridimensiona l’allarme resta lo stesso di sempre: nessuno, né Anthropic né OpenAI, ha in questo momento un piano concreto per fermarsi prima dell’altro.
Chi in Anthropic aveva già parlato di superintelligenza “gentile” ora si trova a convivere con dipendenti che, con nome e cognome, dicono in pubblico l’esatto contrario della versione rassicurante. Coxon, dal canto suo, ha detto al Wall Street Journal di credere che il mondo sia sulla strada per uno degli scenari più aggressivi possibili, in cui entro la fine del prossimo anno le cose potrebbero già essere fuori controllo.
Vedremo chi, tra un anno, avrà avuto ragione a dormire sonni tranquilli.
