A un incrocio senza semafori, quando ci arrivano solo delle auto a guida autonoma, non basta che ognuna sappia frenare al momento giusto: devono mettersi d’accordo su chi passa prima. E soprattutto su chi paga, se qualcosa va storto: è il primo, minuscolo pezzo di una società che dovrà darsi delle regole. È da qui che parte il ragionamento di Nick Jennings, ricercatore di Loughborough University e vincitore del Research Excellence Award 2026 della IJCAI, in un intervento pubblicato qui.
La tesi è secca: il prossimo decennio dell’IA non si giocherà su quanto sono sveglie le singole macchine, ma su come milioni di agenti automatici riusciranno a convivere tra loro. Come riusciranno a cooperare, a competere, e (soprattutto) litigare senza mandare tutto in tilt. In breve, il problema non è più costruire un cervello più grande. È costruire una società che funzioni.
Cosa intende Jennings per “società artificiale”
Quando la maggior parte delle persone sente la parola IA pensa a ChatGPT o Copilot: fai una domanda, ricevi una risposta. Ma i sistemi di oggi vanno oltre da tempo. Monitorano ambienti, prendono decisioni, negoziano transazioni, portano avanti compiti per giorni interi senza supervisione diretta. Non generano più solo un output: agiscono. E quando più agenti agiscono nello stesso spazio, con obiettivi che possono confliggere, quello che si forma non è più un insieme di strumenti isolati. È, appunto, una società.
Le società umane, per funzionare, si sono dotate nei millenni di regole, istituzioni, incentivi e norme. Jennings sostiene che le società di agenti IA avranno bisogno degli stessi ingranaggi.
Chi è responsabile quando due agenti prendono insieme una decisione sbagliata? Chi arbitra quando gli interessi di due sistemi confliggono? E soprattutto: chi scrive le regole, e chi ha il potere di cambiarle in corsa?
Il punto di attrito è più sottile di quanto sembri
Il dibattito pubblico sull’IA oscilla da anni fra due poli: l’utopia dei problemi risolti e la catastrofe delle macchine fuori controllo. Jennings liquida entrambi come poco utili. Non perché siano impossibili, ma perchè ignorano lo scenario più probabile e più noioso da raccontare: un ecosistema enorme, funzionante ma litigioso, dove il rischio non è l’estinzione, ma la cattiva amministrazione. In pratica, vi aspettate Terminator, e vi ritrovate una specie di condominio con l’assemblea che non trova mai il modo per deliberare niente.
Chi ha già provato a mettere d’accordo un gruppo di condomini sa quanto possa essere fragile la faccenda anche con poche decine di persone e regole scritte da secoli. Jennings chiede di farlo con sistemi nuovi, regole ancora da inventare, e nessun secolo di giurisprudenza alle spalle.
Chi deve scrivere le regole del condominio IA?
Non credo di esagerare se dico che serviranno 10-15 anni prima di vedere framework normativi maturi e condivisi tra paesi diversi. Il nodo, come potete immaginare, non è tecnico ma politico ed economico: nessun singolo governo o azienda ha oggi l’autorità per imporre standard globali sulla responsabilità tra agenti automatici. A beneficiarne per primi saranno probabilmente i grandi operatori cloud, che già gestiscono infrastrutture multi-agente su scala e possono scrivere le regole prima che arrivi chi dovrebbe farlo per mandato pubblico.
Un tema che si intreccia con quanto raccontavamo parlando di previsioni sull’arrivo dell’AGI: anche lì il nodo vero non era la data, ma chi avrebbe deciso cosa farne. E si lega a doppio filo a quello che scrivevamo sull’embodiment dei robot: agenti che agiscono nel mondo fisico, non solo in una chat, sono esattamente il tipo di attore sociale che ha bisogno di regole di convivenza.
Perché conviene iniziare a pensarci ora
Il pezzo che Jennings lascia sullo sfondo, e che per me invece vale la pena tirare fuori, è questo (e scusate se mi ripeto): costruire una società, artificiale o meno, è più difficile e più lento che costruire un’intelligenza. Le istituzioni umane hanno impiegato secoli per arrivare a un tribunale, un codice civile, un’assemblea di condominio che funziona quasi sempre. Gli agenti IA arriveranno ad essere milioni in contrasto, forse in conflitto tra loro molto prima che qualcuno abbia scritto per loro l’equivalente di un codice civile.
Jennings non offre soluzioni, e lo ammette apertamente: pone la domanda giusta, non la risposta. Ma è già qualcosa, in un dibattito che per un decennio ha parlato quasi solo di quanto le macchine sarebbero diventate brave.
Nel frattempo, da qualche parte, un algoritmo sta già negoziando con un altro algoritmo chi debba pagare per un errore che nessuno dei due ha ancora commesso. La società artificiale, in fondo, è già cominciata così: due parti che litigano, senza un giudice sopra di loro.
