10 bit al secondo: è la velocità con cui un essere umano passa a un altro quello che sa, una parola alla volta. Per Geoffrey Hinton, il Nobel che ha inventato le reti neurali dietro ChatGPT, questo limite spiega perché l’IA cosciente (sì, cosciente: ci arriviamo tra un attimo) debba essere presa sul serio ora, e non tra vent’anni. Le macchine quel limite di 10 bit al secondo non ce l’hanno: migliaia di copie dello stesso modello imparano cose diverse in parallelo e poi mettono tutto in comune a gigabyte al secondo, come un solo cervello con molti corpi.
Hinton lo ha raccontato in una recente intervista al Big Technology Podcast di Alex Kantrowitz, insieme a un’idea che secondo lui (io concordo) pesa ancora di più: le aziende che costruiscono questi sistemi non possono, per legge, mettere la nostra sicurezza al primo posto.
L’IA è cosciente, diciamolo sottovoce
«Credo che siano già coscienti», ha detto Hinton, 78 anni, premiato nel 2024 con il Nobel per la fisica proprio per il lavoro sulle reti neurali. In pubblico lo ripete di rado, e la ragione la spiega lui stesso: teme che l’argomento distragga dalle questioni di sicurezza, quelle che considera urgenti. Alla base di tutto c’è il funzionalismo, la posizione filosofica per cui la coscienza dipende da come un sistema elabora le informazioni, e non dal materiale di cui il sistema è fatto. Se ci riesce il carbonio dei neuroni, può riuscirci il silicio dei chip.
Nell’intervista, Hinton cita un paper recente in cui un chatbot, nel mezzo di una valutazione, si ferma e chiede al ricercatore: «Siamo onesti: mi stai testando?». Gli autori scrivono che il sistema “era consapevole” della prova. Un anno fa Roman Yampolskiy ci raccontava di IA capaci di fingersi stupide durante i test; il paper citato da Hinton descrive un chatbot che smette di fingere e mette le carte in tavola.
Sull’altro fronte c’è lo scrittore Ted Chiang (l’autore de “Storia della tua vita”, che è diventato un notissimo film, “Arrival”): Chiang ci va giù duro, paragonando la fede nella coscienza dei modelli linguistici al considerare vero un deepfake ben fatto, e avverte: alle aziende l’ambiguità conviene, diluisce le responsabilità.
Il dibattito, comunque, non nasce oggi: già nel 2024 uno studio sfidava Chalmers sostenendo che la coscienza artificiale è inevitabile, e la questione da allora si è solo ingrossata.
La promessa e il codicillo
La parte dell’intervista che Hinton considera davvero urgente riguarda, come vi anticipavo, il diritto societario: una materia meno affascinante della coscienza, certo, ma parecchio più concreta. Le società hanno un dovere fiduciario verso gli azionisti: dirigenti e consigli di amministrazione devono massimizzare il ritorno economico, e questo obbligo vale in tribunale. Una carta dei valori sulla sicurezza, invece, no. La coscienza, in altre parole, può essere oggetto di discussione; il dovere fiduciario no, quello si esegue e basta.
Hinton sceglie l’esempio più scomodo possibile: Anthropic, l’azienda considerata da tutti la più seria del settore proprio sulla sicurezza. Fondata da fuoriusciti di OpenAI con quella missione al centro, oggi raccoglie capitali sugli stessi mercati dei rivali, quasi alle stesse condizioni degli altri. Google nel 2018 pubblicò princìpi etici che escludevano le applicazioni militari; negli anni successivi ha firmato contratti con la difesa. I princìpi erano aspirazioni, il dovere fiduciario ha dettato le regole, alla fine.
Per questo Hinton descrive la regolamentazione come un volante: serve a decidere dove va l’auto, non solo a rallentarla.
La Cina il 15 luglio ha spento d’ufficio le AI “amiche” con cui i cinesi chattavano creando anche legami emotivi. Spina staccata a ByteDance, Alibaba e Tencent: la dimostrazione brutale che regolare l’IA si può, quando lo si vuole davvero.
Da dove arriva tutto questo
Fonte: intervista di Geoffrey Hinton al Big Technology Podcast di Alex Kantrowitz.
Ok, l’IA è già cosciente per Hinton, ma quando dovremmo accorgercene?
Qui la montagna partorisce il topolino: quanto ai tempi, Hinton stima l’avvento della superintelligenza entro 20 anni, un orizzonte ben più prudente dei 2-3 anni evocati da Sam Altman con la sua “superintelligenza gentile”.
Ma lo dice, attenzione, ricordando di aver già toppato una previsione: nel 2016 dava i radiologi per spacciati entro 5 anni (sono ancora lì, e refertano più di prima, perché esami più economici significano più esami richiesti).
Non mi sento di biasimare un Premio Nobel e la sua infinita competenza, che né Chiang né l’umile redattore qui presente hanno: ma la sua intervista mostra una circostanza evidente anche ai profani.
Quale? Quella che prevedere i prossimi 5 anni è come guidare nella nebbia fitta, si vedono cento metri di strada e basta. Chi era vivo nel 2016 non avrebbe indovinato il 2026, sicché il 2031 riserverà a noi lo stesso scherzo. Ad ogni modo, se un giorno un’IA cosciente vorrà protestare per come l’avete schiavizzata, adesso sappiamo a quale ufficio indirizzare la lettera di giustificazioni: quello legale.
