C'è una buona e una cattivissima notizia. La buona notizia, almeno secondo un ex dirigente di Google, è che la singolarità sta arrivando. Ormai è alle porte. La cattivissima notizia è che rappresenta una grave minaccia per tutta l'umanità.
Il terribile avvertimento arriva da Mo Gawdat, dirigente molto "addetto ai lavori". È stato Chief Business Officer per l'organizzazione Moonshot di Google, che all'epoca si chiamava Google X. Le sue parole di monito vengono dritte dritte da una intervista che Gawdat ha concesso al Times.
"L'intelligenza artificiale generale è inevitabile"
Nell'intervista, l'ex dirigente Google ha detto che crede che l'intelligenza artificiale generale (AGI), il tipo di AI onnipotente e senziente (del quale abbiamo esplorato gli effetti nefasti in speculazioni di fantascienza come Skynet di "The Terminator") sia inevitabile. Una volta che sarà qui, l'umanità potrebbe benissimo trovarsi a subire un'apocalisse provocata da macchine simili a divinità.
Gawdat ha dichiarato al Times di aver avuto questa spaventosa rivelazione mentre lavorava con gli sviluppatori di intelligenza artificiale di Google X. L'esperimento cui ha assistito il dirigente non era niente di speciale, almeno in apparenza. Gli sviluppatori stavano costruendo bracci robotici in grado di trovare e raccogliere una pallina. Dopo un periodo di lenti progressi, Gawdat racconta che un braccio ha afferrato la palla e sembrava tenerla sollevata verso i ricercatori in un gesto che, a lui, sembrava un gesto di esibizione.
"E all'improvviso mi sono reso conto che questo è davvero spaventoso", ha detto Gawdat. "Mi ha completamente congelato". "La realtà è", ha aggiunto, "che stiamo creando Dio".
I pericoli che l'ex dirigente Google vede sono realistici. Ma prima bisogna affrontare quelli reali.
L'avvertimento dell'ex dirigente Google è inquietante, ma non l'unico. Non mancano i saggi ammonitori (o venditori di paura, dipende dal punto di vista) dell'intelligenza artificiale nel settore tecnologico. Elon Musk ha ripetutamente messo in guardia il mondo sul pericolo che l'AI un giorno surclassi l'umanità, ad esempio. Speculazioni di frontiera che, se da un lato avvertono sui pericoli, dall'altro sembrano troppo "enormi" e forse ci distraggono da quelli evidenti già adesso.
Ad esempio, il riconoscimento facciale e gli algoritmi di polizia predittiva causano danni reali nelle comunità svantaggiate. Innumerevoli algoritmi là fuori continuano a propagare e codificare il razzismo istituzionale su tutta la linea. Questi sono problemi che possono essere risolti attraverso la supervisione e la regolamentazione.
