Tra (quasi) tutte le tecnologie future e spaventose che potrebbero causare un impatto negativo sul mondo, ce ne solo alcune assolutamente terrificanti che non vorremmo mai veder realizzate. Eccone alcune (in ordine sparso):
Nanotecnologia da guerra
Niente potrebbe causare la fine dell'umanità più rapidamente che una nanotecnologia molecolare trasformata in arma. È una minaccia che può contare su due fattori devastanti: la crescita esponenziale e la replicazione incontrollata. Un governo cinico, un soggetto non governativo o perfino un gruppo terroristico può realizzare macchine microscopiche in grado di replicarsi consumando rapidamente le risorse del pianeta. Aggeggi minuscoli che con la ferocia di un incendio trasformino la terra in una melma grigia.
Robert Freitas, esperto e teorico di nanotecnologia, ha speculato su diverse possibili varianti di nanotecnologia letale. Delle macchine aerovore potrebbero catturare tutta la luce solare, altre sarebbero ghiotte di carbonio, o di biomasse, o potrebbero "cibarsi" di particolari organismi.
Nello scenario peggiore, quello detto della "ecofagia globale", in soli 20 mesi il pianeta sarebbe distrutto completamente. In questo poco tempo a disposizione l'uomo dovrebbe contrastare macchine in apparenza inarrestabili, individuando il modo di interrompere la loro replicazione.
Per questo la nanotecnologia, conclude l'esperto, va regolata severamente imponendo una moratoria sul suo utilizzo a scopi militari.
Macchine senzienti
È opinione comune che l'umanità assisterà prima o poi alla nascita di macchine dotate di coscienza artificiali. Bisogna però premunirsi con buon anticipo, per considerare tutte le possibili conseguenze anche etiche del caso. Un tema affrontato brillantemente anche nella serie tv "Westworld", se avete presente di cosa parlo.
Già nel 2003 il filosofo Thomas Metzinger osservò che sarebbe tremendamente crudele sviluppare un software in grado di soffrire.
"Cosa direste se qualcuno venisse fuori e dicesse 'ehi, voglio creare bambini geneticamente disturbati! Per ragioni di progresso abbiamo bisogno di persone senza qualche pezzo, o con specifici deficit emozionali o cognitivi.'. Lo trovereste assurdo o no?". Di più. Lo troveremmo pericoloso. Una macchina senziente, se davvero senziente, può davvero soffrire ogni genere di deficit. E senza avere alcun comitato etico, alcuna rappresentanza in sua difesa.
Secondo il futurologo Louie Helm, una delle cose migliori di un computer è che puoi fargli fare cose noiosissime senza annoiarlo. Da quando abbiamo deciso di utilizzare una AI al posto di quella umana per alcuni compiti, potrebbe essere immorale programmarla di proposito per essere autocosciente. Intrappolare una coscienza in una macchina e poi forzarla a lavorare per te somiglia molto, molto da vicino alla schiavitù peggiore mai vista.
Senza contare che una ipotetica intelligenza artificiale generata in modo da ricreare la struttura biologica del cervello il risultato di una buona programmazione potrebbe constare nel fatto che questa intelligenza perderebbe il senno se sottoposta a un carico ingiusto e notevole per la sua psiche.
Questo è un motivo per prestare molta attenzione allo sviluppo di tecnologie spaventose basate su intelligenze artificiali che abbiano la vocazione di acquisire una coscienza.
Lettori della mente
Il pericolo di tecnologie spaventose legate a questa possibilità naturalmente esiste in caso di macchine in grado di leggere pensieri e ricordi di una persona a distanza e senza il suo consenso. Questo sarà davvero molto difficile finchè il cervello umano non sarà connesso in rete o con una qualsivoglia forma di comunicazione.
Lo sviluppo del mind reading procede veloce, purtuttavia. Lo scorso anno un team olandese ha usato scansioni del cervello e machine learning per determinare quali lettere una persona stesse osservando in quel momento. La rivoluzione schiude il potenziale di ricostruire pensieri umani ad un livello di dettaglio mai visto: sarà possibile sapere cosa guardiamo, cosa pensiamo, cosa ricordiamo. Ecco. Ora immaginate una cosa del genere utilizzata da un qualsiasi regime totalitario e ripensate al concetto di "processo alle intenzioni".
