Avete mai visto l’episodio di Black Mirror chiamato “Arkangel”? Racconta la storia di una madre troppo apprensiva che impianta un chip nel cervello di sua figlia per seguire ogni suo movimento.
Ma lo aggiorna anche con un paio di funzionalità, come la possibilità di vedere tutto ciò che vede sua figlia e di imporle una censura visiva automatica. In pratica, blocca le immagini di tutto ciò che potrebbe essere considerato “scioccante” per sua figlia. Sua figlia semplicemente non può vedere ciò che la madre censura. Inutile dire che questo episodio di Black Mirror non si metterà bene. È una prerogativa della serie distopica inglese, d’altra parte.
Oggi è in corso di sviluppo una tecnologia che potrebbe effettivamente essere utilizzata per censurare automaticamente le immagini in tempo reale.
In questa clip di TEDx Talks (in inglese), lo scienziato esperto di interfacce informatiche Lonni Besançon presenta una tecnologia che potrebbe fare proprio questo.
Il sistema di censura visiva automatica funziona in modo leggermente diverso dalla versione vista in Black Mirror, con l’obiettivo di preservare ulteriori informazioni dell’immagine che viene oscurata.
Invece di limitarsi a pixelare le immagini “offensive”, la tecnologia di elaborazione applicherebbe i filtri per rendere l’immagine meno scioccante. Il caso d’uso spiegato qui è quello in cui un’immagine chirurgica potrebbe essere resa meno ripugnante, pur conservando abbastanza dettagli per capire cosa stava succedendo.
Il nucleo di questa particolare tecnologia è più di ridurre la natura scioccante di immagini o filmati specifici, piuttosto che prendere decisioni su ciò che è considerato offensivo o scioccante.
Detto questo, il team di Besançon ha realizzato un prototipo di estensione Chrome in grado di identificare automaticamente violenza, nudità o immagini mediche e applicare filtri visivi.
Censura visiva automatica: quando è giusta e quando no.
Possono esserci di certo usi legittimi per questa censura basata sull’intelligenza artificiale. Tutela per ragazzi, moderatori di social media o investigatori della polizia dal dover visualizzare immagini inquietanti.
Di certo però potrebbe anche essere usato per imporre censure indesiderate se usato in modo improprio o forzato sulla massa.
