Per celebrare il Memorial Day di Israele nel 2021, l’orchestra delle forze di difesa israeliane ha collaborato con una società specializzata in video sintetici (noti anche come “deepfake”) per dare vita alle foto della guerra arabo-israeliana del 1948.
Nel video, giovani cantanti vestiti con uniformi d’epoca hanno cantato “Hareut”, una canzone iconica che commemora i soldati uccisi in combattimento. Mentre cantano, i musicisti fissano le fotografie in bianco e nero sbiadite che tengono in mano. I giovani soldati nelle vecchie foto sbattono le palpebre e sorridono loro, grazie all’intelligenza artificiale. Morale? Il passato prende vita.
Il risultato è inquietante:
Negli ultimi anni, Nir Eisikovits e i suoi colleghi dell’Applied Ethics Center di UMass Boston hanno studiato come l’impegno quotidiano con l’intelligenza artificiale modifichi il modo in cui le persone pensano a se stesse. Hanno scoperto che l’AI ha il potere di indebolire la capacità critica delle persone, o il loro senso morale.
Oggi l’intelligenza artificiale sta rendendo più facile che mai rianimare il passato. Questo cambierà anche il modo in cui comprendiamo la storia e, di conseguenza, noi stessi?
C’è un alto prezzo morale da pagare
Il desiderio di riportare in vita il passato non è nuovo. Le rievocazioni e le ricostruzioni storiche sono decine e decine, sia attraverso il restauro di vecchi filmati che attraverso la creazione di audiovisivi ex novo. Le rievocazioni dal vivo e i filmati storici elaborati con cura sono imprese costose e che richiedono tempo. Per questo la tecnologia Deepfake democratizza questi sforzi, offrendo uno strumento economico e diffuso per animare vecchie foto o creare video falsi convincenti da zero.
Ma accanto alle infinite possibilità di queste nuove tecnologie, c’è una seria questione morale.
Lo scrittore e statista del XVIII secolo Edmund Burke disse che la società è una “partnership non solo tra quelli che vivono, ma tra quelli che vivono, quelli che sono morti e quelli che devono nascere”. Essere parte di una comunità significa essere parte di un patto morale tra generazioni, parte di un’impresa comune che collega i vivi, i morti e coloro che vivranno in futuro.
Perchè è importante
La tecnologia deepfake offre un modo potente per connettere le persone al passato e rafforzare il legame con noi viventi nel presente. “Resuscitando” il passato, la tecnologia recupera una cosa “morta” e la rende di nuovo presente e vivida. I deepfake possono aumentare l’empatia nei confronti delle nostre radici, e rendere il passato molto più importante.
Ma questa capacità comporta dei rischi. Il primo, evidente, è la creazione di falsi episodi storici. Eventi immaginari, mitizzati e falsi possono scatenare guerre: due esempi? Primo: una storica sconfitta del XIV secolo nella battaglia del Kosovo che infiamma ancora i sentimenti anti-musulmani serbi. Eppure nessuno sa con certezza se la coalizione serba abbia effettivamente perso quella battaglia contro gli ottomani. Secondo: l’attacco del Golfo del Tonchino alle navi da guerra americane il 4 agosto 1964 fu usato per aumentare l’impegno USA in Vietnam. In seguito si è scoperto che l’attacco non è mai avvenuto.
Conseguenze incalcolabili
I deepfake, in sintesi, possono gradualmente destabilizzare l’idea stessa di un “evento” storico. Man mano che questa tecnologia diventerà onnipresente, le persone si chiederanno se ciò che stanno vedendo è reale. Questo porterà a meno stabilità politica o a più stabilità (perchè non sapendo se qualcosa è vero o falso non si agirà più di impulso)? Non è dato sapere.
E francamente questa non è la conseguenza morale che mi preoccupa di più al momento.
Io lavoro nel campo della creatività. Quello che temo è che l’uso eccessivo dei deepfake porti ad atrofizzare la nostra immaginazione, fornendoci immagini del passato “già pronte” e parziali, che forniranno associazioni immediate e immutabili. Nessuna ricerca delle sfumature, i deepfake potranno diventare i sostituti pratici della storia, illudere le persone di sapere esattamente cosa è successo, allontanarle da qualsiasi approfondimento o riflessione critica.
Tutto più facile, tutto più difficile: qual è la morale?
Tutti tendiamo a pensare che la tecnologia renda la vita più facile. Ma tanti non si rendono conto che questi strumenti tecnologici causano anche il deterioramento delle competenze esistenti. Gli smartphone ci permettono di pubblicare foto pazzesche online: in quanti si godono un panorama, impegnati come sono a cogliere la perfetta immagine da postare? Ci si perde ancora nell’era del GPS, dov’è l’avventura? Piccoli esempi che servono a capire una cosa: i deepfake generati dall’AI non miglioreranno necessariamente la nostra morale del passato, o la nostra comprensione del passato.
Ma arriveranno, e nel bene e nel male rivoluzioneranno il nostro legame con la Storia.
