Governare il futuro. Che succede se anche i grandi si cimentano nel deepfake

·3 minuto per la lettura

Adobe, gigante dell’editing di documenti, immagini e video, la società dietro al popolarissimo Photoshop, tanto per intenderci, ha appena presentato un prototipo di un proprio software che ha alcune funzionalità interessanti per gli amanti del deepfake.

Ma, naturalmente, è consapevole che è un prodotto da maneggiare con prudenza.

Per ora si chiama progetto Morpheus e, per ora, è solo un prototipo non ancora presente nel catalogo dei prodotti di Adobe.

E, sempre per ora, le sue funzionalità sono limitate almeno se paragonate a quello che il mercato delle soluzioni “specializzate” nella produzione di deepfake già offre.

Con Morpheus, tanto per essere chiari, si può cambiare l’espressione di una persona in un video e farla apparire contenta mentre nella realtà è disperata, si possono aggiungere occhiali o altri accessori, farle crescere la barba o modificarle taglio e colore dei capelli.

Ma non si può fare – per ora – quello che molti altri software dedicati al deepfake fanno ovvero “appiccicare” il volto di una persona sul corpo di un’altra.

È, peraltro, ovvio che Adobe potrebbe aggiungere anche questa funzionalità domani utilizzando – con poche modifiche – soluzioni, dati e algoritmi che ha già dentro casa.

Morpheus oggi – e, naturalmente, a maggior ragione domani implementato con le funzionalità di deep fake più evolute – può essere utilizzato per decine di scopi assolutamente legittimi senza far torto a nessuno.

Esattamente come il suo antenato Photoshop, infatti, può servire per correggere eventuali imperfezioni in un video già girato senza doverlo rigirare e con il pieno consenso dei protagonisti così come può essere prezioso, ad esempio, per un’azienda licenziataria dell’immagine di un personaggio famoso per scopi pubblicitari per realizzare degli spot senza neppure bisogno che il personaggio in questione li giri per davvero ma semplicemente facendosi mandare una scansione ben fatta del suo volto o raccogliendo in giro qualche frammento di video realizzato in tutt’altro contesto.

Ma naturalmente la stessa identica tecnologia – quella che Adobe ha già oggi dentro casa e quella che potrebbe facilmente avere domani – può essere usata per le più popolari malefatte alle quali viene applicato il deep fake ovvero per produrre fakenews magari di carattere politico o per diffondere contenuti di pornografia non consensuale artefatti appiccicando il volto di una persona sul corpo di un porno attore o di una porno attrice.

Niente che non sia già capitato, purtroppo, decine di migliaia di volte in giro per il mondo utilizzando soluzioni, spesso, meno evolute rispetto a quelle che Adobe ha o potrebbe avere nel suo portafoglio.

Ora la domanda da porsi è: come sarebbe auspicabile si comportasse Adobe ma, in generale, qualsiasi big tech avendo in casa questo genere di tecnologia?

C’è una sorta di responsabilità sociale che dovrebbe imporle o almeno suggerirle di lasciarla in una dimensione prototipale o no e, quindi, potrebbe distribuirla domani mattina?

Intendiamoci, nulla di nuovo sotto il sole, è solo un’occasione in più per chiederci come vadano governate le migliaia di tecnologie dual use – come in genere si dice – ovvero utilizzabili indistintamente per scopi leciti e illeciti.

Perché è ovvio che se domani il progetto Morpheus, abbandonata la dimensione prototipale, diventasse parte integrante di una soluzione come Photoshop diffusa in tutto il mondo, sarebbe pressoché impossibile scongiurare il rischio che tra milioni di utenti che ne utilizzerebbero le potenzialità in maniera assolutamente lecita, ve ne siano migliaia o, magari, decine di migliaia che lo utilizzerebbero per produrre tonnellate di contenuti tossici per ragioni diversi, cosa che, sempre per dirla tutta, naturalmente, già oggi è possibile – e, anzi accade – a prescindere dalla disponibilità di Morpheus sul mercato.

Ecco è questo genere di questioni che, probabilmente, dovremmo imparare a indirizzare – non necessariamente a colpi di nuove leggi ma, magari, anche semplicemente ricorrendo a strumenti di soft law e, soprattutto, dosi massicce di educazione di massa – senza lasciare che siano governate semplicemente dal mercato.

 

Questo articolo è originariamente apparso su L'HuffPost ed è stato aggiornato.

Il nostro obiettivo è creare un luogo sicuro e coinvolgente in cui gli utenti possano entrare in contatto per condividere interessi e passioni. Per migliorare l’esperienza della nostra community, sospendiamo temporaneamente i commenti sugli articoli