Fake news sugli steroidi: arrivano i deepfake: i leader mondiali sono preparati?

Questo fa parte di una serie di editoriali che anticipano il World Economic Forum di Davos, in Svizzera. CoinDesk sarà sul campo a Davos dal 20 al 24 gennaio per raccontare tutto ciò che riguarda le Cripto all'incontro annuale dell'élite economica e politica mondiale. Seguici iscrivendoti alla nostra newsletter pop-up, CoinDesk Riservato: Davos.

Arif Khan è il CEO di Alethea AI. Le opinioni qui sono sue.

Nonostante i suoi difetti, il World Economic Forum si è lodevolmente affermato come un luogo importante per evidenziare le tendenze Tecnologie controverse che avranno un impatto significativo sul nostro mondo.

Ciò che il 2018 e il 2019 sono stati per blockchain e criptovalute sul palcoscenico del WEF (accolti con un sano mix di intrigo e scetticismo), il 2020 sarà per i media sintetici, noti anche con l'eufemismo dal suono inquietante di "deepfake".

Sebbene questo concetto possa sembrare pura fantascienza per la maggior parte delle persone, il WEF ha aggiunto un'intera sessione al suo programma del 2020 dedicata ai deepfake e ai rischi che pongono alle società e ai sistemi politici. Queste tecnologie saranno inoltre esposte in diversi Eventi collaterali che animeranno la Davos Promenade.

Per una QUICK introduzione sul perché i deepfake non siano uno scherzo, guarda questo video in cui il volto di Jet Li è stato sostituito dal CEO di Binance Changpeng "CZ" Zhao.

Mentre CZ era abbastanza bonario daritwittareCon questa parodia spensierata, ha lanciato un monito: KYC e riconoscimento video saranno difficili da implementare se questa tendenza continuerà.

Non siamo più nel Kansas...

Gli algoritmi di intelligenza artificiale open source stanno ora consentendo la creazione di deepfake a un ritmo impressionante, il che significa che le controversie sulle "fake news" osservate durante le elezioni presidenziali statunitensi del 2016 sembreranno un gioco da ragazzi nel 2020. Esistono due categorie di deepfake: dannosi e non dannosi, meglio noti come media sintetici.

Considerando che la maggior parte delle aziende è decisamente poco attrezzata per proteggersi da truffe di base come le e-mail di phishing, è difficile anche solo immaginare l’impatto che i media deepfake potrebbero avere se utilizzati in modo dannoso contro una popolazione ingenua.

Quindi perché questo è importante per le Cripto? Dopotutto, siamo una comunità esperta all'avanguardia della Tecnologie, giusto? Vero, ma le truffe proliferano ancora nel settore Cripto : basta guardare tutti gli avvisi "Non regalare ETH" allegati alle celebrità di Twitter sulle Cripto impersonate.

Con i media sintetici, i truffatori hanno ora un nuovo arsenale per influenzare la traiettoria di un'organizzazione decentralizzata e creare un caos senza precedenti. Quasi sicuramente vedremo deepfake di titani dell'industria delle criptovalute nel 2020. Il modo in cui risponderemo a questo panorama mediatico emergente dipenderà da quanto saranno ben inoculate le nostre società e comunità.

I media sintetici emergeranno come una classe di attività nel 2020

Ma non c'è bisogno di scappare a gambe levate. Come ogni Tecnologie, gli algoritmi sottostanti che sviluppano i deepfake possono essere utilizzati per usi benefici, sbloccando valore economico e guadagni di produttività, consentendo al contempo nuove modalità di espressione artistica. Mentre i casi di utilizzo commerciale sono ancora agli inizi, il 2020 vedrà tentativi concertati di rendere questa Tecnologie accessibile alle masse in modi positivi.

Ad esempio, il famoso ormaiRagazza del Peloton il suo volto era immediatamente riconoscibile nella Pubblicità di Gin sviluppata e girata dal lungimirante Ryan Reynolds. La sua somiglianza e il suo volto erano "liquidi" nel senso che erano sovrapponibili a un contesto narrativo diametralmente opposto in un breve lasso di tempo. In futuro, assisteremo a esempi simili e, se la sua "somiglianza" sarà replicabile digitalmente, avrà la possibilità di partecipare a una moltitudine di contesti diversi in un breve lasso di tempo, aumentando ulteriormente la sua viralità e influenza. Ciò sbloccherà un valore commerciale significativo per attori, agenzie di talenti e i loro marchi.

Le copie digitali sintetiche realistiche, emozionanti ed espressive saranno immediatamente scambiabili e commerciabili come le skin di gioco e le skin vocali nei giochi di ruolo online. Gli attori e le loro agenzie di talenti reclameranno a gran voce lo spazio bianco che la narrazione digitale creata sinteticamente consentirà. I nostri volti e le nostre voci saranno noleggiati, modificati, ridisegnati e riutilizzati.

Altri casi d'uso benevoli potrebbero significare preservare la voce di un parente affinché le generazioni future possano ascoltarla e Imparare da essa, o persino preservare l'immagine di un matematico sapiente o di un genio musicale, per fungere da fonte costante di ispirazione per una società o comunità. Immagina Gandhi che ti insegna i principi della non violenza o un parente recentemente deceduto che legge un audiolibro per bambini ai tuoi figli ancora da nascere. Le applicazioni benevole sono infinite. Tuttavia, l'infrastruttura dei diritti digitali è agli inizi.

Dovremmo incoraggiare la finanziarizzazione dei nostri volti e delle nostre voci?

Ma, come nel caso di altre nuove tecnologie, T serve molta immaginazione per immaginare come questo potrebbe rapidamente trasformarsi in una situazione distopica. Per combattere contro un simile scenario, dobbiamo dare agli individui il potere di accedere ai dati che sostengono la loro immagine, i loro volti e le loro voci. Nessun governo o corporazione dovrebbe possedere l'identità di un essere umano. Gli individui devono essere autorizzati a preservare, effettuare transazioni e liquidare la loro immagine all'interno del panorama legale e di proprietà intellettuale corretto e in evoluzione. Affinché ciò accada, i media sintetici avranno bisogno di un nuovo substrato di diritti digitali per gestire permessi, transazioni e governance.

Le voci hanno fatto eccitare i settori creativi e tecnologici secondo cui sia TikTok che Snapchat si stanno sviluppandoscambio di volticapacità per le masse. Mentre queste aziende di dati centralizzati punteranno a catturare il maggior valore possibile in termini di coinvolgimento e tempo trascorso sulle loro app, è fondamentale che emerga un'alternativa decentralizzata e un ethos che consenta agli individui di avere potere decisionale sulla loro immagine e sui loro dati.

Mentre volti e voci diventano completamente sintetici nel 2020, rischiamo di danneggiare il nostro tessuto sociale ed economico se gli individui non sono in grado di comprendere il valore delle loro voci e dei loro volti. Ciò sarà particolarmente vero se tutta la cattura del valore avviene a livello applicativo delle aziende centralizzate, come è stato troppo spesso il caso nel contesto del Web 2.0.

Internet sarà ridotto a una sala degli specchi?

Anche prima dei deepfake, il mondo moderno stava vivendo un decadimento della verità.

La fiducia che la nostra società ripone nelle informazioni digitali che incontriamo sta calando. Il continuo bombardamento di false informazioni ci ha lasciato esausti e, a volte, apatici. La democratizzazione degli strumenti di intelligenza artificiale per generare contenuti sintetici farà sembrare gli attuali standard di disinformazione quasi benigni. Con l'ascesa dei media sintetici e degli strumenti di creazione di deepfake a piacimento, come Imparare a discernere la verità?

Alcune soluzioni di marcatura temporale basate su blockchain offrono interessanti percorsi per abilitare un registro digitale di tutti i contenuti sintetici, ma le possibilità di controllo centralizzato dei registri rimangono. Altre soluzioni esplorate consentono l'impronta digitale dei contenuti digitali e l'hashing al punto di cattura, entrambi casi d'uso rilevanti ma purtroppo limitati che non affrontano completamente la complessità del problema.

Proprio come Bitcoin ed Ethereum hanno inavvertitamente portato gli individui a saperne di più sui Mercati, sulla teoria dei giochi, sulla produzione di denaro e sull'economia, avremmo bisogno di alternative e incentivi decentralizzati per consentire alle persone di comprendere veramente il valore della loro somiglianza digitale. Le prossime discussioni al WEF e altrove, si spera, stabiliranno una comprensione di base dei problemi in gioco e un quadro e una comprensione delle soluzioni richieste.

In particolare, deve essere evidenziato il ruolo che la Tecnologie blockchain può svolgere nella creazione di un substrato sottostante. Sì, ricordiamo tutti il ​​2018, quando la blockchain era la soluzione a ogni problema del pianeta Terra e anche di più, ma dovrà svolgere un ruolo qui sia per quanto riguarda la marcatura temporale dei deepfake sia per facilitare la creazione di un livello di gestione dei diritti digitali, che consentirebbe quindi agli individui di effettuare transazioni con i loro dati facciali o vocali.

Mentre la posta in gioco continua a salire e i contenuti diventano sempre più liquidi, emergenti e virali, dovremo avere una solida comprensione della nostra realtà e delle verità condivise che la sostengono. Se pensavamo che le fake news danneggiassero la fiducia nella nostra società, i deepfake, se gestiti in modo improprio, faranno molto di peggio.

Tuttavia, non possiamo buttare via il bambino con l'acqua sporca. Il fenomeno dei media sintetici è qui per restare; ciò che serve è una solida comprensione di come può essere utilizzato a beneficio degli individui e della società, nonché una strategia per mitigare i danni potenzialmente causati da attori malintenzionati.