Fake News sous stéroïdes : les deepfakes arrivent – les dirigeants mondiaux sont-ils préparés ?

Cet article fait partie d'une série d'éditoriaux présentant le Forum économique mondial de Davos, en Suisse. CoinDesk sera présent à Davos du 20 au 24 janvier pour couvrir l'actualité Crypto lors du rassemblement annuel de l'élite économique et politique mondiale. Réseaux sociaux -nous en vous abonnant à notre newsletter éphémère. CoinDesk Confidentiel : Davos.

Arif Khan est le PDG d'Alethea AI. Les opinions exprimées ici n'engagent que lui.

Malgré ses défauts, le Forum économique mondial s’est imposé comme un lieu important pour mettre en lumière les tendances Technologies controversées qui auront de vastes répercussions sur notre monde.

Ce que 2018 et 2019 ont été pour la blockchain et les cryptomonnaies sur la scène du WEF (accueillies avec un mélange sain d’intrigue et de scepticisme), 2020 le sera pour les médias synthétiques, également connus sous l’euphémisme inquiétant de « deepfakes ».

Bien que ce concept puisse paraître de la pure science-fiction pour la plupart, le WEF a ajouté à son programme 2020 une session entière consacrée aux deepfakes et aux risques qu'ils représentent pour les sociétés et les systèmes politiques. Ces technologies seront également pleinement présentées lors de plusieurs Événements parallèles qui rythmeront la Promenade de Davos.

Pour un aperçu QUICK des raisons pour lesquelles les deepfakes ne sont pas une plaisanterie, regardez cette vidéo dans laquelle le visage de Jet Li a été remplacé par le PDG de Binance, Changpeng « CZ » Zhao.

Alors que CZ était assez bon enfant pourretweeterDans cette parodie légère, il a émis une mise en garde selon laquelle le KYC et la reconnaissance vidéo seraient difficiles à mettre en œuvre si cette tendance se poursuivait.

Nous ne sommes plus au Kansas...

Les algorithmes d’intelligence artificielle open source permettent désormais la création de deepfakes à un rythme effréné, ce qui signifie que les controverses sur les « fake news » observées lors de l’élection présidentielle américaine de 2016 sembleront un jeu d’enfant en 2020. Il existe deux catégories de deepfakes : malveillants et non malveillants, mieux connus sous le nom de médias synthétiques.

Étant donné que la plupart des entreprises sont largement sous-équipées pour se protéger contre les escroqueries de base telles que les e-mails de phishing, il est difficile d’imaginer l’impact que les médias deepfake pourraient avoir s’ils étaient déployés de manière malveillante contre une population naïve.

Alors pourquoi est-ce important pour les Crypto? Après tout, nous sommes une communauté avertie à la pointe de la Technologies, n'est-ce pas ? Certes, mais les arnaques prolifèrent encore dans le secteur des Crypto ; il suffit de voir tous les avertissements « Ne pas donner ETH» affichés sur les pseudo-célébrités Crypto sur Twitter.

Grâce aux médias synthétiques, les escrocs disposent désormais d'un nouvel arsenal pour influencer la trajectoire d'une organisation décentralisée et créer un chaos sans précédent. Nous verrons très certainement des deepfakes de géants de la crypto-industrie en 2020. Notre réaction face à ce paysage médiatique émergent dépendra du degré de vaccination de nos sociétés et de nos communautés.

Les médias synthétiques émergeront comme une classe d’actifs en 2020

Mais il n'est pas nécessaire de fuir. Comme toute Technologies, les algorithmes sous-jacents aux deepfakes peuvent être utilisés à des fins bénéfiques, générant de la valeur économique et des gains de productivité, tout en ouvrant la voie à de nouveaux modes d'expression artistique. Si les cas d'utilisation commerciale en sont encore à leurs balbutiements, 2020 verra des tentatives concertées pour rendre cette Technologies accessible au grand public de manière positive.

Par exemple, le désormais célèbrePeloton filles Son visage était immédiatement reconnaissable dans la Publicité pour Gin, conçue et réalisée par le visionnaire Ryan Reynolds. Son image et son visage étaient « fluides », car ils étaient superposables à un contexte narratif diamétralement opposé en un court laps de temps. À l'avenir, nous assisterons à des exemples similaires, et si son « image » est reproductible numériquement, elle aura la possibilité de participer à une multitude de contextes différents en un court laps de temps, renforçant ainsi sa viralité et son influence. Cela générera une valeur commerciale significative pour les acteurs, les agences artistiques et leurs marques.

Des copies numériques synthétiques, réalistes, émotionnelles et expressives, seront instantanément échangeables, comme les skins de jeu et les habillages de voix dans les jeux de rôle en ligne. Les acteurs et leurs agences artistiques réclameront l'espace blanc que la narration numérique synthétique permettra. Nos visages et nos voix seront loués, modifiés, relookés et réutilisés.

D'autres cas d'utilisation bienveillante pourraient consister à préserver la voix d'un proche pour que les générations futures puissent l'entendre et Guides , ou même à préserver l'image d'un mathématicien érudit ou d'un génie musical, afin de servir de source d'inspiration constante à une société ou à une communauté. Imaginez Gandhi vous enseignant les principes de la non-violence, ou un proche récemment décédé lisant un livre audio pour enfants à vos futurs enfants. Les applications bienveillantes sont infinies. Pourtant, l'infrastructure des droits numériques n'en est qu'à ses balbutiements.

Devons-nous encourager la financiarisation de nos visages et de nos voix ?

Mais, comme c'est le cas pour d'autres nouvelles technologies, il ne faut T beaucoup d'imagination pour imaginer à quel point cela pourrait rapidement devenir dystopique. Pour lutter contre un tel scénario, nous devons permettre aux individus d'accéder aux données qui sous-tendent leur image, leur visage et leur voix. Aucun gouvernement ni aucune entreprise ne devrait posséder l'identité d'un être humain. Les individus doivent être habilités à préserver, à traiter et à liquider leur image dans un cadre juridique et de propriété intellectuelle approprié et en constante évolution. Pour ce faire, les médias synthétiques auront besoin d'un nouveau substrat de droits numériques pour gérer les autorisations, les transactions et la gouvernance.

Des rumeurs ont fait le buzz dans les industries créatives et technologiques selon lesquelles TikTok et Snapchat seraient tous deux en développement.échange de visageDes capacités accessibles au plus grand nombre. Si ces entreprises de données centralisées visent à maximiser la valeur ajoutée en termes d'engagement et de temps passé sur leurs applications, il est essentiel qu'une alternative et une philosophie décentralisées émergent pour permettre aux individus de contrôler leur image et leurs données.

Alors que les visages et les voix deviennent entièrement synthétiques en 2020, nous risquons de nuire à notre tissu social et économique si les individus ne sont pas capables de comprendre la valeur de leurs voix et de leurs visages. Ce sera particulièrement vrai si toute la captation de valeur se fait au niveau applicatif des entreprises centralisées, comme cela a trop souvent été le cas dans le contexte du Web 2.0.

Internet va-t-il se réduire à une galerie de miroirs ?

Même avant l’apparition des deepfakes, le monde moderne connaissait un déclin de la vérité.

La confiance que notre société accorde aux informations numériques que nous consultons s'amenuise. Le flot constant de fausses informations nous a épuisés et, parfois, rendus apathiques. La démocratisation des outils d'IA pour générer du contenu synthétique rendra les normes actuelles de désinformation presque inoffensives. Avec l'essor des médias synthétiques et des outils de création de deepfakes à volonté, comment Guides -nous à discerner la vérité ?

Certaines solutions d'horodatage basées sur la blockchain offrent des pistes intéressantes pour la création d'un registre numérique de tous les contenus synthétiques, mais la possibilité d'un contrôle centralisé de ces registres demeure. D'autres solutions explorées permettent l'empreinte digitale des contenus numériques et le hachage au point de capture, deux cas d'utilisation pertinents mais malheureusement limités qui ne répondent pas pleinement à la complexité du problème.

Tout comme Bitcoin et Ethereum ont involontairement permis aux individus d'approfondir leurs connaissances sur les Marchés, la théorie des jeux, la production monétaire et l'économie, nous aurions besoin d'alternatives et d'incitations décentralisées pour permettre à chacun de véritablement comprendre la valeur de son image numérique. Les discussions à venir au WEF et ailleurs permettront, espérons-le, d'établir une base de compréhension des enjeux, ainsi qu'un cadre et une compréhension des solutions nécessaires.

Il convient en particulier de souligner le rôle que la Technologies blockchain peut jouer dans la création d'un substrat sous-jacent. Certes, nous nous souvenons tous de 2018, lorsque la blockchain était la solution à tous les problèmes de la planète, et même plus, mais elle devra jouer un rôle ici, tant pour l'horodatage des deepfakes que pour la création d'une couche de gestion des droits numériques, qui permettrait ainsi aux individus d'effectuer des transactions avec leurs données faciales ou vocales.

Alors que les enjeux ne cessent de croître et que les contenus deviennent de plus en plus fluides, émergents et viraux, nous devons avoir une compréhension approfondie de notre réalité et des vérités partagées qui la sous-tendent. Si nous pensions que les fake news nuisaient à la confiance dans notre société, les deepfakes, mal gérés, auront des conséquences bien pires.

Cependant, il ne faut pas jeter le bébé avec l'eau du bain. Le phénomène des médias de synthèse est là pour durer ; il est nécessaire de bien comprendre comment l'utiliser au profit des individus et de la société, ainsi que d'élaborer une stratégie pour atténuer les dommages potentiellement causés par des acteurs malveillants.