Le cofondateur d'une société d'IA aborde la question éthique des vidéos deepfake de Tom Cruise

Tout a commencé par un projet artistique, puis les vidéos « deepfake » de Tom Cruise sont devenues virales sur TikTok. Aujourd'hui, le cofondateur d'une entreprise de logiciels d'intelligence artificielle (IA), créée après la diffusion de ces vidéos virales, souhaite sensibiliser le public à cette Technologies et à la manière de protéger son identité numérique.

La Technologies Blockchain, qui est immuable, pourrait bien être un tel outil, a déclaré Tom Graham, de la société de logiciels d'IA Metaphysic, à l'émission « First Mover » de CoinDesk TV mercredi.

« De toutes les technologies, les systèmes distribués qui aident les individus à gérer leur propre identité… c’est une étape vraiment importante dans le processus qui permet aux individus de contrôler qui ils sont dans ce métavers hyper-réel émergent », a déclaré Graham.

La startup basée à Londres, qui a récemmenta levé 7,5 millions de dollars Lors d'un tour de table, Graham développe des infrastructures et des Technologies pour étendre le contenu basé sur l'intelligence artificielle. Il souhaite toutefois que l'entreprise se développe de manière « éthique, sûre et responsable ».

Cela pourrait toutefois s'avérer difficile, a déclaré Graham, car les contenus générés par l'IA, comme les deepfakes, pourraient franchir les limites de l'éthique. Les deepfakes sont une forme de manipulation médiatique qui peut donner l'impression que n'importe qui fait ou dit n'importe quoi – par exemple, Tom Cruise, qui a été représenté par une personne modifiée numériquement.ressembler à l'acteurdans les vidéos TikTok.

Respecter la ligne éthique est particulièrement délicat pour l'entreprise, car les deepfakes de Cruise ont commencé comme un projet artistique du cofondateur Christopher Ume avant la création de l'entreprise.

« L'objectif était de sensibiliser le public aux médias manipulés et aux risques potentiels », a déclaré Graham à propos des vidéos. « Évidemment, [le deepfake] de Tom Cruise est un contenu irrévérencieux, amusant et divertissant. Quand ila soudainement explosé nous avons contacté l'équipe de Tom Cruise et finalement ils n'ont T eu de problème."

Tom Cruise n'est pas une personne ordinaire, mais il est possible que des images de n'importe qui, sans son consentement, puissent être manipulées à l'aide de l'IA et devenir la prochaine sensation TikTok.

Les célébrités ont des avocats, a déclaré Graham, « mais qu’en est-il des gens ordinaires ? »

Ainsi, trouver un moyen pour que les individus puissent posséder et contrôler leur identité « devrait être notre objectif central » en tant que société, a-t-il déclaré.

Pour l’instant, a déclaré Graham, son entreprise est « à l’avant-garde de la recherche de solutions pour permettre aux gens de se protéger dans ce futur émergent ».

Sur le même sujet : Quel est le lien entre la Crypto et l'IA ? Existe-t-il un lien ? / Analyses