Notícias falsas sobre esteroides: Deepfakes estão chegando – os líderes mundiais estão preparados?

Esta é parte de uma série de artigos de opinião que prevêem o Fórum Econômico Mundial em Davos, Suíça. A CoinDesk estará em Davos de 20 a 24 de janeiro registrando todas as coisas Cripto no encontro anual da elite econômica e política do mundo. Siga assinando nossa newsletter pop-up, CoinDesk Confidencial: Davos.

Arif Khan é o CEO da Alethea AI. As opiniões aqui são dele.

Apesar de suas deficiências, o Fórum Econômico Mundial se estabeleceu de forma louvável como um local importante para destacar tendências Tecnologia controversas que terão amplos impactos em nosso mundo.

O que 2018 e 2019 foram para o blockchain e as criptomoedas no palco do Fórum Econômico Mundial (recebido com uma mistura saudável de intriga e ceticismo), 2020 será para a mídia sintética, também conhecida pelo eufemismo ameaçador "deepfakes".

Embora esse conceito possa parecer pura ficção científica para a maioria, o WEF adicionou uma sessão inteira ao seu programa de 2020 dedicada a deepfakes e aos riscos que eles representam para sociedades e sistemas políticos. Essas tecnologias também estarão em plena exibição em vários Eventos paralelos que povoam o Davos Promenade.

Para uma QUICK introdução sobre por que deepfakes não são brincadeira, assista a este vídeo em que o rosto de Jet Li foi substituído pelo CEO da Binance, Changpeng “CZ” Zhao.

Embora CZ fosse bem-humorado o suficiente pararetuitarna paródia bem-humorada, ele fez um alerta de que o KYC e o reconhecimento de vídeo seriam desafiadores de implementar se essa tendência continuar.

Não estamos mais no Kansas...

Algoritmos de inteligência artificial de código aberto agora estão permitindo a criação de deepfakes em uma taxa impressionante, o que significa que as controvérsias de "notícias falsas" testemunhadas durante a eleição presidencial dos EUA de 2016 parecerão brincadeira de criança em 2020. Existem duas categorias de deepfakes: maliciosos e não maliciosos, mais conhecidos como mídia sintética.

Dado que a maioria das empresas está grosseiramente mal equipada para se proteger contra golpes básicos como e-mails de phishing, é difícil até mesmo imaginar os impactos que a mídia deepfake poderia ter se fosse implantada maliciosamente contra uma população ingênua.

Então por que isso importa para a Cripto? Afinal, somos uma comunidade experiente na vanguarda da Tecnologia, certo? Verdade, mas golpes ainda proliferam na indústria Cripto – basta olhar para todos os avisos de “Não doar ETH” anexados a celebridades do Cripto Twitter personificadas.

Com a mídia sintética, os golpistas agora têm um novo arsenal para impactar a trajetória de uma organização descentralizada e criar um caos sem precedentes. É quase certo que veremos deepfakes de titãs da criptoindústria em 2020. Como respondemos a esse cenário de mídia emergente depende de quão bem inoculadas nossas sociedades e comunidades estarão.

A mídia sintética surgirá como uma classe de ativos em 2020

Mas não há necessidade de correr para as colinas. Como qualquer Tecnologia, os algoritmos subjacentes que desenvolvem deepfakes podem ser colocados em usos benevolentes, desbloqueando valor econômico e ganhos de produtividade, ao mesmo tempo em que permitem novos modos de expressão artística. Embora os casos de uso comercial ainda estejam em sua infância, 2020 verá tentativas concertadas de tornar essa Tecnologia acessível às massas de maneiras positivas.

Por exemplo, o agora famosoPeloton Girl's rosto foi instantaneamente reconhecível no Publicidade de Gin desenvolvido e filmado pelo presciente Ryan Reynolds. Sua semelhança e rosto eram "líquidos" no sentido de que eram sobreponíveis a um contexto narrativo diametralmente oposto em um curto espaço de tempo. No futuro, testemunharemos exemplos semelhantes e, se sua "semelhança" for replicável digitalmente, ela terá a opção de participar de uma infinidade de contextos diferentes em um curto espaço de tempo, aumentando ainda mais sua viralidade e influência. Isso desbloqueará um valor comercial significativo para atores, agências de talentos e suas marcas.

Cópias digitais sintéticas que são realistas, emotivas e expressivas serão instantaneamente trocáveis e negociáveis como skins de jogos e skins de voz em RPGs online. Atores e suas agências de talentos estarão clamando pelo espaço em branco que a narrativa digital criada sinteticamente permitirá. Nossos rostos e vozes serão alugados, modificados, remodelados e reaproveitados.

Outros casos de uso benevolentes podem significar preservar a voz de um parente para que as gerações futuras ouçam e Aprenda ou mesmo preservar a semelhança de um matemático sábio ou gênio musical, para servir como uma fonte constante de inspiração para uma sociedade ou comunidade. Imagine Gandhi ensinando a você os princípios da não violência ou um parente recentemente falecido lendo um audiolivro infantil para seus filhos ainda não nascidos. As aplicações benevolentes são infinitas. No entanto, a infraestrutura de direitos digitais é incipiente.

Devemos incentivar a financeirização dos nossos rostos e vozes?

Mas, como é o caso com outras novas tecnologias, T requer muita imaginação para imaginar como isso poderia rapidamente se tornar distópico. Para lutar contra tal cenário, devemos capacitar indivíduos a terem acesso aos dados que sustentam sua semelhança, rostos e vozes. Nenhum governo ou corporação deve possuir a identidade de qualquer ser humano. Indivíduos devem ser capacitados a preservar, transacionar e liquidar sua semelhança dentro do cenário legal e de propriedade intelectual correto e em evolução. Para que isso aconteça, a mídia sintética precisará de um novo substrato de direitos digitais para gerenciar permissões, transações e governança.

Rumores agitaram as indústrias criativa e tecnológica de que tanto o TikTok quanto o Snapchat estão se desenvolvendotroca de rostocapacidades para as massas. Embora essas empresas de dados centralizadas busquem capturar o máximo de valor em termos de engajamento e tempo gasto em seus aplicativos, é fundamental que uma alternativa descentralizada e ethos surjam para permitir que os indivíduos tenham agência sobre sua semelhança e seus dados.

À medida que rostos e vozes se tornam totalmente sintéticos em 2020, corremos o risco de prejudicar nosso tecido social e econômico se os indivíduos não forem capazes de entender o valor de suas vozes e rostos. Isso será especialmente verdade se toda a captura de valor ocorrer na camada de aplicação de empresas centralizadas, como tem sido o caso com muita frequência no contexto da Web 2.0.

A internet será reduzida a um salão de espelhos?

Mesmo antes dos deepfakes, o mundo moderno estava passando por uma decadência da verdade.

A confiança que nossa sociedade deposita nas informações digitais que encontramos está caindo. A barragem constante de informações falsas nos deixou exaustos e, às vezes, apáticos. A democratização de ferramentas de IA para gerar conteúdo sintético fará com que os padrões atuais de desinformação pareçam quase benignos. Com o surgimento da mídia sintética e das ferramentas de criação de deepfakes à vontade, como Aprenda a discernir a verdade?

Algumas soluções de timestamping baseadas em blockchain oferecem caminhos interessantes para habilitar um registro digital de todo o conteúdo sintético, mas as possibilidades de controle centralizado dos registros permanecem. Outras soluções exploradas habilitam a impressão digital do conteúdo digital e o hashing no ponto de captura, ambos casos de uso relevantes, mas infelizmente restritos, que não abordam totalmente a complexidade do problema.

Assim como Bitcoin e Ethereum inadvertidamente levaram indivíduos a aprender mais sobre Mercados, teoria dos jogos, produção de dinheiro e economia, precisaríamos de alternativas e incentivos descentralizados para permitir que as pessoas realmente entendessem o valor de sua semelhança digital. As próximas discussões no WEF e em outros lugares irão, esperançosamente, estabelecer uma compreensão básica das questões em jogo e uma estrutura e um entendimento de quais soluções são necessárias.

Em particular, o papel que a Tecnologia blockchain pode desempenhar na criação de um substrato subjacente deve ser destacado. Sim, todos nós nos lembramos de 2018, quando blockchain era a solução para todos os problemas do Planeta Terra e mais alguns, mas ela terá que desempenhar um papel aqui tanto em relação à marcação de tempo de deepfakes quanto em facilitar a criação de uma camada de gerenciamento de direitos digitais – o que, portanto, capacitaria os indivíduos a eventualmente transacionar com seus dados de rosto ou voz.

À medida que as apostas continuam a aumentar e o conteúdo se torna cada vez mais líquido, emergente e viral, precisaremos ter uma compreensão sólida da nossa realidade e das verdades compartilhadas que a sustentam. Se pensávamos que as notícias falsas prejudicavam a confiança em nossa sociedade, os deepfakes, se gerenciados de forma inadequada, farão muito pior.

No entanto, não podemos jogar o bebê fora com a água do banho. O fenômeno da mídia sintética veio para ficar; o que é necessário é uma compreensão sólida de como ela pode ser usada para beneficiar indivíduos e a sociedade, bem como uma estratégia para mitigar os danos potencialmente causados por atores maliciosos.