Noticias falsas sobre esteroides: se avecinan deepfakes. ¿Están preparados los líderes mundiales?

Este artículo forma parte de una serie de artículos de opinión que anticipan el Foro Económico Mundial en Davos, Suiza. CoinDesk estará presente en Davos del 20 al 24 de enero, repasando todo lo relacionado con las Cripto en la reunión anual de la élite económica y política mundial. Síguenos suscribiéndote a nuestro boletín informativo. CoinDesk Confidencial: Davos.

Arif Khan es el director ejecutivo de Alethea AI. Las opiniones expresadas aquí son suyas.

A pesar de sus deficiencias, el Foro Económico Mundial se ha consolidado como un foro importante para destacar tendencias Tecnología controvertidas que tendrán amplios impactos en nuestro mundo.

Lo que 2018 y 2019 fueron para la cadena de bloques y las criptomonedas en el escenario del WEF (recibidos con una saludable mezcla de intriga y escepticismo), 2020 lo será para los medios sintéticos, también conocidos por el eufemismo de sonido ominoso de “deepfakes”.

Aunque este concepto pueda parecer pura ciencia ficción para la mayoría, el Foro Económico Mundial ha añadido una sesión completa a su programa de 2020 dedicada a los deepfakes y los riesgos que representan para las sociedades y los sistemas políticos. Estas tecnologías también se exhibirán en varios de los Eventos paralelos que se celebrarán en el Paseo de Davos.

Para obtener una introducción QUICK sobre por qué los deepfakes no son un asunto de broma, vea este video en el que el rostro de Jet Li ha sido reemplazado por el del CEO de Binance, Changpeng "CZ" Zhao.

Aunque CZ era lo suficientemente bondadoso como para...retuitearEn una parodia desenfadada, advirtió que sería difícil implementar KYC y el reconocimiento de video si esta tendencia continúa.

Ya no estamos en Kansas…

Los algoritmos de inteligencia artificial de código abierto ahora permiten la creación de deepfakes a un ritmo asombroso, lo que significa que las controversias de las "noticias falsas" presenciadas durante las elecciones presidenciales estadounidenses de 2016 parecerán un juego de niños en 2020. Hay dos categorías de deepfakes: maliciosos y no maliciosos, mejor conocidos como medios sintéticos.

Dado que la mayoría de las empresas están muy mal equipadas para protegerse contra estafas básicas como correos electrónicos de phishing, es difícil siquiera imaginar el impacto que los medios deepfake podrían tener si se utilizan de manera maliciosa contra una población ingenua.

Entonces, ¿por qué es importante esto para las Cripto? Al fin y al cabo, somos una comunidad experta a la vanguardia de la Tecnología, ¿verdad? Es cierto, pero las estafas siguen proliferando en la industria de las Cripto ; basta con ver todas las advertencias de "No regalar ETH" que aparecen en Twitter con suplantaciones de identidad de celebridades Cripto .

Con los medios sintéticos, los estafadores cuentan ahora con un nuevo arsenal para impactar la trayectoria de una organización descentralizada y crear un caos sin precedentes. Es casi seguro que veremos deepfakes de titanes de la criptoindustria en 2020. Nuestra respuesta a este panorama mediático emergente depende de cuán bien vacunadas estén nuestras sociedades y comunidades.

Los medios sintéticos surgirán como una clase de activo en 2020

Pero no hay necesidad de huir. Como cualquier Tecnología, los algoritmos subyacentes que desarrollan deepfakes pueden utilizarse para fines benéficos, generando valor económico y aumentos de productividad, a la vez que posibilitan nuevas formas de expresión artística. Si bien los casos de uso comercial aún están en sus inicios, en 2020 veremos esfuerzos concertados para hacer que esta Tecnología sea accesible al público de maneras positivas.

Por ejemplo, el ahora famosoPeloton Girl’s Su rostro fue reconocible al instante en el Publicidad de ginebra desarrollado y filmado por el visionario Ryan Reynolds. Su imagen y su rostro eran "líquidos" en el sentido de que podían superponerse a un contexto narrativo diametralmente opuesto en un corto período de tiempo. En el futuro, veremos ejemplos similares, y si su "imagen" es replicable digitalmente, tendrá la opción de participar en una multitud de contextos diferentes en poco tiempo, lo que aumentará aún más su viralidad e influencia. Esto generará un importante valor comercial para actores, agencias de talento y sus marcas.

Copias digitales sintéticas realistas, emotivas y expresivas serán intercambiables al instante, como las apariencias y las voces de los juegos de rol en línea. Los actores y sus agencias de talentos reclamarán el espacio que la narrativa digital creada sintéticamente permitirá. Nuestros rostros y voces serán alquilados, modificados, rediseñados y readaptados.

Otros usos benéficos podrían ser preservar la voz de un familiar para que las generaciones futuras la escuchen y Aprende de ella, o incluso preservar la imagen de un matemático erudito o un genio musical, para que sirva como fuente constante de inspiración para una sociedad o comunidad. Imagine a Gandhi enseñándole los principios de la no violencia o a un familiar recientemente fallecido leyéndole un audiolibro infantil a sus futuros hijos. Las aplicaciones benéficas son infinitas. Sin embargo, la infraestructura de derechos digitales es incipiente.

¿Debemos fomentar la financiarización de nuestros rostros y voces?

Pero, como ocurre con otras tecnologías novedosas, no hace falta mucha imaginación para imaginar cómo esto podría convertirse rápidamente en una distopía. Para combatir este escenario, debemos empoderar a las personas para que tengan acceso a los datos que sustentan su imagen, rostros y voces. Ningún gobierno ni corporación debería poseer la identidad de ningún ser humano. Las personas deben tener la capacidad de preservar, negociar y liquidar su imagen dentro del marco legal y de propiedad intelectual correcto y en constante evolución. Para que esto suceda, los medios sintéticos necesitarán un nuevo sustrato de derechos digitales para gestionar permisos, transacciones y gobernanza.

Los rumores han generado revuelo en las industrias creativas y tecnológicas de que tanto TikTok como Snapchat están desarrollandointercambio de carasCapacidades para las masas. Si bien estas empresas de datos centralizados buscarán obtener el máximo valor posible en términos de interacción y tiempo dedicado a sus aplicaciones, es fundamental que surja una alternativa y una filosofía descentralizadas que permitan a las personas tener control sobre su imagen y sus datos.

A medida que los rostros y las voces se vuelven completamente sintéticos en 2020, corremos el riesgo de dañar nuestro tejido social y económico si las personas no comprenden el valor de sus voces y rostros. Esto será especialmente cierto si toda la captura de valor se produce en la capa de aplicación de las empresas centralizadas, como ha sucedido con demasiada frecuencia en el contexto de la Web 2.0.

¿Se reducirá Internet a una sala de espejos?

Incluso antes de los deepfakes, el mundo moderno ya estaba experimentando una decadencia de la verdad.

La confianza que nuestra sociedad deposita en la información digital que encontramos está disminuyendo. El constante bombardeo de información falsa nos ha dejado exhaustos y, en ocasiones, apáticos. La democratización de las herramientas de IA para generar contenido sintético hará que los estándares actuales de desinformación parezcan casi inofensivos. Con el auge de los medios sintéticos y las herramientas de creación de deepfakes a voluntad, ¿cómo Aprende a discernir la verdad?

Algunas soluciones de sellado de tiempo basadas en blockchain ofrecen vías interesantes para habilitar un registro digital de todo el contenido sintético; sin embargo, aún existen posibilidades para el control centralizado de los registros. Otras soluciones exploradas permiten la identificación de contenido digital y el hash en el punto de captura; ambos casos de uso relevantes, pero lamentablemente limitados, que no abordan plenamente la complejidad del problema.

Al igual que Bitcoin y Ethereum llevaron inadvertidamente a las personas a aprender más sobre Mercados, teoría de juegos, producción de dinero y economía, necesitaríamos alternativas e incentivos descentralizados para que las personas comprendan verdaderamente el valor de su imagen digital. Se espera que los próximos debates en el Foro Económico Mundial y en otros foros establezcan una comprensión básica de los problemas en juego y un marco para comprender las soluciones necesarias.

En particular, cabe destacar el papel que la Tecnología blockchain puede desempeñar en la creación de un sustrato subyacente. Si bien todos recordamos 2018, cuando blockchain fue la solución a todos los problemas del planeta Tierra y aún más, tendrá que desempeñar un papel importante aquí, tanto en el sellado de tiempo de los deepfakes como en la facilitación de la creación de una capa de gestión de derechos digitales, que permitiría a las personas realizar transacciones con sus datos faciales o de voz.

A medida que aumenta la presión y el contenido se vuelve cada vez más líquido, emergente y viral, necesitaremos comprender cabalmente nuestra realidad y las verdades compartidas que la sustentan. Si pensábamos que las noticias falsas dañaban la confianza en nuestra sociedad, los deepfakes, si se gestionan incorrectamente, tendrán consecuencias mucho peores.

Sin embargo, no podemos tirar al bebé junto con el agua sucia. El fenómeno de los medios sintéticos llegó para quedarse; lo que se requiere es una comprensión sólida de cómo puede utilizarse para beneficiar a las personas y a la sociedad, así como una estrategia para mitigar los daños que podrían causar los actores maliciosos.