Fox Corp. causó revuelo en los círculos mediáticos el martes cuando anunció el lanzamiento de "Verify", una nueva herramienta basada en blockchain para verificar la autenticidad de los medios digitales en la era de la IA.

El proyecto aborda un par de problemas cada vez más molestos: la IA está haciendo que sea más fácil que aparezca contenido "deepfake" que engañe a los lectores, y los editores descubren con frecuencia que su contenido se ha utilizado para entrenar modelos de IA sin permiso.

Una interpretación cínica podría ser que todo esto es solo una gran maniobra de relaciones públicas. Mezclar "IA" y "Blockchain" en un brebaje de palabras de moda para ayudar a generar "confianza en las noticias" parece un excelente material de prensa, especialmente si se trata de un conglomerado de medios envejecido con...problemas de credibilidadTodos lo hemos vistoSucesión¿ no es así?

Pero dejemos de lado la ironía por un momento y tomemos en serio a Fox y su nueva herramienta. En cuanto a las falsificaciones profundas, Fox afirma que se pueden cargar URL e imágenes en el sistema Verify para determinar su autenticidad, lo que significa que un editor las ha añadido a la base de datos de Verify. En cuanto a las licencias, las empresas de IA pueden usar la base de datos de Verify para acceder (y pagar) al contenido de forma conforme.

Blockchain Creative Labs, la división Tecnología interna de Fox, se asoció con Polygon, la blockchain de bajo coste y alto rendimiento que funciona sobre la extensa red Ethereum , para impulsar el funcionamiento interno. Añadir nuevo contenido a Verify significa básicamente añadir una entrada a una base de datos en la blockchain de Polygon , donde se almacenan sus metadatos y otra información.

A diferencia de muchos otros experimentos de Cripto , la conexión con blockchain podría tener un sentido esta vez: Polygon proporciona al contenido de Verify un registro de auditoría inmutable y garantiza que los editores externos no necesiten confiar en Fox para administrar sus datos.

En su estado actual, Verify se BIT a un verificador de bases de datos enriquecido, una sencilla aplicación web que utiliza la tecnología de Polygon para KEEP imágenes y URL. Pero eso no significa que sea inútil, sobre todo para ayudar a los editores tradicionales a gestionar acuerdos de licencia en el mundo de los grandes modelos de lenguaje.

Verificar para consumidores

Continuamos y cargamos algo de contenido en la aplicación web de Verify para ver qué tan bien funciona en el uso diario y no tardamos en notar las limitaciones de la aplicación para el caso de uso del consumidor.

La aplicación Verify tiene un cuadro de entrada de texto para URL. Cuando pegamos un artículo de Fox News del martes sobreELON Musk y deepfakes (que casualmente aparecían de forma destacada en el sitio) y al pulsar "Enter", aparecía información que confirmaba la procedencia del artículo. Además del hash y la firma de la transacción (datos de la transacción de la blockchain de Polygon que representa el contenido), la aplicación Verify también mostraba los metadatos asociados al artículo, la información de la licencia y un conjunto de imágenes que aparecen en el contenido.

Luego descargamos y volvimos a subir una de esas imágenes a la herramienta para ver si se podía verificar. Al hacerlo, se nos mostraron datos similares a los que vimos al introducir la URL. (Al probar con otra imagen, también pudimos hacer clic en un LINK para ver otros artículos de Fox en los que se había usado. ¡Genial!)

Si bien Verify realizó estas tareas simples como se anunció, es difícil imaginar que muchas personas necesiten "verificar" la fuente del contenido que tomaron directamente del sitio web de Fox News.

En su documentación, Verify sugiere que un posible usuario del servicio podría ser una persona que encuentra un artículo en redes sociales y quiere averiguar si proviene de una fuente presunta. Al probar Verify en este escenario real, encontramos problemas.

Encontramos un funcionarioPublicación de Fox News sobre X (la plataforma antes conocida como Twitter) que presenta el mismo artículo que verificamos originalmente, y luego subimos la versión de X de la URL del artículo a Verify. Aunque al hacer clic en el LINK de X se ONE directamente a la misma página de Fox News que verificamos originalmente (y Verify pudo obtener una vista previa del artículo), Verify no pudo confirmarnos si el artículo era auténtico en esta ocasión.

Luego, capturamos la imagen en miniatura de la publicación de Fox News: una de las mismas imágenes de Fox que subimos la última vez. Esta vez, nos informaron que la imagen no se podía autenticar. Resulta que si una imagen se manipula de cualquier manera, como miniaturas ligeramente recortadas o capturas de pantalla cuyas dimensiones no son las correctas, la aplicación Verify se confunde.

Seguramente algunas de estas deficiencias técnicas se solucionarán, pero hay problemas de ingeniería aún más complicados que Fox tendrá que afrontar si espera ayudar a los consumidores a comprender el contenido generado por IA.

Incluso cuando Verify funciona como se anuncia, no puede indicar si el contenido fue generado por IA, solo que provino de Fox (o de cualquier otra fuente que lo haya subido, suponiendo que otros editores usen Verify en el futuro). Si el objetivo es ayudar a los consumidores a distinguir el contenido generado por IA del contenido Human , esto no ayuda. Incluso medios de comunicación confiables como Sports Illustrated se han vuelto... envuelto en controversiapara utilizar contenido generado por IA.

Luego está el problema de la apatía del usuario. A la gente no suele importarle tanto si lo que lee es cierto, como seguramente Fox sabe. Esto es especialmente cierto cuando la gente...querer que algo sea verdad.

Para que algo como Verify sea útil para los consumidores, ONE supone que deberá integrarse directamente en las herramientas que utilizan para ver contenido, como navegadores web y redes sociales. Se podría imaginar una especie de insignia, como... notas de la comunidad, que aparece en el contenido que se agregó a la base de datos Verify.

Verificar para editores

Parece injusto criticar esta versión básica de Verify, dado que Fox fue bastante proactivo al etiquetarla como beta. Además, Fox no se centra únicamente en los consumidores de medios en general, como lo hemos hecho durante nuestras pruebas.

El socio de Fox, Polygon, dijo en un comunicado de prensa compartido con CoinDesk que "Verify establece un puente técnico entre las empresas de medios y las plataformas de inteligencia artificial" y tiene características adicionales para ayudar a crear "nuevas oportunidades comerciales para los propietarios de contenido mediante el uso de contratos inteligentes para establecer condiciones programáticas para el acceso al contenido".

Si bien los detalles aquí son algo vagos, la idea parece ser que Verify servirá como una especie de base de datos global para plataformas de IA que rastrean la web en busca de contenido de noticias, brindando una forma para que las plataformas de IA obtengan autenticidad y para que los editores protejan su contenido detrás de restricciones de licencias y muros de pago.

Verify probablemente necesitaría la aceptación de un gran número de editores y empresas de inteligencia artificial para que esto funcione; por ahora, la base de datos solo incluye unos 90.000 artículos de editoriales propiedad de Fox, como Fox News y Fox Sports. La compañía también afirma haber abierto la puerta a que otros editores añadan contenido a la base de datos de Verify y ha puesto su código abierto a quienes deseen crear nuevas plataformas basadas en su tecnología.

Incluso en su estado actual, el caso de uso de licencias para Verify parece una idea sólida, en particular a la luz de las espinosas cuestiones legales que los editores y las empresas de inteligencia artificial están enfrentando actualmente.

En un informe presentado recientementepleitoEn contra de OpenAI y Microsoft, el New York Times alegó que su contenido se utilizó sin permiso para entrenar modelos de IA. Verify podría proporcionar un marco estándar para que las empresas de IA accedan a contenido en línea, lo que daría a los editores de noticias cierta ventaja en sus negociaciones con las empresas de IA.