Hacia una IA más responsable

La inteligencia artificial (IA) está experimentando un interés y una adopción sin precedentes. Esto se debe en gran medida al lanzamiento de ChatGPT, junto con una oleada posterior de aplicaciones similares basadas en IA. Empresas y consumidores utilizan (y hablan de) la IA a una escala sin precedentes. Anteriormente dominio de futuristas y escritores de ciencia ficción, la IA se ha consolidado en la conciencia general.

La IA ha suscitado durante mucho tiempo el temor a un escenario similar al de Skynet, la "red de defensa automatizada" ideada por James Cameron para la franquicia Terminator. Inicialmente aclamado como un nuevo orden de inteligencia, el algoritmo de Skynet, impulsado por IA, se volvió rápidamente rebelde, determinó que todos los humanos eran una amenaza, lanzó una guerra nuclear que eliminó a la mayor parte de la población y posteriormente esclavizó al resto. De no haber sido por una serie de heroicas acciones inspiradas por exmachinas de un pequeño pero feroz BAND de rebeldes (y Arnold, por supuesto), el destino de la humanidad habría sido el fin.

Mrinal Manohar es director ejecutivo y cofundador de Laboratorios Casper, proporcionando servicios profesionales a organizaciones que se basan en Casper Blockchain.

Si bien esto sigue siendo una realidad improbable, es mucho más plausible hoy que cuando se estrenó la película hace casi 40 años, y es un tema que ya no podemos permitirnos ignorar. Durante la última década, los sistemas de IA generativa han logrado avances notables en el reconocimiento de imágenes, la comprensión lectora y la comprensión del lenguaje, hasta el punto de poder imitar con credibilidad, y eventualmente superar, las capacidades Human . Si bien la mayor parte del desarrollo de la IA hasta la fecha se ha centrado en el entrenamiento de grandes modelos lingüísticos para generar texto, el rápido ritmo de innovación sin una supervisión real plantea una preocupación viable.

Las posibles aplicaciones de la IA, desde la consecución de avances médicos elusivos hasta la solución de la grave escasez de mano de obra y la lucha más eficaz contra el cambio climático, son increíblemente emocionantes. Sin embargo, alcanzarlas depende de proporcionar las barreras adecuadas para una Tecnología potente y en gran medida no probada, un papel para el que la Tecnología blockchain está excepcionalmente capacitada.

Desacreditando un mito común en torno a la IA y la cadena de bloques

Si bien la IA actualmente consume nuestra mente colectiva, vale la pena recordar que esta era la conversación en torno a la cadena de bloques hace apenas unos años. Como cualquier Tecnología innovadora, esto marcó el "pico de expectativas infladas" de la cadena de bloques, como se describe enModelo Hype Cycle de GartnerSi bien el período posterior ha presenciado un enfriamiento del entusiasmo público, los principios tecnológicos que guiaron la ola inicial de entusiasmo permanecen, y blockchain está logrando...tasas de adopción históricamente altas entre las empresasLas bases para las oportunidades de colaboración entre blockchain e IA son innumerables, con un potencial apasionante y transformador.

Sigue leyendo: Jeff Wilser - Los bots de IA para el trading de Cripto son la nueva ventaja, por ahora

A medida que se consolidan aplicaciones tempranas y prometedoras en campos como recursos Human , robótica y atención al cliente, conviene recordar que aún estamos asimilando el potencial máximo de la IA. Ya existen lecciones importantes para su futura curva de adopción. Blockchain e IA no son tecnologías ortogonales; de hecho, son complementarias. Juntas, pueden impulsar nuevas y enormes eficiencias para las organizaciones de una manera transparente y ética que haría sonreír incluso al estoico John Connor.

Rompiendo la caja negra de la IA

Primero, definamos qué es la IA en última instancia: un modelo de datos que recibe información continua y se entrena (y reentrena) constantemente. Lo hace en una caja negra: no podemos ver qué datos está procesando ni cómo se adapta. A veces, comienza a hacer cosas completamente inesperadas, a menudo denominadas "alucinaciones", que desconciertan incluso a sus creadores. El columnista del New York Times, Kevin Roose, ofreció un ejemplo convincente de esto cuando una función aparentemente inocua del nuevo motor de búsqueda de Bing...se convirtió en un intercambio espeluznantecon un bot que aparentemente estaba intentando sabotear su matrimonio.

Haymuchos otros ejemplosde que esto se desarrolla a una cadencia cada vez más frecuente.

Blockchain y la IA no son tecnologías ortogonales; en realidad son complementarias

En marzo, muchos de los principales investigadores de IA del mundopublicó una cartaSe anima a las empresas a pausar, al menos temporalmente, su trabajo en IA, citando la necesidad de comprender mejor las consecuencias de potenciar modelos que pronto superarán nuestra propia inteligencia colectiva. La carta exigía "[retroceder] en la peligrosa carrera hacia modelos de caja negra cada vez más grandes, impredecibles y con capacidades emergentes".

Se trata de una consideración crucial en esta etapa del ciclo de adopción de la IA, y un área en la que la Tecnología blockchain es especialmente adecuada para desempeñar un papel clave. La fortaleza inherente de una blockchain reside en su capacidad para proporcionar un sistema transparente para almacenar datos y ejecutar contratos, respaldado por una red distribuida de computadoras sin un único punto de fallo.

Sigue leyendo: Jeff Wilser - 10 maneras en que las Cripto y la IA pueden mejorarse mutuamente (o quizás empeorarse)

Este conjunto de características es fundamental para el desarrollo de una IA más ética y transparente. Entre otras funciones clave, las cadenas de bloques pueden registrar cada vez que se ajusta un parámetro que rige el comportamiento de la IA, ya sea por parte de un investigador Human o de la propia IA. Esto supondrá un avance importante para una IA más transparente: permite una visión inviolable del historial del "sistema de ponderación" de una IA, o cómo registra los datos del conjunto de entrenamiento y sus resultados.

Si bien esto es teóricamente posible con bases de datos que no utilizan blockchain, en la práctica se convierte rápidamente en una propuesta mucho más compleja y prohibitivamente costosa. Las marcas de tiempo deberán introducirse manualmente (un proceso que requiere muchísimo tiempo y esfuerzo), los conjuntos de datos requieren una monitorización constante para garantizar su integridad, y todo el sistema centralizado depende de un único punto de fallo (probablemente opaco) que lo hace muy vulnerable a la manipulación y difícil de controlar. Con una blockchain, todo ese proceso puede automatizarse mediante un único contrato inteligente y protegerse mediante una red descentralizada compuesta por cientos o incluso miles de servidores independientes.

Adoptar un enfoque híbrido

Las cadenas de bloques híbridas son un modelo potencial de gobernanza de la IA. Permiten a una organización utilizar infraestructura privada bajo su control y, al mismo tiempo, acceder a infraestructura pública totalmente descentralizada. La organización decide dónde se almacenan los datos.

Es comprensible que las organizaciones deseen almacenar los datos más relevantes e importantes en la opción más segura: la blockchain pública. Esto garantiza que el sistema se comporte como está previsto si una IA activa un mecanismo de apagado, y representa un límite crítico para una Tecnología emergente y aún en gran medida desconocida, una que los creadores de Skynet seguramente desearían tener en el universo ficticio de James Cameron. ¿Por qué confiar en una sola parte y sus motivos y sesgos, a menudo opacos, cuando se puede distribuir (y posteriormente auditar y verificar) ese riesgo entre un gran número de partes independientes y dispares de forma transparente y sin necesidad de confianza?

Debido a los enormes y complejos conjuntos de datos que alimentan los sistemas de IA, estos tienden a producir terabytes de metadatos menos relevantes para el problema en cuestión y, por lo tanto, más eficientes para compartir en un entorno privado y fuera de la cadena. Este enfoque reduce considerablemente los costos de transacción, a la vez que minimiza la relación señal-ruido en los conjuntos de datos. En resumen, tiene mayor sentido económico para las empresas que buscan obtener una ventaja competitiva con una Tecnología emergente. Si esta ecuación les resulta familiar, es porque se trata de la misma estrategia que vio a la computación en la nube evolucionar de una curiosidad de nicho a una práctica recomendada generalizada para casi todas las organizaciones del mundo.

Es evidente que la IA, al igual que la blockchain, ha llegado para quedarse. Y en el caso de ambas tecnologías, apenas hemos empezado a desarrollar todo su potencial. Nos encontramos en una encrucijada, y las decisiones que tomemos colectivamente en los próximos meses y años tendrán implicaciones significativas a largo plazo. Las personas y organizaciones que tendrán un impacto exponencial en nuestro futuro serían negligentes si ignoraran el increíble potencial que ofrecen la IA y la blockchain para impulsar un futuro más equitativo y prometedor.