Quel est le point de rencontre entre Crypto et IA ? Peut-être un meurtre.

Ari Juels, expert en sécurité, réfléchit depuis toujours à la façon dont la Technologies peut faire dérailler la société. Cela T signifie pas pour autant que Juels, scientifique en chef chez Chainlink et professeur à Cornell Tech, à New York, pense que le monde va dérailler de sitôt. Mais ces dix dernières années, avec le développement de grands modèles de langage soutenant des systèmes d'intelligence artificielle de plus en plus puissants et des contrats intelligents autonomes et auto-exécutables, la situation a commencé à évoluer dans une direction plus inquiétante.

Ceci est un extrait de la newsletter The Node, un résumé quotidien des actualités Crypto les plus importantes sur CoinDesk et ailleurs. Abonnez-vous pour recevoir l'intégralité de l'actualité. newsletter ici.

Il y a une « prise de conscience croissante que le système financier peut être un vecteur d'évasion de l'IA », a déclaré Juels dans une interview accordée à CoinDesk. « Si vous contrôlez l'argent, vous pouvez avoir un impact sur le monde réel. » Ce scénario catastrophe est le point de départ du deuxième roman de Juels, « L'Oracle » un thriller policier publié par le label de science-fiction poids lourd Talos, à propos d'un chercheur en blockchain basé à New York, enrôlé par le gouvernement américain pour contrecarrer un protocole Crypto militarisé.

L'histoire se déroule dans un futur NEAR , et les lecteurs pourraient y retrouver des similitudes avec le présent. Prenons l'exemple des recherches du protagoniste sur les contrats intelligents susceptibles de devenir illégaux. et tuer — similaire à l'article universitaire de Juel de 2015 sur les « contrats intelligents criminels ». Ou encore des références à la célèbre chemise à carreaux du PDG de Chainlink , Sergey Nazarov. D'autres, comme un puissant outil d'IA qui aide les ordinateurs à interagir avec le monde et à l'interpréter, comme ChatGPT d'OpenAI, n'ont été mis en ligne qu'après que Juels a commencé à écrire.

Voir aussi :L'homme en plaid

Heureusement, la fiction existe parfoisestLa situation est plus étrange que la réalité, et la perspective de contrats intelligents programmés pour tuer reste une menace lointaine, a déclaré Juels. Il a ajouté rester prudemment optimiste quant à la possibilité que les gens commencent à réfléchir aux risques dès aujourd'hui et à concevoir des garde-fous tels que des oracles basés sur la blockchain (essentiellement des systèmes d'alimentation en informations), cela pourrait contribuer à prévenir les problèmes à long terme.

CoinDesk a rencontré Juels la semaine dernière pour discuter de l'intersection croissante entre la blockchain et l'IA, de la manière dont les choses peuvent dérailler et de ce que les gens surestiment et sous-estiment à propos de la Technologies.

Des contrats intelligents comme ceux de « L’Oracle » sont-ils possibles aujourd’hui ?

Ils ne sont pas possibles avec l’infrastructure actuelle, mais sont possibles ou du moins plausibles avec la Technologies actuelle.

Quel est votre calendrier pour que des Événements similaires à ceux du livre puissent se produire ?

C'est un peu difficile à dire. Au moins quelques années. Ce qui les rend technologiquement plausibles aujourd'hui, alors qu'ils ne l'étaient T au début de l'écriture du roman, c'est l'avènement de puissants modèles de langage étendus (MLL), car ils sont nécessaires pour trancher ce que le roman appelle un contrat frauduleux. Ce contrat frauduleux visait à commettre un crime, en l'occurrence la mort du héros du roman, et il faut déterminer si le crime a eu lieu et qui en est responsable, et donc qui doit recevoir une récompense.

Pour faire ces deux choses, vous avez besoin de quelque chose pour extraire des mots-clés d'articles de presse - essentiellement un LLM connecté à l'infrastructure blockchain et héritant des mêmes propriétés que les contrats intelligents, à savoir le fait qu'ils sont, au moins en principe, imparables s'ils sont codés pour se comporter de cette façon.

Avez-vous besoin d’une blockchain pour créer des contrats intelligents ?

Cela dépend du modèle de confiance recherché. En un sens, la réponse est non : vous pourriez exécuter des contrats intelligents dans un système centralisé. Mais vous perdriez alors les avantages de la décentralisation, à savoir la résilience aux pannes des appareils informatiques individuels, la résistance à la censure et la confiance que les règles ne changeront T sous votre nez.

C'est peut-être une question étrange, mais je pensais que vous pourriez la comprendre : les blockchains sont-elles apolliniennes ?

C'est une question étrange, et je la comprends. Je ne parlerais pas des blockchains en général, mais certainement des oracles. Comme vous le savez peut-être, le roman ne traite pas seulement des oracles modernes, mais aussi de l'Oracle de Delphes. Ils sont tous deux destinés à servir de sources de vérité définitives, d'une certaine manière. ONEun est littéralement alimenté par le dieu Apollon, du moins dans la croyance des Grecs anciens. Et l'autre est alimenté par des sources de données faisant autorité, comme les sites web. Donc, si vous adoptez cette perspective, oui, je dirais que les systèmes d'oracles sont en quelque sorte apolliniens par nature, car Apollon était le dieu de la vérité.

La Politique de confidentialité de la blockchain est-elle suffisante aujourd’hui ?

Toute Technologies présente un double tranchant. La Politique de confidentialité présente évidemment des aspects positifs et importants. Une société véritablement libre est T sans Politique de confidentialité. Les pensées des individus doivent, au minimum, rester privées pour qu'ils puissent agir librement. Cependant, la Politique de confidentialité peut être abusée. Des activités criminelles peuvent exploiter la Technologies blockchain. Cependant, je dirais qu'aujourd'hui, nous ne disposons T encore d'outils de protection de la Politique de confidentialité suffisamment puissants pour offrir aux utilisateurs les avantages qu'ils méritent.

Voir aussi :Le code n'est pas (toujours) la loi | Analyses

Diriez-vous que la Technologies dans son ensemble est une force généralement positive ?

Les avantages de la Technologies sont évidents. Nous avons fait un grand pas vers l'éradication de la pauvreté dans le monde, une bonne nouvelle que l'on a tendance à négliger. Mais l'utilisation des nouvelles technologies a un coût, visible lorsque l'on observe le bonheur ou la satisfaction générale des habitants des pays occidentaux riches, qui a stagné. Cela peut être en partie imputé à un effet secondaire de la Technologies. D'autres facteurs entrent en jeu, notamment la rupture de la cohésion sociale et le sentiment de solitude, mais la Technologies y est pour quelque chose.

ONEune des raisons pour lesquelles j'ai intégré la dimension grecque antique [dans L'Oracle] est que, selon moi, l' omniprésence de la Technologies nous fait perdre un certain sentiment d'émerveillement. Le fait d'avoir à portée de main les réponses à la plupart des questions que nous nous posions naturellement avec Google ou des agents d'intelligence artificielle diminue le sentiment d'émerveillement et de mystère qui nous enveloppait autrefois. Notre quotidien nous offre moins de possibilités d'exploration intellectuelle. Il faut creuser plus profondément, si cela paraît logique.

C'est une belle idée. Le World Wide Web ne contient T la totalité du savoir Human , mais il en représente une part importante. Pourtant, nous l'utilisons principalement pour assouvir nos désirs les plus basiques.

Nous avons reçu un don incroyable. Et il est étonnamment difficile pour nous de l'apprécier.

À quoi réagissons-nous de manière excessive en matière de Technologies?

J'ai tendance à être plutôt optimiste face aux scénarios catastrophes de l'IA. Je ne suis en aucun cas un expert en la matière, mais j'étudie la sécurité de l'information depuis longtemps. L'analogie que j'aime faire, et j'espère qu'elle sera valable, est celle du bug de l'an 2000. Les scénarios catastrophes envisagés ne se sont T produits. Aucune intervention manuelle T nécessaire. Nous disposons de tous ces types de dispositifs anti-intrusion cachés. Je suis donc assez confiant quant à leur capacité à se déclencher si, par exemple, un agent d'IA se déchaîne. Cela me rassure et Optimism quant à l'avenir de l'IA.

J'ai remarqué que la plupart de vos écrits universitaires sont généralement co-écrits. Écrire seul a-t-il été un changement radical ?

Oui, c'était un changement radical à bien des égards par rapport à la rédaction d'un article scientifique. ONE' abord, lorsqu'on rédige un article scientifique, le langage doit être aride, sinon il risque d'être rejeté par ses pairs. Une anecdote amusante à ce sujet. En 1999, j'ai co-écrit un article – en fait, c'était l'article qui proposait le terme « preuve de travail » [le mécanisme de consensus derrière Bitcoin]. Nous avons cité un livre de cuisine populaire, « The Joy of Cooking », car le titre de l'article incluait le mot « pudding au pain » et nous voulions une référence pour expliquer de quoi il s'agissait. Un relecteur a voulu rejeter l'article, estimant que cette référence n'était T suffisamment scientifique. C'est le genre de milieu dans lequel on évolue dans le monde universitaire.

Mais surtout, travailler seul sur un projet de ce type laisse beaucoup plus libre cours à son imagination. C'est ONEun des avantages de la collaboration, et ONEune des raisons pour lesquelles je la pratique : elle permet de formuler des idées, mais aussi de vérifier celles qui ne T T ou qui n'ont T de sens. Dans le cas de la fiction, dans des limites assez larges, il n'existe pas d'idée qui ne fonctionne T ou qui n'a T de sens.

Avez-vous des techniques de travail inhabituelles, venant de quelqu'un qui enseigne dans l'Ivy League, fait des recherches pour Chainlink et écrit pendant son temps libre ?

Cela dépend des projets que je mène à bien. Ce qui m'a aidé à trouver du temps pour ce livre, c'est que j'étais obsédé par son écriture. C'était un véritable processus de FLOW . Le psychologue hongrois Mihaly Csikszentmihalyi a exploré le concept de FLOW, le définissant comme une activité permettant de maintenir une concentration unique sur une période prolongée et de perdre la notion du temps. Écrire m'a mis dans un état de FLOW . Je l'ai concentré dans les moindres recoins du temps dont je disposais.

Pensez-vous que les NFT sont surfaits ou sous-estimés ?

Les singes qui s'ennuient sont surestimés. Les NFT inutiles sont surestimés. Mais leur avenir à long terme est peut-être sous-estimé. D'une certaine manière, c'est un nouveau médium artistique, comme l'était la photographie au XIXe siècle. Ce n'est que lentement que la photographie a été perçue comme un véritable médium artistique. À long terme, je suis plutôt optimiste, même si je n'ai T réussi à convaincre mes doctorants de travailler sur des projets liés aux NFT.

Intéressant. L'intérêt pour les Crypto change-t-il d'une cohorte à l'autre ?

Cela varie d'une personne à l'autre. Par exemple, certains doctorants arrivent sans savoir sur quoi travailler et je finis par les aider à définir une orientation de recherche. D'autres savent exactement ce qu'ils veulent faire dès le ONE jour. J'ai un étudiant sur le point d'obtenir son diplôme qui savait qu'il voulait travailler sur la DeFi. C'est en gros ce qu'il a fait pendant cinq ans avec moi. Pour moi, le rôle d'un directeur de thèse est d'aider mes doctorants à atteindre leurs objectifs.

Avez-vous autre chose à dire sur le livre ?

Un point que je tiens à souligner, un message important pour la communauté dans son ensemble, est la reconnaissance croissante que le système financier peut être un vecteur d'évasion de l'IA. Les gens craignent que des agents d'IA s'échappent de leur confinement et prennent le contrôle de systèmes cyberphysiques comme des véhicules autonomes, des centrales électriques ou des systèmes d'armes ; c'est le scénario qu'ils envisagent. Je pense qu'ils oublient que le système financier, et en particulier les Cryptomonnaie, se prête particulièrement bien au contrôle des agents d'IA et peut lui-même constituer un vecteur d'évasion. Si l'on contrôle l'argent, on peut avoir un impact sur le monde réel, n'est-ce pas ?

Voir aussi :Qu'est-ce que Chainlink?

La question est de savoir comment assurer la sécurité de l'IA compte tenu de cette préoccupation particulière concernant les systèmes blockchain. Ce livre nous a permis, à mes collègues de Chainlink et à moi-même, de réfléchir au rôle des oracles comme gardiens de ce nouveau système financier et au rôle qu'ils pourraient jouer dans la sécurité de l'IA.

Y a-t-il quelque chose de concret en tête que Chainlink peut faire pour empêcher quelque chose comme ça ?

C'est une question à laquelle je viens de commencer à réfléchir, mais certaines des protections déjà présentes dans les systèmes que nous construisons, comme le CCIP ou les ponts inter-chaînes, seraient utiles en cas d'évasion de l'IA, en définissant les limites des actions d'un agent malveillant. C'est un point de départ. Mais la question est : avons-nous besoin de systèmes comme la détection d'anomalies pour détecter non seulement les activités Human malveillantes, mais aussi celles des IA malveillantes ? C'est un problème important, ONE je commence d'ailleurs à consacrer une attention soutenue.